Japanilaisia puutarhoja juhlitaan ympäri maailmaa, ja ne tunnetaan minimalistisesta lähestymistavastaan. Tiettyjen kasvien esittelemisen lisäksi käytetään usein tilaa ja tyhjyyttä. Se mitä ei ole, on melkein yhtä tärkeää kuin se mikä on. Jos siis etsitään kasveja japanilaiseen puutarhaan, ihmisiä tulisi ensin neuvoa olemaan täyttämättä puutarhaansa. Muutamat kasvit huolellisesti sijoitettuna tekevät paljon enemmän kuin tonnia kasveja, jotka voivat heikentää rauhan tunnetta, jota monet löytävät tällaisista puutarhoista.
Joskus ihmiset ajattelevat, että japanilainen puutarha puuttuu kukkivista kasveista. Tämä ei todellakaan ole totta, ja monen tyyppisiä atsaleoita käytetään yleisesti. Alueesta riippuen atsaleat voivat tarjota ihania vihreitä lehtiä ympäri vuoden, ja niillä on kauniita kukintoja. Muutama atsaleatyyppi kukkii kahdesti vuodessa, ja kukat ovat erittäin pitkäkestoisia. Japanilaiset iirikset ovat toinen suosittu kasvi, joka tarjoaa laajan värin. Kukkiva tai koristeellinen kvitteni on myös hyvä valinta, koska se tarjoaa väriä keskitalvella.
Erilaiset maanpeitteet ovat erittäin tärkeitä japanilaisessa puutarhassa, ja tärkein vaihtoehto on sammalta. Valittavana on paljon erilaisia sammalta. Muita hyväksyttäviä maanpeitteitä voivat olla esimerkiksi vauvan kyyneleet, sammalta muistuttava kasvi, jolla on tunnettu levityskapasiteetti ja ikivihreät lehdet.
Tietyt kukkivat puut voivat olla suosittuja japanilaisissa puutarhoissa. Näihin voi kuulua kirsikka- ja luumupuita, usein koristekasveja. Kirsikkapuista ja aasialaisista puutarhoista puhutaan paljon, mutta puutarhoihin ei tarvitse sisällyttää niitä. Muita kukkivia puita, joita puutarhurit saattavat harkita, ovat kreppimirteli, vaikka tämä on epäilemättä yksi sotkuisimmista puista, joita ihmiset voivat valita, koska se kaataa lehtiä, kukkia ja kuorta eri vuodenaikoina.
Jotkut japanilaisen puutarhan tärkeimmistä kasveista ovat erityyppisiä japanilaisia vaahteraa. Monissa puutarhakaupoissa on paljon vaihtoehtoja ja lajikkeita näistä. Aivan yhtä tärkeitä ovat havupuut, yleensä pienemmät männyt, joita voidaan muotoilla ja leikata tarpeen mukaan. Suuret pensaat, kuten bambu, ovat myös suosittuja, ja muut harkittavat pensaat voivat sisältää alppiruusuja. Hyvin suuriin puutarhoihin mahtuu paljon suurempia puita, kuten pajuja, mutta ne voivat saada pienen puutarhan näyttämään täynnä ja hukkua.
Vaikka kivipuutarhoja pidetään yleensä erillisinä japanilaisista puutarhoista, joissa on kasveja, on hyvä idea tarkastella puutarhasuunnittelua nähdäksesi, kuinka kiviä ja joskus pienempiä kiviä hyödynnetään. Kaikki sorasta suurempiin kiviin voi olla osa japanilaista puutarhaa. Kävelyreitit ja askelmat voidaan myös sisällyttää suunnitteluun, ja ne on otettava huomioon.