Costruire il proprio giardino zen non è semplice, perché non è un semplice giardino ma implica una filosofia di vita. In questo tipo di giardino sono presenti soltanto gli elementi necessari, lè superfluo, l'idea alle spalle è quella di vivere una vita scarna di cose frivole ed inutili. Il giardino Zen deve essere essenzialmente un luogo nel quale ritrovare il proprio benessere mentale e fisico, circondati dalla sola natura.
L'elemento chiave del giardino è l'asimmetria, in contrapposizione con tutto ciò che è simmetrico, ritenuto artificiale.
Il contrasto è fondamentale nei giardini Zen, infatti vengono fatti degli accostamenti contrastanti, ad esempio degli alberi grandi ed alti vicino a degli alberi bassi, un canneto vicino al sentiero e delle rocce vicino ai laghetti.
Gli elementi presenti nel giardino Zen e quindi utili ed indispensabili per la propria realizzazione sono la ghiaia, la sabbia bianca e le pietre Le pietre devono essere semilavorate in maniera grezza, ed avere forme irregolari. Vanno sistemate in modo casuale ma con precisi canoni estetici per creare un vialetto. Il percorso creato con le pietre non deve essere mai chiuso e non deve tornare su stesso, deve essere lineare e portare in un luogo non visibile all'entrata, come un prato o un piccolo boschetto.
Anche l’acqua è uno degli elementi sempre presenti all'interno del giardino Zen; essa a volte viene sostituita da ghiaia o da sabbia, di norma due millimetri di diametro, che vengono movimentate creando l’effetto delle onde tramite dei disegni ondeggianti o tondeggianti.
Le piante principali che possiamo inserire all'interno del giardino Zen sono le classiche piante di origine giapponese quale bambù, pino, acero, rododendro, vengono piantati questi tipi di pianta perché trasmettono nell'osservatore, un senso di pace ed armonia inoltre essendo piante sempreverdi anche durante il periodo invernale fanno si che il giardino giapponese Zen sia sempre verde. Spesso si trova anche il muschio specie sulle pietre ornamentali.
Le cascate sono un altro elemento piuttosto importante, il punto focale non è soltanto l'acqua come sorgente di vita ma anche il rumore, rilassante, dell'acqua che cade e al moto che essa genera.
I giardini zen oggi giorno sono davvero di moda. Non è insolito vedere un piccolo giardino di questo tipo anche nelle ville più moderne. Spesso sono proprio le agenzie eventi Roma a scegliere location dove è possibile trovare questo tipo di ambiente, come il Giardino Giapponese in via Gramsci, sopratutto per l’organizzazione di rappresentazioni particolari che necessitano di uno sfondo originale e inconsueto.