Đối với vườn Nhật thì thiết kế cây trồng có ý nghĩa bao gồm cả việc khống chế kích thước và hình dáng của từng cây trong vườn. Phẩm chất của từng vườn tùy thuộc vào sự cố định cây trồng trong một hình dáng nhất định. Khu vườn càng nhỏ thì yêu cầu trên càng chặt chẽ hơn nhiều.

Loại cây cảnh quan thích hợp nhất trong vườn Nhật là những cây có càn nhánh mềm mại. Chúng được sắp xếp cùng mô thức sắp xếp đá. Cành nhánh của chúng xen kẽ lộn xộn, ngẫu nhiên trông có vẻ tự nhiên cho nên rất thích hợp.

Thông thường số cây trong một nhóm thường là 3, trông tự nhiên hơn là 2 và 4. Bố trí theo 1 tam giác lệch trông có vẻ là ít sắp đặt hơn là một tam giác đều, tất nhiên lại càng ít có vẻ sắp đặt hơn so với 1 vòng tròn, một hàng thẳng hay một hình chữ nhật.

Quan sát những kiểu mọc tự nhiên trong thiên nhiên để áp dụng vào việc sắp xếp cây trong vườn của bạn.

Trong phần này, bạn phải đánh giá chúng rằng việc chọn lựa và sắp xếp cây trồng cảnh quan có thể làm được tất cả mọi cách để hướng cái nhìn của người xem đến một tiêu điểm trên bất cứ một khu vực nào của khu vườn, đến những chi tiết hoặc là lướt qua chúng.

Nghệ thuật thiết kế vườn Nhật dựa rất nhiều vào ảo ảnh thị giác và bố trí cây trồng là một phương cách để tạo hay tăng thêm những hiệu quả như thế.

Trong một sân vườn và trong một số kiểu vườn Nhật, hậu cảnh có thể đánh lừa con mắt theo một cách khác. Trước hết nó tạo ảo giác khu vườn rộng hơn phạm vi giới hạn, đằng sau góc nhà vẫn còn một phần sân bị che khuất. (Một bụi tre cao vươn lên khỏi bờ tường, che khuất góc nhà và những ngọn lá lung lay, thân tre đong đưa nhè nhẹ, sẽ tạo nên ảo giác này).

Để xử lý tiền, trung, hậu cảnh cho một cảnh vật, người thiết kế vườn dùng cây cối để làm cho một khu vườn rút ngắn hoặc kéo dài chiều sâu của nó. Những cây lớn bố trí ở tiền cảnh và nhưng cây nhỏ hơn ở hậu cảnh có thể thu ngắn lại phối cảnh và làm cho chúng có vẻ sâu hơn so với thực tế.

Ở trung cảnh, nếu là một khu đất bằng phẳng chỉ có đất và rêu thì nên bố trí một cái gì đó để đập vào mắt và hướng dẫn tầm nhìn đi xa hơn đến hậu cảnh (chứ không tập trung điểm nhìn ngay tại đó). Những tảng đá cạnh trơn chen chúc với những bụi cây sẽ phá vỡ được nét bằng phẳng đơn điệu của trung cảnh, đồng thời cũng tách biệt được sự nôi kết của chúng.

Kết cấu của đá cũng như cách sắp xếp chúng cũng tạo nên, làm tăng ảo giác về khoảng cách. Đá có kết cấu thô bố trí ở tiền cảnh, đá có kết cấu thanh mảnh bố trí ở hậu cảnh có tác dụng kéo dài khoảng cách. Những cây có lá xanh sẫm ở tiền cảnh và những cây có lá nhạt, dịu hơn ở hậu cảnh cũng tạo được cùng một hiệu quả nhờ ở hậu cảnh trông có vẻ mờ mờ, xa xa

• Tên, chủng loại, điều kiện sống đòi hỏi.
• Loại cây thay lá hay cây thường xanh: Cây thường xanh cần thiết để duy trì màu sắc phối hợp cơ bản của khu vườn và giữ cho khu vườn được màu xanh quanh năm. Trong khi đó cây thay lá tạo được sự thay đổi, khiến cho khu vườn không đơn điệu, đồng thời tạo cho khu vườn những nét đẹp sinh động theo từng mùa.
• Chiều cao: Chiều cao cây trong vườn là chiều cao sau khi cắt tỉa.
• Cây dùng để làm dáng, trang điểm: Cần lựa chọn cây thích hợp và tiết chế ở mức độ tối thiểu. Chú ý những cây thay lá theo mùa (màu sắc mỗi mùa, cách thay lá), màu sắc của cây thường xanh, đặc trưng biểu cảm của cành nhánh.

Cây cảnh quan lớn dùng để làm hậu cảnh, nền hay hàng rào chắn. Nhiều cây và bụi có thể dùng rất hiệu quả ở cả tiền cảnh lẫn hậu cảnh tùy theo ý đồ của bạn. Thông thường, cây có hoa màu sáng, thay lá hàng loạt được bố trí xa tầm nhìn (ngoại trừ cây anh đào, vì đây là cây truyền thống cũng như cây mai, đào của ta, được yêu thích đặc biệt). Những cây lá xanh rậm lá hay cây thay lá phụ họa với cây thường xanh thường hay được trồng ở hậu cảnh.

Hầu hết những cây  lùm bụi thay lá thường được dùng chủ yếu để phô bày màu sắc. Ngay cả một số cây thường xanh như hoa trà có hoa theo mùa rất đẹp, cũng được trồng nhiều ở hậu cảnh vì chúng có kết cấu linh động và hình dáng lá đặc trưng. Những cây thường xanh cảnh quan  có kết cấu dày đặc, thành nhã có thể được dùng để bố trí nương theo, làm dịu bớt hình dáng của những tảng đá. Chúng cũng có thể được trồng thành nhóm và cắt tỉa thành những mô thấp giả cách những ngọn đồi, nhỏ hay những ngọn núi ở trung hay hậu cảnh.

Cây bụi nhỏ thường được trồng nương theo hình dáng của đá hoặc được trồng thành đám để tạo thành một hậu cảnh thấp (đặc biệt có hiệu quả khi tầm nhìn ở trên cao), để tập trung tầm nhìn vào những tảng đá hay thạch đăng lung. Hầu hết chúng tăng trưởng chậm.

Chúng thường được trồng theo hàng rào hoặc bám vào tường. Hoa của chúng (nếu có) rất được ưa chuộng. Chúng có tác dụng làm mềm mại những góc cạnh và nếu chúng là loại cây thường xanh thì tạo được hậu cảnh thường xuyên cho những cây khác.

Dương xỉ là một thành phần không thể thiếu trong một vườn Nhật. Dương xỉ thuộc bất cứ loại nào cũng gợi lên vẻ hoang sơ nguyên thủy của rừng núi thì phì nhiêu. Khi được trồng dưới hay trên một tảng đá đầy rêu, cạnh bờ nước, đứng một mình hay cùng với cây bụi, cây lưu niên…chúng cũng đều góp phần làm tăng nét đặc trưng của vườn Nhật rất nhiều

Cũng như dương xỉ, tre là một thành phần không thể thiếu trong vườn Nhật. Tre tạo nên vẻ duyên dáng uyển chuyển cho bất cứ những gì kết hợp với chúng. Chúng góp phần tạo những nét thẳng đứng cho khu vườn và vẻ mềm mại của chúng làm cho chúng lúc nào cũng lay động cho dù ngay cả ở trong một sân vườn thiếu gió. Chúng hắt bóng lung linh trên mặt đất, lên tường.

Những cây nhỏ có thể được cắt tỉa thành những hàng rào đan chặt, thành những gò đồi hay giả cách những tảng đá, hoặc có thể um tùm tự nhiên.

Hầu hết tre có thể được trồng rất đẹp trong chậu. Tre bụi nhảy cây con rất nhiều nhưng phát triển chậm; tre được chăm sóc sẽ phát triển rất nhanh và bạn phải lưu tâm đến việc ngăn chặn rễ lan rộng bằng những tấm chắn (chôn xuống đất) cao khoảng 5-6 tấc có chu vi tương tự, bao quanh cây.

Với một khu vườn tương đối thì nhiều cây bụi cũng có thể phủ đất được. Ngoài ra có thể dùng rêu có kết cấu mịn để thay thế.

Một trong những cây truyền thống dùng để phủ đất là cỏ, chúng ta cũng đừng ngại ngùng việc dùng cỏ để phủ đất. Hầu hết chúng đều là cây thường xanh.

Đa số những cây cảnh quan trồng phủ đất đều đòi hỏi phải thường xuyên chăm sóc, quét dọn – đặc biệt là với những cây nhỏ, những cây có kết cấu thành mảnh – để chúng có thể được đón nhận ánh nắng và không khí đầy đủ.

Đèn đá hay còn gọi là thạch đăng lung - ishi doro, nguyên thủy là các ngọn đèn thờ ở đền chùa. Chúng được dùng không phải để thắp sáng hay làm đá trang trí sân vườn mà để tương phản một cách nhẹ nhàng, dễ chịu với chất liệu thiên nhiên của cảnh quan.

Mặc dù không có nhiệm vụ chiếu sáng nhưng chúng vẫn được đặt ở những vị trí cần chiếu sáng như dọc lối đi, cổng, chân cầu hay ở bồn chứa nước rửa tay

Những đèn đá Nhật Bản trông càng cổ kính, cũ kỹ thì càng được ưa thích. Do đó người ta còn có một kĩ thuật làm cũ đèn đá bằng cách bôi dịch nhờn của ốc sên hay phân chim lên để trong noi ẩm thấp để rêu và địa y có thể mọc đều. Người ta cũng có thể dùng bùn đất để làm cũ đèn đá tạo sự trang nghiêm cổ kính và dấu vết thời gian.

Có ba kiểu đèn đá Nhật Bản chính đó là:

• Đèn đá kiểu Taima-ji: Đây là kiểu cổ xưa nhất, cao khoảng 2,2m và có 6 phần: đế, thân, bệ giữa, buồng thắp sáng, mái và hình chạm đầu mái.
• Đèn đá kiểu Triều Tiên: gồm có máu và hình chạm đầu mát, bệ giữa rất lớn, buồng thắp sáng hẹp và chân thấp. Chúng thường chỉ được dùng trong những khu vườn rộng vì tốn diện tích.
• Đèn đá kiểu Yukimi: Là một kiểu sáng tạo, có mái lớn và đứng vững chắc trên bốn chân.

Một trong những kiểu dáng đèn đá phổ biến và được yêu thích thì đèn đá Kanazawa mang một vẻ đẹp đặc biệt hấp dẫn. Đèn đá Kanazawa là một trong những biểu tượng của thành phố miền Trung nước Nhật này.