現在的日語書寫體系要追溯到4世紀,當中國的文言文寫法傳到日本的時候。雖然有說法是發現了稱為神代文字的更古老的記載法,不過那些都像是圖形文字、類似如尼字母、酷似諺文。沒有任何依據能夠定論這些文字是真正的來源,在中國語傳到日本前就有文字的證據並不存在。在這個網站能夠看到一部份的神代文字。
最初並不是用中國的文字來記載日語,因為讀寫上需要具備漢文的能力。反而是提出了用中國文字(漢字),來將有正式規則或受日語影響後的變異規則的漢文,當作日語來讀的技術方案,此後為了這個方法,偶爾會在漢字的旁邊加註上提示用的「返點」等符號。被認為是在712年以前編撰的日本最早期的文獻「古事記」是用漢文寫成的。日本的中等教育現在也有教導漢文的初步內容。
