一千多年前，大量的日本来华留学生即遣唐使、遣隋使，将先进的中华文明，包括汉语及汉字带到了日本。日本从此正式开始了使用文字记载语言的历史。 最初日语的每一个音，都是由一个汉字表达。公元九世纪，日本人在汉字基础上创造了假名。假名又分为平假名和片假名。 具体做法是：将中文的草书衍生成平假名，把中文楷书的偏旁改成片假名。例如平假名的『あ』乃由汉字的『安』简化而来的；而片假名的『ア』则是汉字『阿』的一部分。
早期，日本正式的文章都是汉文，而片假名则是佛教僧侣们读经典时用来做标音的，平假名则是女性所用的文字。目前日文中常用的汉字约有二千字左右，片假名大多用来表示外来语，其余的多用平假名。现代日语中，假名共有71个，最基本的有46个，排列成“五十音图”（字母表）。
日本古代有语言而无文字。虽然现代比较语言学者，以日本与从音韵、语法及语汇三者看起来，系属巫拉尔、阿尔泰（Ural-Altai）语系统，质言之，它本来是和蒙古语、通古斯语、土耳其语及朝鲜语视同依系统的。但事实上，日本的语言问题，现在尚未获得完全解决。日儒新渡户盗造曾云 ：「在语言学上看来，日本语是伶仃的孤儿，和它的左右前后各方面的言语没有什麼关系的。」事实上，日本人自有历史开始，为了要增加语言的丰富，曾取用了许多中国的字音 ，此外如朝鲜及西欧的荷兰、葡萄牙、英国等语言亦对於日本的语言多少做过些贡献。
