山西大学的日语教学可以追溯到建校初期。解放后的日语专业则于1977年获批建立，1978年开始招收本科生。2000年获日语语言文学硕士学位授予权。2012年获日语笔译和日语口译专业学位硕士学位授予权。日语专业每年大约招收25名本科生、10名硕士研究生和100名左右的辅修双学位学生。

日语专业拥有雄厚的师资力量，现有教师12名，其中教授2名（含特聘教授1名），副教授1名，讲师7名，助教2名。拥有博士学位教师8名，在读博士1名。日语专业除每年聘请1名外教外，还拥有长聘专任日籍教师，这是本专业的特色，为学生的日语学习提供了充足的外籍教师资源。

日语专业立足于服务山西，旨在为山西及兄弟省份培养日语实用型、复合型人才。在教学过程中我们不仅着重培养学生的听、说、读、写、译等基础语言能力，同时还注重将日本社会、文化等方面的专业知识贯穿于教学过程之中，以便让学生在拥有扎实的语言能力的同时，拥有更广阔的视野和更深厚的知识架构。山西大学与日本多所大学建立了友好关系，培育了丰富的交流渠道。为开拓学生的国际视野，增强跨文化交际能力和实践能力，每年都会选拔5名左右优秀学生赴日本著名大学交换学习。日语专业一贯重视教学质量，注重培养高素质的复合型人才，历年来日语专四、专八以及日语国际能力测试一级（N1）的合格率均远远高于全国平均水平。在日本征文大赛、全国日语大学生日语演讲比赛等大赛等中屡创佳绩。