外语学科的早期岁月
（1902.5-1937.7）
1902年5月8日，山西巡抚岑春煊合并晋阳书院和令德堂，奏准设立山西大学堂。6月，英国传教士李提摩太将以山西“庚子赔款”开办的中西大学堂并入山西大学堂，分设西学专斋和中学专斋。1910年11月，西斋交由中方办理。1912年2月，根据教育部令，山西大学堂先后改称山西大学校、山西大学及国立第三大学。至抗战前，山西大学已发展成为一所包括文、法、理、工、教育五个学院，下设14个学系的综合大学。
山西大学堂甫一成立，其“西学专斋”便开设有英文课程。两年后，所授外语增至英、法、俄、日四门。建校当年，学校还在上海设立了山西大学堂译书院。这一切都为日后外语专业的建立和发展打下最初的基础。1919年，作为一个专业方向的国立山西大学英文学类正式问世。
1919年，学校招收文科英文学类第一班，学制4年。1923年，英文学类第一班毕业。
1922至1931年，分别招收文科英文学类第二、三、四、五班。
1931年，山西大学文科改设文学院，原国文学类、英文学类改为国文学系、英文学系。英文学系开设有英国文学、文学概论、英国文学史、哲学概论、美学概论、国文、德文、党义、英国史、中国文学史、希腊文学史、欧洲近世文学史等课程。
1936年，山西大学文学院英文学系扩大为多语种的外国文学系。
战争年代的外语学科
（1937.8-1949.4）
1937年8月，卢沟桥事变后，山西大学奉令南迁，先后辗转陕西三原、宜川秋林镇、山西吉县克难坡、陕西韩城等地办学，但直至1939 年12 月，停顿两年的山西大学才再度开课，在烽火连天的岁月，艰难问学。此时的山西大学设工学、法学、文学3个学院，下设机电、土木、法律、经济、历史、英文六系。抗战胜利后，学校迁返太原复校。1948年5月，山西大学师生分批迁往北平、张家口等地。
这一时期，学生人数明显减少。据校史资料记载，1943年，外文学系招收新生19人，毕业3人；1944年，招收7人；1945年，招收7人；1946年，招收11人；1947年，招收17人；1948年，招收7人。
但教学体系依旧完善，据吉洪福《山西大学英文系史回忆录》，当时一至四年级开设的课程计有:
（1）英文文法由杜文甫讲授, （2）散文选演及习作由朱启寰讲授, 后期由阴纫斋、李贯英讲授, （2）小说选读由史景苏、杜文若讲授, （3）戏剧先后由李贯英、江绍原讲授, （4）英文诗歌由李万杰讲授, （5）希腊神话由李贯英讲授, （5）语言学由张静山讲授, （6）莎氏戏剧选读由徐士瑚讲授, （7）英国文学史由李贯英讲授, （8）欧洲文学史由李万杰讲授, （9）伦理学由田润霖讲授, （10）论理学由潘泽清讲授, （11）中国文学史由郝树侯讲授, （12）西洋史由陈超讲授, （13）选修俄语由李毓珍讲授, （14）会话由美国传教士麦吉及太原善后救济总署美籍兰德女士先后兼任。
史料记载，当时的校长徐士瑚对学生的英语学习极为重视，专门开设面向全校的英文高级班讲座和英文补习班，校长徐士瑚和教务长严开元都亲自上课。
资料还记载了抗战胜利前夕，于1945 年5 月19 日举办的山西大学首次英文茶话会。校长徐士瑚及著名教授朱启寰、杜任之、候锦绂及全校英文会会员悉数参加此次茶话会。徐士瑚用英语讲抗战局势，杜任之用带德语风味的英语讲故事，严开元用美式英语讲食品与卫生，朱君哲用英语自编自演了一个小剧。这为我们了解战时的山大外语人提供了一幅生动的画面。
这期间，外语学科只有英文系，系主任先为朱启寰（君哲）,后于1946年8月由李贯英接任。
建国后三十年间外语学科的发展
（1949.5-1978.2）
随着太原战役结束，1949年5月，山西大学在太原复课。
在建国后的院系调整期间，根据教育部安排，撤销山西大学建制，对山西大学各院系进行调整，将文学院改为师范学院，下设文史地、外文、教育三系。1953年，师范学院独立为山西师范学院。1954年1月15日，山西大学建制正式撤销。1959年，重建山西大学。1966年6月，“文革”开始后，山西大学被迫停课。1972年4月，校园里迎来后来称为“工农兵学员”的新的一代的大学生，72-76 五届“工农兵学员”中，不少人成为改革开放后各个行业的骨干。“文革”结束后，高考制度恢复。1978年3月，77级学生入学，9月，78级学生和首批研究生入学，山西大学迎来了又一个新的发展时期。
就外语学科来说，在建国初期，外文系由著名学者李贯英担任系主任，李贯英在当时以北欧文学研究享誉学界。1950年，江绍原接任外文系主任。1952年，外文系改为单一语种的俄语系，俄文系招新生30人，原英文系三年级4人、四年级15人，奉命转入北京师范大学和天津师范学院学习。
1977年，重新开设日语专业。参与组建的人有曹基钺、詹尚仁、王宣、孙凤翔等。后陆续调入高乔(日籍)、刘淑媛、曹石堂、王一凡及青年教师张麟声、李爱文、傅荫、梁继国等。
进入新的发展时期的外语学科
（1978.3-）
改革开放以来，山西大学进入了蓬勃发展的新阶段。1998年，山西大学被山西省委、省政府列为山西省重点建设大学。在新的历史起点上，山西大学实现了跨越式发展。2003年，教育部本科教学水平评估获得优秀。2005年，成为山西省人民政府与教育部共同建设的省部共建大学。2012年，山西大学成为全国14所“中西部高校提升综合实力工程”入选高校，迈上了国家建设“有特色、高水平”大学的新平台。
外语学科同样迎来新的发展机遇。
1983年，俄语专业恢复建立。
1984年，国务院学位委员会批准山西大学英语语言文学学科为硕士学位授予点。
1989年，外语系开始招收英德双语方向新生。
1990年，开办英法双语方向。
1996年， 根据《山西大学“九五”计划及2001年远景目标纲要》，外国语学院成立。
1998年，外国语言学及应用语言学获批为新的硕士学位授权点。
2000年，新增日语语言文学为硕士点。
2003年，教育部批准山西大学设立德语本科专业。
2006年，新增法语语言文学为硕士点。
2007年，法语本科专业获批。
2010年，英语笔译专业硕士学位点获批。
2010年，外国语言文学一级学科硕士学位点获批。
2012年，“言语交际学”自主设置目录外二级学科博士点获批。
2013年，日语笔译和日语口译专业硕士学位点获批。
2016年，俄语语言文学硕士点获批恢复招生。
2019年，英语本科专业入选教育部首批一流本科专业“双万计划”建设点。
历任系院领导
1931年，英文学系主任朱启寰
1935年，英国文学系主任徐士瑚
1946年，外文系主任朱启寰
1949年-1950年，外文系主任李贯英
1953年-1954年，外文系主任阎澍恩
1950年-1952年，外文系主任江绍原
1954年-1956年，外语系主任潘泽清
1956年-1958年，外语系主任常风
1958年-1961年，外语系主任周秀清
1963年-1969年，外语系主任陈舜礼
1969年，三连连长王泽瑞、张金高
1969年-1971年，外语系革命领导小组组长刘廷玉
1973年-1979年，外语系主任高光斗
1979年-1980年，外语系主任常风
1980年-1984年，外语系主任赵超群
1984年-2001年，外语系主任（1996年后为外国语学院院长）王正仁
2001年-2009年，外国语学院院长聂建中
2009年-2017年，外国语学院院长吴亚欣
2017年-2020年，外国语学院院长于国栋
2020年-2023年，外国语学院院长张耀平
2023年- ，外国语学院院长杨林秀