前身：三立、晋阳、令德堂书院
近代中国一些新式大学的成立，倒是与前已存在的书院有着直接或间接的联系，继京师大学堂（今北京大学）之后于1902年成立的山西大学堂，最初就是由此前设在太原的晋阳书院和令德堂书院合并而成。
山西大学堂旧址[清光绪三十二年（1904）·省保],位于迎泽区侯家巷6号，光绪二十八年（1902），英国传教士李提摩太提出利用清政府“庚子赔款”兴建山西大学堂，山西巡抚岑春煊奏准，以文瀛南乡试院为校址（即石末中学专斋）。4月，李提摩太创办中西大学堂（即西学专斋）。5月，两学专斋合并，成立山西大学堂。光绪三十年（1904），位于侯家巷的新校舍落成，中西两斋同时迁入。1937年11月8日，太原沦陷后，阎锡山下令解散大学堂。旧址坐北朝南，占地18万平方米，建筑呈中西结合风格。中轴线上建有大礼堂、大成殿，西区建有中斋讲堂、中斋讲习宿舍、学生宿舍，东区则分别建西斋讲堂、藏书楼、阅览室、仪器室、物理化学试验室、博物馆等。校门、大礼堂为当时全省唯一的无大梁、无内柱新式建筑。大礼堂由主楼与两侧附属楼组成，主楼宽三间，顶部有平台，上建方形钟楼一座。大礼堂前有大成殿，红墙绿瓦，殿前设赏月台，可容五、六百名学生。东区建筑具有西洋风格，西区建筑则有中国传统特色。现今面积75000平方米，建筑面积38000平方米，为太原市师范学院所在地
山西大学堂是近代中国最早建立的新式大学之一，也是中西合璧，取长补短，办理颇有成效的大学之一。西学专斋归并入原设山西大学堂内，为日后山西大学理科、工科、医科的发展奠定了良好的基础；为解决西斋教材问题而专设的上海译书院所译各类教料，许多成为全国高校的通用教材；最早的一批留学生，包括担任山西大学校长的高时臻、王录勋等人为本省经济、文化和教育事业更是做出了不可磨灭的贡献。瑞典国格致博士，时任山西大学堂西斋化学教员的新常富无不自豪地写道：“山西大学被认为是亚洲最好的大学之一。”