太原市第二实验中学的前身是太原重机一中。该校创办于1958年，1979年被省教育厅命名为省重点中学。2004年被命名为示范初中、2010年被命名为示范高中。学校现占地面积32600平方米，现有初高中在校学生2626人，教职工246人，初高中均为八轨制。

公园路小学、众纺路小学、和平小学、桥西小学、大唐实验小学、区第二实验小学、玉河街小学、气化街小学、千峰南路小学、理工大附小、小井峪小学、后北屯小学、瓦窑小学、下元小学、大王小学、小王小学、窊流小学、闫家沟小学、大井峪小学、童乐双语学校、大众双语学校、南内环双语学校。