Trường Tiểu học Sơn Bằng được thành lập ngày 14- 9-1945 tại trường Hương thời Pháp trong ngôi nhà 2 phòng  ở thôn Phan Định

Những năm đầu tiên trường có 4 lớp với 90 học sinh (1 lớp Tư, 1 lớp Ba, 1 lớp Nhì và 1 lớp Nhất). Thầy giáo Đoàn Quang Dụ được cử làm hiệu trưởng với 3 giáo viên là thầy giáo Phạm Đình Thế, thầy giáo Đào Duy Thiện, và thầy giáo Hồ Khắc Giai. Điều kiện dạy học của trường rất khó khăn, phòng học hư hỏng, bàn ghế thuê mượn, đặc biệt là chương trình giảng dạy. Năm 1946, song song với phong trào “Bình dân học vụ”, Đảng bộ, Uỷ ban nhân dân cách mạng lâm thời phát động phong trào xây dựng cơ sở vật chất Trường Tiểu học. Ban kiến thiết trường được thành lập, toàn dân đóng góp tiền của, công sức. Sau 2 tháng có thêm 4 phòng học nữa.

Từ năm 1946-1954: Sơn Bằng có 2 trường Tiểu học, quy mô 8 lớp trên dưới 300 học sinh. Trong thời kỳ kháng chiến chống Pháp, kinh tế khó khăn, điều kiện dạy và học thiếu thốn, chương trình sách giáo khoa chủ yếu tự soạn, phấn bảng chủ yếu bằng đất thó, mực viết bằng trái mua, trái mồng tơi; nhưng Trường TH Sơn Bằng luôn đạt chất lượng cao, đảm bảo giáo dục toàn diện. Ngoài việc dạy học văn hoá trường còn dạy nữ công gia chánh, hát nhạc…Giáo viên, học sinh tiểu học cùng với đội quân không lương, không phụ cấp dưới sự lãnh đạo của Đảng, Uỷ ban kháng chiến đã xoá xong nạn mù chữ cho toàn dân.

Từ 1954- 1965: Trường được đổi tên thành trường cấp I Sơn Bằng. Quy mô từ 12 – 15 lớp, trên dưới 400 học sinh, huy động được 95% số trẻ trong độ tuổi đến trường. Phòng học, bàn ghế được tăng cường. Đội ngũ giáo viên đủ về số lượng và chất lượng. Hằng năm có trên 90% học sinh tốt nghiệp Tiểu học.

Từ 1965-1975: Trường chuyển đến địa điểm mới: Nhà Thánh Tổng, phân tán 3 vùng, lán luỹ, hầm hào đảm bảo an toàn. Với các phong trào “Ngàn việc tốt”, “Mũ rơm đến trường”, “Tiếng hát át tiếng bom”, “Ba đảm đang”, đã tác động rất lớn đến việc dạy và học ở nhà trường.

Từ 1975-1991: Trường Cấp I và cấp II nhập lại thành trường PTCS Sơn Bằng. Quy mô từ lớp 1 đến lớp 9; trường có 25-27 lớp; Số học sinh trên dưới 800 em. Phong trào thi đua “Hai tốt’ cùng với cuộc vận động “Đã là giáo viên phải là người tiên tiến” được khơi dậy. Số giáo viên giỏi, học sinh giỏi của trường được tăng lên rất nhiều.

Từ 1991-1995: Năm 1991 Trường Tiểu học Sơn Bằng được tách từ trường PTCS Sơn Bằng với quy mô 14 lớp 502 học sinh. Trường được chuyển đến xóm Cồn-vị trí trung tâm của xã. Trường có chi bộ độc lập, thường xuyên làm tốt công tác xã hội hoá giáo dục, chất lượng dạy học ổn định. Năm 1992 đạt Phổ cập Tiểu học vững chắc. Năm 2002 Trường đạt chuẩn Quốc gia mức độ 1.

Từ năm 2005 đến nay: Trường có quy mô 9-10 lớp với số học sinh trên dưới 200 em. Trường liên tục đạt danh hiệu Tiên tiến cấp cơ sở. Cơ sở vật chất khang trang, sạch đẹp; môi trường học tập thân thiện, văn minh. Đội ngũ giáo viên nhiệt tình, tâm huyết; trình độ tay nghề khá vững vàng. Chất lượng học sinh ngày càng đi lên. Trường đang phấn đấu đạt chuẩn Quốc gia mức độ 2