小学这个称呼很古老，周朝早已有之，开始并不指后世读书的小学，而是指文字学，周朝儿童入学，首先学六甲六书（六甲指儿童练字用的笔画较简单的六组以甲起头的干支。六书即指事、象形、形声、会意、转注、假借），所以从前把文字学称小学，“小学”之名即由此而得。

相对于小学，还有一个叫大学，大学作为一种具有高等教育职能的机构，可以追溯到五帝时期的成均和上庠。

董仲舒曰：“五帝名大学曰成均，则虞痒近是也”。虞舜时成立上庠，上庠即高等学校的意思；

郑玄：“上庠为大学，在王城西郊。”

以后夏朝的东序，商朝的瞽宗，周朝的辟雍，是当时位于京师的最高学府。

《礼记·王制》记载：小学在公宫南之左，大学在郊。

《大戴礼记·保傅》记载：束发而就大学，学大蓺焉，履大节焉。”

《汉书·礼乐志》记载：古之王者莫不以教化为大务，立大学以教於国，设庠序以化於邑。

因此在古代，小学是蒙学，用来教小孩子读书识字和学习书写的意思，而大学则是专门用来研究学问的场所，男子成年之后束发履节就可以读大学，算是高级知识分子了。

当然，为了彰显儒家流派的学问很高，孔子的学生曾子编写过一本著名的传世作品叫《大学》，在书里面详细的归纳整理了儒学三纲八目的儒家要义，让儒家慢慢发展出来一整套的详细理论，而这些理论在汉朝之后因为适合帝王治国的方略，因此儒家被确立为一种国教一直延续了两千多年，而经过后世儒家弟子的继承和发扬，最后弄出了一个变态的三纲五常的理论，然后……就没有然后了，孔老夫子的原始理论被弄的面目全非，中国人的思想彻底就被儒学禁锢了，特别是到了宋朝时期，经过朱熹的重新整理和注解，提出三纲五常的理论之后，儒学再次升级成为一整套