“儒”是春秋时从巫、史、祝、卜中分化出来的、熟悉诗书礼乐而为贵族服务的术士。《说文》：儒，术士之称。《法言·君子》：通天地之人曰儒。依据可靠的文献资料，则周代初年，曾经协助周武王推翻了商朝统治的周公姬旦，在周朝建立以后，曾经“制礼作乐”，建立了当时先进的政教一体的礼仪制度。但是数百年以后，这套制度逐渐遭到了破坏。春秋时代的孔丘，忧虑当时的混乱状况，一生恓恓惶惶，希望国家恢复秩序和安定。他是当时最为博学的学者，因而得到许多人的尊敬，他被尊称为“孔子”或“夫子”，人们称呼他的名字就感到是一种亵渎。但是他的主张得不到当时国君们的响应。于是，他整理了被认为是古代圣帝明王们创造的文化成果，并且提出了自己的理解，希望这些文献能够成为后世人们行为的依据。经由孔子整理的古代文献，成为儒经或者儒经的基础。由于周公姬旦和孔子在礼仪制度和宗教观念上的重大贡献，直到唐代，人们还常常是“周孔”并称，认为他们是两个最大的圣人，并把儒教的主张说成是“周孔之道”。
汉代由于国家统治的需要，自汉高祖以来，历任帝皇比较推崇老子的无为而治、休养生息，但从汉武帝开始，为加强中央集权统治，实行了“独尊儒术”的政策。儒者董仲舒依据孔子的思想，适应新的历史条件，对这传统的国家宗教教义进行了新的解说。在董仲舒新解说的基础上，后来的儒教不断努力，逐渐使传统宗教彻底建立在由周公、孔子奠定的儒家学说的基础之上。因而，独尊儒术，是传统的国家宗教彻底儒化的开端，也是儒教的真正开端。
经由董仲舒重新解释和发挥的儒教教义，重视礼仪制度的建设，特别是其中祭天、祭祖的礼仪制度建设。完备而复杂的礼仪制度有助于人们养成遵守秩序、安分守己的习惯，这正是儒教重视礼仪的重要目的之一。然而礼仪制度的外在性质，也容易导致虚伪。魏晋时代，儒教思想家以王弼等人为代表，认为应该更加重视有形可见的行为（有）背后那无形可见的东西（无），并且认为，那背后无形可见的东西，比起有形可见的，更加重要。他们的意见虽然得到许多人的赞同，却并没有成为儒教国家的思想指导，因为他们讲不出那个“无”是什么，会导致由于理解不同而各行其是。
隋唐时代，礼仪制度的建设达到了高潮。唐代中期制订的《开元礼》，成为后代礼仪制度的模范，其中对于如何祭天、祭祖，如何祭孔，都做了详细的、具有法典意义的规定。这样的制度建设本应使国家趋于安定，然而不久即爆发了著名的“安史之乱”，国家从此陷入混乱，唐代政权从此也一蹶不振。唐朝后期的儒者反思儒教的效能，一面主张应该坚决排斥佛教和道教，另一面认为应诉诸人们内心，培养人们遵守礼仪制度的虔诚，因而对于心性问题的探讨逐渐成为儒者们最重要的理论方向。《孟子》、《大学》、《中庸》等过去被忽略的儒教典籍受到特别重视。到了宋代，经过程颢、程颐兄弟和他们的后继者主要是朱熹的努力，《孟子》等著作受到特别的重视，和《论语》一起，被称为“四书”，成为儒者们必修的最重要的著作。
儒教自汉代以来被奉为官学。在中国古代，儒教或孔教始终居于社会或国家的统治地位。个别皇帝或国家官吏崇拜佛教、道教，仅仅是个人的行为，而不代表国家。中国古代国家，从汉代开始，一直是把儒教或孔教作为国家宗教。
汉学与宋学
儒教教义的演变也就分为两个大的阶段。前一阶段是尊五经、重视礼仪制度建设的“周孔之道”，后一阶段是尊四书、重视培养内心虔诚的“孔孟之道”。清朝儒者把唐代及其以前阶段的教义称为“汉学”，而把宋代开始的儒学称为“宋学”。礼仪制度的建设仍然是重要的，但是宋学更加要求自觉自愿地遵守。南宋时朱熹将《大学》、《论语》、《孟子》、《中庸》合为「四书」，“学问须以《大学》为先，次《论语》，次《孟子》，次《中庸》”， 使之在儒家经典中的地位日益提高。南宋以来的科举考试重心也转向四书，标志理学成为主流。在后人看来，他们过分强调内心修养，因而失去了治理国家的能力。然而在宋学的主张者看来，搞好内心的修养，就能够精通国家的各项制度，达到治国平天下的目的。因为他们认为，人人心里都有一个天赋的遵守礼仪制度的天理，问题在于要通过内心的修养，把这个天理开发出来，或者说，是把这被私欲遮蔽或污染了的天理显现出来。