中国历史上第一个翰林院，设立于唐朝。

初时为供职具有艺能人士的机构，自唐玄宗后，翰林分为两种，一种是翰林学士，供职于翰林学士院，一种是翰林供奉，供职于翰林院。翰林学士担当起草诏书的职责，翰林供奉则无甚实权。晚唐以后，翰林学士院演变成了专门起草机密诏制的重要机构，有“天子私人”之称。在院任职与曾经任职者，被称为翰林官，简称翰林。宋朝后成为正式官职，并与科举接轨。明朝以后被内阁等代替，成为养才储望之所，负责修书撰史，起草诏书，为皇室成员侍读，担任科举考官等。地位清贵，是成为阁老重臣以至地方官员的踏脚石。

无论政治地位高低，在各朝各代，翰林学士始终是社会中地位最高的士人群体，集中了当时知识分子中的精英，社会地位优越。唐朝的杜甫、张九龄、白居易，宋朝的苏轼、欧阳修、王安石、司马光，明朝的宋濂、方孝孺、张居正，晚清的曾国藩、李鸿章等等，皆是翰林中人。入选翰林院被称为“点翰林”，是非常荣耀的事情。翰林学士不仅致力于文化学术事业的传承，更踊跃参与政治，议论朝政。由科举至翰林，由翰林而朝臣是科举时代士大夫的人生理想，是儒家学说中“达则兼济天下”的表现。

然而，成为翰林学士的辉煌前景也使得大量知识分子投身科举，造成了人才浪费。社会重文士轻技工，拖缓了科学技术的发展。此外，翰林制度也使得文学界和思想界的主流处于皇帝的监管之下，对学术自由和知识分子的思想独立起了压抑作用，有利于皇帝进行专制统治。