三公九卿制自夏朝而始，后秦改周制，一直沿用至两晋，直到隋文帝创制三省六部制，在长达800余年的时间里，对中国古代的官员制度发展都起着至关重要的作用。
《礼记》“夏后氏官百，天子有三公、九卿、二十七大夫、八十一元士。”
《周礼》《通典·职官一》记载：周以太师、太傅、太保为三公；
《韩诗外传》中曰：三公之得者何？曰司马、司空、司徒也。司马主天，司空主土，司徒主人，以少师、少傅、少保、冢宰、司徒、宗伯、司马、司寇、司空为九卿。
秦统一六国后， 设置左右丞相，以丞相取代三公，天下之事皆决丞相府。
设太尉，管理军事，设御史大夫，掌邦国刑宪、典章之政令，为丞相副手。
三公：
丞相—最高行政长官，辅佐皇帝处理全国政务；
太尉—最高军政长官， 协助皇帝管理全国军事事务，掌握军权；
御史大夫—掌管监察，主要管理记事，负责管理图籍、奏章，监察文武百官；
御史大夫下设御史中丞；侍御史，弹劾中央和皇宫一切事；监御史，中央派到地方各郡负责监督郡守的御史。
九卿（职位低于三公的中央政府内多个高级官员，实际数量不止九人）
奉常—负责掌管宗庙礼仪，地位很高，属九卿之首；
郎中令—负责掌管皇帝侍从警卫；
太仆—负责掌管宫廷御马和国家马政；
卫尉—负责掌管皇宫警卫；
廷尉—负责掌管司法审判；
典客—负责掌管外交和少数民族事务；
宗正—负责掌管皇族、宗室事务；
治粟内史—负责掌管全国财政收支，租税钱谷；
少府—负责掌管皇室收支。
三公和九卿的所有职位人员，均由皇帝任免调动，不得世袭。
汉朝景帝时期，汉景帝改“奉常”改为“太常”，“卫尉”改为“中大夫令”，“廷尉”为“大理”，“典客”为“大行令”（武帝时期改为大鸿胪），治粟内史”为“太农令”，（武帝时改为大司农）；武帝时期改“太尉”为“大司马”，改郎中令”改为“光禄勋”； 哀帝时期改“丞相”为“大司徒”。
东汉中后期，光武帝即位后，以大司马、大司徒、大司空为三公，后又改大司马为太尉，将大司徒，大司空称司徒，司空。 三公的职能已经没有了实际权力，只有议事功能。
东晋时期，三公九卿已名存实亡；南北朝时期九卿即已不再作为政府的常设机构；
隋朝统一中国，隋文帝设置三省六部，三公被取缔。三公九卿的官制宣告结束，但是三公九卿在结构上依然影响后续的三省六部制。