晋献公一支是由小宗而执掌君位的。为了防止大宗诸公子的反夺权，晋献公大开杀戒，屠杀公族，晋国的公族势力急速衰减。又由于献公宠爱骊姬，骊姬阴险狡诈，欲立其子为公子，由此造成三世内乱，死的死，亡的亡，晋国小宗的势力也衰落了。公族势力的衰退，给异姓卿族的发展创造了良机，六家大夫开始把持晋国大权，这六家大夫是韩氏、魏氏、赵氏、范氏、知氏、中行氏，他们各自有自己的地盘和武装，互相攻打。后来范氏、中行氏被灭，就只剩下了四家卿族。
这知、韩、赵、魏四家卿族中，知氏宗主知伯的实力最为强大（当是时，晋国政皆决知伯，晋哀公不得有所制。知伯遂有范、中行地，最强。《史记·晋世家》）。
知伯在收拾了范氏、中行氏这两个卿族之后，没过几年，便派人向韩康子（韩虔）公开索要土地。土地是人口、财富的保证，谁愿意平白无故地把土地给人家？这简直就是要割自己的肉。韩康子了解知伯的为人，知道他不是个好惹的主，范氏、中行氏两个卿族的下场就是前车之鉴。可是要韩康子献出土地，这真是一道难解的题，搞不好自己就会成为下一个被知伯所灭的卿族。但是，韩康子也不愿束手就范。因为如果给了知伯第一次，第二次再来要怎么办？经过一番踌躇，他决定拒绝知伯的要求。
韩康子的家臣（大夫之臣。中国古代卿大夫的封地叫“家”，所以卿大夫的臣子称“家臣”）段规是一个非常有头脑的人。他听了韩康子的决定，立即劝韩康子说：知伯这个人，既贪婪又凶狠。你如果不能满足他，他肯定会对韩氏动粗，你还是给他吧。你要给了他，他得了这个便宜，尝到了甜头，肯定不会就此罢休。知伯一定还会对魏、赵两家提出同样的要求。魏氏、赵氏会同意吗？如果他们不听，知伯肯定不会罢休，就会对这两个卿族动手。这样，咱们韩氏就可以免于刀兵之灾了。同时，还可以坐山观虎斗，该出手时再出手（韩康子欲勿与。段规谏曰：“不可。夫知伯之为人也，好利而鸷复，来请地，不与，必加兵于韩矣。君其与之。与之彼狃，又将请地于他国；他国不听，必乡之以兵；然则韩可以免于患难，而待事之变。”范祥雍《战国策笺证·赵策一》）。韩康子一听：好啊，就这样办。于是，韩康子痛痛快快地给了知伯一个万户之邑。
知伯一看，这么轻松拿到一个万户大邑，高兴得要疯了。马上如法炮制，派人向魏氏要地。知伯这人其实一点都不傻。韩、赵、魏三个卿族之中，赵氏最强，韩氏最弱。吃柿子专挑软的捏，所以，他第一个选中的就是韩氏。韩氏之后，卿族中较弱的是魏氏，所以，知伯的第二口又咬向了魏氏。
魏氏老大魏宣子（魏驹）接到知伯索要土地的要求之后，像韩氏老大韩康子一样，也不愿给，给地就是从自己身上割肉喂狼。毕竟土地是每家卿族的安身立命之本，一家卿族如果失去了土地，那他啥也不是，就是平民，就是百姓。谁愿意啊？所以，魏宣子的第一反应也是不给，坚决不给。但是，魏宣子的家臣赵葭也像韩康子的家臣段规一样，非常有政治头脑。他劝魏宣子说：知伯向韩氏要地，韩氏给他了。如果向魏氏要地魏氏不给，那么魏氏肯定要得罪知伯。一旦得罪了知伯，知伯肯定会对咱们动手。那样，咱不成了知伯的眼中钉了？要依我，给他，别让他盯着咱们魏氏寻事（又使人请地于魏，魏宣子欲勿与。赵葭谏曰：“彼请地于韩，韩与之。请地于魏，魏弗与，则是魏内自强而外怒知伯也，然则其错兵于魏必矣！不如与之。”范祥雍《战国策笺证·赵策一》）。魏宣子一听，有道理啊。于是，他也像韩康子一样，拿出了一个万户之邑奉送给知伯。知伯一看，魏宣子也给了一个万户大邑，这就更高兴了。
知伯凭借自己强大的实力，愈发暴露出贪婪和自大的本性，强行向韩氏卿族和魏氏卿族要地，目的得逞后，更加肆无忌惮，把目标对准了赵氏。
兴致勃勃的知伯立即派人向赵氏老大赵襄子传话，指名道姓地要地。知伯这次对赵氏要地和先前对韩氏、魏氏不同，先前是只要地不指名。但是，韩氏、魏氏的俯首帖耳让知伯开始飘飘然了。这次对赵氏要地已经不是简单地要地，而是要赵氏指哪儿给哪儿。
赵氏老大赵襄子也不是盏省油的灯，他立即断然拒绝了知伯的要求（又使人之赵，请蔡、皋狼之地，赵襄子弗与。范祥雍《战国策笺证·赵策一》）。知氏在这儿碰了一鼻子灰。而对于赵氏来讲，拒绝知伯就意味着挑起战事，以赵氏一族之力能对付势力强大的知氏吗？
遭到拒绝的知伯立即把韩康子、魏宣子两个卿族老大请到家里，商量出兵攻打赵襄子之事。
赵襄子是个敢作敢为的人，他把家臣张孟谈（《史记》作张孟同，司马迁避其父司马谈之讳而改）请来，商量应对之策。赵襄子告诉张孟谈说：知伯这个人表面上待你很亲，实际上是个非常阴的人。他已经找韩、魏两家要过地了，现在又到咱家来要地。但是，我没有给他。这样，他一定会对我们赵氏卿族动武，我想问你，哪个地方最适合咱们赵氏长期坚守？
张孟谈毫不犹豫地说：晋阳（今山西太原）。赵襄子说：好，就这样定。
于是，赵襄子立即派了一位将军先到晋阳，自己随后就到。到了晋阳，赵襄子视察了城墙、仓库，然后对张孟谈说：晋阳城墙坚固、粮仓充实，唯一缺的是箭，怎么办？张孟谈说：当年修晋阳城的时候，宫殿的墙都是用芦苇、荆棘做成的，根根都有一丈多长，完全可以用来制造箭杆。赵襄子一试，果然非常合适，这下子可高兴了，但是，转念一想，我们铜少，怎么制作箭头呢？张孟谈说：我听说当年造晋阳城的时候，房间柱子最下边的基柱都是用铜浇铸成的，可以用来做箭头，这是用不完的箭头材料。赵襄子一听，连声说好，于是下令全城备战。
知伯率领知氏、韩氏、魏氏三国军队攻打晋阳，打了三个月，也没有攻下晋阳城。知伯没有办法，只好把军队排开，团团围住了晋阳，想以此困死赵襄子。
晋阳城外，有一条河静静流淌而过，这就是晋水（今天的汾河）。晋阳即因为在晋水北面而得名。攻不下晋阳城的知伯看到流淌而过的晋水，突发奇想，决定引晋水水淹晋阳城。说动就动，滔滔的晋水在人工引导下，汹涌澎湃地冲向了晋阳城。晋水不断上涨，距城头只剩三块木板那么高就可以漫过城墙了。
魏宣子驾车，韩康子担任警卫，知伯稳稳当当地坐在车上，察看即将被水完全淹没的晋阳城。知伯喜出望外地说：我原来真不知道大水可以灭亡一个国家，今天我才明白。汾水可以淹没安邑，绛水可以淹没平阳（吾始不知水之可以亡人之国也，乃今知之。汾水可以灌安邑，绛水可以灌平阳。《史记·魏世家》）。然而得意忘形的知伯在这时却犯了一个致命性的错误，韩康子和魏宣子一听，心中都一哆嗦。因为安邑是魏氏卿族的都邑，平阳是韩氏卿族的都邑。眼看着赵襄子今日被晋水淹没的惨状，韩氏卿族的老大和魏氏卿族的老大都有一种说不出来的兔死狐悲之感。于是，魏宣子在车上用肘捣了一下韩康子，韩康子在车上用脚踩了一下魏宣子，两人都会意地使了个眼色。知伯的一番大话，让韩氏、魏氏想到了自己以后的命运，如果知伯得逞，那么赵氏今天的下场就是韩氏、魏氏的明天。
知伯整整围了晋阳三年，城中大水遍地，人们只好像古人一样住在树上，锅也要吊起来才能烧饭。粮食将要吃完了，士兵们个个瘦骨嶙峋，赵襄子坚持不下去了。他又找张孟谈了，因为遇事总能在张孟谈那儿找到解决办法。
张孟谈其实早就在思考这个问题，他对心急如焚的赵襄子说：让我去见见韩、魏两家的老大吧。赵襄子还能说什么？只能说一个字：好。
张孟谈溜出了城，找到韩康子、魏宣子，对他俩说：唇亡齿寒，这个道理我不用讲了。赵国马上就完了，但是，我觉得赵国亡了之后，你们两国就要步赵国的后尘了。韩康子、魏宣子说：这个道理我们俩都懂，知伯的为人我们也清楚。我们最怕的是计划还没有实施，知伯知道了这件事，我们俩就全完了。张孟谈说：计划出自你们两位之口，入我一人之耳，不会有第四个人知道。于是，韩康子、魏宣子立即和张孟谈私下达成一个秘密协议（张孟谈于是阴见韩、魏之君曰：“臣闻唇亡则齿寒，今知伯帅二国之君伐赵，赵将亡矣，亡则二君为之次矣。”二君曰：“我知其然。夫知伯为人也，麁中而少亲，我谋未遂而知，则其祸必至，为之奈何？”张孟谈曰：“谋出二君之口，入臣之耳，人莫之知也。”范祥雍《战国策笺证·赵策一》）。
张孟谈和韩康子、魏宣子达成协议之后，迅速返回晋阳城中，将达成的协议向赵襄子做了详细汇报，赵襄子激动得连连向张孟谈拜谢（二君即与张孟谈阴约三军，与之期日，夜，遣入晋阳。张孟谈以报襄子，襄子再拜之。范祥雍《战国策笺证·赵策一》）。
张孟谈为战事到知伯的军营中，在军营大门口遇见了知果（《战国策》作知过）。知果看了看张孟谈，立即入营见知伯说：韩氏、魏氏两家恐怕马上会有大变。知伯说：怎么会呢？知果说：我在军营门口遇见了张孟谈，张孟谈趾高气扬，不可一世。知伯说：不会吧？我和他们两家约定好了，攻下赵国，三家平分赵家的土地，不可能出现变故啊。你千万别这样说（吾与二主约谨矣，破赵三分其地，寡人所亲之，必不欺也。子释之，勿出于口。范祥雍《战国策笺证·赵策一》）。
知果出了知伯的营门，又遇见韩康子和魏宣子，马上入营对知伯说：韩、魏两家的脸色也不对，他们一定要背叛你，不如赶快杀了他们两个。知伯还是不相信：我们三家兵围晋阳都三年了，现在早晚之间就会攻破晋阳，并且分享三年战争的成果，他们不可能有二心，你千万别这样说（兵箸晋阳三年矣，旦暮当拔之而飨其利，乃有他心？不可，子慎勿复言。范祥雍《战国策笺证·赵策一》）。
知果说：如果你不杀他俩，就一定要让他们感到非常亲近（不杀，则遂亲之。范祥雍《战国策笺证·赵策一》）。知伯大惑不解地问知果：什么叫亲近他们？知果说：魏宣子的家臣赵葭、韩康子的家臣段规，都是能说动他们两个卿族老大的重臣（是皆能移其君之计。范祥雍《战国策笺证·赵策一》）。你赶快和他们俩搞个约定，一旦攻下赵国，给他们俩每人封一个万户人口的县。这样，韩康子、魏宣子就不会改变主意了，你就能达到灭赵的目的了。
知伯一听就烦了，破了赵国已经是三家平分了，如果这两个家臣每人再封一个万户人家的县，我们得的也太少了，这绝对不行。知果看见知伯不能采纳自己的意见，知道大祸临头，立即将他们这个小宗族改为辅姓，脱离知氏家族，从此再不见知伯。
张孟谈听说了这件事，立即入见赵襄子说：我在营门口遇见知果，知道他已经开始怀疑我了。知果见了知伯之后，立即更改为辅姓，说明他已经预料到我们商谈的事了。今天傍晚如果不攻击知伯，就会丧失时机。赵襄子立即派张孟谈再见韩、魏两位卿族的老大，约定当夜动手。
当天晚上，知伯守护晋水大堤的士兵被杀死，滔滔的晋水改道，不再冲向晋阳城而是冲向知伯的大营。知伯的军营因为大水突然到来而乱作一团，韩氏、魏氏两支军队从左右两翼杀过来，赵襄子带领他的士兵打开城门一直冲到知伯的军营之前。知伯的军队大败，知伯本人也被赵襄子活捉并处死（杀守堤之吏，而决水灌知伯军。知伯军救水而乱，韩、魏翼而击之，襄子将卒犯其前，大败知伯军，而禽知伯。范祥雍《战国策笺证·赵策一》）。知伯的土地被韩、赵、魏三家所分，整个知氏家族全被灭，只有知果因为改姓辅，才躲过了这场劫难。
这一年是公元前453年。从此晋国的大政由韩、赵、魏三国绝对控制。
二十年后晋幽公继位时，因为害怕韩、赵、魏三国，反而要朝拜三家之长。韩、赵、魏瓜分了晋国的剩余土地，只把绛（今山西翼城）与曲沃（今山西曲沃）两地留给晋幽公。从此韩、赵、魏称为三晋。
五十年后，即公元前403年，韩、赵、魏三国正式被周天子封为诸侯。强大统一的晋国从此在政治地图上消失了，代之而起的是韩、赵、魏三国。
韩氏卿族终于建立起战国七雄之一的韩国。