有关喀喇汗国史的文献资料比较零碎，与其同时代的文献，如成书于11世纪的《喀什噶尔史》原书已散佚，仅在加玛勒·哈尔希（Jamal al-Qarshi）的《苏拉赫词典补编》中引用的其中的一部分得以保存至今。佚名作者的《博格拉汗传》（Tazkirat al-Bughrakhan）专门记载了第一位皈依伊斯兰教的萨图克·博格拉汗的史事，但后者带有明显的宗教咏史诗的色彩，或具有追述往事的传说的性质。[5]近年，利用钱币铭文研究汗朝政治史，对汗朝世系和诸汗在位年代多有补正。但是，诸汗名字、称号时时添减变换，因而难于排列出明晰的、确切的世系，喀喇汗国汗室的起源问题也未解决。当前，学界有起源于样磨、葛逻禄（其中的炽俟部落）、葛逻禄－样磨等说。诸说各有一定道理，亦可以互相补充。近年来，葛逻禄说较占上峰，因为喀喇汗国初期版图原来主要是三姓葛逻禄的活动区域，而且喀喇汗国主力军是由三姓葛逻禄之一的炽俟构成的。但是，在9世纪上半期喀喇汗国建立前夕，九姓回鹘近支样磨部已迁入葛逻禄驻牧的部分地区，特别是占有了喀喇汗国的重要中心之一，后来东喀喇汗国的都城喀什噶尔。而且文献中也有样磨汗的称号为博格拉汗的记载，所以汗族出自样磨说也不无根据。另一方面，回鹘汗国崩溃后的部分回鹘部落进入该地区.
文献记载与传说中的喀喇汗国开国君主均是萨图克·博格拉汗的祖父阙毗伽·卡迪尔汗（或作毗伽阙·卡迪尔汗）。有人将此人与回鹘汗国崩溃后西奔的庞特勤勘同，但未能提供足够证据。建国之初，这个汗国一如突厥汗国，也是一个松散的游牧部落联盟。在草原游牧帝国的“双汗制”传统影响下，大汗之侧有副汗。大汗称阿尔斯兰（狮子）喀喇可汗，驻八剌沙衮，号“虎思斡耳朵”（今吉尔吉斯斯坦托克马克东，有人认为即唐代的“裴罗将军城”），后移驻喀什噶尔 （今喀什），称“斡耳朵坎特”。副汗称博格拉（公驼）喀喇可汗，驻怛罗斯（今哈萨克斯坦塔拉兹）。正、副汗之下有若干由汗族成员担任的小汗，小汗之下由王公贵族组成封建等级阶梯分治各地，这书汗国一开始就具有分裂趋势。
著名的萨图克·博格拉汗是这个国家第一个信奉伊斯兰教的可汗，更重要的是他也是世界历史上第一个皈依伊斯兰的突厥人可汗。喀喇汗国也是突厥人的第一个穆斯林王朝，为突厥人的全面伊斯兰化迈出了第一步。萨图克·博格拉汗接受伊斯兰教的一个原因是当时的政治、文化气候，当时伊斯兰教已传入中亚近两个半世纪，中亚穆斯林诸王朝政治上强大，文化上欣欣向荣，经济上富足，在萨图克所管辖的阿图什地方，经常有来自周边地区的穆斯林商人，在穆斯林商人与他的交流中，带给他另一个新兴世界，也让他对伊斯兰文化的向往加深了。另一个原因是为了夺回汗位。萨图克的叔父奥古尔恰克在他父亲去世后接替汗位，但在萨图克长大后不愿让他按传统成为储君，而是打算让自己的儿子继位。此时，萨曼王朝的一个王子“纳斯尔”流亡到喀喇汗国境内，奥古尔恰克为了对付萨曼王朝，便接纳了他，把他安置在了阿图什。于是，在这位流亡的萨曼王朝王子的影响下，萨图克·博格拉汗皈依了伊斯兰教，并取名阿卜都·卡里姆。而“纳斯尔”王子在促使萨图克皈依伊斯兰教的同时，也给了他借助伊斯兰教的力量夺回汗位的希望。后来的事实也证明，这一做法行之有效，在与其叔父奥古尔恰克的对抗中，来自伊斯兰世界的志愿军起了重要的作用。955年，萨图克·博格拉汗在夺回汗位后不久即逝世于阿图什，当地至今还有他的坟墓。他本人在世期间，并没有其他重要的政治活动。
在其子木萨继位后，继续推行境内突厥人的伊斯兰化。阿拉伯史书记载，960年这一年有二十万帐突厥人接受了伊斯兰教。萨图克·博格拉汗之孙哈仑·博格拉汗（亦作哈散）自八剌沙衮出征河中地区（阿姆河与锡尔河之间）的萨曼王朝，992年攻陷其都城布哈拉，999年，他联合今阿富汗境内的另一突厥王朝，加兹尼王朝的君主马合木共灭萨曼王朝，从此喀喇汗国奄有阿姆河以北中亚地区[3]。
大约自1041年起，喀喇汗国正式分裂为二，以锡尔河为界，西部的可汗为阿里后裔，通称阿里系，领有河中地区及费尔干纳西部，以布哈拉为都城；东部的可汗为哈仑（哈散）后裔，通称哈仑或哈散系，领有塔拉斯、赛蓝、塔什干、费尔干纳谷地东部、七河地区和喀什噶尔，以八剌沙衮为政治、军事都城，以喀什噶尔为宗教、文化中心。两汗国互相攻伐，并引外部势力为助；同时，东、西两汗国内部也内讧不已。西喀喇汗国从11世纪后半期起，已受塞尔柱帝国之挟制。东喀喇汗国的伊不拉音·本·阿赫迈德在位期间（1140年即位），被入侵中亚的耶律大石政权所控制，并废除其汗号，改封“土库曼·伊列克”（突厥蛮之王），成为了西辽的附庸。13世纪初，因败于蒙古帝国成吉思汗而投奔西辽的乃蛮王子屈出律篡夺了西辽汗位，并于1211年进占喀什噶尔，东喀喇汗国遂亡。翌年，西喀喇汗国为花剌子模王朝的君主阿拉乌丁·摩诃末所灭。