劉基，字伯溫。公元1311年出生在浙江處州府青田縣南田山，就是後來的浙江省文成縣武陽村一個書香地主家庭裏。劉家的祖先原是豐沛人氏，曾經當過宋朝宣撫都統少保。宋高祖偏安南渡，劉家徙居杭州，不久遷至青田。到劉基出生時，他家世居武陽已經五代了，是當地有聲望的一個大族。
劉基祖劉父庭槐是南宋太學上舍（宋製：太學分外舍、內舍、上舍），他除了熟習經書外，平時還喜好鑽研天文地理、陰陽醫卜等書，知識淵博。其父為人正直，才智識出眾，10歲時曾和其祖父劉像一起設謀。挽救了家鄉一批抗元誌士的生命，博得了鄉民的稱頌與擁戴，後來成為遂昌縣教諭，就是縣學教官。劉基在這樣的家庭環境中，從小就受到良好家風的熏陶，使他在學業上打下堅實的基礎，同時也培養造就了他豪爽剛正、嫉惡如仇的性格。
劉基好學敏求，博覽群書，而且對古人論及天文、地理、用兵打仗的書籍總是愛不釋手。刻苦的研讀使劉基受益匪淺，廣泛的涉獵不僅開闊了他的胸襟，更促使他立誌大展鴻圖，建功立業。
泰定元年，就是1324年，4歲的劉基入郡庫（即府學）讀書。他從師習春秋經。這是一部隱晦奧澀、言簡義深的儒家經典，很難讀懂，尤其初學童生一般隻是捧書誦讀，不解其意。劉基卻不同，他不僅默讀兩遍便能背誦如流，而且還能根據文義，發微闡幽，言前人所未言。
老師見此大為驚訝，以為他曾經讀過，便又試了其他幾段文字，劉基都能過目而識其要。老師十分佩服，暗中稱道："真是奇才，將來一定不是個平常之輩！"
一部春秋經，劉基沒化多少工夫就學完了。後來劉基參加科舉考試，他春秋經的答卷得到了考官們的一致好評。泰安四年，就是1327年，劉基17歲，他離開府學，來到青田縣城西北括蒼山中的石門洞，從處州名士鄭複初學周敦頤、程領、程頤的理學，接受儒家通經致用的教育。此外，他博覽群書，諸子百家無一不窺，尤其對天文地理、兵法數學，更有特殊愛好，潛心鑽研揣摩，十分精通。
有一次，劉基在書店裏看到一部天文書，隨手取下翻閱一遍，第二天早上居然還能從頭至尾背誦下來，店主人知後十分驚奇，要把這部天文書送給他，劉基說："這部書已裝在我胸中，書對我已經沒有用了。"
還有一次，鄭複初與學生們討論孔子如何周遊列國，宣傳道化，劉基突然站起來說："孔子雖然道德高尚，但是身為魯國人，國敗而難保，飽學而無為，豈不是一介無用的書生？大丈夫不應如此！"鄭複初大驚失色，事後對劉基的父親說："這可不是一個一般的孩子，日後定為國家的棟梁！"
果然，元至順四年，就是1333年。年僅23歲的劉基進士及第，衣錦還鄉，被任命為江西高安縣丞、江浙儒學副提舉等官。少年得誌的劉伯溫，頗想為元朝效力盡忠，做一番轟轟烈烈的事業。
時值元朝末期，官場腐敗，吏治貪亂，整個社會統治已是獨木難友，搖搖欲墜。但是劉基並沒有感到風雨飄搖，大廈將傾。他一方麵以身作則，為政清廉，一方麵與那些貪官汙吏作鬥爭。然而，上任不久，就因為受人嫉恨被排擠到別處，碰了個鼻青臉腫。又不久，因為上文彈劾監察禦史失職開罪於上司，被排擠回家。
官場初挫並未能使劉基喪失信心。他反而認為自己之所以出仕碰壁，一因自己學識未夠，社會經驗更是不足，涉世未深，不了解官場中之險惡；二者更因元朝政府積重難返，過於腐敗，正直之人很難立足，更不用想有所作為了。因此，在回鄉隱居的日子裏，他如饑似渴地鑽研《周易》八卦，兵書戰策，並廣交賓朋，擴大自己的影響，隨時打算東山再起。他知道，有了梧桐樹，不愁沒鳳凰。
果然，隨著歲月的流逝，劉基的名聲日盛，甚至有人認為他的才幹足可以與諸葛亮相比，很多江南名士於是紛紛登門求教。劉基覺得，自己出頭的日子已經快了。
適值元朝末年，社會矛盾激化，各地農民起義連綿不斷。榮城（今河北宋城）韓山童與穎州（今安徽阜陽）劉福通起兵汝穎，羅田（今湖北羅田）徐壽輝起兵該黃，定遠（今安徽定遠）郭子興起兵境州，泰州（今江蘇東台）張士誠舉事高郵......起義隊伍如火如茶，一浪高過一浪。
而在江浙一帶，黃岩人方國珍因被誣告通寇，一氣之下，便殺死仇家，率兄弟三人聚集海盜數千人騷撓江浙，元朝廷幾次派兵都未能剿滅，連江浙行省左丞李帖木兒都被其活捉。朝廷無計可施，隻得決定官厚祿誘降方國珍。但是方國珍本性難移，幾降幾叛，弄得人心惶惶。江浙行省見方國珍如此，終於想到了劉基，舉薦他為元帥府都事。
隱居多年的劉基覺得又有了機會。他一到任就力主用武力嚴剿方國珍，認為方氏兄弟首先倡亂，不顧朝廷思恤，"不誅無以懲後"，並且定下了剿除方案。方國珍早已聽說劉基的才幹，甚是驚恐，急忙派人以大量金銀財寶向他行賄，劉基拒絕不受。方國珍又使人從海上至北京，賄賂京中權貴，以致元朝廷決定對方國珍進行招撫，並授以官職。
劉基此時還被蒙在鼓裏，正布置出兵呢，朝廷竟然令下，說他擅作威福，奪去兵權不算，還把他羈留在紹興。劉基一怒之下，遂辭官回了青田老家。