劉基在告老還鄉前，曾經給朱元璋提了兩條建議。當時，大將徐達已經占領元都大都，就是後來的北京，朱元璋打算以他的故鄉鳳陽做中都，同時也正謀劃集中兵力消滅元軍統帥擴廓帖木兒。
劉基說："鳳陽雖是陛下的故鄉，但這裏地理條件不好，不宜在此建都；元軍雖敗，但王保保（即擴廓帖木兒）仍然是元軍的一個潛在勢力，對他用兵應該采取審慎態度，因為他用兵靈活，輕視則易受挫。"劉基走後三個月，朱元璋深感劉基言之在理，又想到過去的歲月裏劉基的赤膽忠心，便親自下令表彰劉基的功勳，召劉基回南京。
朱元璋深惡李善長之專權，意欲廢其相位，詢問劉基相位人選。劉基對朱元璋說："善長是對建國有大功的元勳，德高望重，深得眾將愛戴，他能調和諸將，故不宜更換。"
朱元璋說："他幾次要謀害你，你為何還替他說話？我看還是你來當丞相吧。"
劉基知道在李善長等淮西集團當權的狀況下，他是站不住腳的，所以，連連辭謝說："換頂梁柱須要用大木，如用捆起的若幹細木代替，要不了多久，就會被房子壓垮的。"
朱元璋又問楊憲、汪廣洋和胡惟庸等人如何？雖然劉基與楊憲交情很好，卻沒有因此說好話。他評論說："楊憲雖有相才，但器量不夠，當宰相者要'持心如水，以義理為權衡'，萬萬不可義氣用事。"至於江廣洋，劉基說他心胸偏狹怕比楊憲還厲害。他評論胡惟庸，說胡若為相，好比駕車，他非但駕不好車，甚至會弄壞轅木。
品來論去，朱元璋最後說隻好由劉基任相了。但劉基卻一再說明自己的缺點，說他嫉惡如仇、性格偏激、脾氣急躁，受不慣繁文縟節，深恐辜負了皇上的恩典。並說目前這幾個人，實在沒有很合適的丞相人選，但天下之大，何患無才，隻要下功夫尋找，就一定能找到合適的人選。
朱元璋最終還是覺得劉基過於苛求，求全責備，沒有聽從他的勸告，任用了楊憲、江廣洋、胡惟庸為相，結果正如劉基所料，都出了問題。劉基品評他人，不以惡己者為惡，不以親己者為好，唯才是舉，深謀遠慮，洞明一切，可算得上奇才偉識。
劉基的治國理論與實踐，從為民為君的角度出發，"仁"與"法"相輔相成，重視選拔、識別人才，取得了洪武早年較為清明的政治局麵。
洪武三年，就是1370年，劉基任弘文館學士，曆史上弘文館是藏有眾多文獻圖書的地方，弘文館學士掌管校正圖籍，教授皇家貴族子弟經史。
在朱元璋給劉基的誥命中，朱元璋回顧劉基建國前的業績時說："朕親臨浙右之初，你等響應朕之正義之舉，及至朕歸京師，你等即親來輔佐。當此之時，括蒼（處州）之民尚未完全歸順，及至先生一至，浙東形勢便徹底平定下來。"言之下意，希望劉基在弘文館中進一步發揮政治影響。
同年十一月，統一中國北方之後，朱元璋論功行賞，大封功臣。劉基被封為誠意伯，授開國詡運守正文臣、資政大夫、上護軍。給予劉基極高的榮譽。