劉基到應天不久，就受到朱元璋的隆重接見。朱元璋用上賓之禮接待了他，又命有司修禮賢館讓他住進去。劉基見朱元璋誠心誠意，自認為遇到了明主，馬上呈上時務18策，內析內外形勢，詳陳滅元興邦、掃除澇亂的大計方針。朱元璋聽後大喜過望，當即把他留在身邊參與機密謀劃，尊稱他為"老先生""漢之張良"。
劉基長期以來的願望終於實現，他的政治軍事才幹也得以一展。於是他運籌帷幄，出謀劃策，幫助朱元璋征東平西，走南闖北，逐鹿中原，幹出了一番震天動地的事業，成了朱元璋智囊中的中心人物和忠心耿耿的謀士。甚至在他晚年將要告老還鄉之前，還不忘朱元璋帝業的鞏固。
公元1371年，朱元璋雄心勃勃，既定中都，又銳意要滅擴廓軍。劉基臨歸青田前，還上了最後一道奏章說："風陽雖帝鄉，但不是建都地。王保保不可輕視。"但是朱元璋沒有認真考慮他的奏文，倉促發兵西征，結果大敗而歸。擴廓最終逃人西北沙漠，成為邊疆禍患。事後朱元璋大悔。
劉基初到應天，在軍事戰略上為朱元璋做了兩件大事。這個時期正是朱元璋的政治、軍事勢力發展壯大的至關重要時刻。朱元璋起兵後，利用劉福通在北方抗擊無軍之際，揮兵南進，一路下滁州，取太平，占建康，攻江浙，軍事力量大增。
但是在政治上，朱元璋依然尊奉小明王韓林兒，受他的封爵，用龍鳳年號。至正二十一年元旦，就是1361年，朱元璋在南京中書省設禦座，遙拜小明王，行正且慶賀禮，文武百官齊拜，隻有劉基不拜。
朱元璋問其緣故，劉基說："他隻不過是個牧童而已，奉之何為？"劉基認為，在群雄四起之際，要成大業就必須擺脫別人的牽製，完成獨立。朱元璋聽後很是感動，後來終於廢掉了小明王韓林兒。
其時，另外有兩股勁敵。一是陳友諒，據湖廣，扼長江上遊；一是張士誠，稱霸蘇杭，占富庶之地。二者對朱元璋形成夾擊之勢，威脅很大。朱元璋決定主動出擊，打破腹背受敵的局麵。
有人主張先打張士誠，他們認為張士誠力量薄弱，距離很近，容易取勝，且江南地區物產豐富，攻占後有利軍需。朱元璋問劉基的意見，劉基卻主張首先攻滅陳友諒。他說："主公據有金陵，形勢險要，地理條件很好，但東南有張士誠，西北有陳友諒，兩人屢次為害於您。必須掃除二寇，無後顧之憂，才能北定中原。張士誠誌向狹小，隻圖保其地盤，不會有什麽作為，暫時可以不必管他；陳友諒則不同，他野心大，欲望高，是個最危險的敵人，擁有精兵巨艦，據我上遊，無時無刻不想滅掉我們。麵對這種形勢，在戰略上我們不能兩麵作戰，應當集中力量首先殲滅陳友諒。陳友諒消滅之後，張士誠勢孤力單，一舉可定。接著再北取中原，霸業可成。"
朱元璋聽後，覺得還是劉基想得全麵，於是摒棄眾議，采納他的計策。抓住勁敵，各個擊破，防止腹背受敵，成為朱元璋開創帝業的戰略方針。
劉基不但為朱元璋製定了總的戰略目標，而且在平定陳友諒的幾次大的軍事行動上，為朱元璋統一全國做出了更大的貢獻。
至正二十年閏五月，就是1360年，陳友諒攻下朱元璋的太平城後，殺死朱元璋養子朱文遜及守將花雲，在采石五通廟行殿稱帝。建國號漢，改元大義，並自命不凡，凱旋江州。隨後又約張士誠同攻應天，張士誠未允，陳友諒便自集舟師，自江州順長江引兵東下，直指應天。一路浩浩****，聲勢浩大。
消息傳來，應天震動。朱元璋慌忙召集群臣商討對策。有的說陳友諒驍勇善戰，銳不可擋，今占有江、楚、控扼長江上遊，地險而兵強，才剽而勢盛，與之爭鋒，如同以卵擊石，自取滅亡，不如就此將應天城獻給他，歸附在他的旗下；有的認為陳友諒新得太平城，氣焰正盛，莫若先退出建康，鍾山有王氣，可以據守在那裏，待其氣衰，再與之決戰；有的說陳友諒不過一麵陽漁家，刀筆小吏，要與他在建康決一死戰，萬一戰不勝，即使逃走也不遲。
朱元璋覺得都不甚好，但一時又不得妙法。他環視了一下全場，見劉基雙目炯炯，沉默不言。朱元璋見狀，知道這位軍師一定又有妙計在胸了。他連忙召劉基進入內室，問他為何一言不發。
劉基憤憤地說："先立斬主張投降及逃鍾山的人，才可以樹立正氣，消滅陳賊。"
朱元璋說："先生有何具體計策？"
劉基答道："陳友諒這次是以驕兵來戰，勞師遠襲。而我們則有了上次失守太平城的教訓，並且是以逸待勞。哪裏有打不贏的道理呢？現在我們的當務之急是敞開府庫，心懷至誠，以穩固士民之心。古代兵法說，日行300裏，奔襲敵人，即使不交戰也會潰敗。為什麽呢？是因為軍士疲勞！我們可先選擇放棄幾個地方，移走兵銀，裝成逃跑的模樣，再派人假裝投降，引誘陳友諒全速奔襲，我們卻中途設下埋伏，派兵截斷他的後路，叫他首尾難顧。後援不至，奪敵之心；設伏圍攻，亂其部署；以逸待勞，挫其銳氣，怎麽會有戰而不勝的道理！然後我們乘勝追擊，陳友諒必然拚力逃命，我們不僅能收複失地，還可以占領他的屬地。陳友諒遭此慘敗，進一步製服他就容易了。帝王之業，在此一舉，天賜良機，豈可錯過？"
此言正合朱元璋心意。然後他們密謀，先命胡大海出兵騷擾信州，牽製陳友諒後路；命常遇春、馮國勝、華高、徐達等將領各處埋伏，打算截擊。一切部署停當，朱元璋先請陳友諒的老朋友康茂才給其寫一封密信，假稱與陳友諒裏應外合，請他趕快來攻城。
陳友諒收到信後，不禁一陣暗喜："這下勝券在握了。"他急於取勝，占領建康這塊風水寶地，於是馬上發兵進攻。
朱元璋這邊也在積極準備：先在石灰山側埋伏奇兵3萬人，並拆掉江東木橋，換上鐵石結構的橋，設置水障，隻等他中計。時日既到，陳友諒果然如約，引著戰船徑直駛人一條狹窄河道。
到達江東橋時，看見橋下都是大石塊，沒有了原來的木橋。他甚為驚異，連忙用暗語聯絡，並無一人答應。這時，陳友諒方知中計，但想撤退已是遲了。
朱元璋的軍隊見陳友諒已到達江東橋，黃旗一舉，伏兵見此信號，跳躍四起，水陸夾攻。不一會，陳友諒全軍就被殺得大敗，他自己獨自跳上另一隻小船逃走了。朱元璋指揮大軍乘勝追擊，太平城失而複得，取得了保衛建康的大捷。
勝利後論攻行賞，朱元璋欲將最高級別的"克勝獎"獎給劉基。劉基認為自己隻圖懷才有遇、學有所用，不圖眼前的名利，故堅辭不受。從此之後，劉基聲名大振，人們都說他是諸葛孔明再世。