4月28日，即太原解放后的第四天，毛泽东把彭德怀从太原前线召至北平，专门研究了解决西北问题和解放兰州的方针。他指示彭德怀一方面争取用北平和平方式解决西北和兰州问题，一方面强调必须有在军事上实行战略决战消灭胡、马主力的充分准备。
华北野战军部队入陕后，敌我兵力悬殊的状况彻底改变。我军在西北的兵力由5个军猛增到13个军。彭德怀巧妙运筹，指挥这些部队，成功地在陕西宝鸡地区进行了扶眉战役，歼灭了装备精良的蒋介石嫡系主力部队胡宗南的4个军共3.3万余人。毛泽东致电嘉勉彭德怀：“打胡胜利极大，甚慰。不顾天热，乘胜举行打马战役是很好的。”
7月19日，彭德怀在陕西宝鸡县虢镇文广村召开第一野战军军以上干部扶眉战役总结大会上，发出向甘肃、向兰州进军的命令。为此，彭德怀重新调整了兰州战役作战部署：十八兵团六十二军和第一兵团第七军在西安、天水一线钳制胡宗南残部，并准备追歼南逃之敌。十九兵团(缺六十四军)为右路，由西兰公路直驱兰州；第二兵团为中路，经陇县、通渭西进，与十九兵团合歼兰州守敌；一军、二军攻占天水后，迅速抢渡洮河、黄河直捣青海。十八兵团六十二军为左路，取道陇西、临洮、临夏，向马步芳老巢西宁进攻，切断兰州守敌退路；十九兵团六十四军在海原、固原地区钳制宁夏马鸿逵匪军。
这时，毛泽东来电告诫彭德怀：“打马是一个较为严重的战役，要准备付出较大的代价，千万不可麻痹大意。”
彭德怀分析战局后认为，此时如果先解决宁夏马鸿逵集团，会造成我军进军作战的严重困难，先消灭青海马步芳集团主力则是解决西北国民党军、解放大西北的关键，所以必须着手实施兰州战役计划。野战军千里追击，边战边进，直指兰州。
我军西进途中，十九兵团于8月1日在固原任山河歼灭宁夏马鸿逵部5000余人，并留下该兵团的第六十四军在这一带担任兰州战役时的牵制、拦截“宁马”援兰敌军任务。
此时，尽管国民党与马步芳感到解放军已经构成对他们生死存亡的巨大威胁，但仍然抱有最后的幻想。国民党政府行政院长阎锡山电召胡宗南、马步芳、马鸿逵到广州，举行了所谓的“西北联防会议”，商量决战兰州之策。随后，马步芳又到台湾受到蒋介石的接见。8月19日，马步芳飞回兰州，提出“拼命保命，确保西北，破产保产，挽救危机”的“三保”方针。马步芳认为：“保住西北大局唯在于同共军决战一场，而兰州有南山屏障，黄河天险，是决战的好地方。”并大言不惭地说：“我不仅要保住兰州，而且要直下西安。”他多次发誓：“中央把西北交给了我，我要负责到底。我要亲自督师南山，抬棺而战。”
彭德怀在分析了马步芳的狂妄意图后坚定地说：“这个马步芳真是夜郎自大，他想在兰州消灭我们，好吧，咱们走着瞧，看谁把谁消灭在兰州！”
早在7月9日，毛泽东就电告彭德怀，对青海、宁夏“二马”，应区别对待，首先打击马步芳。“青马”在政治上占统治地位，在军事上也比“宁马”强大，歼灭了“青马”，即可基本解决西北问题。彭德怀根据这一指示精神，确定兰州战役的作战方针是：力争同马步芳决战于兰州，严防逃回青海，以免为今后作战带来困难，延缓西北解放。
8月4日，彭德怀下达了以歼灭“青马”为主要目标的进军兰州的作战命令：王震一兵团附十八兵团之六十二军共3个军经陇西、临洮、临夏，直捣马步芳老巢西宁；周士第十八兵团(缺六十二军)附一兵团之第七军共3个军陈兵西安、宝鸡、天水一线，遏制与进击胡宗南部，执行“钳胡”任务；十九兵团之六十四军置守固原，进占永靖，控制黄河两岸，严防马鸿逵驰援；其余部队全部用于兰州战场决战。
