这样，陈诚便掌握了全国军事大权，可以直接秉承国民政府主席的命令，统帅陆海空军。

    陈诚被任命为参谋总长后，尚未正式宣誓就职，便遵照蒋介石的命令，通过郑州“绥靖”公署主任刘峙，指挥第五、第六两“绥靖”区的部队约十个整编师30万人，于1946年6月26日，向中原解放区李先念部发动进攻，从而点燃了全面内战的战火。

    紧接着，陈诚又调动第一“绥靖”区李默庵部、苏北“绥靖”区李延年部和第五军邱清泉部，向苏中、苏北解放区发动了大规模的进攻。他甚至扬言：“两星期解决苏北问题。”七八月间，苏中解放区部队在粟裕、谭震林的指挥下，打了个“七战七捷”，歼灭国民党6.5个旅和5个交警大队，计5万多人，而国民党军只夺得了海安等两座空城。

    1947年2月21日，陈诚晋升为陆军一级上将。可是，只过了一天，山东战场便响起了丧钟。鲁南战场的李仙洲集团于2月23日在莱芜、吐丝口间华东野战军的袋形阵地中，遭到毁灭性打击，第七十三军、四十六两军主力被解放军全歼，第二“绥靖”区副司令李仙洲被俘，胶济路西段及其两侧城镇十多处获得解放。

    在当年“双十节”的“国庆献词”中，陈诚仍宣称：“要乘机将整个共匪主力消灭，尽复失地，使共匪此次进扰为最后的一次，以便明年今日东北四千五百万同胞皆能欢欣鼓舞，同申庆祝。”此时他受命主持东北战局，然而，东北战局与陈诚的估计正好相反。经过东北解放军50余日的主动进攻，陈诚所部东北国民党军被歼6.9万人，15座城市获得解放，农安至铁岭间、锦州至山海关间的铁路均被破坏。

    1948年元旦，伴随着东北解放军冬季攻势隆隆炮声，迎来了被陈诚认为是其一生中极为黯淡的日子。解放军的攻势来得太快、太频繁。秋季攻势刚过，冬季攻势又开始了。为了稳住军心、民心，陈诚在东北大力整肃军纪，惩办了一些贪污人员，取缔了到处游荡的散兵游勇，将一些惹是生非的人员或驱逐，或监禁。东北局面似乎有些转机。接着进行军事行动，对东北解放军进行“扫荡”。

    铁岭、沈阳、新民是一个三角地带。陈诚集中了15个师的兵力，分三路向彰武、法库方向推进。在这场战斗中，陈诚与林彪——国共两军的主将，都采用了围歼的战术，结果，东北野战军达到了战役歼敌的预定目标。

    号称国民党军“五大主力”之一的新五军军长陈林达发现自己进入险境，立即给坐镇沈阳指挥的陈诚发去急电，请求从秀水河边的公主屯退守到有坚固设防的辽河西岸小镇巨流河。

    陈诚对于作为机动兵团使用的新五军，究竟应退至辽河边固守，还是应坚持现有突出位置进攻，举棋不定。他命令新六军廖耀湘部，务必于5日前抵达公主屯，与新五军会师。但此时，解放军的包围正逐步完成，新五军的退路愈来愈窄。

    1月5日，解放军开始发动冲击。两军在茫茫的雪原上厮杀了三天三夜。在激烈的战斗中，解放军始终处于主动地位。新五军终于抵挡不住解放军凌厉的攻势。它的军部和两个完整师——第43师和第195师，共2万余人被全歼，军长陈林达被俘。而负责为新五军解围的新六军，却在新五军被全歼后，才姗姗赶到。

    新五军全军覆没的消息由陈诚报告蒋介石后，蒋介石极为震惊。10日，辽河枪声未息，蒋介石便带了国防部作战次长刘斐、陆军副总司令范汉杰，由南京直飞沈阳。蒋在沈阳亲自主持召开军事会议，追查造成新五军惨败的责任。高级将领们经过一番推诿、争吵之后，陈诚只好无可奈何地表示，自己指挥无方，请求按党纪国法惩办。对于陈诚自请处分，蒋介石虽然不忍下手，但总不能不有所交待。

    于是陈诚以十二指肠溃疡出血急待治疗，去职了事。

    卸却参谋总长职务的陈诚，到上海不久遵蒋之嘱赴台养病，远离了大陆上激烈厮杀的紧张气氛，远离了物价飞涨、通货膨胀的局面，也远离了“杀陈诚以谢国人”的逼人气势。他在人生的低谷中，于台北度过了一段短暂的、平静而又惆怅的岁月。然而也就是因为陈诚在这期间与人民解放军的对抗，他成为第三号战争罪犯。