自海南、舟山相继被解放军攻克后，大陈岛便成为台湾的屏障。为了加强该岛的防务，1950年6月，成立“大陈游击指挥所”，但内部番号众多，各自为政，并没有真正的统一指挥。直到1951年，“西北王”胡宗南化名秦东昌，派驻大陈，才开始纳入正轨。胡宗南到大陈，是处在明知不可为而为的情况下，自愿请缨，戴罪立功。蒋介石“准备配合国际局势间的演变”的美梦，自然也和他若干次的旧梦一样，为现实击得粉碎。胡宗南的命运也和他上司一样，穷途末路。

    1954年5月6日，蒋介石乘“娥眉号”军舰亲自前往大陈岛视察，鼓舞士气。蒋介石刚离开大陈岛不久，解放军就一举占领鲠门、头门、田岙三岛。随后，解放军迅速在附近一江山岛的头门岛架设30余门远射程的巨炮，对蒋军造成严重的威胁。后来，解放军又出动米格15型战斗机10余架次，掩护轻重轰炸机13架次，向上下大陈岛港口设施与停泊炮艇，反复投弹轰炸。蒋军的空军因老式飞机的性能不如米格15，龟缩地面不敢迎战。与此同时，在渔山西南海面执行夜间巡航任务的太平舰，被解放军的鱼雷快艇击沉。太平舰被击沉，台湾的所谓海上优势的神话也破灭了。

    蒋经国利用这次机会，指令“救国团”发起一项建舰复仇运动。他在第一次台北“救国团”的宣誓典礼会上说：“民国三十八年大陆的失败，大家只看到军队给人家打垮了，虽然这也是事实，但是要注意，除了军队，我们的青年也被中共解除了精神武装，青年组织也被瓦解。我们感到军队的整顿非常重要，这三年以来，我们集中全力在整顿军队上，但是我们领悟到民国三十八年失败的教训，更知道打倒中共，复兴国家，还需要组织青年，团结青年，给他们一种新的教育，灌输他们新的精神。”然而，“新的教育”并没有拉住台湾的青年。后来向国民党政权挑战的，正是一群青年。

    尽管美国和台湾因朝鲜战争而“眉来眼去”，但双方的矛盾依然存在。美国出于其全球安全战略考虑，加之杜鲁门政府从未打消对蒋介石政权的反感，所以一面对台伸出援助之手，一面又不允许蒋军反攻大陆。按照杜鲁门的指示，游弋在台湾海峡的第七舰队除了负有“防止对台湾的任何进攻”的使命外，还承担着使台湾“军事中立化”的任务。

    由于有了美国武力的庇护，风雨摇曳的台湾局势初步稳定，国民党也有了安全感。于是，蒋介石把注意力转向内部，开展了筹划已久的旨在重建国民党的“改造运动”。

    国民党败退台湾后，已再无其他地方可去。党内的“危机意识”和“救亡意识”极为强烈；大陆时期的原班人马已众叛亲离，不堪任用；退台后的人员其成分也十分复杂，忠逆难辨。为了收拢和控制已经溃散的国民党残部，确立和巩固在台湾的统治地位，也必须得整顿、改造国民党。

    1950年３月，蒋介石在一次总理纪念周集会上，对两千多名中高级干部发表了“严肃诚挚”的演讲，内容主要是：（1）虚心接受大陆失败的教训；（2）不惜牺牲感情与颜面，彻底改造国民党；（3）他自己将鞠躬尽瘁，争取最后的胜利。

    据说，当时会场上的气氛十分严肃凝重，在座的国民党干部中，不少人感动得泪流满面，泣不成声。

    1950年６月美国的第七舰队进入台湾海峡，蒋介石得到了喘息的机会，随即于７月22日在国民党中央常务委员临时会议上公布了《关于实施本党改造之说明》《本党改造纲要》及《本党改造之措施及其程序》三个文件。

    ７月26日，蒋介石又在台北宾馆宣布由陈诚、张其昀、张道藩、谷正纲、郑彦芬、陈雪屏、胡建忠、袁守谦、崔书琴、谷凤翔、曾虚白、蒋经国、萧自成、沈昌焕、郭澄、连震东共16人组成“中央改造委员会”。该委员会成立后，取代了原“中央执行委员会”的职能，主持国民党的改造工作。这是改造运动的关键一步，执掌党权二十余年的陈果夫、陈立夫C.C.派被排除出中央，一批蒋系新人进入国民党中央领导核心。与此同时，另外聘请吴敬恒、居正、于右任、钮永建、丁唯汾、王宠惠、阎锡山、吴忠信、张群、吴铁城、何应钦、白崇禧、陈果夫、朱家骅、张厉生、王世杰、董显光、吴国桢等25人为“中央评议委员”，取代原“中央监察委员”，负责监督国民党的改造工作，使元老派能够得到安抚。