在与蒋介石磋商大陈撤退的过程中，从1月23日起，美国政府命令第七舰队从菲律宾、日本、中国香港等地相继调遣“中途岛”号、“大黄蜂”号等5艘航空母舰、32艘驱逐舰、100余艘可供登陆的其他舰艇驶往大陈岛东南海域。美国空军第18航空队的轰炸机和第13航空队的战斗机群也到达大陈海域上空。但是艾森豪威尔总统没有下达命令，所有舰队不能采取行动。而总统只有根据台湾方面提出援助请求，才能发布命令。蒋介石还在要求美国协防金门、马祖的问题上与美国政府纠缠，使美国官员感到很不耐烦。2月4日，当顾维钧再次到美国国务院交涉时，副国务卿胡佛不客气地对他说：“大批的美国海军和空军部队已经进入战位，也许再等不了24小时了。”因为海军舰艇上没有安排轮班军官，许多人不得不连续值班。舰队司令向政府提出：如果24小时内接不到命令，他有可能将舰队撤回冲绳基地。这样，蒋只得接受了美国的建议。
7日，蒋介石发表《告海内外同胞书》，宣布“撤退大陈驻军，移至金门、马祖”。此时，蒋介石的心情是很沉重的。他也明白靠自己的力量保不住大陈，但是他的“盟友”美国人在关键时刻又一次出卖了他。强大的第七舰队游弋在台湾海峡，只是用来帮助他撤退的。没有实力，蒋只好任人摆布。
2月6日，台湾“国防部”下令实施“金刚计划”，由中美联合执行大陈地区军民总撤退行动。为了执行这个计划，蒋经国2月2日来到大陈。他的任务是巡视大陈情况，安定人心。在这个风雨飘摇的时刻，他敢于来到战区，使国民党官兵感到了一丝安慰。他在大陈的街上看望民众，表示关怀，其实他自己也很不安心，不知何时才能安排撤退。本想回台湾汇报情况，又怕自己的离去动摇军心，所以他要身先士卒，在猫耳洞和士兵共度夜晚。
7日，海上出现了美国军舰。大陈国民党军搭起浮桥，用登陆艇、舢板和机帆船接军人和民众上舰。8日上午，台湾“国防部长”俞大维、蒋介石次子蒋纬国也率领台湾舰队到达大陈，指挥撤退。撤退基本完成后，2月10日早晨，蒋经国带领部分将领、美军顾问、记者和士兵，在山顶举行最后一次升旗仪式。蒋经国表情肃穆，他心里明白：这幅青天白日旗几天后就会被解放军踩在脚下，再想回来是遥遥无期了。走到码头时，山上传来工兵爆破的声音。刘廉一在驻守大陈期间，指挥国民党士兵日夜构筑工事，山上、水际、滩头，堡垒沟壑纵横，山里也构筑了坑道和火力点。可以想象，如果解放军再次发起大陈登陆作战，其困难程度和伤亡肯定会超过一江山之战。现在的撤退，使刘廉一半年多的努力在一天之内化为乌有，他凄然说道：“费了这么多的心血，一下子什么都完了，闹了一场空。”2月13日，大陈撤退的船队全部到达台湾。
美蒋联合组织大陈撤退期间，解放军浙东前指一直密切监视。在头门山炮兵阵地，战士们可以看到海上庞大的美国军舰，美军飞机在海面上盘旋。大家头一次看到如此强大的美国舰队，心情难免紧张。军委严格按照对美帝国主义的政策，既不主动惹是生非、又不示弱的自卫原则，各部队严阵以待，但一炮未放。当发觉大陈敌人撤逃后，张爱萍司令员、王德参谋长命令部队分乘20艘船艇，在海军掩护下，于2月13日登陆大陈岛。大陈撤退后，国民党军在浙江沿海仅剩一个南麂山岛。虽然台湾方面建议将该岛与金门、马祖作为一个“岛群”来防御，但美国政府拒绝了蒋的要求。2月22日，华东空军轰炸南麂山岛。无奈之下，2月25日，国民党海军舰艇接应守岛的4000名国民党军和2000名民众撤离。2月26日，解放军登上南麂山岛。至此，浙江沿海岛屿全部解放。
国民党军撤离大陈