美国海军再次认为F7F不适合登上航母，于是就把这款大型战斗机交给了陆战队，结果它和道格拉斯的F3D空中骑士一样出色，后者同样被认为太重且动力不足，不适合"蓝水"作业。它粗糙的逃生系统是一个腹侧打开的舱盖，以及发动机从空转到全功率有一个15秒的延迟，使其在航母上起降极不安全。
后来，F3D-2随岸基VMF(N)-513中队一起飞行，并于1952年11月3日晚上由威廉.斯特拉顿(William T Stratton Jr)少校和雷达员汉斯.霍格林德(Hans Hoglind)军士长组成的机组打下了一架北朝鲜空军的雅克-15。后来指挥岘港陆战队MAG-11大队的大队长罗伯特.康利(Robert F Conely)中校于1953年1月31日干掉了1架米格-15----讽刺的是，1968年9月21日，他的儿子驾驶一架VMFA-115中队的F-4B被高射炮火击落阵亡。17年后，空中骑士被改装成电子战机，依旧服役于陆战队，并在越南战争期间提供了宝贵的服务。
在F-4服役之前，在海军和陆战队中服役最成功的就要数沃特的F-8十字军战士了。1956年1月，美国海军收到首批生产型F8U-1仅仅三个月后，就开始向陆战队提供。这使得陆战队拥有第一款配备导弹和航炮的昼间超音速战斗机，此外，后期型号还具有有限的全天候作战能力以及对地攻击能力。1965年，当海军和陆战队的中队被部署到越南时，十字军战士依旧是他们的主力战机，并且获得了"米格大师"的尊称。就算是取代它的F-4服役后，这种飞机也没有立刻退役。在对地攻击方面，自1956年以来，两个军种后都依赖A-4天鹰，不少于13支陆战队的A-4和TA-4中队参与了越南战争，并与F-4中队共同承担对地攻击任务。
陆战队VMF-451中队的F8U-2N。
1953年，当鬼怪II的各项细节要求变清晰时，陆战队正在寻找一种可以取代F8U和A4D、能够日夜执行全天候任务的飞机。他们同样还需要一种新的专用侦察机，资金上的严格限制要求陆战队只能接受由美国海军开发和资助的舰载机设计方案。
经过几次相当彻底的方向改变后，又花了4年时间才确定了详细的F-4规格。1949年，美国海军订购了麦克唐纳的后掠翼F3H恶魔(1962年海空军统一编号后改为F-3)，这也是该公司生产的唯一一款单发舰载机，它上面垃圾的西屋J40-WE-8涡喷发动机到了1956年末才通过验收，此时，麦克唐纳为F3H选择了可靠性更高的艾利逊J71-A-2发动机。在后来的F3H-2M亚型号中，它成为了美国海军第一款全导弹、全天候截击机，而且在很多方面都是F4H-1鬼怪II的起点。
98型"改进版F3H"演变成了F3H-G/H，具有恶魔般的机身和2台发动机。到了1954年9月，当两架原型机被订购后，它变成了AH-1，这是一款更大的多用途飞机，能够从新的福莱斯特级超级航母上起降。其中的一项任务就是对地攻击(由AH-1的编号可以看出)，飞机上有10个硬挂点，还有4门20 mm航炮。如此强大的挂载能力吸引了陆战队的注意力，他们尽力去争取保留其全天候以及近距离空中支援(CAS)的能力----这也是美国空军于1961年加入F-4项目时的一个主要卖点。
随着雷达拦截任务重新成为美国海军的优先事项，在1956至57年的F4H设计变更期间，美国海军面临着携带核武器和防区外导弹并在高空飞行的苏联轰炸机日益严重的威胁，因此为雷达操作员增加了第二个座位，雷声公司的麻雀III导弹(改进自F3H-2M恶魔的武器）及其Aero X-1A火控系统取代了航炮。导弹比火炮更轻，更适合远程拦截对威胁舰队的空中目标，而且由于麻雀的半主动制导系统在发射后可以自我引导，因此更易于使用，内置的航炮也让位给娇嫩的雷达。在近距离空战中，已经立项的AAM-N-7(1962年后被改为AIM-9B)响尾蛇被选为次要武器，ACF电气的AAA-4红外搜索装置安装在飞机的机鼻下方，以弥补响尾蛇引导头搜索范围的不足。
早期的麻雀导弹，这时候还叫AAM-N-6
该飞机在取消20 mm航炮后于1955年重新命名为F4H，并展现出了它的巨大潜力，部分原因是安装了通用电气J79-2发动机，每台发动机的加力推力可以达到15600磅(后期型号增加至17900磅)。
经历了一代动力不足的喷气机之后，海军陆战队终于得到了一款具有航母起降能力的战斗机，其载重量足以携带超过22000磅的弹药，以超过2马赫的速度飞行，能够拦截55000英尺高度以上的目标，并为地面部队提供全天候近距离空中支援。其早期型号的最大速度可以达到2.6马赫，但是空气摩擦产生的热量以及飞机的稳定性排除了进一步提高速度的可能性。
麦克唐纳为其新型战斗机选择了用于F3H恶魔的西屋APQ-50A雷达。起初，雷达的天线直径为24英寸，但后来被一个32英寸直径的天线所取代，配套的还有一个更大的布伦瑞克天线罩，之后被重新命名为APQ-72。它和一台APA-28连续波系统(同样来自恶魔的配置)连接在一起，将目标的信息输入AIM-7麻雀III导弹，通过APQ-72雷达的"搜索"模式将其捕获到目标的方位和距离信息传输给后者，麻雀自己的连续波跟踪器之后会锁定目标，并在发射后一直保持跟踪。