在YJ-62型远程反舰导弹诞生前，新中国已经有一型岸舰导弹成功实现了上舰，那就是配套于051型导弹驱逐舰的“HY-1”型反舰导弹，而HY-1型岸基反舰导弹之所以能够战胜SY-1型反舰导弹，成为新中国海军第一代国产主力舰-051型导弹驱逐舰的主用弹，就在于其两倍于SY-1型反舰导弹的最大射程。而YJ-62型反舰导弹之所以能战胜YJ-83型反舰导弹成为052C型导弹驱逐舰的主用弹，正是因为同一原因。
作为中国海洋防御的最后一环，海军岸防部队在一个相当长的时间内承担着极其重要的作战任务，其首要使命就是要在尽可能远的距离上打击敌军舰艇，所以自组建以来，海军岸防部队就一直钟情于装备射程较远的重炮，例如直到1980年代中后期才将苏制152毫米和180毫米重型岸炮退役，就是看中了其30~36千米的射程优势。而早在SY-1型反舰导弹仿制工作取得初步结果的1964年，为了解决了海军岸防部队用交叉火力封锁渤海湾海上通道和应对美第七舰队对北部湾的骚扰，海军相关领导就提出了研制射程达70千米的岸舰导弹，这就是后来成为岸舰通用的HY-1型反舰导弹。同样是基于追求射程和毁伤效果，在海军水面舰艇、潜艇和空基平台大量列装YJ-81/83型反舰导弹的时代，海军岸防导弹部队仍坚持装备射程远威力大的HY系列岸舰导弹。
但进入1990年代中后期，尽管已经经过了多次改进，但HY系列岸舰导弹的潜力基本上已经挖掘殆尽，尤其是其较大的外形尺寸给部队的部署和使用带来了不小的麻烦，一辆拖车型导弹发射装置一次只能发射一枚导弹，再次发射还需要由运输/装填车对其进行再装填，这对于要求短时间火力投送密度要求较高的岸防导弹部队来说，确实是个很大的问题。而随着我国导弹研发技术的进步，新一代中远程反舰导弹的研发也被提了议事日程，最后的成果就是我们今天看到的YJ-62远程反舰导弹。
有一种说法是，从YJ-62远程反舰导弹的代号可以看出它最初是作为空射反舰导弹立项的。但这种说法值得商榷，不仅因为自YJ-8型反舰导弹成功后，海军反舰导弹项目除了沿用的SY和HY两个系列以外，新研制的反舰导弹全部采用了YJ命名，已经不再具体区别载具了。
而且在2000年前后海军航空兵的发展重点已经转向了歼击轰炸机并着手组建舰载航空兵，没有必要再重新研制一种只能由轰-6轰炸机携带的重型反舰导弹。相反，海军岸防导弹部队却亟需一型可以淘汰HY-4型岸舰导弹的重型反舰导弹，所以YJ-62远程反舰导弹在立项时仍可能是采用的陆海通用平台的思路，在具体设计方案上，可能借鉴了YJ-6和HY-4的成功经验，并汲取了1990年代国外先进反舰导弹的思路，尤其是美国BGM-109型“战斧”巡航导弹。
YJ-62远程反舰导弹的外形识别度较高，在气动外形上与“战斧”巡航导弹有一定的相似性，弹体的气动外形均选用长细比较大的圆形横截面、“一”字形大展弦比中单翼，卵形弹头、圆柱形中段、倒圆截锥体尾段和“十”字形折叠尾翼。在动力方面也采用了类似的小型涡喷发动机+固体火箭助推器。
YJ-62远程反舰导弹随着国产052C型导弹驱逐舰首舰“兰州”号一同亮相的，它的首秀可以说吸引了众多媒体的关注，对于这种在新中国海军舰载导弹发展史上独一无二的采用了圆柱型发射筒的反舰导弹展开了密集的报道和分析，但随着051D型和更为先进的055型导弹驱逐舰的亮相，舰载型的YJ-62远程反舰导弹却悄然消失了。相反，装备海军岸防部队的YJ-62型三联装导弹发射车却开始频频亮相，这实际上也是YJ-62型反舰导弹的一次正常回归。
