1934年6月6日，武昌机器厂在武昌文昌门（晚清湖北纺纱官局旧址）正式开工，招聘员工40人，经营船舶修理和建造业务，此即为武船的发端。1936—1938年上半年，共造新船10余艘，所造机动船一般在100吨左右，多为钢肋骨与木壳结构；所造最大趸船约300吨；基本为手工作业。当时主要业务是修船，仅在抗日战争撤迁之前的几个月中，就修理船只200多艘，为武汉地区的工厂、学校、机关撤迁内地提供了条件。

1939年11月，因日本侵华，武汉时局吃紧，省政府下令工厂西迁，遂搬至四川万县明镜滩周家大院，当时有员工300人。1943年1月更名湖北省万县机械厂。抗战期间环境艰难，但是工人们满怀爱国热情，积极配合第十一兵工厂赶制步枪、刺刀、迫击炮弹等武器装备支援抗日前线；还为撤迁到内地的麻织厂、造纸厂、酒精厂、炼油厂、印书馆等单位制造生产设备，发展后方生产。胜利后迁回武昌并更名为湖北机械厂。

1949年武汉解放后，政府将湖北机械厂与汉阳船舶修造厂合并；同年11月11日成立华中地区的大型造船企业——江汉船舶机械公司，划归中央管理，为国家船舶工业局的第一个直属造船厂。1952年12月，工厂被正式列为国家基本建设单位；同年12月16日工厂滑道工程破土动工，历时15个月，建成当时东亚最长的弧形结构滑道；12月4日，接中央船舶工业局通知，从1953年元旦起，江汉船舶机械公司更名为武昌造船厂。

1950年春，武船抢修了3艘驱逐舰和2艘登陆舰支援解放舟山群岛的战斗；赶制了10艘拖车式汽艇支援抗美援朝战争。1951年建造出我国第一艘61立方/时绞吸式挖泥船“洞庭号”；新造“湖北号”、“延安号”2艘武昌到汉口的过江渡轮，为武汉人民解决渡江问题增添了生力军。国民经济恢复时期，武船根据国家发展航运事业和水利建设的需要，新建船舶26艘，修理舰船85艘。

1953—1960年，在苏联专家的帮助下，武船进行了较大规模的“一期工程”和“二期工程”建设。1955年是武船在产品结构和生产组织结构上发生重大转变的一年，这一年“一期工程”陆续投入使用，较快地形成了生产能力，并开始采用苏联造船标准和分段造船法，建立健全了生产指挥和组织体系，实行了建造师负责制和质量检验制度。

通过一期工程建设，武船生产占地面积扩展到22万平方米，建立了完整的造船车间，新增的各种机械设备和新技术得到广泛应用。该厂1955年开始建造基地扫雷舰，后又建造常规动力潜艇、海上巡逻艇、丙型交通艇、海洋侦察船、打捞救生船、深潜救生艇等舰只。60年代前，工厂共新造各种舰船500余艘，职工增加到6025人，工业总产值与上缴利税平均以每年50%以上的速度递增。

1961—1980年期间，首先遭遇国民经济三年困难时期；继而又因中苏关系恶化，苏联撤走专家，中断技术支援；此后又不断受到政治运动尤其是“文化大革命”的冲击，武船生产受到很大干扰和破坏，造成严重的经济停滞。面对困难，全厂干部职工以极大的努力排除各种干扰，在曲折中不断前进，实现了内地建造现代化舰船突破千吨级的目标。

1953—1980年的28年间，武船发展成为我国内地主要的船舶建造基地，制造民用船舶近百种计633艘，涉及工程作业船、交通运输船、近海渔船等船型；同时承修舰船395艘，所修舰船均能恢复到原设计的技术要求和水平。

至1980年，武船面积扩大到80万平方米，以文昌门为中心，分布于武昌紫阳路、歌笛湖、中华路、涂家沟、杨园等处。职工人数9221人，相当于建国初的10倍，并且干部职工的思想、文化和技术素质不断提高。中共十一届三中全会后，武船坚持转换机制，深化改革，积极参与市场竞争，努力开拓多元经营，发展路子越走越宽。1985年，武船已能设计制造军用舰艇和5000吨级远洋货轮，并能设计建造各类型船舶，年造船能力为4万吨。90年代初到2000年，武船年产值以25%左右的平均速度增长。武船已成为国内设施最完整、技术最精湛的常规潜艇制造基地；民船建造技术也迈上新台阶，桥梁钢结构也成为知名品牌；企业已形成军船、民船、非船产品协调发展的经营格局。