中国铁路工程总公司正式成立前大体经历了工程总局
设计局和基建局、基建总局至"文革"初期、军管会及交通部、恢复铁道部至80年代四个时期，即：
一、铁道部工程总局、设计局和基建局时期（1950－1957）
二、铁道部基建总局至“文革”初期（1958－1967）
三、军管会及交通部时期（1967－1975）
四、恢复铁道部至80年代（1975－1989）
1988年，国家机构编制管理委员会批准《铁道部“三定”方案》，铁道部自1989年7月1日起，撤销铁道部基本建设总局，正式成立中国铁路工程总公司，其性质是铁道部领导下的自主经营、独立核算、自负盈亏、具有法人资格的全民所有制企业。中国铁路工程总公司管辖原基建总局的全部所属单位，即：第一至第五工程局，大桥、隧道、建厂、电气化工程局，第一至第四勘测设计院、专业设计院、山海关、沈阳、宝鸡桥梁厂和宝鸡、武汉工程机械厂、武汉工程机械研究所、咸阳基建干部学院和石家庄党校等单位。直属单位主要有华铁工程咨询公司、北京燕丰饭店、秦皇宾馆、
技术服务中心、物探研究实验中心、中国铁路工程机械租赁中心、广州、上海联络处和各个指挥部等。
2000年9月28日，中国铁路工程总公司与铁道部“正式脱钩”，领导班子移交中共中央企业工作委员会管理。同时，企业进行了重组：第一、二、三、四勘测设计院和专业设计院从总公司划出归铁道部所属，另并入丰台、成都两个桥梁厂和铁道部科学研究院所属的西南、西北分院。2003年5月国务院国有资产监督管理委员会成立后，中国铁路工程总公司整体归属国资委管理。
2003年，根据国务院国资委和铁道部深化改革的要求，企业再次进行重组。10月27日～30日，中国铁路工程总公司分别与北京、成都、昆明、郑州、济南、呼和浩特、沈阳铁路局举行交接仪式，接收了20家原铁路局所属设计施工企业，即：北京勘测设计院、太原勘测设计院、北京铁路建设集团有限公司、太原铁路建设集团有限公司、成都勘测设计院、成都铁路工程集团有限责任公司、昆明勘测设计院、昆明铁路建设集团有限责任公司、郑州铁路勘测设计院、郑州铁路建设集团有限公司、武汉铁路建设集团有限公司、西安铁路工程集团有限公司、济南铁路勘测设计咨询院有限公司、济南铁路工程集团有限责任公司、呼和浩特勘测设计院、呼和浩特铁路建设集团有限责任公司、沈阳勘测设计总院、沈阳铁路工程建设集团有限公司、锦州工程集团有限公司、吉林建设工程集团有限公司。2003年12月2日，铁道第二、第三勘察设计院回归中国铁路工程总公司。2003年12月31日，原属国资委管理的中国海外工程总公司正式加盟中国铁路工程总公司。
根据企业发展战略，总公司2003年以来对所属各成员企业进行不断调整和重组，截止2005年10月，共有40家成员企业和直属单位，其中，1家外经外贸企业：中国海外工程总公司；14家综合施工企业：中铁一局、二局、三局、四局、五局、六局、七局、八局、九局、十局、大桥局、隧道、电气化局、建工集团有限公司；6家勘察设计企业：铁道第二、第三勘察设计院，中铁工程设计咨询集团有限公司，中铁大桥、电气化、通信信号勘测设计院；3家科研开发企业：中铁西北、西南、工程机械科学研究院；4家工业制造企业：中铁山桥集团有限公司、宝桥股份有限公司、宝工集团有限公司、武汉工程机械厂；12家直属子分公司和单位：工程建设公司、上海分公司、华铁咨询有限公司、总公司海外经营开发中心、广西项目管理中心、北京中铁工地铁项目建设有限公司、华丰
房地产有限公司、知铁公司、程诚源财务服务中心、燕丰饭店、中铁咸阳管理干部学院、石家庄党校等。另有内昆、秦沈、西康西南、青藏、渝怀、贵阳、苍郁、岑梧、德商、平正、安景、大丽、北京地铁
奥运支线、岑兴、全兴等15个指挥部和项目公司。
