新中国建立之初，水泥行业的工业基础还相当薄弱，全国仅有35家水泥厂，年产水泥66.0万吨。为适应经济发展的需要，1953年中国提出了第一个五年计划。为配合“一五计划”的实施，中国大规模引进国外水泥成套设备，先后建设了江山、贵州、柳州等十个水泥厂。同时在“一五”期间，中央政府集中人力、财力和物力、扩建和新建了一批重点水泥企业，使得水泥工业各项指标均提前和超额完成。1957年水泥产量达686.0万吨，新增水泥生产能力235.9万吨，保障了国家基本建设的需要，为新中国水泥的发展奠定了坚实基础。

中国水泥行业随着新中国的成立而逐渐萌芽，同时在新中国对工业的政策扶持和资金扶助之下，中国水泥行业迅速发展。

通过不断在国外引进水泥成套设备，中国设计部门和机械制造部门人员在借鉴国外先进设备经验的基础上，研制了国产水泥制造设备。1958年湘乡水泥厂采用了中国自主设计的第一台“华新型窑”。在这一阶段，“华新型窑”和“小屯型窑”成为中国水泥工业干、湿法发展的主导窑型，是中国水泥生产技术的里程碑。1966年，随着各地大办农田水利建设，中国掀起了地方水泥发展的高潮，到1978年地方水泥厂增加到3,400多家，地方水泥产量达到4,253.3万吨，占全国水泥总产量的65.2%，地方水泥的发展为中国农田水利建设做出了重要贡献。1978年，中国大规模的基础建设大大拉动了水泥需求，水泥市场供需矛盾逐渐突出。1979年中国国务院颁发了《关于加速发展水泥工业的报告》，提出增加对水泥工业基础建设投资。同年，五届人大七次会议决定成立建筑材料工业部水泥局，随后全国各省、自治区、直辖市相继成立了建筑材料工业局。

外国先进设备技术的引入，为中国水泥行业技术的进步奠定了基础，同时该时期出现了中国水泥工业干、湿法发展的主导窑型，以及地方水泥厂如雨后春笋般出现的现象，中国水泥行业的产能较前已有很大提升。

1984年，国家建材局在《建材工业技术政策要点》中明确提出，水泥工业要发展预分解窑新型干法，一般情况下不再扩建和新建湿法和老的干法生产线，在这一时期，中国结束了水泥的“干湿”技术之争，为中国水泥工业发展指明了方向。同一时期，中国水泥的行业的管理体制得到了健全发展，科研队伍逐步得到巩固，技术装备得到加强，水泥新标准和产品质量规范实施力度加大，为水泥工业发展奠定了发展的基础，自1985年始，国民经济高速发展，水泥市场供求紧张，中国掀起了各行各业投资兴办建材企业的热潮，经历11年的发展，1995年全国水泥产量达32,996.0万吨，满足了市场需求，结束了中国长达45年之久水泥供不应求的时期。在这一阶段，立窑水泥得到爆发性的发展，1995年立窑水泥产量达到34,891.0万吨，占水泥总产量的82.0%，成为了中国水泥工业数量的主体。2001年，中国国务院提出改革方案，重组了中国建材工业协会、水泥协会等行业中介组织，在协助企业、政府实施行业管理等方面，发挥了积极作用，实现了建材行业的管理体制新的转变。2004年，铜陵海螺企业的万吨生产线投产，成为了中国水泥发展史上的里程碑。在中国水泥高速发展期，中国水泥装备技术实现了自主创新，并拥有国际先进技术的自主知识产权。中国水泥行业凭借技术创新、成本优势和优质的管理服务，形成了日产5,000.0吨大型新型干法水泥成套装备出口和日产10,000.0吨水泥项目工程总承包，具备了在国际水泥市场竞争的优势。此时的中国水泥市场主要以国内本土大型水泥企业集团为主导，占据了全球40.0%的水泥高端市场份额。

中国政府成立官方水泥行业协会，以扶持建材行业的发展，为行业提供了规范性标准。同时该时期的中国水泥市场主要以国内本土大型水泥企业集团为主导。

为应对2008年金融危机，中国政府出资4万亿支持水泥行业，产业投资额快速增加。2009年中国水泥行业完成投资1,700.7亿元，增幅高达61.8%。在2009年期间，中国水泥新增上百条水泥生产线，市场上开始出现投资过热、产能过剩的现象。因此，2009年下半年，国务院印发了《关于抑制部分行业产能过剩和重复建设引导产业健康发展的若干意见》，明确提出严格控制新增水泥产能，对2009年9月30日前尚未开工水泥项目一律暂停建设，但这项政策并未取得成效，水泥产能持续扩张，产线逐渐增多。自2012年以来，水泥行业在供给侧结构性改革的背景下，逐步进行结构性调整，去产能与增效益已成为行业深化改革的主旋律。

中国水泥行业产能过剩问题较为严重，低效产能退出缓慢，先进产能发展速度较慢。