黄伯荣1922年7月出生于广东省阳江县（今广东省阳江市）海陵岛那洋村。1951年于中山大学语言学系研究生毕业后留校任教。1954年因高等院校专业合并调入北京大学中文系任讲师。1958年至1987年，响应支援西北号召，先后任西北师范大学中文系、兰州大学中文系讲师、副教授、教授，是西北地区现代汉语学科建设的奠基人。1987年后任青岛大学中文系教授。