在中国，公元前两千多年就出现了最简单的粉碎工具——杵臼。杵臼进一步演变为公元前200～前100年的脚踏碓。这些工具运用了杠杆原理，初步具备了机械的雏形，不过，它们的粉碎动作仍是间歇的。
最早采用连续粉碎动作的粉碎机械是公元前四世纪由公输班发明的畜力磨，另一种采用连续粉碎动作的粉碎机械是辊碾，它的出现时期稍晚于磨。公元二百年之后，中国杜预等在脚踏碓和畜力磨的基础上研制出了以水力为原动力的连机水碓、连二水磨、水转连磨等，把生产效率提高到一个新的水平。这些机械除用于谷物加工外，还扩展到其他物料的粉碎作业上。
近代的粉碎机械是在蒸汽机和电动机等动力机械逐渐完善和推广之后相继创造出来的。1806年出现了用蒸汽机驱动的辊式破碎机；1858年，美国的布莱克发明了破碎岩石的颚式破碎机；1878年美国发展了具有连续破碎动作的旋回破碎机，其生产效率高于作间歇破碎动作的颚式破碎机；1895年，美国的威廉发明能耗较低的冲击式破碎机。
与此同时，粉磨机械也有了相应的发展，19世纪初期出现了用途广泛的球磨机；1870年在球磨机的基础上，发展出排料粒度均匀的棒磨机；1908年又创制出不用研磨介质的自磨机。二十世纪30～50年代，美国和德国相继研制出辊碗磨煤机、辊盘磨煤机等立轴式中速磨煤机。
这些粉碎机械的出现，大大提高了粉碎作业的功效。但是，由于各种物料的粉碎特性互有差异，不同行业对产品的粒度要求也彼此不同，于是又先后创制出按不同工作原理进行粉碎作业的多种粉碎机械，如轮碾机、振动磨、涡轮粉碎机、气流粉碎机、风扇磨煤机、砂磨机、胶体磨等。到了70年代初期，已制造出每小时产量为5000吨、最大给料直径达2000毫米的大型旋回破碎机，和可将物料磨细到粒度小于0.01微米的胶体磨。
