自宋毁晋阳，潘美建太原开始，就一直承受河水泛滥之害，延汾河的城西金刚堰一带最是首当其冲——宋天圣三年（公元1025年），汾河就从这里决堤，冲入城中；明嘉靖年间，又是从这里冲垮防堤，“夺阜城门入”；而清光绪十二年（公元1886年），六月二十四日，汾河又是从这里冲决河堤，泛滥成灾。当时，阜城门虽有备，水未能入城，但是，浩淼的大水流到低洼的水西门和大南门时，洪水决门逾墙穿屋而过。太原省城半壁汪洋，变为泽国。
河水决堤
为了防治汾河水患，从北宋开始就在太原城西汾河东岸筑堤护城。
明朝则将堤坝分八个防洪堤段，分别取名为“长字段、堤字段、永字段、固字段、汾字段、泽字段、安字段、澜字段”。
这其实是一组藏头名，取每段第一字则可组成“长堤永固，汾泽安澜”句。可见太原人是多么希望这段大堤能像佛经里的护法金刚那样，有一个永久不坏之身。金刚堰的得名，准确一点说，似源出于此。
除了以上正统文化的说法，对于金刚堰得名来源民间还有另一种传说。
传说也不知是哪一代，也不知是哪一朝，一个专卖大瓷缸的商贩，来太原做买卖。这个人似乎少一个心眼，他来到太原后，也不看这里需要多少瓷缸，一个劲的往城里运。城里放不下了，他便让伙计们把大瓷缸沿着城垣的外圈摆放。
据说，从前一年的冬天，一直到第二年的夏初，整整运输了两个季节。半人多高的、黑亮黑亮的大瓷缸，从镇远门绕过城西北角，一直堆到阜城门，没有多久，太原的雨季到了。日日连阴，雨脚如麻，半月不开。很快山洪暴发，汾水猛涨。黄土修成的河坝，怎么能经得起咆哮的洪水日夜冲刷，眼看河堤就要决口，人们又要遭殃。
就在这个时候，那个卖缸人招呼他的伙计们，把沿城的大瓮都抬到快要决口的河坝处，一个连一个形成了一道大瓮筑成的河堰。这样，他还不放心，又招呼伙计们和前来帮忙的人，往大瓮里添土，从天不亮忙到了天昏黑。结果瓮缸坝刚刚筑好，汾河水便决堤咆哮而来。但是，洪水在油光瓦亮的瓮缸坝前，失去了往日的威风。卖大瓮的商贩治住了洪水，拯救了人们。后来，人们为了纪念这个不知名的卖瓮人，便给这道用瓮缸砌筑的坝堰，取名“金缸堰”。经年累月之后，“缸”被其谐音字“刚”所代替，绎演成了后来的“金刚堰”。
金刚堰段汾河大堤
无论怎样，金刚堰的得名，都表达了这一方百姓战天斗地、勇治水患的壮举。
正如传说中的汾水之神台骀一样，“分野扪参次、山川奠禹先”，牢牢锁住水患的壮志从来坚韧，正如这金刚堰一般！
而金刚堰也未让人们失望——清光绪十二年(1886年)，汾河决口，水淹入城内，而这段河堤却安然如故。又说，解放后修路时曾在此掘出瓷瓮残留物……如此等等，神乎其神！
守护下的汾河公园
上世纪五十年代，十三冶万名职工从东北富拉尔基南下太原建设太钢，在金刚堰一带建企业和宿舍区，即以为名为金刚堰，省政府建宿舍区命名为金刚里。
如今的金刚堰路，早已成为太原一条较繁忙的街道之一。街道两侧林立着银行、饭店和各种城市机构，昔日的水患连结的汾河也早已变成了水波荡漾的汾河湿地公园，彻底实现了前人的美好愿望！