说起冯玉祥粮仓的建立，还有一段故事。
1926年春，冯玉祥西北军组成的国民革命军在北平南口被直系（张作霖）和奉系（吴佩孚）军阀击溃，在中共党员***的影响下，冯玉祥去苏联游历，同年9月回国，当时，他接受了***的建议，果断决定“固甘援陕，联晋图豫”的战略方针，在五原召集旧部，收拢整编部队，编为13个师，驻扎在河套地区，重新打起国民革命军旗号，举行了中外闻名的五原誓师大会，决心投入北伐，以求中华民族之解放。
冯玉祥将军率40万大军西进援甘平陕时，源于左宗堂设置粮台的渊源，又在此设粮站，建粮仓，给大部队运粮。当时三盛公是磴口县最富裕的地方，有各种买卖字号、作坊，天主教堂又是河套地区的大教堂，所以磴口县在这里设三盛公区，开始组织运粮，运的粮食主要是糜子和小麦。从1926年7月开始经磴口西进，到1927年11月才全部走出磴口，共运粮达72万斤（2400石（每石300斤)）。
冯玉祥在五原誓师后，在西进援甘平陕时，他先派修路勘察部队在前面修路搭桥，以便大军顺利西进。勘察的进军路线经过磴口时，磴口还未设立政府机构，正是冯玉祥到磴口后，根据该地的实际发展，给南京国民政府打报告，申请在此设县，1929年正式批复。县府设立在三盛公，首任县长由冯玉祥委派吴奇峰担任。
冯玉祥将军驻足磴口，高屋建瓴，从国家大局出发，建立县治，加强兵站粮仓建设，不仅保证了西北军参加北伐的需求，同时反映了冯玉祥将军严于治军，关心国家未来发展的爱国精神。
新中国成立后，该粮仓又为国家粮食储运保障民生支持重点工程做出重要贡献。它记录了磴口清朝后期至中华人民共和国成立初期100余年仓储的历史，承载了磴口粮食仓储历史民俗文化，是研究内蒙古西部地区仓储制度和粮仓建筑的宝贵实物。
2014年，县委、政府决定在原址基础上修旧如旧，对冯玉祥将军粮库进行修缮加固、重新布展，并成立了由人大田有光主任牵头，各相关部门共同参与的冯玉祥将军粮库旧址博物馆建设专项推进领导小组，具体负责工程建设。工程总投资约1000万元。其中工程修缮建设部分需投资400余万元，包括对历经沧桑的老粮库进行维修加固，恢复原始工作场景设施，以及制作院内粮仓、岗楼、门楼、粮库、食堂等。内部布展需投资500余万元，包括对历史场景的再现、粮食作物在河套地区的种植演变过程展示、三盛公地区历史沿革文史资料、近现代农耕文化展示等。目前正在进行内部布展，预计在华莱士节前，全部布展完毕，正式向游人开放。
博物馆占地5000余平米，其中建筑面积2000余平米，共分三个展区，第一展区设三层警卫岗楼，传统粮仓模型：土圆仓、草圆仓、地窖仓，第二展区交运粮的经过及与粮食有关的实物展，第三展区展示新中国成立后，粮仓的作用。
展区为南院，总面积约2800平方米，岗楼是根据三盛公粮仓岗楼遗迹，复建西北军粮仓岗楼展示主要内容，展示在一、二、三层。其中底层和二层展示西北军2—3名哨兵生活坐卧休息场景，有0大刀等武器及生活用品和睡铺。三层设一名站岗哨兵模型，全副武装。西北军士兵按照1:1比例用硅胶材料制作。
粮仓门口闸板安置1.2米高，闸板与门前地面之间放置一块桥板，为粮食入仓人行道。其余仓门闸板放置仓门旁边。
仓内散装小麦高度约1.0米左右，有两人在粮仓里面工作，一个人肩扛毛口袋，袋口向下溜下粮食，另一个人用刮板平整粮食。
该博物馆是我区首个以粮仓为布展主题的博物馆。该景点的建设，是我县打造旅游大县的又一具体举措。全国在原址上建立起来的粮食博物馆仅有两家，除了我县在建的冯玉祥粮食博物馆外，还一家是江苏的粮食博物馆。因此，该博物馆的建设，对于文化传承、文物研究、旅游体验等方面都有着特殊意义。
磴口濒临黄河，水陆码头，也是北京经绥远至西北的古道。它西接银川平原，东怀河套平原，自古是兵家重地。从清朝末年左宗棠用兵西北至收复新疆，阿拉善旗台站蒙古族兵民从磴口运送军粮和兵器及传递军情，为维护国家统一青史垂名。
该粮库建于清朝末年，当时左宗棠平定新疆在此设置了粮台，主要有三个用途：
一是平定西北收复新疆信息枢纽。设中卫至磴口暂行备站11处，传递经由鄂尔多斯的经河西走廊往返西北奏折文报
二是运送粮食军械的交通枢纽。归化城至磴口13个粮饷转运台站，接运宁夏满城和归绥的粮饷、火药、铅丸等，绥新间道，1875—1876，运粮700万斤。无损耗，是进疆最经济之道。
三是平定战乱的鼎力堡垒。清廷装备旗军武器抬枪、九节炮、长龙炮等，写清军评定西北战功卓著。
说起磴口县的设立，与著名爱国将领冯玉祥有着紧密的联系。1926年9月，冯玉祥将军在五原成功誓师后，听从共产党人***等同志的建议，决定南下“平甘援陕，联晋图豫”，率部参加北伐战争。他在五原将部队派遣完毕后，乘车经磴口赶往部队驻队，因车辆需要维修，就在三盛公打尖休息修理车辆。在休息期间，召见了三盛公天主教堂的神甫、修女们进行座谈。因天色渐晚，在水旱码头的老磴口还住了一宿。当晚，他召集当地的汉、蒙、回居民讲话，宣传国民革命和-，并根据磴口的地理位置，决定在磴口兵站的基础上设立县治，并行文报请国民政府批复，指定吴奇峰担任县长。这样，吴奇峰就成了磴口县第一任县长。1929年1月，国民政府正式批复同意设立磴口县，这就是磴口县的由来。
他在回忆录中写道“磴口位于黄河之边，原属阿拉善旗管辖，磴口以西，出产一种肉苁蓉，销运广东南洋一带，年达十几万元。中国地大物博，真是随处都有宝物……”。