许世友这位南征北战功勋卓著的将军，率部攻克过不少城镇，但攻克像济南这样的大城，还属首例。
古城济南为国民党山东省政府和第二绥靖区司令部的所在地，全城人口突破七十万，位处津浦路、胶济路的连接点，北濒黄河，南倚泰山，地理位置奇特，历来为兵家必争之地。
如果说徐、蚌地区是国民党老巢南京的门户，而古城济南则为卫护徐州的重要堡垒。因此，攻克济南，是对敌人“固守中原”方针的沉重打击。国民党决策人士曾经宣称：“济南万一失守，不但徐州不保，国都南京势必受到严重威胁，在国际上也将带来不良影响。”早在1947年2月，我军莱芜大捷，蒋介石便深恐济南受到威胁，在李仙洲部被歼的当天午后，就匆匆忙忙飞往济南，当面交代王耀武说：“济南是战略要地，必须固守。”1948年5月，在我军横扫胶济路后，王耀武又到南京向蒋介石禀报军情，建议放弃济南，向徐州靠拢。蒋介石骂他个狗血喷头：“你身为党国要员，不从大处着眼，鼠目寸光！济南乃是山东的省会和华东战略要地，无论华东战况如何变化，济南决不可丢。若要给我丢了，我让你死无葬身之地！”王耀武碰了一鼻子灰，扫兴而归。1948年7、8月间，蒋介石又在南京召开紧急军事会议，被迫修改其防御计划，决定扩编新的“机动兵团”，加强包括济南在内的各战略城市的兵力和防御工事，妄图使我军“吃不掉”、“啃不动”，固守中原，把战争拖延下来，阻止我军过江，以作最后的垂死挣扎。
河北平山县西柏坡，一个风景秀丽的山村，那是党中央的驻地。
夜深人静，只有虫声唧唧。
军事作战室里，眼观八方、胸有韬略、身材魁梧的毛泽东同志，双手反背，正在偌大的全国军事态势图前踱着脚步。数不清的思绪，反复地交集在他的脑海里……此时，解放战争进入了夺取全国胜利的决定性阶段，我军已发展到二百八十多万人，在各个战场的战略反攻中，节节胜利，越战越强，使整个战局发生了根本性的变化，战争的主动权业已掌握在我军手中。敌人虽然在军队数量、武器装备和统治区面积、人口等方面暂时还占着优势，但是由于国民党军队在各个战场不断被歼，其总兵力已由战争开始时的四百三十万人，减少到三百六十多万人，其中能够用到第一线作战的正规军只有一百七十多万人。敌军士气低落，其统治集团内部惶惶不安，处处弥漫着惊慌和失败的情绪……经过反复思考，党中央、毛主席已看到战略决战的时机已到。在部署东北野战军组织大规模的辽沈战役的同时，命令华东野战军发起济南战役，这可以使华东、华北两大解放区连成一片，解除华东野战军后顾之忧，实行更高度的集中和更大规模的机动，会同中原野战军，与国民党军队在徐、埠地区展开新的战略决战。此时，他决心已定。济南战役作为他整个战略决战计划中的重要一幕，毛泽东已经从这个宏伟的计划中，看到了新中国的曙光。
想到这里，于是毛泽东伏案展笔，草拟了电报内容。然后传来了作战参谋，让其连夜发往华东野战军。
电报带着毛主席的厚望指出：攻克济南，时机已经成熟。此役关系甚大，必须集中华东野战军全力，以二十天至两个月左右的时间完成战役任务。此次作战目的，主要是夺取济南，其次才是歼援敌一部，但要在手段上即兵力部署上，都应以一部兵力攻济南的同时，集中大部兵力于打援、阻援方向。还明确指出：攻济部队应以山东兵团全部再加外线兵团一部组成。
华野首长研究决定：以山东兵团加上外线兵团一部，占参战兵力的百分之四十四，共约十四万人，组成攻城兵团，由许世友和谭震林同志负责；以参战兵力的百分之五十六，约十八万人，组成打援兵团，归粟裕同志指挥。
许世友接受攻城任务后，又是一个不眠之夜。没叫攻城已想攻城，真叫攻城他便马上忙碌了起来。会议围住他这个攻城总指挥开，通讯员、作战参谋等围着他转，电台围着他发，一切该动员起来的都动员了起来。
许世友这位南征北战、功勋卓著的将军，率部攻克过不少城镇，但是攻占像济南这样的大城，还是第一次。因此他不得不认真，不得不谨慎。尤其对敌情的了解，可不比山地作战那么容易。可是毕竟还是有心之人，早在他“没让攻城已想攻城”的时候，也即是胶济路西段战役后，他管辖的山东兵团便在地方党组织的帮助下，就开始了对济南守敌的一系列调查研究工作。攻克兖州后，又进一步对济南地形、敌人工事构筑、兵力分布、活动规律和内部政治情况等，作了详细的了解。因此，接受攻城这项艰巨而光荣的任务，他并不像有些人那样紧张。
济南守敌由国民党山东省政府主席、第二绥靖区司令官王耀武统辖，共有九个正规旅和六个保安旅，连同特种部队，共计十一万人。济南市区由内城、外城、商埠组成。整个守备区东自韩仓，西抵长清，南起中宫、张夏，北迄泺河、齐河。东守备区以整编第七十三师师长曹振铎辖五个旅，西守备区以整编第九十六军军长吴化文辖八个旅，另以整编第二师师长晏子风辖第五十七旅、第十九旅以及即将空运来的整编第七十四师，为总预备队。
敌防御阵地在日伪原有工事的基础上，精心改建、加固，以内城为核心，外城、商埠为基本防御地带，设置了五道防线，修筑了密集的鹿砦、铁丝网、地雷区、交通壕、护城河、碉堡群、夹壁墙等，构成总面积达六百余平方公里的永备性防御体系。同时，还囤积了大量的粮食、武器、弹药和其他物资。王耀武预言：“济南外围能守半个月，市区至少能守一个月。”曹振铎更是洋洋自得地说：“我们的工事修好了，就怕共军不敢来！”
蒋介石为了确保济南，特拟定了一个大规模的“会战计划”，即以第二绥靖区十一万人固守济南，以配置在徐州地区的三个兵团，约十七万人，随时北援，内外夹击，打败共军。
敌人的狂妄吹嘘，并不表示他的强大。然而，强攻济南这样的坚城，对我攻城兵团来说，仍是一项严重、艰巨的任务，来不得半点马虎。再说王耀武其人，在国民党队伍中受过系统教育和训练，尚可称为一名佼佼者，此人极有心计，再加上手握重兵，工事坚固，弹足粮丰。对我军来说任何麻痹轻敌的思想，都会给战役行动造成不应有的损失。作为攻城总指挥，许世友力排众议，决定攻城前，亲临实地侦察，以便做到知己知彼，百战不殆。
话说这天清晨，冉冉升起的太阳给大地抹上了一层淡淡的金黄色，晨曦把笼罩在天地间的灰褐色帷幕拉开。通往济南城门的大道上驰来了一架菜车。车老板坐在辕马侧后，扬鞭催马，精神抖擞。他头扎羊肚子毛巾，身穿粗蓝布对襟小褂，下身也是深蓝筒裤，脚蹬黑色宽脸布鞋。衣着破旧，肩头和膝盖上都打了补丁。此人红脸膛，浓眉豹眼，那眼睛格外有神。车后还有两位押车卸菜的伙计。他们穿戴都和车老板相差无几。一群群麻雀在路旁时起时落找食吃。路上的行人不多。
马车在大道上奔驰着。车把式一个鞭花在空中放响，马蹄哒哒，铜铃叮咚，清新悦耳。话说这车老板正是威震敌胆的将军许世友。今天他和两个主攻兵团的团长，化装进城侦察。有人说许世友打仗心细，犹如姑娘绣花，单说将军去侦察，在中外战史上也是空前少有。许世友又扬鞭催马，“叭！”一个鞭花，在空中炸响，打破了清晨的寂静。车子飞颠起来，不一会儿，便到了城门。
“干什么的？”城楼上持枪的哨兵出来盘问。
“你没长眼吗？我们给国军送萝卜来了！”许世友不紧不慢地答道，“假若你们不吃，我们就拉回去了。”
两名哨兵下得城楼，认真地检查了车上，又认真地审视了车老板，认为无疑，方下了通行令：“进去吧。”
许世友还真有心计，天下人谁还不吃菜？就这样许世友和他的伙计，连闯三门四关，哄得敌人高高兴兴，最后完成任务而归。
将军在决战前夕，不顾个人安危，去编织对部下的爱和对祖国的诚。所以有人说，“跟着许司令去打仗，情况明，决心大，不打糊涂仗，叫人痛快！”虽是一句平淡之言，却道出了战士的心声和对将军的爱戴之情。
许世友胜利回到前线指挥部，这时通讯员又把一封周恩来的加急电报呈送到他面前。向来以“稳健求实”著称的周副主席的音容笑貌又显现在他的眼前。“攻克济南，此役关系重大，正确的决心，来源于对敌情的周密侦察……攻打济南，既不同于打潍县，也不同于打兖州，这是我军第一次攻打坚固设防的大城市。打好这一仗，既有很大的军事意义，又有重要的政治意义。”
许世友展读到这里，当初那些帝国主义的预言家的言论又回响在他的耳旁。那些预言家曾嘲笑我军将在深沟高垒的现代化城防工事面前碰壁，就连我们的一些朋友，对我军是否有能力攻克国民党的一切坚固设防的城池，进而彻底摧毁蒋家王朝，也曾持怀疑态度。因此，敢不敢打济南这样的大城市，就成了对我军的严峻考验，在国际、国内都将产生极大的影响。
为了攻克济南，在攻城部署上，许世友提出了把攻城兵团分为东、西两个集团，夹击对攻。西线集团为主攻，东线集团为助攻。在攻城战术上，采用“牛刀子战术”。这个口号好懂好记。何为“牛刀子战术”？常言说，打蛇要打七寸，杀牛要杀要害。济南工事强固，纵深长，明碉暗堡成千上万。因此，在攻济战役中，强调打敌要害，集中兵力、火力，杀开一条血路，钻进去打，像一把锋利的尖刀，直插敌人的心脏。因此他又强调东西对攻，不要在下面明确主攻助攻，通通都是主攻。关于真正的主攻，只要指挥员做到心中有数。这样，恰能一举打乱敌人的部署，击破敌人的顽抗，把王耀武部十一万人全歼于济南古城。
此外，由于济南守敌兵力众多，为了能顺利突破敌人设置的多道防线，粉碎敌人的顽抗，许世友又特别强调树立连续作战的思想，对敌人实施不停顿的攻击。在总结潍县战役等攻坚作战经验的基础上，研究确定各部队根据外围、攻城等不同的任务，轮番使用兵力。同时，贯彻连续战斗准备的原则，边打边侦察，边打边准备，边打边组织，边打边补充，边打边教育，始终保持突击部队的锐气和有生力量，越战越强，后劲不衰。
战役发起前的准备工作是紧张的，但一切都在有条不紊地进行着。攻城兵团集中了一二个月的时间，开展了新式整军运动，同时进行了形势、任务和纪律教育。许世友作为攻城总指挥，还在百忙中抽出时间，到主攻单位亲自作战前动员。提出了“打到济南府，活捉王耀武”的口号，成了参战部队的共同誓言。部队战前练兵热火朝天，阳光下，刺刀闪闪，杀声阵阵。各部队充分发扬军事民主，针对济南城防的特点，专题研究了如何打掉夹壁墙，如何通过积水较深的外壕，如何登上高大的城墙，如何搞好步炮协同等等。同时，各部队还按照各单位的任务和专长，模拟济南的地形和工事，进行实打实的分工训练，有的专练扫外围，有的专练攻城，有的专练巷战。这样的分工，一直分到营连。
士气高昂的部队，如弦上箭、膛中弹，拉开架势，只待一声令下。
蒋介石迫不及待电告王耀武，再三声称济南万不可失，严令其“将阵地缩短，坚守待援”。殊不知这是一张空头支票。
1948年9月16日，在中国的历史上这是一个难忘的日子。
入夜，在天空里被灰白色的云块所掩蔽住了的月亮，渐渐突出云块的包围，露出自己皎洁的玉面来。云块如战败了的敌人似的，软绵无力地四下消散了，将偌大的蔚蓝的天空，完全交与月亮，让它向着大地散发着胜利的光明的微笑。高大古老的济南城墙，在月光下更显得陡峭森严。
半夜子时，三发红色信号弹升入夜空。霎时间我各路纵队炮火齐鸣，杀声震天。攻克济南的战斗打响了。
总攻开始后，我东、西线集团密切配合，在我猛烈的炮火掩护下，利用夜暗，从东、西两翼同时进击，像一把巨大的铁钳，把济南之敌紧紧钳住了。
且说我主攻的西线集团，犹如一把利剑直插敌人心脏。他们在开进途中，先与敌遭遇，歼敌一部后，直扑长清一线，威逼敌飞机场。这时，守城司令官王耀武如梦方醒。原来，我军在战役发起前，为了隐蔽战役企图，迷惑敌人，华东野战军在苏豫皖各纵及苏北兵团，推迟了北上打援、助援的时间，与位于鲁西南的部队，布成夹击徐州的态势，并以主力一部及地方武装袭扰徐州机场，破坏周围铁路。王耀武错误地判断我军将先攻徐州，后夺济南。王耀武原先要求调驻徐州附近的整编第八十三师空运济南增援。在空运一个旅后，徐州“剿总”司令官刘峙借故停运，以保徐州。当我军攻城和打援部队分别按预定意图展开行动，攻城兵团已包围济南时，王耀武尚判断我方的企图在于围济打援，对济南可能长围久困，如东北战场对长春、沈阳所采取的战法一样，未必真攻。直到我军以突然勇猛动作，一举多路突破济南外围防线后，王耀武头脑才真正清醒。他发现济南西郊我大军云集，先是判断我军主力在西，唯恐飞机场被共军攻占，斩断济南内外联系的唯一通道，一面严令西守备区各部加强防守，一面连夜派预备队第十九旅和第五十七旅向机场西南古城驰援。
再说我助攻东线集团九纵，在下达作战任务时，把“助攻”改为“主攻”。要求所属部队发挥主动积极的战斗精神，全力以赴协同西线集团作战。战斗一发起，他们以迅雷不及掩耳之势，首战茂岭山、砚池山告捷。茂岭山、砚池山突兀而立，双峰对峙，共扼济南东郊门户。敌人极重视这两座山头的防守，除设置了大量明碉暗堡以外，特地环绕茂岭山主峰开挖堑壕，以混凝土和石块砌成盖沟式的夹壁墙工事。据战俘供称，夹壁墙工事修成后，王耀武曾经组织部队从山下用大炮试射三发，以示其坚。我二十五师七十四团以主力两个营突击茂岭山，经两个小时激战，胜利攻占主峰。天亮后，砚池山亦为九纵另一部攻克。
敌人以为至少能坚守半个月之久的茂岭山、砚池山阵地，仅经一夜战斗就被我军攻破的消息，震撼着整个敌人营垒，引起王耀武的极大惊恐。这两座山头一失，敌人在东郊就无险可守了。济南守敌高级将领献策会议开了一半就停下了，被这个震惊的消息搞得乱哄哄的。有的说：“茂岭山、砚池山的阵地那样坚不可摧，怎么一夜就丢掉了呢？丢了这两座山，整个济南就有瓦解的危险！”有的说：“共军主力可能在东，要加强东区防备，不可大意！”还有的说：“丢了这两座山，得追究责任，当事人要绳以党纪国法！”……会议再也开不下去了。王耀武恼羞成怒，亲自下令枪毙失守这两座山头的少校营长，立即执行。此时，被我打昏了头的王耀武又判断我攻城主力在东，急调西援立足未稳的第十九旅和第五十七旅，投入东线作战。弄得这两个旅的旅长，也当着士兵的面跳脚骂起了王耀武的娘：“娘的，真是白痴！什么玩艺儿，一会儿向西，一会儿向东，这座城池非丢在他们手里不可！”