经过百次千次的练习，指战员终于学会了游泳，由“黑旋风”变成“浪里白条”。接着，进行船上训练，大家克服了晕船、呕吐、船只颠簸等困难，日夜苦练上船、下船、乘船、划船、船只操纵、堵漏、水上射击、救护等基本动作，直到掌握规律，行动自如，学会船上生活和一切操作及战斗技能为止。炮兵、通信兵、工程兵等专业技术分队，也根据各自的任务和渡江作战的特点，进行基本的技术训练。
在训练中，全体指战员积极响应各级党委的号召，广泛开展军事民主，人人献计献策，个个搞发明创造，充分发挥每个指战员的积极性、创造性。发明了用竹子、木板、葫芦、稻草、芦苇等制造的“三角救生架”、“竹竿盆”、“担架船”、“稻草圈”、“芦苇圈”等救生器材，解决了水上救护的难题。为了加快船速，缩短船只在江面上航行的时间，各部队还掀起了改造船只和改进航行方法的热潮。第二野战军有个铁路工人出身的战士，在大家的帮助下，研究制造出一种木制推进机，这种推进机安装到木船上后，成了既能隐蔽身体，又能增加航速的土轮船，不到20分钟即能渡过长江。这种土轮船经推广后，对渡江作战起了很大的作用。
在掌握基本技术的基础上，第二步进行战术演练。主要是按照船只的大小、性能，进行编队，保持航渡队形，航渡中的指挥、通讯联络、步炮协同及抢滩登陆等训练，并在与预定登陆地段相似的地形上，进行各分队、各兵种之间的综合模拟演练。第一线部队还利用已控制的江面，利用夜暗隐蔽地在长江中组织夜航。各级司令部组织干部进行沙盘作业，不断修改作战方案，统一战术思想，并设置各种复杂情况，拟制处置措施。各专业技术分队，根据各自的任务，拟制协同计划。炮兵部队根据火炮的不同种类、性能进行统一编组，明确各自的任务、射击目标、射击方法、与步兵协同的信号及弹药的消耗量、炮火准备时间等，反复演练远距离支援射击、对国民党军军舰射击及船上射击等动作。各级通信部门多次召开通信会议，讨论研究渡江作战通信保障工作的任务、特点，制定组织通信联络的原则、方法及各种规定；补充、扩建了通信分队；配发了一些新的通信装备，整修了原有的通信器材；
购置和研制了大量的、多种类型的简易信号通信器材；明确了渡江时南北两岸之间、船与船之间、排连营之间、步炮之间的通信联络方法；集训了司号员、信号观察员、手旗旗手，使之熟识和熟练使用各种通信信号和通信器材。
渡江作战和陆地作战不同，必须确立新的战术思想。为此，第二、第三野战军相继下发了《渡江战术注意事项》等指示，并组织各部队进行深入的学习与研究，使指战员牢固地树立新的战术思想：偷渡与强渡相结合，以强渡为主，船趴成一字队形前进，实施宽正面有重点的多点突破；独立自主，有进无退、不怕打乱队形、不怕打乱建制，勇往直前；途中遇国民党军军舰阻拦，由火力船与之进行近战，掩护主力船队航行；不等不靠，先靠岸先登陆，登陆后主动协同友邻迅速巩固和扩大突破地段，建立滩头阵地，接应后续部队登陆；坚决粉碎国民党军的反击，放胆向指定地点挺进，不为途中小股守军所抑留，贯穿守军纵深，截断其退路而兜歼之；边打边集结整理部队，如一时找不到直接上级，主动服从友邻上级的指挥等。
经过勤学苦练，广大指战员学会了水上作战本领，解决了渡江作战的技术、战术问题，消除了对渡江作战的恐惧心理，增强了夺取渡江作战胜利的决心和信心，为夺取渡江作战的胜利打下了牢固的军事基础。
筹集、隐蔽船只，选调、培养水手，团结、教育地方船工要取得渡江作战的胜利，首要的问题是要解决渡过长江，在无现代化航渡器材的条件下，收集足够的木船和动员地方船工参战，就成了夺取渡江作战胜利的先决条件。由于国民党军在退守江南之前，对北岸船只进行了破坏，有的被沉入江底、湖底，有的被强行拉到江南；沿江的群众和渔民、船工，因遭受国民党军的压迫，也大多逃往外地。这就给人民解放军征集船只和船工造成了很大困难，而百万大军渡江，所需船只、船工的数量又很大。
为此，全军各部队都把筹集船只，动员船工参战作为准备工作一项十分重要的工作。
早在济南战役结束后，华东野战军即派出干部去苏北等地筹划征集船只。淮海战役期间，开始在苏中、皖北动员与制造船只。
1949年1月初，各部队就派出了由政治部主任或相当一级的负责干部带队的先遣分队，奔赴长江北岸，在地方党的帮助下，负责筹集船只。各参战部队到达江边后，团以上的战斗单位都专门成立船舶筹集、管理机构，负责船只的收集、分配、管理和对船工的教育。这些机构在地方党和政府的协助下，四处走访人民群众，向他们宣传中国共产党和人民解放军的宗旨、政策，使他们了解人民解放军渡江的伟大意义，和大军渡江与他们自己的切身利害关系，号召大家支援人民解放军渡过长江去，推翻国民党的统治。
江北大部分地区，曾经是抗日战争时期的根据地和游击区，广大人民对中国共产党和人民军队有所了解。当他们得知面前的人民解放军就是当年的八路军、新四军时，立即欢欣鼓舞，情绪振奋，表示要积极支援人民解放军渡江，许多地方提出了“要船有船，要人有人”的口号，不少船主自动把隐藏起来的木船，从内河的芦苇丛中摇驶出来，献给人民解放军；有的帮解放军提供线索，将沉在江底、湖底的船只打捞起来，并修理好；有的为解放军制造新船。许多渔民、船工积极报名参战，出现了许多父亲带着儿子，哥哥带着弟弟报名的热烈场面。有的年轻小伙、姑娘，主动推迟婚期，报名参加水手队，连60岁的老船工，50多岁的老大娘都不甘落后，积极报名当船工、水手。有的甚至全家带着船一起参加突击队。
有的部队还深入到山东、河南、安徽等省和苏北老解放区筹集船只。老解放区的人民表现出更高的觉悟和积极性，他们将所有的海船、河船全部献了出来，用火车运往长江边的湖泊和内河中。全军各部队还选调了一大批识水性、会驾船的指战员充当水手。
经过努力，至4月初，第二、第三野战军共筹集运送部队渡江的船只9400余只，第一梯队军平均达500～600只。第二野战军第一梯队4个军从群众中动员的船工和从部队选调的水手共达4400余名，第三野战军仅第7、第9兵团就达7000余人，基本上满足了航渡的需要。船只和水手集中后，依船只的大小、性能，分别编组为突击、火力（护航）、运输三种船队，分配了水手，配备了军政干部，调整了火器，使每一条船都能成为一个独立的战斗单位。
人民解放军筹集的船只大多分散隐蔽在内湖、内河，距离长江北岸起渡点一般都在5公里左右，为了能在战役发起的前夕把大批船只十分隐蔽地运到起渡点，各级领导发动大家出主意想办法，发挥群众智慧，创造出开渠引水和翻坝、掘堤等办法，在不暴露战役意图和不淹溢农田的原则下，在内湖、内河与长江间开凿引河。广大指战员在地方民工的帮助下，以惊人的毅力，克服了天寒、阴雨、泥泞、工具缺乏等困难，日夜施工，挖掘了数千条引河。如第二野战军工兵部队在1．5万名民工的配合下，疏通干涸及浅水河道150公里；开挖障碍内河入江的大堤数条；堵筑大小坝15道。第三野战军第9兵团开挖河道85公里，筑坝37座，开坝8座。船只运抵江边后，为避免船只被国民党军飞机轰炸破坏，各部队还构筑了许多隐蔽船坞。仅据第三野战军工兵部队的不完全统计，构筑较大型船坞码头29座；第二野战军第16军第47师构筑小型船坞220个。使得船只在渡江前全部隐蔽在江堤后面，做到一声令下，随时即能起渡。
参加渡江作战的地方船工，大部分具有一定的阶级觉悟，但由于渡江作战存在一定的危险，加之他们缺乏军事常识，因而对参战存在不少的思想顾虑，有的担心船只被损坏，有的担心伤亡后家庭生活没有着落，还有的对渡江作战缺乏决心和信心。为了进一步提高他们的阶级觉悟，增强他们的决心和信心，保证渡江作战的胜利，各部队对他们做了许多工作，从关心他们的生活入手，以各种生动活泼，船工乐于接受的方式，对他们进行形势任务教育和阶级教育，使他们了解革命将在全国胜利的大好形势，懂得渡江作战，推翻国民党反动统治的重大意义和同船工本身的切身利益的关系。并通过对比、诉苦、开展立功运动，向他们颁发“渡江船工光荣证”，“船工立功证”等，给船工献旗献花，请会餐，部队首长亲自敬酒，表扬先进事例等，启发他们的阶级觉悟和革命荣誉感。广大指战员则以兄弟感情，热情照顾、爱护和团结他们，诚心诚意地拜船工为师，遵守船工的规矩，尊重他们的风俗习惯，使他们感受到人民军队的温暖，加深军队与船工的阶级感情，建立同舟共济、胜利渡江的思想基础。以上课、谈心等方式，对船工进行基本军事常识教育，和战士们共同进行实际演练，解决乘船部队与船工的协同配合问题，消除他们的思想顾虑。同地方党政机关一起，研究制定支前参战船工家属生活困难补助办法，船工伤亡优抚条例，船只损坏赔偿规定，使广大船工及其家属的生活和财产有保障。通过这些工作，调动了船工们的参战积极性，他们纷纷表示：“誓把大军送过江去”，“争取渡江第一船”的光荣称号。