冯玉祥曾经对十月革命后的苏俄所表现出来的新气象表示过钦佩，但又对沙俄侵占中国领土及外蒙古受其控制不满。在冯部军营的墙上，就挂着标有沙俄侵占中国领土的地图。据冯玉祥自己所说，他是经王正廷和徐谦介绍，才得以与苏俄驻华大使加拉罕相识（后又识鲍罗廷）。加拉罕常来与他谈话，结果“越来越亲密，越谈越接近”。“我和他们说：中国的目的只是争取自由平等，谁能赞成我们达到这个目的，谁就是我们的朋友”。“于是我的思想和许多政治方面的见解也慢慢起了变化，因此我请他们二位介绍，从苏联请来三、四十位顾问……”。实际上，事情远没有这么简单。冯玉祥与苏联双方之所以能建立军政关系，有较复杂的政治背景。
二十世纪20年代初，苏俄外交政策发生重大变化，开始与各国发展正常外交关系。于是，其外交政策中出现了旨在促进国家关系的正常交往与以输出革命为目的的俄共（布）和共产国际对外方针并存的特殊现象。这种双重政策在对华关系上也突出表现出来它在与中国进行恢复外交关系谈判之时，又出兵占领并分裂中国外蒙古。1922年8月13日，斯大林致电加拉罕，要他在同中国谈判时“不要从1919年和1920年苏俄对华外交宣言中得到指示”。这就是说，当时宣称苏俄放弃沙俄侵华所得的一些侵略权益、废除不平等条约的宣言一概不认账了。在该电中，斯大林具体地指示加拉罕要坚持使蒙古从中国分裂出去和维护在中东铁路的特权。这表明，苏联在发展与中国国家关系中，已十分露骨地暴露了其沙文主义政策，即维护两个首要战略目标，一是维护中东铁路侵略权益，为此，它努力发展与奉系军对抗的军事力量，用来遏制日本在东北势力的膨胀；二是分裂并占领蒙古。为此，它努力发展与蒙、俄相连地区地方军事实力派的关系，以保证其安全。
当时，直、奉二系矛盾开始尖锐，苏俄之所以千方百计与吴佩孚拉关系的目的也在于此。北京政变后，冯玉祥及国民军恰好是苏联实施上述政策的最好人选。
早在1923年，苏联就开始注意冯玉祥。加拉罕想通过徐谦及马伯援与冯建立关系。不久，加拉罕通过王正廷及徐谦与冯玉祥相识。并频繁接触。一个叫鲍维尔的人充当了冯玉祥和加拉罕的联络员，每天晚上由冯处到苏使馆去。北京政变后，冯玉祥在10月27日与加拉罕举行了会谈。此时，冯玉祥及国民军在苏俄心中的地位已上升到首位。从1924年11月到1925年2月，加拉罕、鲍罗廷、维经斯基及国民党领导人在北京不止一次地讨论国民军与国民党和苏联的相互关系。国民党中央执委会政治局在1925年2月14日的会议专门研究如何援助胡景翼的国民军二军。苏方认为其对国民军的援助就是接近冯玉祥。同年3月13日，俄共（布）中央政治局召开会议，专门研究孙中山逝世后的中国局势，并决定给国民军提供援助，认为“用我们的经费”在洛阳和张家口建立两所“军事学校”是适宜的（为此一年拨100万卢布），向“同情国民党的中国军队”有偿提供苏式武器也是可行的，“装备是有偿的”；“可以根据对方的支付能力立即拨给加拉罕一定数量的外国武器弹药”。
1925年3月19日，俄共（布）中央政治局成立权威部门委员会，“统管”援助国民党和支持它的军事集团的日常工作。这就是直接隶属俄共（布）中央政治局的中国委员会。3月21日，苏联政府“考虑了中国同志们的意见”，“决定满足冯玉祥和其他将军的请求”，通过了援助国民军武器和弹药并派遣顾问和教官的决议。
国民军与苏联建立军政关系的过程，表面看来是胡景翼首先向苏联提出要求援助，继而冯玉祥也提出同样的要求。但实际上是苏联在仔细研究了冯玉祥及国民军之后，经过最高决策机构决定，主动向国民军提出援助的，而这个主动援助是通过李大钊、徐谦等人以建议的形式向胡、冯等人提出的。
某些论述苏联与国民军关系的专著说，苏联对其援助是“无偿的”，“充分显示了高尚的无产阶级国际主义精神”。冯玉祥也说，国民军接受苏联援助“两方均无条件”，苏联顾问“只是为帮助我们完成国民革命”。但是，事实决非如此。
1925年4月17日，俄共（布）中央政治局中国委员会召开会议，并决定苏联向国民军提供援助有下列条件：经费是有偿的，或全部用货币偿还，或部分用货币、部分用原料偿还，支付的方式和条件根据主要的政治协定确定。在冯玉祥、外蒙古和苏联之间订立三方友好互助口头协议，冯玉祥作出关于接受我们对蒙古的计划和关于他的势力范围内向外国人提供任何租界的单方面书面保证（译文如此）。
上述条款清楚地表明：苏联援助国民军不仅有民族利己主义目的，严重地伤害了中国的领土主权，而且是要付款的。由于历史的原因，冯玉祥及国民军后来没有偿还上述债务，这是另外一个问题，不能说是由“有偿”而变“无偿”的。
1925年2月，应李大钊的请求，北京的教授毛以亨去张家口通知冯玉祥，苏联有兴趣对他提供援助。冯当即让毛以自己秘书的名义回京邀请李大钊。两天后，毛陪李大钊、徐谦来到张垣，冯派副官张允荣用自己的汽车到车站迎接。经过会谈，冯玉祥向李大钊明确了要求苏联援助的内容，并派参谋长刘骥、外事处长唐悦良到北京与加拉罕会谈。3月29日，鲍罗廷应加拉罕之请由苏联驻华武官格克尔陪同来到张家口。经过谈判，冯玉祥与鲍罗廷达成了有关协定。从冯后来的言论观察，冯玉祥接受了苏联的全部条件，包括有关外蒙古问题的条款。他在以后的言论中不仅再也没有对苏联分裂外蒙古不满的表示，反而说：“……蒙藏脱离中国而独立，固然各有其政治背景但我国的政治未上轨道，不足以获得人民的信赖，却是主要因素”；是“中国没有真正人民政府的缘故”。这些言论大体上和苏联当时在外蒙古问题上的宣传口径是一致的。
1925年5月29日，俄共（布）中央政治局中国委员会召开会议，听取了有关中国工作的报告，并决定在中国设置3个军事顾问组，即南方广州一个，北方冯玉祥和岳维峻处各一个；在张家口和开封各建一所“黄埔式的军政学校”；给冯玉祥部4000支步枪和400万发子弹（已在途中），在适当的情况下我们可以拨出带炮弹的大炮12门，带子弹、子弹带的机枪40挺，准备给冯玉祥1000部机器（似为军刀）和500支矛、2--3辆小坦克，并由苏方负责运抵张家口；但拒绝向冯提供大功率无线电台。5月底，以任江（普持纳）为首的苏联顾问团到达张家口。
冯玉祥在此时接近苏联及接受苏联的军事援助，绝不是出于意识形态上的原因，其中很大程度上有从地缘政治考虑的实用主义目的。国民军地处西北内陆，补充军火只能从相邻的苏联想办法。此外，从苏联进口军火不用付现款，这对军费匮乏的冯玉祥更是求之不得。对胡景翼而言，也是如此。所以，冯玉祥等接受苏联援助绝不是他“进步”的标志与结果，是与孙中山的“联俄”有一定区别的。1925年4月14日，他在决定接受苏联援助后不久，还在对团营长的讲话中说“俄国之共产党，将全国皇族、官僚、军阀、警察、大地主，杀去甚多。现在我国阔人闻之，无不胆寒心惊。以中国之现势论，当局者再不觉悟，吾恐造共产党者，如今之政府也。……现在此种阶级制度，即是造共产党之机会。一旦民众明白，既不好收拾矣……”。4月27日，他在另一次讲话中再次说：“中国社会虽无阶级之名，却有阶级之实……如不改革，恐非为共产党造机会不可。”他具有强烈的反共意识，始终对苏联顾问存有戒心，深恐他们传播共产主义思想。因此，苏联顾问对在冯部开展政治工作的效果不满，他们抱怨说：“冯在军中对政治工作严加限制，只是在需要和符合冯的利益时才许可”，“实际效果与我们预期的目的还有很大距离”；“我们的希望就像肥皂泡破灭了”。
奉系军阀出版的《苏联阴谋文证汇编》一书中有大量的伪造材料，但是，其中有关苏联顾问对冯玉祥的看法仍然可供参考。如该书国民军事类（机要卷），致尼古拉莱耶夫信中说：“冯玉祥究竟是否为有利于吾方工作之政治人物可作两种之评断：一、冯氏为关系中国各种运动事件之有坚持主义者，为中国北部举行反抗帝国主义之国民革命运动之表现者。二、或为普通之军阀，因情事及所占地盘关系必须暂时为有利于苏联之动作……”；“事实方面可以对于冯氏为良好判断之资料吾人殊感缺乏，相反之一面颇多。如：一、冯氏既往政治态度反复无常；二、冯氏对国民党关系之游移不定，国民党虽竭力迁就容纳，实际上并非加入党籍，即彼左右亲近之人亦无一国民党籍者，尤为显著事实。三、公开拒绝于军队中实行政治运动。四、冯氏与福建、浙江两省联盟，而该两省至今仍为广东政府之仇敌。五、帝国主义之趋向，甲、军队中宣传之性质在‘国耻地图’注明应予退还中国之土地，有后贝加尔、阿穆尔省及海参崴等省者，乙、报端常载有冯氏与张氏协商之消息，尤以攫占外蒙古消息最为要；丙、拒绝承认外蒙之独立。六、冯氏对美国显明之感情（对美国传教士特加保护、尤足表示）。”根据该书说，1925年12月2日，加拉罕在苏联大使馆的一次会议上说：“此时遽认为冯已入吾毂中未免言之于早，惟以有就我范围之象。前数日，允许在其军中渐渐输入政治工作，允许组织铁路职业联合会，并捐助铁路俱乐部一千元，允许设立陆军学校，使大学生练习陆军，且劝上海因罢工失业之前予以安置，与其演说时所持意见完全相符，至其将来能否持久不变，尚难预测……”。
国民军接受苏联军事援助，并不是冯玉祥思想发生飞跃的表现；苏联对国民军的“友好”也不完全是无产阶级国际主义的目的。苏联和冯玉祥都有自己的政治动机。苏共中央虽然对冯玉祥并不完全信任，但出于其远东总体战略需要出发（与日本对抗，侵占外蒙等），才对国民军采取了灵活的友好政策。
1925年3月至1926年7月，国民军（包括国民军二军）从苏联得到步枪38828支，日本步枪17029支，德国子弹约1200万发，7。62毫米口径步枪子弹4620万发，火炮48门，山炮12门，手榴弹一万多枚，配带子弹的机枪230挺，迫击炮18门及药品等。
这部分军火一部分是无偿的。其余是有偿的。为了接收武器，冯玉祥派副官长张允荣等人在外蒙古库伦设立办事处，负责此事。为保证安全，冯玉祥利用与外交总长王正廷的关系，任命毛以亨为中国驻苏联上乌金斯克领事，以掩护军火接收工作。
在苏联顾问的帮助下，冯玉祥的军队建立了炮兵、机枪、步兵和骑兵等学校。1925年9月底，学校的第一批学员毕业了。国民军一军接收了250名骑兵，115名炮兵，70名工兵学校毕业学员，38名毕业于高等步兵学校的军官。此外，苏联顾问还帮助国民军建立了反间谍学校，小型通讯学校；帮助建造了第一批铁甲车，培养了一批铁甲车官兵，重新装备军械修理厂，并指导生产武器弹药。苏联顾问还参加了国民军攻打天津的战役，指导修筑了南口的防御工事，并参加了南口大战。
1925年8月21日，俄共（布）中央政治局中国委员会在莫斯科召开会议，研究了有关中国的形势，认为张作霖和国民军的冲突是不可免的，苏联应同直系军阀建立联系，“并要特别注意湖北和湖南”。会议决定，苏联要“对政府（指段祺瑞政府）和国民军施加压力，以便对张作霖实行更为积极的政策（更强硬的政策）。会议决定暂时停止给冯玉祥运送武器，不接受用以苏联物资为冯玉祥组建一个旅（师团）的方案。但是，会议又认为在蒙古境内为冯玉祥“建立一支国际部队是适宜的”。此后，俄共（布）中央政治局中国委员会又在两次会议上决定帮助冯玉祥建立一支“不超过3000名骑兵的队伍”。“满足广州、冯玉祥和岳维峻提供35架飞机的申请”……“给冯玉祥6架。为飞机配备必要的飞行员……”上述决议表明苏联支援国民军最直接的战略目的是为了使其能与奉系对抗，以保护自己在中国东北的既得利益。
鉴于苏联方面在给国民军军火问题上出现了某些变化，冯玉祥于1925年9月派遣参谋长熊斌率军政代表团赴苏，考察政治、军事。代表团成员有高参邵保、秘书虞明新、秘书何其巩、学兵团第一营营长鲁崇义。与此同时，冯玉祥还送去15名军官去基辅军官学校学习。其中著名的有田德修（吉合）、王受恒、郝鹏举、石友信等。
1925年10月7日，俄共（布）中央政治局中国委员会主席温施利赫特以斯莫连采夫的名义起草一份对向国民军和广州提供物资支援计划的说明书。该说明书的第一句话就写道：“支援人民军集团（指国民军）和特别是冯玉祥集团武器装备的基本计划是考虑下列基本情况制定的；张作霖与人民军之间的冲突仍然不可避免……”；“张作霖和人民军集团目前的力量对比……远远不利于人民军”。孙传芳反奉战争爆发后，俄共（布）中央政治局中国委员会听取了温施利赫特的说明书和加拉罕等人关于中国局势的通报后，决定减少拟定的给冯玉祥及国民军武器弹药的数量。
当时，苏联方面认为“力量对比会发生有利于反奉集团的急剧变化”，要求国民军不要卷入战争；敦促孙传芳加紧进攻，以迫使张作霖把大量的兵力放在苏皖；加强对张作霖军队的瓦解工作，设法同张宗昌、李景林和其他将领建立联系，使他们离开张作霖。实际上，冯玉祥也是这么做的。
1925年10月下旬或11月初，冯玉祥鉴于国内局势的发展，提议并召开了有苏联官方人士及国民党政治局代表参加的秘密会议，会议参加者有国民军二名将领、徐谦等三名国民党人，苏联的维经斯基、其华北军事顾问团领导人沃罗宁。苏联方面认为，冯第一次建议召开这种会议“一方面是国民党政治委员会对冯及其周围的人的影响增大的结果，而另一方面，完全是由人民军与奉天之间不可避免要发生冲突的军事形势决定的”。在此次会议上，冯玉祥与苏联方面在军事问题“取得了完全一致的意见”。国民军一军参谋长刘骥拟定的“作战计划得到委员会的赞同”。在政治方面，会议决定国民军要实现与孙传芳等直隶集团的联合；在“孙传芳和肖耀南需要人民军援助时”，坚持要求他们“对社会团体和工人组织作出让步”；“无论是为了结束同奉天人的斗争，还是为了召开全国国民会议，人民军领袖们都应该主张建立临时联合政府或执政内阁”。
当时，苏联对吴佩孚的再起有错误认识，认为其“正在成为核心政治领导人物；同时，好像也成为民族运动重新爆发的中心。人民军以及冯玉祥的作用和意义正在消失。人民军、国民党、中国共产党有必要同吴佩孚建立固定的关系”；与吴佩孚“联合的结果应当是成立新的中国政府。在新政府的人员构成上，要有直隶人（指直系），北方国民党（冯玉祥）和华南（广州政府）的代表”。
但是，冯玉祥断然反对同吴佩孚进行任何接触。他认为，同孙传芳和肖耀南可以建立军事联系，但不能同吴建立这种联系。在三方秘密会议上，苏方虽然也同意了冯的观点，但仍强调“现在对吴佩孚采取任何行动，都可能是一个策略上错误的和对反奉斗争事业有害的步骤”。这次会议的召开，标志着冯玉祥及国民军与国民党和苏联关系的深入发展。
与此同时，苏联也向国民军二军、三军提供了军事援助。
胡景翼基本上是个旧军人，在当时与冯玉祥没有什么实质性的区别，与国民党合作及争取苏联援助均有一定程度的实用主义目的。但是，就个人当时思想状况来说，他比冯玉祥要更开明些。所以，胡景翼与苏联建立关系，主观上追求孙中山三大政策的成分有相当大的比重。
北京政变后的两个星期左右，李大钊和胡景翼在苏联驻华使馆进行第一次接触。这次会晤，是根据胡的要求，由李大钊安排的。在这次会谈中，胡即向李提出要求苏联帮助武器。李答应同加拉罕研究（目前还没有说明胡景翼提出要求的背景、材料）。
1924年12月底，加拉罕到开封与胡举行会谈。此后，胡景翼派刘允臣、于右任及李大钊组成的代表团在京与苏联外交人士谈判，希望苏联对他提供援助。过了一段时间，胡没等苏联政府的答复，就请求加拉罕暂时给他派一些苏联顾问。
苏联使馆决定满足胡的要求。1925年2月27日，苏联驻华武官格克尔及军事顾问布拉依洛夫斯基一行人到达郑州，帮助国民军二军拟定了与憨玉琨作战计划。战胜了憨玉琨部之后，胡景翼及他的将领高度地评价了苏联军事顾问的工作。1925年3月14日，鲍罗廷在给加拉罕一份书面报告中说，国民党中央政治局在本日举行会议，专门讨论了对胡景翼军队进行紧急援助问题，从对该问题的讨论弄清了胡景翼及所部的地位、政治态度及不利的环境，认为国民党必须立即帮助他。胡在北京的政治代表国民党中央执委会委员于右任在会上也谈了关于向胡提供物资援助和武器弹药等援助问题。会议决定加强对胡的政治工作。报告最后建议，苏联派顾问到胡部去，指导其政治工作，派军事专家建立铁甲军队。
胡景翼去世后，继任者岳维峻于4月27日致函苏联政府，请求对国民军二军“继续实行以往的政策”，请求派遣顾问并给予其他的军事援助。1925年6月21日，以格奥尔基、鲍利索维奇、斯卡洛夫（西纳尼）为首的顾问组到达开封。该顾问组由43人组成，参谋长是阿尔别尔特、杨诺维奇、拉平。从顾问组的人数及成员的素质看，苏联对国民军二军更是重视。但是，随着岳维峻政治态度的转变，苏联对国民军二军开始失望，并减少了原来计划中对它援助的军火武器数量。
岳维峻当政后，逐渐抛弃了胡景翼的政治路线，并对苏联顾问采取了疏远的态度。苏联顾问制定了工作计划，交岳审阅，即如石沉大海，无声无息了。国民党人士柏文蔚担任联合军校的校长，在开学典礼上的致辞中说，苏联是中国的朋友，她的代表还在这里参加开学仪式。岳维峻马上打断他的讲话，随后又撤除其校长的职务。不久，岳又下达了反对“赤色危险和结社自由”的命令。李大钊与苏联对国民军二军寄予的希望，随着胡的去世而落空。1926年3月初，国民军二军在河南崩溃，苏联顾问撤回北京。
孙岳的国民军三军比较腐败、保守，又没有稳定的地盘，国共两党及苏联一直未把它列入工作的重点。1925年夏天，国民军三军进驻陕西后，孙岳的政治顾问国民党人王法勤介绍苏联顾问西纳尼到西安，与三军商谈军援问题。孙岳让徐永昌与之会谈。徐永昌思想中有较强的反共意识，双方谈两次，皆不欢而散。此后，苏联派了几名顾问到三军，并给孙岳一些军火，但由于徐等人不与合作，苏联顾问无法发挥作用。孙岳本人也怕有人攻击自己同情赤党，也有意与之疏远。1926年初，孙岳出任直督并代理国民军总司令，为多得苏联武器，对苏联顾问态度曾有所好转，但仍有意与苏联保持一定距离。2月23日，苏联驻天津领事为孙岳举行一次宴会，孙却拒绝出席。他与苏联顾问弗尼利沃夫私下说，这是因为不想让敌人找到攻击自己的借口。1926年3月，随着国民军撤离天津，苏联顾问也从国民军三军撤离。他们承认在国民军二军、三军的工作成果几乎等于零。
1925年11月，随着反奉战争的爆发，国民军一军忙于战争，停止了军队内的政治工作，俱乐部也停办了。苏联顾问更多地参与军事活动。天津战争结束后，形势急转直下，苏联军事顾问与国民军一军的合作也由热变冷。
1926年初，国民军在华北的处境日益恶化。冯玉祥又一次下野躲到幕后。此时，苏联驻华人员之间（加拉罕同武官叶戈罗夫及其副手特里福诺夫及北方军事顾问团内部）就苏联援助国民军产生了严重分歧。为此，联共（布）中央政治局派以中央书记兼红军总政治部主任布勃诺夫为团长的政治局检查团来华，检查苏联对中国的工作。检查团成员有联共（布）中央委员、远东地区党委古比亚克；工会重要干部书记列晋谢；秘书隆格瓦。检查团在北京、张家口、上海、广州会见了苏联在华顾问，了解他们在华工作情况。当时，有些人向检查团报告说冯玉祥不诚实，是叛徒、骗子、丧节分子；认为他不可靠，可能背叛苏联。加拉罕为苏联援助国民军进行了辩护，但承认“对冯来说，共产党和国民党人都不是他完全信赖的人”。
关于国民军，检查团及加拉罕、叶戈罗夫都主张加强对其进行援助，只有叶戈罗夫的助手特里福诺夫持反对意见。为此，检查团在1926年2月下旬到张家口和包头。冯玉祥在包头附近农村接见了检查团。检查团看到冯玉祥生活简朴，谈话直率，对他有良好的印象，认为冯“在一定程度上接受了国民革命运动的思想”，“这是无可争议的”。布勃洛夫、加拉罕均认为，“革命阵线争取冯玉祥是值得的”，并提出了加强对冯玉祥工作的具体建议。
总之，苏联根据自己的目的改造国民军的计划未能实现。这是它对华政策失败的部分表现。这种失败是必然的。苏联在1925—1926年间对华的军援计划开支1196019卢布。（包括对广东革命政府，但大部分是给国民军，其中军政工作开支预算部分没有兑现）仅1925年4月至10月所支付的武器援助就价值460万卢布；它在此时以支持中国工人罢工名义支付的资金仅为20万卢布。这清楚地说明，苏联在对华战略中，没有全力支持无产级革命力量，而主要从民族沙文主义立场出发，支持中国军事实力派以达到维护自己国家利益的目的。
当然，苏联对国民军的援助在一定程度上增加了它的实力。所以，国民军能在南口一线抵抗奉、直、晋三系军阀的围剿达4个月之久，在客观上配合了广东国民革命军的北伐，使其成为第一次国内革命战争的重要组成部分。尽管如此，我们不能过高估计此段时间苏联援助国民军的作用。双方在此问题上均有局限性。苏方所做的一切并不全是无私的无产阶级国际主义的表现。冯玉祥及国民军的所为也不完全是政治态度发生质的变化的标志和结果。