德军经过精心策划和长期准备后，于1941年6月22日（星期日）3时许，出动约2000架飞机，突然袭击苏联西部66个机场，以及其他军事基地、交通枢纽和重要城市，并以数千门火炮猛烈轰击苏联西部边境地区，揭开了“巴巴罗萨”行动的序幕。
4时30分，德军北方、中央和南方3个集团军群共152个师和3个旅以装甲摩托化部队为先导，在空降部队配合下，从波罗的海-喀尔巴阡山一线约1500公里宽的正面上，分北、中、南3路向苏联发动全线进攻。
当德军发动进攻时，苏军各边防师远离防御阵地，尚在执行和平时期的日常任务，部队没有按兵力展开计划占领防御地区。因而，德军的进攻达成了突然性。德军利用空袭和空降部队破坏了苏军的通讯系统，苏军最高统帅机构无法得到有关前线准确、及时的情报，接连发出的第2和第3号命令不仅未能缓解局势，相反加剧了前线的混乱。苏军在德军优势兵力的突击下被迫退却，损失惨重。
战争第一天，苏军就损失飞机1200架，其中800余架被击毁在机场上，德国空军成功地夺得了制空权。德军装甲部队和摩托化步兵也迅速突破苏军防线，向前推进了50～60公里，边境地区的军用仓库、储备的武器装备和军需物资几乎全部落入德军之手。
德军分三路进攻，北翼由北方集团军群自东普鲁士的哥尼斯堡以东地域向陶格夫匹尔斯、普斯科夫、列宁格勒总方向实施进攻，企图消灭波罗的海沿岸地区的苏军集团，占领那里的港口和海军基地，攻取列宁格勒，与芬军会师。在波罗的海沿岸组织防御的是苏军波罗的海沿岸特别军区（苏德战争爆发的当天改编为西北方面军），辖第8、第11和第27集团军，共44万人。德军顺利突破苏军防御，至6月22日黄昏，第4装甲集群的先遣部队已前出到杜比萨河一线。截至7月10日，苏军丧失了立陶宛、拉脱维亚和俄罗斯联邦的部分领土。德军向前推进400～450公里，进逼苏联的西北重镇列宁格勒。
希特勒（右二）同德军将领研究苏德战场形势。左二为参与制定“巴巴罗萨”计划的保罗斯。德军在中路的进攻由德军中央集团军群负责，其任务是由东普鲁士的苏瓦乌基地域和波兰的华沙地域向比亚韦斯托克突出部、明斯克方向实施钳形突击，围歼苏军西方面军主力，尔后向斯摩棱斯克方向发展进攻。
苏军西方面军由德·格·巴甫洛夫大将指挥，辖第3、第10、第4和第13集团军，共62.5万人。第3、第10和第4集团军部署在边境地区的比亚韦斯托克突出部及其以南地域，缺乏足够的防御纵深，易受德军合围；第13集团军为预备队，部署在明斯克地域。直接在国境线上的部队主要担负构筑工事的任务，其余部队尚在野营或驻地进行训练。
6月22日晨，德军中央集团军群以约40个师的兵力向苏军发起猛攻。北路德军第3装甲集群同北方集团军群的第4装甲集群从东普鲁士攻入立陶宛，渡过涅曼河，对苏军西方面军右翼第3集团军构成包围之势。根据总军事委员会的第3号命令，该方面军于次日以第10集团军的机械化第6军、骑兵第6军和第3集团军的机械化第11军，对德军苏瓦乌基集团进行反突击。由于所调兵团散处各地，准备时间仓促，又缺乏必要的通信器材，未能对德军形成集中突击。苏军反突击部队损失严重，燃料、弹药消耗殆尽，被迫放弃格罗德诺，撤往新格鲁多克，从而在西北方面军和西方面军之间出现一个大缺口。
在此后的战斗中，德军有组织地步步紧逼，苏军虽投入了多个战略预备队，但未完成战略预备队的集中、展开和建立稳固的防线。到7月10日，德军几乎占领了白俄罗斯的全部领土，在西方向推进了450～600公里，斯摩棱斯克面临被德军突入的危险。
再说德军在南翼的进攻，这路进攻由龙德施泰特元帅指挥，其任务是：左路第1装甲集群和第6、第17集团军，从波兰的卢布林地域向基辅方向和第聂伯河下游实施突击，通过迂回包围阻止苏军退过第聂伯河；右路第11集团军在罗马尼亚第3和第4集团军协同下，稍后从罗马尼亚向第聂伯河下游发起进攻。
斯大林认为德军的主攻方向将是乌克兰，以夺取乌克兰的粮食、顿涅茨的煤和高加索的石油。因此，苏军在南部部署了西南方面军以及南方面军2个方面军。西南方面军由米·彼·基尔波诺斯上将指挥，编成内有第5、第6、第26、第12集团军，依次由北向南配置，在普里皮亚季沼泽地至苏罗边界北缘一线组织防御。在罗马尼亚方面是伊·弗·秋列涅夫大将指挥的南方面军，由第18、第9集团军编成，两个方面军共约86.5万人。
6月22日，德军第2装甲集群首先对苏军第5、第6集团军的接合部实施突击，打开了宽达50公里的缺口，西南方面军中路和左翼各集团军面临被德军深远包围的危险。为肃清突入之敌，基尔波诺斯指派6个机械化军和3个步兵军实施反突击。从6月23日至29日苏德两军在杜布诺、卢茨克、罗夫诺地域展开了一场战争初期规模最大的坦克遭遇战。苏军的反突击粉碎了德军在利沃夫突出部合围西南方面军主力及迅速突入基辅的计划，但因缺乏统一指挥，诸军兵种未能组织好协同动作，终于失败。随后，德军变更部署，投入精锐兵团，打破了苏军在接合部的抵抗。30日，攻占利沃夫和罗夫诺，开始向日托米尔方向实施强大突击。苏军统帅部考虑到形势的严重性，于6月30日发布命令：要求第6、第26、第12集团军7月9日前撤至科罗斯坚、沃伦斯基新城、舍佩托夫卡和普罗斯库罗夫旧边界筑垒地域一线，在那里组织坚固防御。
7月1日，右路德军第11集团军和罗马尼亚部队开始强渡普鲁特河，向德涅斯特河推进。德军虽遭到苏军预有准备的抵抗，仍于7月3日突至莫吉廖夫-波多利斯基。德军左路于7月4日占领奥斯特罗格，逼近苏军旧边界筑垒地域防线。至此，德军在南翼推进了300～350公里。
苏德战争爆发后的最初几天，从巴伦支海到芬兰湾没有发生激烈战斗。自6月底，德军挪威集团军和芬兰卡累利阿、东南集团军共21个师和3个旅，对苏军第14集团军和第7集团军右翼发起攻击。由于苏军预先有准备，最终挡住了德、芬军的进攻，打破了德军统帅部迅速占领摩尔曼斯克和破坏摩尔曼斯克铁路的计划。到7月中旬，德、芬军在向前推进25～30公里后被迫停止进攻。
从6月22日～7月9日，苏军在战争初期严重失利，损失巨大，近30个师不复存在，约70个师的人员、装备损失50%以上，3500架飞机，一半以上的燃料、弹药仓库被毁。苏军从西部边境向东和东北方向退却300～600公里。德军占领了拉脱维亚、立陶宛全境、白俄罗斯大部、乌克兰和摩尔达维亚（今摩尔多瓦）的部分领土，并进入俄罗斯联邦西部，进抵列宁格勒远接近地，威胁到斯摩棱斯克和基辅。德军也遭到自开战以来的最大打击，损失约15万人，950多架飞机，几百辆坦克，其进攻力量受到削弱，没有达到希特勒提出的消灭苏军主力的目标。