约在公元前二十世纪中叶，游牧的希伯来人由两河流域进入巴勒斯坦，他们在和当地迦南人的斗争中逐渐定居下来。居住在死海以西山区南部的发展为犹太部落；住在巴勒斯坦土壤丰美之地的发展为以色列部落。各家族都分得了一块夺来的土地。
希伯来人为防止本民族被同化，头领亚伯兰借助于宗教的力量。他把部落神耶和华说成是万能的神，把希伯来人说成是耶和华的选民。亚伯兰还假托耶和华显灵，命他改名为亚伯拉罕——万民之父。于是，犹太教开始萌生了。
亚伯拉罕的儿子以撒娶利百加为妻，生了一对孪生子：长子叫以扫，次子叫雅各。以撒死后，雅各成了希伯来的领袖，并改名为以色列。雅各有十二个儿子，他们就是以色列十二个支派的始祖。
不久，迦南发生灾害，雅各率领各部赶着羊群和骆驼，穿越西奈沙漠，迁往埃及。生活在尼罗河附近的歌珊地区。
希伯来人在埃及迅速繁衍，从而引起埃及法老的不安。拉美西斯二世法老在位时，把两个希伯来收生婆召来，吩咐说，凡生下来的希伯来男孩一律杀掉，又吩咐老百姓，凡是以色列人生的男孩都要丢在河里；生下女孩，可以留条活命。
一家以色列人生了个男孩，没等收生婆来就把他藏了起来。三个月时，将男孩放在河边，被法老的女儿捡去收养，并给他取名摩西。摩西住在王宫里，受到良好的教育，长大后成了一个很有学问的人。
一天，摩西因打抱不平，杀了坏人。为了躲避追究，他逃到米甸，以牧羊为生。在那里，他结识了一个好友，名叫亚伦。
公元前1350年前后，摩西见希伯来人在埃及面临灭绝的危险，便与亚伦一起去找法老，要求将以色列人带出埃及。法老哪里肯依，经过一番斗争，法老终于同意了。
于是，摩西将所有的希伯来人和他们的牲畜以及所有的财产全都带出了埃及。
希伯来人的队伍一眼望不到头，也看不见尾。人们赶着羊群和骆驼，浩浩荡荡地向东北方行进着。带领他们的是一位魁梧英俊、浓眉大眼的男子汉，有着不可摧毁与战胜的英武气概。无疑的，他就是摩西了。此番，他历尽艰辛，终于把希伯来人从埃及法老的魔窟里解救出来，带领他们走向光明。
离开埃及后，走到西奈山地的时候，摩西订立了十条戒律，用以约束希伯来人，犹太教正式诞生了。这十条戒律是：1、除了上帝之外，不可信仰别的神；2、不可雕刻、跪拜和侍奉任何偶像；凡恨上帝者，由父及子孙，罪究三代；凡爱上帝守诫命者，必得上帝慈爱，直至千代；3、不可妄称耶和华上帝之名，妄称者，罪责难逃；4、第七日为圣安息日，无论在家或旅行，均不可工作。六日工作，一日休息。因为上帝在六日之内造天地海及其中万物，第七日便安息了：5、孝敬父母者，福寿绵长；6、不可杀人；7、不可奸淫；8、不可偷盗；9、不可作假见证陷害他人；10、不可贪恋别人的妻女和财物。
埃及对迦南地区的统治十分松弛，希伯来人在摩西的继承人约书亚的率领下回到迦南，在约旦河谷地及其周围山区定居下来。
约书亚死后，希伯来各部又处在混乱分裂的状态，每一部由一个士师领导。这时，海上民族腓力斯丁人侵入巴勒斯坦沿海地带，并向希伯来人居住区发动进攻。希伯来人在与外族的斗争中逐渐走向统一，犹太国家终于诞生了。
公元前十一世纪，民众会议选举扫罗为犹太民族第一个国王。定都耶路撒冷。扫罗率领一支军队同腓力斯丁人进行了英勇顽强的斗争，并取得辉煌战果，一度把以色列人从腓力斯丁人的统治下解放出来。扫罗也战死在疆场了。
扫罗死后，大卫继承王位。他统帅大军东征西战，赶走了腓力斯丁人，扩大了犹太国家的版图，并定犹太教为国教，规定了祭司等级制，犹太教进一步得到了巩固发展。从那时起，耶路撒冷被犹太人称为“大卫城”。
大卫死后，他的儿子所罗门继承王位。所罗门治国有方，招贤纳谏，赏罚分明，很得人心。他通过对外贸易、联姻结亲、订立和约等方式同周围国家建立了友好睦邻关系。他在耶路撒冷修筑了第一座圣殿，举国上下为之欢腾。
所罗门死后，他的儿子罗伯安即位，国人不堪重负，群起反抗，国家于公元前930年分裂成两个国家，北部称以色列王国，定都撒马利亚；南部称犹太国，仍定都耶路撒冷。两国常为争夺耕地和牧场进行战争，从而为外族入侵提供了便利条件。
公元前722年，两河流域北方的亚述帝国侵入以色列王国。攻陷撒马利亚，俘虏了以色列国王和臣民两万七千人，以色列变为亚述帝国的一个行省。南部犹太国虽未被消灭，继续存在一百三十六年，但已沦为亚述的附庸。
公元前605年，亚述帝国被新巴比伦所灭，新巴比伦王尼布甲尼撒二世于公元前588年率军进入巴勒斯坦，围困耶路撒冷十八个月之久，攻陷之后将耶路撒冷夷为平地，并把上万犹太人不分贵族平民俘虏到巴比伦，成了“巴比伦之囚”，犹太国灭亡了。
公元前538年，波斯人在居鲁士的领导下征服了新巴比伦。波斯人为了利用犹太人抵挡希腊人和埃及人的入侵，便让犹太俘虏返回巴勒斯坦，并帮助他们重建了耶路撒冷和圣殿。犹太教的教义、教规和礼仪等也都完善地确定下来。
波斯人委任总督统治巴勒斯坦约二百年。公元前332年，马其顿王亚历山大的铁骑开始征服巴勒斯坦，攻陷耶路撒冷后洗劫了这座古城，城内的建筑大都被摧毁，从此巴勒斯坦地区又处在希腊人的统治之下。
亚历山大死后，马其顿帝国分裂成三个王朝。以埃及为中心的托勒密王朝于公元前301年征服了巴勒斯坦，并把上万犹太人掠往亚历山大城，于是亚历山大城又成为犹太人的一个聚居地。犹太教在这里吸收了希腊文化，进一步发展了。
后来，塞硫古王朝取代托勒密王朝而统治巴勒斯坦。塞硫古统治者对犹太人实行民族压迫和宗教迫害政策，激起了犹太人的反抗。
公元前165年，犹太人在玛卡比三兄弟的带领下，高举振兴犹太教的旗帜举行起义，并建立起神权政体的“玛卡比王国”。但玛卡比王国内部的宗教派系斗争十分激烈，各派争斗的焦点是耶路撒冷圣殿的控制权。就在这种争斗的同时，公元前63年，罗马大将宠培率军攻陷了耶路撒冷，犹太人被屠杀一万二千余人，还有大批俘虏被押往罗马。
罗马把巴勒斯坦交由叙利亚总督统治。罗马统治者对犹太人征收苛重的捐税，并一再劫掠耶路撒冷圣殿及库藏，从而激起了犹太人的仇恨。
公元前53年，即罗马统治犹太十年后，犹太人发动了大起义，反抗罗马统治。这次起义虽失败了，但犹太人的反抗斗争仍未停止。公元前4至3年，乘国王希罗德死后的混乱之机，犹太人再度发动起义。起义在三个地区发生，其中一个地区的领导者是国王的奴隶。罗马统治者严厉镇压，起义城镇全被焚毁，起义者被钉在十字架上处死。
镇压并不能阻止起义的发生。继公元6年起义之后，公元66年，犹太人进行了更大规模的起义，被罗马称为“犹太战争”。起义者消灭了耶路撒冷的罗马驻军，斗争坚持了四年。直到公元70年，罗马军队才重占耶路撒冷，并开始残酷杀害起义者。
大批被俘虏的起义者都被钉死在十字架上，以至出现“没有地方再立十字架，没有十字架再钉人”的情况。除死难者外，耶路撒冷居民被卖为奴隶者达十七万人。起义虽然一再失败，但犹太人对罗马的仇恨并没有泯灭。犹太人多次举行起义，都被罗马当局残酷镇压了。犹太人一直未能摆脱苦难，犹太教也无能为力。在这种情况下，一种更能给人以精神安慰的教派出现了。这一教派笃信“救世主”将拯救犹太人，并且有许多狂热的“先知”到处宣传这种观点。
基督教就是在这种笃信“救世主”的教派的基础上，于公元一世纪在巴勒斯坦产生的。基督教的创始人叫耶稣，他的父亲是个木匠，他的母亲叫玛利亚。他成年之后开始在巴勒斯坦收徒讲道，传播基督教福音。耶稣及其十二个门徒在犹太人下层传播“福音”，主张人人平等，反对剥削压迫，组织礼拜团体一起讲道祈祷，并互相帮助救济。耶稣的传教遭到犹太上层和罗马当局的嫉恨。结果，这位基督教创始人在耶路撒冷被钉死在十字架上。
公元132—135年，犹太人再次发动大起义，但仍然逃不脱失败的命运。至此，犹太人的国家彻底灭亡了。罗马把犹太地区改名为巴勒斯坦。犹太人开始大规模地流亡出境，揭开了长达一千八百余年的犹太人大流散的历史。