大别山西起湖北的应山，东经大悟、红安、麻城、罗田、英山、河南的新县、商城，至安徽的金寨、霍山、霍丘。此山古时设有十三关：即黄土关、平靖关、武胜关、九里关、大胜关、墨斗关、白河关、东黄土关、穆陵关、双庙关、长岭关、松子关、铜锣关。它横亘祖国大地中部，十三关扼南北交通咽喉，是历代兵家必争之地。在中国革命战争史上，它是著名的黄麻起义的诞生地，也是土地革命战争、抗日战争、解放战争的根据地。
大别山因何得名呢？这里流传着一则古老的神话：洪荒之世，天地浑然一体，亿万生灵被挤压在昏暗的天地之间。后来，一座大山用它的脊梁把苍天高高撑起，使天地分开，亿万生灵才获得光明。这座大山分出天和地，使天地有别，故名大别。据湖北省地质科学研究所董仁溥证实，早在20亿年前，当秦岭、祁连山、昆仑山还是一片水乡泽国时，大别山已拱起了它的脊梁。
大别山之得名还源于它是祖国南北水系的主要分水岭。
山北之水往北流，注入淮河，属于黄淮水系；山南之水往南流，注入长江，属于长江水系。如逢雨天，当我们背西面东站在黄土岭上（今河南省新田铺乡属地，即古之东黄土关），双脚跨岭南北，伸展双臂，滴在左臂之水往北，滴在右臂之水往南。这座大山分出南北水系，故名大别。
山名大别还因为古代大别山以北的中原地区为华夏氏族发祥之地，生产事业发展，文化发达，具有较高的物质文化。
而大别山以南的长江流域，相对于中原地区开发较晚，生产事业、文化水平比不上中原地区。尽管到商周之际，华夏族与长江流域各民族的融合，经济文化的交流，大别山以南的经济文化相当发达，几乎不亚于中原地区，但仍被中原地区的奴隶主及奴隶主政权顽固地视为蛮荒之地，风物别于中原。