随着马克思主义哲学的广泛传播，中国思想学术渐渐受其影响，唯物论辩证法不仅日益成为广大青年接受的“时髦”学说，而且大有成为中国哲学发展主流的趋势。这些是张东荪极为反感的。因为在他看来：马克思主义根本就不成其为哲学，“在我浅陋的脑中好像俄国最初根本上不要哲学，后来却又想另外造出一个新哲学来，所以我今天说到‘俄国哲学’这个名词似乎有些不妥，然而又似乎亦还说得下去。”唯物辩证法没有什么有价值的东西；它只是马克思主义者为了政治斗争的需要而制造出来的政治理论而已。他在1936年8月《我对于哲学与政治关系的看法》中说：“我以为马克思派所谓哲学并不是我们所谓的哲学，乃是两个东西。他们的哲学在我们看来可以说并不是哲学。所以他们的哲学可与政治合而为一。我们的哲学却无法办到如此。”在《十年来之哲学界》中，他又说“辩证法唯物论只是历史理论与社会理论，而不是哲学；换言之，即决不能取哲学而代之。”就是这样的一套政治理论，居然也堂而皇之地自居为“新哲学”，在中国思想界产生如此大的影响，并且登上了大学的讲台，侵入到所谓“纯粹哲学”的领域，甚至连一些学者也以讲授唯物论辩证法为“时髦”。这是一贯对马克思主义抱敌视态度的张东荪所不能理解的，也是必须起来加以批评和阻击的。
实际上，张东荪挑起了30年代著名的“唯物辩证法论战”，除了对马克思主义哲学的传播阻击、不满马克思主义者的机械应用外，更重要的原因是：有鉴于马克思主义侵入哲学界，威胁到“纯粹哲学”的生存，为了捍卫所谓“纯粹哲学”的神圣殿堂，张东荪起而阻击。他在1935年10月创办的《文史月刊》所作的《发刊词》中，对于这个原因作了集中阐发。
张东荪将西方哲学在中国的历程分为三个时代，第一个时代是用蔡元培先生所翻译的井上圆了的《姚怪学》为代表，代表那个时候中国人对于哲学的态度；第二个时代以《哲学评论》的产生为代表，标志着“中国人对于西洋哲学的认识已入了正轨。”然而不幸的是，这个时代尚未走完，便进入了第三个时代，即辩证的唯物论盛行时代。他认为“在第一个时代是中国人不知西洋哲学为何物，作了许多的误解；在第二个时代是中国人居然对于西洋哲学有了真正的认识，有了同等的研究。但很不幸，乃忽然便无端来了一个第三个时代。”在这个时代，中国人对“本以玄学（即形而上学）与名学为主干”的西洋哲学产生了怀疑：“自从马克思主义侵入了哲学界以来，不屑说玄学成了问题，即名学亦成了问题。于是整个儿的哲学都成了问题。详言之，即在以前哲学是自足的。虽则科学从哲学分出来，抢了大部分哲学的题材，然而终承认科学有及不到的地方。这个及不到的地方便是哲学的领土。科学出来，即自然科学发达了，我们可以说哲学的领域渐渐缩小，却不可以说因此把哲学的性质变化了。因为哲学虽缩小了，却未尝改易其性质。于是哲学与科学依然是对等的。但是马克思主义出来则不然。他不是把哲学缩小，从另一方面看，反可以说他把哲学扩大了。但他所扩大的却不就是我们所谓的哲学。因为他把哲学的性质从根本上改变了。虽则名称未改，而实质却与以前大不相同。”这个不同就在于，“在以前哲学无论如何变化，而哲学自身终只是哲学。迨马派一出，哲学却变为社会思想的产物了，变为代表社会上阶级利益的呼声了，变为经济的结构中自然而然所发出来的东西，好象膀胱分泌小便一样了。”即以社会的“关系”决定哲学的内容。所以，马克思主义哲学“与我们普通所谓哲学不同。”也就是把哲学的性质根本改变了。“在以前哲学好象裁判官，不论他管辖的地方大小，他总可以坐在堂上对于其下的人们宣判。现在却一转为当事人，须得听从裁判官的判决。这个裁判官就是所谓社会学（或马克思式的社会学更较得当）。所以以前哲学是自己至高无上，换言之，即是自主的，自己可以当家。现在哲学变了留声机器，人们唱甚么他方得收进甚么去。这个不同完全起于哲学本身。我实在不懂现在中国一班马迷还要高谈哲学，把哲学捧得高高儿的，而一班研究哲学的朋友亦因为他们重视哲学乃色然而喜。”正因如此，张东荪认为，目前哲学真是到了一个生死存亡的关头。“因此我个人以为马克思主义之突起于人类思想界是一件绝应注意的事。质言之，即等于一个关。若是不能渡过，则不仅哲学?哟嗽崴停雌渌呱钏枷耄ㄈ绺叩仁б焕啵┮嗤苡跋臁Ｋ哉苎У搅私裉烊词怯鲎帕艘桓瞿压亍！?
在“纯粹哲学”遇到“难关”之时，致力于研究“纯粹哲学”的人们，当然有责任捍卫“纯粹哲学的生存，”起来阻止这种“打倒我们的哲学”的马克思主义哲学。可令张东荪不满的是，当时哲学界却很少有人看到哲学所面临的这种危机；即使有人意识到了，也不敢起来批评唯物辩证法。他说：“至于我们，说起太可怜了。大约一部分人并没有看到这个问题的重要；而凡看到这个问题之为重要的人们立刻即无条件地投降了。”这样，被公认为中国“新唯心派首领”的张东荪，便率先起来挑起“唯物辩证法论战”，充当了这场论战的主将。
30年代这场著名的哲学论战，可以分为两个阶段：1931年到1934年，主要是张东荪为代表的资产阶级哲学思想与叶青为代表的假马克思主义的论战，论战的主将分别是张东荪和叶青，基本上属于资产阶级哲学内部的争论，表面上是“非难”与“捍卫”唯物辩证法之争，实际上都在程度不同地曲解和攻击马克思主义哲学。1933年到1936年，马克思主义哲学家艾思奇、邓云特（邓拓）等人参加论战，对张东荪和叶青的观点均进行了批判，而张东荪与叶青的论战也趋于白热化，“唯物辩证法论战”达到高潮。
1931年9月，张东荪在《大公报》副刊《现代思潮》上发表《我亦谈谈辩证法的唯物论》，对马克思主义哲学的基石“物质”及“物质之变化”两个核心概念进行非难。他认为，辩证唯物主义只是抛弃了霍布士一流的唯物论，而转到自然主义、实在论的经验论的进化论，“其内容毫无新颖，所有的都是欧美已经早有过的”。他指责唯物论者“主张的内容”是一种偏见，声明“我愿意诚诚恳恳向倾向俄国的人们说一句话：就是如其以感情为出发点，我们决不再多说一个字；倘使真正愿以理论与天下相见，我个人很愿意来共同分析。”向马克思主义者提出了挑战，揭开了30年代唯物辩证法论战的序幕。
而此时，中国共产党的叛徒叶青，打着“捍卫”马克思主义哲学的旗号，充当了“批判”张东荪的主角。1931年2月，叶青创办《二十世纪》，树起“批判”的旗帜，对胡适、张东荪为代表的资产阶级“纯粹哲学”进行了猛烈的抨击。在该刊第3期上，叶青发表《张东荪哲学批判》一文，开始对张东荪建立的“新哲学”体系进行了严厉的批判和驳斥。
为什么叶青要集中批判张东荪？按叶青的解释，概括起来主要有三点：第一，他认为“现在是否定之否定底时代”，是马克思主义哲学对资产阶级哲学的否定时代，这便需要树起“批判”的旗帜，对资产阶级哲学进行“否定”，而张东荪是中国资产阶级哲学的典型代表，是“中国近代哲学底系统建立人”，值得批判。对此，他说：“在哲学底否定之否定中的现实意义，在我看来，就是批判张东荪，老实说，别的近代哲学家倒还用不着。”
第二，张东荪哲学主要是在广泛接受众多的西方哲学思想流派的基础上综合而成的，在叶青看来，“举凡古代、近代和欧洲、美洲大哲学家，他都本其涉猎之广，抄起来了。所以他底哲学，恰恰是外国哲学家底篡集、近代哲学没落中的折衷论。”所以，批判张东荪，“等于批判外国底柏拉图、休谟、康德、詹姆士……乃至次焉者的摩而甘一班人了，杜威、罗素……殊不足道。并且要在中国批判观念论、二元论、折衷论，也必须批判张东荪。”
第三，张东荪是在中国介绍西方哲学的重要代表，要对西方哲学进行彻底否定，自然也不能放过张东荪。他说：“对于方兴的中国近代哲学尤其张东荪底‘新哲学’，和随他而来之外国古今底非同派的谬误哲学，不加以针对的批判，听其流行，也未免不对吧。”
如何批判张东荪？叶青自称：“讲到我所使用的方法，那完全是科学的。并且一切论据，均以科学为依归。虽则在哲学上，我是以自己所宗的去批判张东荪；但我之宗它，因为它是真理，并非为它而宗。既然我之宗它是服从真理，没有派系主义底思想，所以我底批判不出于派系底偏见，而是站在真理底立场，与错误的思想奋斗。因此，我在这里所干的，不是派系底企图而是真理底努力。”而实际上，他是用歪曲了的所谓马克思主义哲学来批判张东荪，是用自己所谓的“新物质论”“哲学消灭论”等来批判张东荪，根本没有“科学”可言，更谈不上“服从真理”。
叶青在发表《张东荪哲学批判》后，期望张东荪能够与他正面讨论，从而展开一场大规模的对张东荪哲学的批判运动。但张东荪并没有接战，因为在他看来，叶青是一个“不懂哲学而想诬蔑哲学的人”，张东荪也想“对于《二十世纪》杂志上所主张的正面议论加以检讨”，但很快便改变了主意，认为叶青的观点根本就不值一驳。所以，只是在《再生》杂志上刊载南庶熙的《与二十世纪记者谈谈哲学》并加了一个《东荪附识》，作为答复。
但张东荪并没有停止对唯物辩证法的批评。1932年，张东荪在青年会所设的读书互助会演讲会上演讲《辩证法的各种问题》。他认为马克思“不是纯从哲学来立论，他自己本人的话很少，倒是他的徒子徒孙的话居多，他的目的只在于用这一个正反合的程式于社会变化。”即“想发见一个决定论的公式以说明一切历史。”基于这种认识，张东荪对辩证法从五个方面进行诘难：
第一，辩证法是一个方法呢？还是一个行历呢？或是二者兼而有之呢？张东荪认为，柏拉图、亚里士多德都把辩证法当做一个“方法”，黑格尔将它视为一个“行历”，即“逻辑上的历程”，马克思的辩证法只是历程或行历，含有几分时间性。张东荪认为“这便是马克思误解黑格尔的所在了，亦可以说马克思把黑格尔的原义改坏了。”第二，辩证的行历是否与进化相同？张东荪指出，马克思主义者将历程视为进化的，“实在是表示他们自身的无知识”。在张东荪看来，进化与辩证是对立的，“有辩证即无进化，有进化即无辩证。”第三，辩证的现象是否普遍的？黑格尔的意思是一个思想的法则，马克思将它改为“存在”的法则。张东荪认为不是一切存在都能嵌以这样的程式。他指责马克思主义者将物理上的阳电与阴电、日与月、黑与白等视为辩证的现象，是“头脑混淆”，脑子“糊涂到万分”的标志。第四，正之后有反，是否正为因，而以反为果呢？张东荪断定：黑格尔的正反合是同时存在，没有先后，而马克思的正反合之间有前后可言。“所以黑格尔是真以辩证为行历；而马克思是辩证无名而因果律其实。”第五，辩证法自身是不是亦具有“内在的矛盾”，亦是由于有相反者相争而始生？他诘难说：“倘使辩证法不如此，则世界至少便有一个东西是不含有内的矛盾的了。则世界上至少有这个辩证法是不相反而相成的。”
张东荪认为马克思主义者对辩证法的实质并不了解，“实在是不思之甚。”因而，他非常自负地扬言：“老实说，我们若为使思想进步起见，首先便应把这些混淆的东西加以剖解。但这乃是哲学家的工作，决不是社会革命家的工作。所以别的问题我们可以不谈，而论到辩证法是甚么似乎非请教研究哲学的人们不可。”张东荪的这个演讲，暴露了他自己对于马克思辩证法根本就不理解，更没有理解马克思对黑格尔辩证法进行革命性改造的实质，充满了对唯物辩证法的误解和歪曲。
1933年1月，张东荪又写《动的逻辑是可能的么？》，进一步从逻辑学角度攻击辩证法，认为“辩证法在自身确实有种种不可解的难题与难关。”它“在人类思想史上学术史上成了过时的古董，只好陈列在博物馆中了”。
该文发表后，一直未得张东荪正面答复的叶青，立即在《新中华》上发表了《动的逻辑是可能的！》一文，对张东荪的观点进行反驳和批判。1934年6月，张东荪在《新中华》第2卷第10期、11期连载了《思想的论坛上几个时髦问题》，对《动的逻辑是可能的么？》一文中的观点展开论述。他具体列举了“辨证法能代替同一律么？”“相反是矛盾吗？”“凡变化都是消留吗？”等6个问题，进一步攻击辩证法。针对当时流行的认为旧式名学不够用、必须以辩证法来代替的观点，张东荪提出了相反的观点：“拿辩证法来代替思想律，是不可能的了”。他的总结论是：“不但辩证法不能代替思想律的同一律，并且辩证法若要变成言语来表现时（以言语来表明辩证法是真理时），还得托命于思想律的同一律。”针对马克思主义者把“相反”视为“矛盾”的看法，他提出了反驳：“辩证法的人们对于这一点始终弄不清楚。总是主张凡相反都是矛盾。这显然是误会了逻辑上的‘矛盾’意义。矛盾只是逻辑上的概念，决不可移到别的地方。”他认为，凡变化并不都是消留（aufheben），即“奥伏赫被”，“奥伏赫被在方法上是不能用的，并且又是不必用的。须知这只是黑格尔的特别把戏，他人决不能胡乱借用。”至于所谓“哲学是有党派的”观点，张东荪更是坚决反对。他认为，哲学与党派是不同的，哲学上的争论与政治上的党争更是不同，哲学思想比较上注重于立异，而不在乎求同，政治上的党派则注重求同。“在哲学上各人的意见总有小异之点，遂使组党为不可能的了。”所以.他坚决反对哲学具有党派性，认为“哲学之所以能存在，完全是靠着思想自由，无自由思想即无哲学，使‘哲学’二字与‘党派’二字联缀成一句，即等于取消哲学而只留党派，这种在党派之下的哲学虽名为哲学，而其实并不是哲学”。