出生于京都一户普通人家的山中贞雄，1927年，在高中学长牧野正博的帮助下，进入其父亲牧野省三的电影公司牧野御室摄影所。第二年，他离开牧野公司，加入时代剧著名演员岚宽寿郎的同名制作公司，担任编剧兼副导演，但因五社协定的束缚，岚宽寿郎的独立制作公司最终没能发展起来。
1930年，岚宽寿郎被东亚电影公司招募过去，山中等原岚宽寿郎制作公司职员也被东亚吸收。岚宽寿郎读过山中的剧本提纲后，评价他为“天才”。1932年，山中推出了首部导演作品《矶之源太：抱寝长胁差》，该片受到了影评人岸松雄的盛赞，引起了极大关注。于是，年仅22岁的山中，就这样凭借处女作，迅速跻身日本电影界巨匠。
翌年，成为日活京都摄影所一员，并在那里拍摄了《盘岳的一生》、《街上刺青者》，被称为年轻的天才导演。
1934年，与著名导演稻垣浩、泷泽英辅，编剧八寻不二、三村伸太郎等青年俊才，组成了“鸣泷组”，并用共同的笔名“梶原金八”先后创作了22部作品。“鸣泷组”的成立是日本时代剧历史上的一次重大革新，获得了影评人、观众的大力支持。而且，“鸣泷组”结交圈十分广，既与伊藤大辅、伊丹万作等京都电影人关系亲近，也跟小津安二郎、清水宏等东京电影人有所往来。
1937年，山中来到东京，加入PCL电影制作所，执导了最后一部作品《人情纸风船》。影片公映当天，山中接到征兵状，从神户坐船前往中国，入伍中岛今朝吾中将率领的北支那方面第2军第16师团步兵第9连队第1大队第3小队，担任第2分队长。同年12月，参加南京进攻战，不过，山中在前线具体有过什么行为，不得而知。之后，在中国各地流转作战。1938年9月17日，山中在中国河南省开封市的一所医院病逝，享年28岁。
山中在短暂的五年导演生涯中，共拍摄了26部作品（其中2部为支援执导）。而现在，仅有《丹下左膳余话：百万两之壶》、《河内山宗俊》、《人情纸风船》三部作品勉强留存于世。但是，这三部作品无人能保证是完整版的。二战期间，因胶片供应不足，许多战前制作的电影胶片，被征用于国策电影制作。据影评人泷泽一所说，《河内山宗俊》结尾有一场激烈的动作戏，未能留下来。
东京国立近代美术馆保存了《矶之源太：抱寝长胁差》、《怪盗白头巾》、《海鸣大道》、《鼠小僧次郎吉》等作的部分片段。稻垣浩的支援执导的《大菩萨岭：甲源一刀流之卷》全片也收藏于此。这就是山中贞雄作为电影导演，留给后人的全部财富。
