森雅之出生于北海道上白石村（现在札幌市白石区）。父亲是小说家有岛武郎， 森雅之母亲是陆军大将男爵神尾光臣的女儿。1911年，森雅之的母亲与他父亲在札幌任教，并生下了他以及后来的两个弟弟。1916年，母亲因结核病去世，1923年，父亲也自杀离开。 1932年，森雅之从京都大学哲学科中途退学以后，立志当一名舞台演员。他在小筑地剧场初次登台表演，从1937年到战后1950年，他一直参加演出剧团民艺。1947年，森雅之在叔父小说作品改编的电影《安城家的舞踏会》中扮演落没家族的长男开始受人瞩目，进入了电影界。并相继主演了同样是改编自文学作品的影片《雨月物语》、《浮云》等。 给森雅之带来国际名誉的是《罗生门》，他出演片中的丈夫。后参演了黑泽明的《白痴》，利用深厚的舞台背景，为角色带来丰富微妙的演绎。晚年，森雅之曾活跃于电视连续剧中。1972年，剧团民艺公演的舞台剧《三人姉妹》成为了森雅之最后的作品。1973年，因直肠癌死去。 森雅之的妻子是宝冢女演员梅树香，两人育有一女中岛葵（1945～1991），也是一名演员。