约翰·马尔科维奇生长在煤矿业发达的美国小镇本顿，他的家族在当地很有名，旗下经营着一份报纸。他在本顿当地是书香门第之家，他的父亲是当地一本环境杂志的主编，良好的家庭环境让约翰·马尔科维奇从小就受到了很好的教育，他一开始并非迷恋的是电影，而是戏剧舞台表演

1972年，约翰·马尔科维奇考入了伊利诺伊大学戏剧系。1976年，加入了朋友加里·西尼斯刚刚创建的芝加哥Steppenwolf剧团，在剧团的6年时光中，他经历了太多的起起伏伏，剧团表演收入的时好时坏，也让他真正了解到了生活和艺术之间不可调和的种种矛盾。

1982年，约翰·马尔科维奇和他的剧团辗转来到纽约出演他们剧团自编的剧目《真实的西部》，他因此凭借该剧目获得欧比奖。

1984年，约翰·马尔科维奇与达斯汀·霍夫曼共同出演了根据阿瑟·米勒同名戏剧改编的剧情片《推销员之死》，他则因此凭借该片获得第43届美国金球奖电视类-最佳男配角提名。9月，与莎莉·菲尔德合作出演以美国黑白种族问题为背景的剧情片《我心深处》，扮演一名双目失明的投宿者，约翰·马尔科维奇凭借该片获得第57届奥斯卡最佳男配角奖提名。12月，出演由奥利弗·斯通执导并担任制片人的动作战争片《野战排》。

1988年，与格伦·克洛斯联袂出演根据法国书信体小说改编的爱情片《危险关系》，而他也因此凭借该片获得第33届意大利大卫奖最佳外国男演员提名。1990年，与德博拉·温格联合主演由贝纳尔多·贝托鲁奇执导的文艺片《遮蔽的天空》。

1993年，约翰·马尔科维奇与克林特·伊斯特伍德合作主演由沃尔夫冈·彼得森执导的惊悚片《火线狙击》，扮演一名患有精神病的政治刺客，他则凭借该片获得第66届奥斯卡金像奖最佳男配角提名、第51届美国金球奖电影类最佳男配角提名。

1995年，与凯瑟琳·德纳芙合作主演爱情片《爱欲修道院》。同年，与伊莲娜·雅各布、苏菲·玛索联袂主演改编自小说集《泰伯河上的保龄球道》的情色片《云上的日子》，在片中饰演一位旅行寻找创作灵感的电影导演。

1997年，与尼古拉斯·凯奇、约翰·库萨克联合出演动作片《空中监狱》，饰演绑票、抢劫、谋杀、勒索无恶不作的残暴凶狠罪犯塞勒斯。

1998年，出演由约翰·戴尔执导的剧情片《赌王之王》。同年，与莱昂纳多·迪卡普里奥、杰瑞米·艾恩斯联袂出演改编自法国作家大仲马编著《达达尼昂三部曲》的动作冒险片《铁面人》，在片中饰演支持埃拉密斯神父让神秘囚犯菲利浦取代路易计划的前国王侍卫队员阿萨斯。

1999年，与约翰·丘萨克合作出演剧情片《成为约翰·马尔科维奇》，约翰·马尔科维奇在片中扮演他自己。同年，与米拉·乔沃维奇合作主演历史片《圣女贞德》，该片改编自法国民族英雄贞德的故事。

2001年，与范·迪塞尔、巴里·佩珀联合出演剧情片《黑帮第二代》。同年，与米歇尔·皮寇利合作主演剧情片《我要回家》。

2002年，执导个人第一部电影《楼上的舞者》，该片由哈维尔·巴登、胡安·迭戈·波托、劳拉·莫瑞特联袂主演，该片讲述了在虚构的拉美某国，一位花费12年的时间追踪游击队领袖的警官巧遇美丽的芭蕾舞教师的故事。同年，与雷·温斯顿合作主演由莉莉安娜·卡瓦尼执导的惊悚片《雷普利的游戏》。

2004年，与约翰尼·德普合作主演剧情片《浪荡子》，饰演满溢的才华和不羁性格的查尔斯二世。2005年，与马里莎·贝伦森、霍纳尔·布莱克曼共同主演根据真实故事改编的喜剧片《成为库布里克》。

2006年4月，与爱德华·斯皮伊尔斯、杰瑞米·艾恩斯合作主演动作科幻片《龙骑士》。同年，与索非亚·迈尔斯、马特·基斯拉联合出演喜剧片《艺校的秘密》。

2007年，与雷·温斯顿、安东尼·霍普金斯联合主演动作奇幻片《贝奥武夫》。2008年1月，与托马斯·简搭档出演动作片《变异编年史》，扮演大反派帝国首领。5月，与安吉丽娜·朱莉、加特林·格里菲斯联袂出演改编自美国历史上真实事件“鸡舍谋杀案”的悬疑片《换子疑云》，饰演个人作风很怪异，说话很有趣，有思想有内涵的牧师古斯塔夫·布里格勒布。9月，与乔治·克鲁尼、弗兰西斯·麦克多蒙德联合主演根据斯坦菲尔德·特纳小说改编的喜剧片《阅后即焚》，饰演曾经是“叱咤”中情局的特工奥斯伯恩·考克斯。

2010年6月，与乔什·布洛林、梅根·福克斯联合主演根据同名DC漫画改编的动作西部片《西部英雄约拿·哈克斯》，饰演一位巫毒术士昆汀·特恩布尔。10月，与布鲁斯·威利斯联合主演改编自同名漫画的动作片《赤焰战场》，他则凭借该片获得第37届土星奖最佳男配角提名。同年，与戴安·琳恩合作主演根据真实故事改编的动作喜剧片《一代骄马》，饰演一名资深的驯马师卢西恩.劳林。

2011年，参演由迈克尔·贝执导的科幻动作片《变形金刚3：月黑之时》。2012年，与凯瑟琳·德纳芙、伊莎贝尔·于佩尔合作主演根据真实历史事件改编的战争片《威灵顿之线》，饰演英军将领威灵顿。

2013年，与布鲁斯·威利斯联合主演由迪恩·派瑞萨特执导的动作片《赤焰战场2》。同年，与尼古拉斯·霍尔特、泰莉莎·帕尔墨联合出演根据艾萨克·玛丽恩出版的同名小说改编的喜剧片《温暖的尸体》，饰演朱丽叶的父亲杰治奥将军。此外，还与彼得·斯特曼、艾莉诺·汤姆林森联袂主演改编自俄国作家尼科莱·理宁自传体小说的传记片《西伯利亚教育》。

2014年3月，与利亚姆·海姆斯沃斯、泰莉莎·帕尔墨联合出演动作惊悚片《陡岸凶杀案》。5月，主演以海盗黑胡子为原型的冒险剧《海盗王国》。11月，与汤姆·麦克格雷斯、克里斯·米勒共同为喜剧动画冒险电影《马达加斯加的企鹅》配音，配音的角色是拥有“人形”与“真身”两种形态的戴夫。

2015年11月23日，主演新片《一百年》，影片和人类未来有关，呈现了三种不同的未来图景，一种是高科技的未来，一种是灾难过后返璞归真的未来，还有一种是文明半崩溃后的未来。影片将在2115年上映，而在2114年会发布预告片。

2016年7月15日，加盟动作喜剧《Supercon》出演重要的反派角色，同年，与马克·沃尔伯格、吉娜·罗德里格兹联袂出演根据2010年美国墨西哥湾原油泄漏事件改编的动作惊悚片《深海浩劫》，饰演英国石油公司代表维德林。

2017年9月15日，约翰·马尔科维奇参演的喜剧电影《婚礼搞轰趴》在美国上映，饰演女主角前任丈夫劳伦斯；22日，约翰·马尔科维奇参演的动作电影《惊天解密》在中国上映；10月10日，加盟《鸟舍》在片中与桑德拉·布洛克一起“大战外星人。

2018年1月12日，加盟《极端邪恶》，出演法官EdwardCowart，24日，客串电视剧《亿万第三季》扮演俄罗斯亿万富翁，4月27日，参演的喜剧电影《超级漫展》在美国上映（Supercon）。5月24日，主演剧集《ABC谋杀案》饰演大侦探赫尔克里·波洛，6月开拍，共3集。同年参演电影《ElTonto》和《Arkansas》

2019年1月，主演HBO迷你剧《年轻的教宗》第二季《新教宗》。5月，参演电影《TheLine》

奥斯卡金像奖

• 1993第66届最佳男配角《火线狙击》（提名）
• 1984第57届最佳男配角《我心深处》（提名）

艾美奖

• 2003第55届限定剧/电视电影类-迷你剧/电视电影最佳男配角《拿破仑》（提名）
• 2000第52届限定剧/电视电影类-迷你剧/电视电影最佳男配角《光辉大国民》（提名）
• 1986第38届限定剧/电视电影类-迷你剧/电视电影最佳男配角《推销员之死》（获奖）

美国电影电视金球奖

• 1995第52届电视类-最佳男配角（提名）
• 1994第51届电影类-最佳男配角《火线狙击》（提名）
• 1986第43届电视类-最佳男配角《推销员之死》（提名）

英国电影和电视艺术学院奖

• 1994第47届电影类-最佳男配角《火线狙击》（提名）

MTV电影奖

• 1994第3届最佳反派《火线狙击》（提名）

土星奖

• 2010第37届最佳男配角《赤焰战场》（提名）
• 1994第20届最佳男配角《火线狙击》（提名）

洛迦诺国际电影节

• 2005第58届卓越奖（获奖）

意大利大卫奖

• 1989第33届最佳外国男演员《危险关系》（提名）

卡罗维发利国际电影节

• 2009第44届卡罗维发利国际电影节世界艺术电影杰出贡献奖（获奖）

塞萨洛尼基国际电影节

• 2007第48届塞萨洛尼基国际电影节金亚历山大终身成就奖（获奖）

约翰·马尔科维奇并不是众所周知的“明星”，但电影艺术的成就和贡献绝不能依靠名气来衡量，否则《公民凯恩》和奥森·威尔斯也不能被誉为是电影界难以逾越的高峰。他也是好莱坞的演技大家，因为他的演技自成一派，没有人会在他的面前抢走戏份，《空中监狱》里他饰演的头号匪首，愣是将尼古拉斯·凯奇逼得走投无路，这股霸气并不是什么演员都能展现出来的。