千葉県木更津市の生まれ。小学生の頃から絵画に才を発揮し、1961年に武蔵野美術大学に進学。同年秋の日活「真昼の誘拐」に出演する機会を得て、それをきっかけに翌62年の第５期日活ニューフェイスに応募して合格する。同年、大学を中退して「天使と野郎ども」「花の歳月」などに出演するが、63年に絵画の修行のためにパリへ留学。帰国後は劇団民芸に入団し、再び俳優として活動を開始する。テレビドラマ初出演は、敵艦攻撃に向かう人間魚雷“回天”特攻隊員の心の葛藤を描いたNHK『魚住少尉命中』63。映画には64年の中平康監督「月曜日のユカ」で加賀まりこの相手役をつとめ復帰。二枚目俳優として注目を集め、江崎実生監督「明日は咲こう花咲こう」65では吉永小百合の恋人役を演じる。68年のNHK大河ドラマ『竜馬がゆく』では岩崎弥太郎を演じるなど活躍するが、70年に日活および民芸を離れて、フリーとなる。その後は、山本迪夫監督「幽霊屋敷の恐怖・血を吸う人形」70、斎藤耕一監督「内海の輪」71などを経て、高林陽一監督「本陣殺人事件」75で名探偵・金田一耕助を演じる。設定を現代に移し、ジーンズ姿で挑んだ異色の金田一は話題を呼んだ。この間、私生活では70年に女優の茅島成美と結婚するが75年に離婚。78年に女優の池波志乃と再婚し、現在もおしどり夫婦として知られている。80年代以降は、よく通る低い声とアクの強い芝居で、やくざ映画やアクション映画の悪役としての活躍が目立ち、93年の「ゴジラVSメカゴジラ」からゴジラと戦う軍人や政治家役で何度もシリーズに登場する常連俳優となった。近年は、旧知の仲である江守徹との遠慮のない掛け合いが好評で、バラエティ番組などにコンビで出演することも多い。茅島との間に生まれた一人息子は俳優の中尾学。