和歌山県伊都郡かつらぎ市の生まれ。本名・小林稔侍（としじ）。県立笠田高校を卒業後、大学受験のためと称して上京して受けた東映第10期ニューフェイスに合格。１年間の養成機関を経て1962年に専属契約し、65年の小林勇監督「地獄の波止場」で俳優デビューする。以後、やくざ映画やアクション映画に多数出演し、「軍旗はためく下に」「現代やくざ・人斬り与太」72、「仁義なき戦い・頂上作戦」74などの深作欣二監督作品で認められる。また、どんな端役でも全力投球する姿勢が高倉健の目に留まり、以後、彼の主演作品のほとんどすべてに出演する。降旗康男監督「冬の華」78、大林宣彦監督「さびしんぼう」85での好演が光るが、遅咲きの花が大きく開花したのは、86年のNHK連続テレビ小説『はね駒』だった。無骨だが何気ない仕草に家族への愛をにじませるヒロインの父親を見事に演じて人気を獲得、翌87年には、やくざの用心棒を演じた山下耕作監督「夜汽車」で日本アカデミー賞優秀助演男優賞を受賞し、人気・実力ともに認められる。以後も、森田芳光監督「おいしい結婚」91、市川崑監督「四十七人の刺客」94、井筒和幸監督「岸和田少年愚連隊」96などで芸の幅を広げ、山田洋次監督「学校Ⅲ」ではリストラされたエリート・サラリーマンを熱演。以後の山田作品の常連俳優となる。テレビドラマはほかに、TBS『HOTEL』90～95、『税務調査官・窓際太郎の事件簿』98～、日本テレビ『ちょっと危ない園長さん』93、NHK『銀行』94、『義経』05、テレビ朝日『味いちもんめ』95・96、『科捜研の女』99～02、『炎の警備隊長・五十嵐杜夫』03～、フジテレビ『婚カツ！』09など。長男・小林健、長女・小林千晴はともに俳優の道に進んだ。