群馬県太田市の生まれ。本名・佐藤政雄。父が水力発電の河川工事の人夫をしていたことから、その仕事先の移動に伴い幼時に静岡県賀茂郡松崎町に移り、土肥尋常高等小学校から県立豆陽中学に進む。中学３年の時に大阪市へ行き、皿洗い、ペンキ塗り、旋盤工などさまざまな職業を転々とする。この間に機帆船にボーイとして乗り込み、朝鮮から中国の青島まで行くなど放浪生活を送った。1943年12月、徴兵で静岡聯隊に入隊。中支派遣奉1824部隊に配属され、45年８月の終戦を漢口で迎える。捕虜収容所に抑留されるが、妻帯者なら早く帰国できると聞いて、知り合った女性と46年４月に結婚、同年６月に帰国する。宮崎市の妻の実家に寄寓し、宮崎交通に勤務。48年、女児を妊娠していた妻と離婚して、鳥取県倉吉市で農業共同組合に入る。農村工業課を新設し、まもなく土地の資産家の娘・林政枝と再婚。50年、単身上京して、福島市を拠点に闇商売を始め、一時は大儲けするが結果的に挫折する。50年12月、松竹の“あなたの推薦するスター募集”に、倉吉時代に出入りしていた写真館の主人が三國の写真を送ったことを知り、俳優になる気はなかったが電車賃を支給するということにつられて松竹大船撮影所に行く。面接を受けて帰ろうとすると、木下惠介の助監督をしていた小林正樹に呼び止められ、木下に紹介される。大船へ研究生として入ることになり、やはり木下の助監督だった松山善三の推薦で、木下が準備中の「善魔」の主役に抜擢されることになった。「善魔」は岸田國士の原作で、新聞社の若手社会部記者“三國連太郎”という役名をそのまま芸名としてつけられる。肺を病んで死を目前の恋人と結婚するひたむきで純粋な主人公の生き方が、上司の打算的な愛を打ち破るという題名の“善魔”を、難役ながら見事にこなし、新鮮で印象的なデビューを飾った。51年２月に封切られたこの作品で早くも、高橋貞二、佐田啓二、鶴田浩二に続く有望新人スターとして将来を期待されるようになる。続いて同年、木下監督「少年期」「海の花火」に出演。どちらも、当時の日本人離れした179cmという長身のたくましい体躯で好演する。しかし、このデビュー当時、松竹が流した三國の経歴は、本名、生年月日、身長、体重を除いてほとんどが出鱈目だった。虚実織り交ぜるどころか、ほとんどが嘘だらけという自身の経歴に対して、それもまた役者の象徴として平然と聞き流す、したたかな役者根性を見せる。そんな新人離れした怪物的雰囲気を漂わせる三國に対して、木下は俳優としての本質的な良さを認め、「野放図に自分をさらけ出して楽になるように人物像を作り上げなければだめだ」と、その資質を活かすことにつとめる。結局そのことが、ひ弱な二枚目役から早々に脱出するきっかけとなった。53年には渋谷実監督「本日休診」に佐田、鶴田らと共演。三國は町の病院の院長宅の婆やの息子で、軍隊時代の悪夢に悩まされ時々発作を起こす青年に扮する。発作が起きた時は院長がかける号令を部隊長の号令と思って発作が治まるという戦争被害者をコミカルに演じ、新劇のベテランを揃えた演技陣の中でもしたたかな演技力を見せ、ひときわ異彩を放つ。この「本日休診」撮影中の52年１月中旬、東宝が稲垣浩監督で準備中の「戦国無頼」に三船敏郎の共演者として三國を希望し、松竹に正式に依頼。松竹は三國がまだ演技研究生であること、松竹社員であることを理由に拒否するが、東宝は三國と松竹の間に正式契約がないことを確認して本人と交渉を進め、三國もまた乗り気で、１月末に出演料50万円の一部、20万円を受け取ったと報道されるに及び、松竹・東宝の争奪戦がマスコミの大きな話題となる。ちなみに当時の三國の松竹での給料は月額5,300円、出演料１本につき４万円だった。三國は「戦国無頼」に出たあとで松竹に戻るつもりで、２月12日、東宝と正式に出演契約。これに対して松竹は20日の重役会議で三國の解雇処分を決定する。三國は松竹に詫びを入れ、東宝不出演を条件に解雇を取り消してもらい、東宝へも出演契約破棄を申し出て、この問題は白紙となる。しかしこの前後、三國は二度に渡って消息を絶つ。一方、東宝はあきらめず、三國が松竹に退社届けを出したと発表。三國自身も３月13日の「戦国無頼」クランクインに参加するに及び、業を煮やした松竹は３月19日、三國を正式に解雇する。三國は「戦国無頼」に出演したのち、東宝と年間４本の出演契約を結んだ。この一連の事件を通じて、三國は義理人情を欠く“アプレ・スター”と叩かれる一方で、映画会社の専属契約をめぐる人権問題に世間の注目を集めさせた。それが導火線となり、鶴田浩二の独立、岸惠子、津島惠子の他社出演という事態を生み、門外不出のスターを他社に取られて、松竹は大きな黒星を喫するのであった。「戦国無頼」以降、東宝では実りのある作品がなく、東映の「人生劇場」に出演を求められて衣裳合わせにまで出かけるが、東宝の引き止めで出演を断念。53年には東宝が要求する完全専属再契約を拒否、あくまでもフリーの立場をとりたいと東宝と一悶着を起こす。この間の52年暮れ、政枝夫人と離婚。「戦国無頼」撮影の合間に知り合った神楽坂の置屋の娘で芸姑の石原とし子と３度目の結婚をし、のち一男一女をもうける。54年６月、稲垣監督「宮本武蔵」に出演中、製作再開して間もない日活の「泥だらけの純情」に出演すると発表。たちまち東宝から横槍が入るが、日頃からの東宝の企画に対する不満もあって出演の意志を翻さず、７月に東宝が折れて出演を果たす。その直後、日活を除く映画製作会社５社がスターの専属制を互いに侵犯しないようにと申し合わせた“五社協定”違反第１号に三國を指定。ここに至って三國は５社出演を完全にボイコットされることになる。55年、五社協定に加盟していない日活と専属契約を結び、久松静児監督「警察日記」に純情な巡査役で出演。内田吐夢監督「自分の穴の中で」55では女たらしの医師、市川崑監督「ビルマの竪琴」56ではビルマとタイの国境を敗走する日本軍の小隊長・井上に扮し、終戦後、同胞の霊をなぐさめるために奥地に入り行方の分からなくなった部下を探してともに帰国させるため、オウムに言葉を教えこんで帰国を呼びかける、戦後の日本映画ではめったにお目にかかることのない理想的な日本人像を鮮やかに演じた。続く「死の十字路」56では殺人者、新藤兼人監督「流離の岸」56では妻と勝手に離婚手続きをして妹の友達である19歳の娘と結婚しようとする医師など、演技の幅と厚みを増し、33歳にして早くも風格のあるスターの貫禄をつけるようになった。同年10月末、契約切れとともにフリーとなる。57年、日本テレビ『街』でテレビドラマ初出演したのち、独立映画製作、家城巳代治監督の「異母兄弟」に出演。手篭めにした女中と結婚し、彼女に生ませた二子と、前妻との間にもうけた二子とを厳しく差別して育てる鬼のような退役軍人に扮し、日本人の傲岸さと矮小さ、壮年の精気と老年の虚脱、女への没入と蔑視という、ひとつの時代の日本の男を凄まじいばかりの気魄で演じ切る。58年の今井正監督「夜の鼓」では鳥取藩御納戸役・小倉平九郎役で、妻の不義密通を知り、それが過ちと知りながらも妻仇（めがたき）討ちを余儀なくされる武士の愛と苦悩をものの見事に演じて、その生々しい男の艶っぽさが印象的だった。さらに山本薩夫監督「荷車の歌」59での営々と働き子を育て、戦争に奪われて老いを迎えるという男の一生は、およそ三國の資質＝思想とは対照的ながらも、妻妾同居をやってのける老人の情痴への傾斜は、彼が陥りがちな演技過剰をまぬがれて抑制が効き、自然でリアリティのある演技で絶妙と言ってよかった。59年９月、他社出演の自由を確保しながら東映と専属契約。その第１作が関川英雄監督「大いなる旅路」で、鉄道員の生活史を素朴のうちに力強く演じてブルーリボン賞の主演男優賞を受賞するなど、大衆的人気も獲得した。内田吐夢監督「宮本武蔵」では中村錦之助（のち萬屋錦之介）演じる若き日の武蔵に人間の道を説き、学問をすすめる沢庵和尚を好演。続編「般若坂の決闘」62、「巌流島の決闘」65にも出演している。61年には大島渚監督の独立第１作「飼育」で豚のように貪欲で好色な地主、田坂具隆監督「はだかっ子」と合わせて毎日映画コンクール男優助演賞を受賞する。さらに大島監督「天草四郎時貞」62、市川監督「破戒」62、小林正樹監督「切腹」では傲岸で老獪な家老を座ったままの演技で迫力を示した。40歳を超えた64年には、今井監督「越後つついし親不知」、深作欣二監督「狼と豚と人間」、内田監督「飢餓海峡」、小林監督「怪談」と、それまで以上の完成度の高い演技力を発揮する。中でも「飢餓海峡」での、荒廃した戦後の47年秋、北海道南部を襲った猛台風による大火のさなか質屋一家を強殺し、共犯のふたりを津軽海峡で撲殺、10年後に舞鶴で偽名を使って事業に成功するが、犯行直後に下北の娼館で会った娼婦が現われ、彼女を絞殺してしまう凶悪犯・犬飼多吉役は、人間の心に棲む悪と善を強烈に浮き彫りにして見る者を圧倒した。ひとつの犯罪行為あるいは心理の過程を越えて、戦中から戦後の日本人をシンボライズしたような薄気味悪いほどの深さがあった。翌65年には松川事件をモデルに、その新犯人を目撃したにもかかわらず名乗れない泥棒を主人公にした山本監督「にっぽん泥棒物語」で秀逸な喜劇的演技を披露。この２作で毎日映画コンクール男優主演賞、後者のみでキネマ旬報賞男優賞を受賞する。この間の63年10月、日本プロを設立。独立第１作として「台風」を企画し、自らの監督で撮影するが、「専属俳優に独立プロ活動は許さない」と反対する東映の配給の目処が立たず、公開中止を余儀なくされる。65年４月、東映を離れてフリーに。フジテレビの『松本清張シリーズ』などに出演し、「これだけの男を遊ばせておく手はない」と深作監督が「脅迫（おどし）」66で起用。同年の篠田正浩監督の独立第１作「処刑の島」でも好演し、66年から67年にかけては10本あまりの作品を断り、東京宝塚劇場の舞台『明治百年』『三國志』に出演する。68年、今村昌平監督の「神々の深き欲望」に主演。日本社会に根深くひそむ原始的な思想を、神と性を中心に形象化した今村民俗学映画で、三國は南の小島に生きる貧しい一家の主に扮した。妹との近親相姦が神の怒りにふれ、贖罪行為として暴風雨でできた巨岩を埋める穴掘りを続け、ついには妹と島から脱出を謀るが島の青年たちに撲殺される。この作品で三國は日本映画における実力演技派の第一人者として押しも押されもせぬ存在となり、以後も全力投球の演技で観客に迫り、またその全力投球の力みを感じさせない高度に計算された演技で日本映画の最前線を突っ走る。69年８月にプロダクション“A・P・C”を設立。テレビ映画『チチン・プイ・プイ』やCM制作に乗り出し、72年３月には自ら製作・脚本・監督・主演の「岸辺なき河」の撮影に入る。パキスタン、アフガニスタンの砂漠で約50日間の撮影を敢行したが、これもまた「台風」と同じように未完成に終わる。同年10月、石原とし子と離婚。前後して、内田吐夢監督の遺作「真剣勝負」71では武蔵のライバル・宍戸梅軒を演じ、山本薩夫監督「戦争と人間」71、吉田喜重監督「告白的女優論」71、斎藤耕一監督「旅の重さ」72など、助演ながらそれぞれ個性的で味のある演技を見せる。吉田監督「戒厳令」73では2・26事件の指導者として処刑された北一輝を力演。次いで吉村公三郎監督「襤褸の旗」74では足尾鉱毒事件に鉱山の操業停止を叫び代議士を辞任、天皇へ直訴に及ぶ田中正造をすさまじいエネルギーを持って表現し、その人間的優しさと深い苦悩を見事に表出して、毎日映画コンクール男優演技賞を受賞する。山本監督「金環蝕」75での“マッチポンプ”代議士、森谷司郎監督「八甲田山」77の妄執と挫折の軍人、そのひとつひとつの役に忘れがたい印象を残した。今村監督「復讐するは我にあり」79では、緒形拳演じる連続殺人犯の父親役で複雑な状況の人間心理を重く深く表現した素晴らしい演技を見せ、キネマ旬報賞、ブルーリボン賞の助演男優賞を受賞する。その間の76年に４度目の結婚。80年代以降は、相米慎二監督「セーラー服と機関銃」81、佐藤純彌監督「未完の対局」82などを経て、86年、吉田監督の「人間の約束」に主演。人間の老いと死を真正面から捉えた感動作で、三國は真に迫った演技でボケ老人役を好演する。なお、とし子との間に生まれた息子で81年に「青春の門」で俳優としてデビューしていた佐藤浩市と、この作品で初共演を果たした。そして86年10月、浄土真宗の開祖・親鸞の波乱に富んだ生涯を描いた自作の長編小説を自らのメガホンで映画化する「親鸞・白い道」が念願のクランクイン。翌87年のカンヌ国際映画祭で審査員特別賞を受賞し、監督としても非凡な才能の持ち主であることを証明した。続く伊丹十三監督「マルサの女」88では宗教法人を隠れ蓑にして私腹を肥やす悪徳地上げ屋を、凄みの中にも哀れさを醸し出して怪演。さらにこの年、人気漫画を映画化した「釣りバカ日誌」で建設会社社長の“スーさん”役で新境地を開く。西田敏行演じるダメ社員の“浜ちゃん”とのユーモラスな交流が観客の支持を集め、2009年の最終作「釣りバカ日誌20・ファイナル」までスペシャル２作を含む全22作が作られ、シリーズものが皆無となった近年の日本映画界で唯一の名物シリーズに育っていった。89年には勅使河原宏監督「利休」に主演。茶人・千利休と豊臣秀吉との関係を好対照で描いたこの作品で、キネマ旬報賞、ブルーリボン賞、毎日映画コンクールなどの主演男優賞をほぼ独占する。
91年の山田洋次監督「息子」では岩手の山奥でひとり暮らしする老いた父親に扮し、東京で働く息子との心の交流を感動的に表出する。本作でまたキネマ旬報賞ほかの主演男優賞を獲得。戦時中に同僚の人肉を食べた輸送船の船長役を演じた熊井啓監督「ひかりごけ」92など、あらゆる役に貪欲に取り組む。その後も、伊丹監督「大病人」93、大林宣彦監督、吉永小百合主演の「女ざかり」94、相米監督「夏の庭／The Friends」94、神山征二郎監督「三たびの海峡」95で主演・助演をこなし、96年の森﨑東監督「美味（おい）しんぼ」では、佐藤浩市と本格的に“父子”役で共演して話題となった。新藤兼人監督「生きたい」98では大竹しのぶを相手にボケの進行する老人、奥村正彦監督「虹の岬」99では男の純粋さを貫く歌人、神山監督「北辰斜にさすところ」07では戦禍による永遠の決別を挟みつつ旧制高校で学んだ学友たちのありし日の姿と現在の姿を交互に描く骨太な作品に主演。神山監督「大河の一滴」01、原田芳雄の遺作となった阪本順治監督「大鹿村騒動記」11にも助演するなど、90歳を目前としながらその旺盛な俳優活動は途絶えることを知らない。その間、テレビドラマも年１本程度ずつコンスタントに出演しており、近作はフジテレビ『鬼平犯科帳スペシャル・一寸の虫』11。84年紫綬褒章、93年勲四等旭日小綬章をそれぞれ受章している。2013年4月14日急性呼吸不全のため死去。