東京府豊多摩郡大久保町（現・東京都新宿区）の生まれ。本名・丹波正三郎。祖父・敬三は医学博士で東京帝国大学名誉教授、日本薬局方を制定した功績で男爵、正三位勲一等を受けた。陸軍薬務官から日本画家に転身した父・二郎と母・せんの三男一女の三男。1940年、中央大学法学部予科に進み、学徒出陣を経て敗戦後に復学。英法科に籍を置いて、GHQ（連合軍総司令部）の通訳をつとめるなどして、48年に大学を卒業する。同年、油糧砂糖配給公団に就職するが、俳優を目指して退職。49年夏に国際映画演劇研究所に１期生として入り、翌50年の劇団文化座『さくらんぼ大将』に校長先生の役で出演した。51年、文化座を退団して、新東宝に入社。翌52年の鈴木英夫監督「殺人容疑者」で映画デビューを果たす。以後、８年間で90本以上に出演するも主演作はなく、59年よりフリーに。そこからも敵役・脇役が続くが、丹波の持ち味を最初に活かしたのはフジテレビのディレクターだった五社英雄で、60年１月スタートの同局『トップ屋』、次いで『三匹の侍』63にも主演し、特に後者では、それまでのテレビ時代劇にはなかった豪快な殺陣と濃厚なエロティシズム描写が話題となって、一躍スターダムへと駆け上る。映画では、今村昌平監督「豚と軍艦」61で演じた胃癌に怯えて自殺をはかるも死に切れない不様なやくざ役で、喜劇的演技にも並々ならぬ才能を見せる。東映初出演の「地獄に真紅な花が咲く」61では高倉健と協力して悪と対決するナイスガイを演じて、それまでの悪役一辺倒から二枚目ヒーロー型の善玉役へと変貌。水上勉原作、石井輝男監督の「霧の影」61では、梅宮辰夫をアシストする社会部記者に扮して初主演も飾る。続く深作欣二監督「誇り高き挑戦」62では武器ブローカーを陰影深く演じて存在感を発揮した。『三匹の侍』などで披露した切れ味鋭い殺陣は映画でも活かされ、小林正樹監督「切腹」62、篠田正浩監督「暗殺」64、今井正監督「仇討」64で作品の印象をより深いものにする。中でも工藤栄一監督「十三人の刺客」63の筆頭老中・土井大炊頭、小林監督「怪談」64の怨霊の武士役では、明晰な口跡と重厚な所作によって作品に奥行きと深みをもたらした。現代劇では、復讐に燃える片目の漁師・ジャコ万に扮した深作監督「ジャコ万と鉄」64、やくざを虫けらのようにみなす鬼刑事に扮した佐藤純彌監督「組織暴力」67でのハードボイルド的な演技が、情緒過多の演技が多い中にあって際立った特異性を見せた。こうした個性は海外でも認められ、「太陽にかける橋」62、「第七の暁」64、「五人の軍隊」69などのアメリカ映画にも出演。イギリス産の人気シリーズ「007は二度死ぬ」66ではショーン・コネリーと共演し、三船敏郎と並ぶ国際スターとしても知られるようになる。以降、時代劇・現代劇を問わず各社の娯楽映画に大車輪の活躍を見せる中で、中村登監督「智恵子抄」67の高村光太郎役、成沢昌茂監督「雪夫人繪圖」68のヒロインへの報われぬ恋に悩む作家・菊中夏二役、深作監督「軍旗はためく下に」72の正当防衛で上官を殺して死刑になる下士官役と、演技にますます厚みを加えていく。73年、舛田利雄監督「人間革命」での創価学会二代目会長・戸田城聖役では、過去の演技の集大成とも言える豪快な持ち味と滑稽味を融合させて快演し、毎日映画コンクール男優演技賞を受賞。その後の森谷司郎監督「日本沈没」73での国難に冷静に対処する総理大臣、野村芳太郎監督「砂の器」74での殺人犯を追い詰める刑事、山本薩夫監督「不毛地帯」76での怪死を遂げる空将の演技などは、人間的な円熟味すら感じさせる枯淡の趣があり、アクションスターからの脱皮と俳優としてのスケールの大きさを感じさせた。80年、舛田監督「二百三高地」でブルーリボン賞と日本アカデミー賞の助演男優賞を受賞。以後も「連合艦隊」81、「大日本帝国」82などの戦争大作映画や、「修羅の群れ」84、「最後の博徒」86、「極道の妻（おんな）たち・三代目姐」89、「激動の1750日」90などのやくざ映画に多く助演する。その間もテレビドラマでは、TBS『キイハンター』68、『Ｇメン'75』75～79、『HOTEL』90～02、テレビ朝日『長七郎天下ご免！』79～82、『白い巨塔』90、NHK大河ドラマ『黄金の日日』79、『獅子の時代』80、『峠の群像』82、『いのち』86、『春日局』89、日本テレビ『長七郎江戸日記』83～91など多数で活躍。また“霊界の広告塔”を自称し、死後の世界の研究や霊的なものへの傾斜を深めて、70冊以上の著書を執筆。その流れの中で77年に“丹波企画”を設立し、霊界をテーマにした長編映画「砂の小舟」を原田雄一監督と共同監督して78年のカンヌ国際映画祭に持ち込むが、これは不発に終わる。89年に改めて研究の成果を広めるべく、製作・原案・脚本・総監督を兼ねた「丹波哲郎の大霊界・死んだらどうなる」を発表。映画俳優としての活躍を知らない世代にも、テレビのバラエティ番組出演などで豪快なキャラクターが広く浸透して人気だったこともあってか、意外なスマッシュヒットとなり、翌90年には続編「丹波哲郎の大霊界２・死んだらおどろいた!!」も作られた。こうした霊界研究・啓蒙活動は、催眠術の研究とともに丹波のライフワークとなる。晩年の出演映画の中では、日刊スポーツ映画大賞助演男優賞を受賞した山田洋次監督「十五才・学校Ⅳ」00の、山中でひとり暮らしをする老人役、同じく山田監督の「たそがれ清兵衛」02で演じた主人公・真田広之の主筋に当たる頑固一徹な老人役が印象的。テレビドラマはほかに、TBS『カミング・ホーム』94、『水戸黄門』02～05、NHK『走らんか!』95、『利家とまつ・加賀百万石物語』02、『夢みる葡萄・本を読む女』03、『オーダーメイド・幸せ色の紳士服店』04、『義経』05、テレビ朝日『痛快！三匹のご隠居』99、日本テレビ『歓迎！ダンジキ御一行様』01、『時空警察捜査一課』01～05などがある。2006年９月24日、肺炎のため死去。享年84歳。同年、ゴールデンアロー賞の芸能功労賞が贈られた。49年に結婚した貞子夫人との間に生まれた一人息子の義隆も俳優となり、堀川弘通監督「アラスカ物語」77などで父子共演。「大霊界」シリーズでは主演もつとめた。