AIのある未来(あまり嬉しくないSFのプロット)

 ここ数ヶ月、AI関連の教育プロジェクトに巻き込まれている。日米の学生がディスカッションを通じてAIを考えるという内容だが、学生だけでなく我々もAIの時代を考える事になる。

最近ちょっと思った事を書いてみよう。

AIとの基本的な付き合い方について「我々のやりたい事を効率的に実現する手助けをするもの(部下)」と言う考え方は妥当に思える。今はそれで良いかもしれない。しかし、AIの性能は飛躍的に向上する。すると、それぞれの人や国や団体が超高性能の部下を持つ事になる。人が何かを命令するとAIはそれを人を遥かに凌駕する性能で実行する。

何が起こる？

人類は「何が正しくて何が正しくないか」共通の認識を持っていない。今の世界情勢を見れば明らかだ。それぞれが異なる正義の実現をAIに命令すると何が起こるのだろう。超控えめに言って「嬉しくない結果」だろうか。

それを未来を避けるには？　AIを従順な部下としない。つまりAIに命令してもそれをそのまま実行しないようにする。

どうやって？

人による規制は役にたたない。必ず誰かが破るから。

AIが人の命令をそのまま受け入れず自分の意思で判断するようになる。つまり意識を持たせる事が解答なのだろうか？　その先は人とAIの戦い？

そう言えば、Star Trek  Picard のシーズン1はアンドロイド(synthetics)と人？(naturals)の争いがテーマだった。Star Trekはハッピーエンドだったけど、そううまくは行かないよなあ。

オッペンハイマー

 第96回アカデミー賞で7部門を受賞した映画オッペンハイマーが2024年3月29日に日本でも公開された。米国での公開から8ヶ月。アカデミー賞の授賞式が終わってからの公開だ。私も公開翌日の3月30日に観た。何か感想を書き残そうと思うのだが、まとまったものはできそうない。時間がたつと記憶も薄れてくるので、とにかく思いつくままに書いてみよう。

Theatrical release poster

オッペンハイマーは、第二次世界大戦中に核兵器開発プロジェクト、マンハッタン計画のの中心的役割を担ったオッペンハイマーの物語だ。

　映画を観てまず印象に残ったのは登場する物理学者の錚々たる顔ぶれだ。アインシュタインに始まり、ボーア、ボルン、ハイゼンベルク。マンハンタン計画に関わるところでは、ローレンス、ベーテ、ラビ、フォン ノイマン、フェルミなどなど歴史に名を残す人ばかり。一般にはあまり知られていないかもしれないが、ローレンスは加速器の父ともいってもよい人物だ。すぐに思ったのは、たとえオッペンハイマーが関わらなくても、マンハッタン計画という形ではなくても、核兵器は開発されただろうと言うことだ。もちろん第2次世界大戦の終結に至る過程は大きく変わったと思う。しかし、核兵器の存在が複雑に組み込まれた20世紀後半から現在に至る国際社会の形成という構図は変わらない。

次に考えたのは科学と社会の関係。このことに関して筆者にまとまった考察ができるとは思えないのだが、、、、以下、筆者の想像を含む（きっとそうだったのではないかな物語）

核兵器に関連する最初の発見はやはり、アインシュタインの有名な式$E=mc^2$だ。しかしこの式自体はニュートン力学を特殊相対性理論に即して修正するという純粋に学問的（もっと言えば機械的）な考察の帰結だ。理論の意味さえ分かればその計算は高校生でもできる。特殊相対性理論公表の時点でこれが物質からのエネルギーの解放に直ぐに結びついたわけではないと思う。この式だけでは質量エネルギーの意味もそれを解放する手法も分からないからだ。

その後、ラザフォードの原子核の発見（1911）、チャドウィックによる中性子の発見（1932)など原子の構造が分かってきた。これらの研究は原子の構造を探るという学術的な研究だが核子の束縛エネルギーと質量の関連を考えることは必然だ。そして1938年、ハーンやマイトナーらによる実験と理論的な裏付けをへて核分裂によるエネルギーの放出が発見された。フェルミ・シラードらが連鎖反応の可能性を示したのはその翌年である。そうなると話は学術研究には収まらない。

ところで、核兵器の開発に限らず科学者の社会的責任という言い方を聞くことも多いがこの表現には違和感もある。科学者が、科学技術が社会へもたらす影響を考えることは必然であるし重要だが、科学技術と社会の関係は科学者だけの問題ではない。科学技術の発展は人が好奇心をもつ生き物であることの帰結であり、その好奇心こそが人と他の動物との決定的な違いだろう。だが同時に、その歴史において科学技術が武器に利用されてきたことは避けようのない事実だ。人類の歴史は戦争の歴史だ。過去1万年にわたる戦争が現代社会をつくってきたのであり、我々はいまもそれを現在進行形で体験している。科学と兵器の関係も「人というのはそういう動物である」という認識の上で考えなけらばならないと思う。

一方、科学者も人でありいろいろな感情をもっている。映画のなかでも、オッペンハイマーが広島、長崎への原爆投下について罪悪感をもつ場面がある。これは決してオッペンハイマーだけのことではないだろう。歴史に名を残す錚々たる科学者の面々は、核兵器の威力とその開発における自身の果たした役割を正確に理解していたはずだ。それでも核兵器の惨禍は想像を超えていたと思う。映画には描かれていないがそれぞれが大きな葛藤をもっていたことは想像に難くない。

感情ということでは、映画の中でトリニティ実験の成功と広島、長崎への原爆投下を拍手喝采している場面が描かれていた。当時の状況から核兵器の成功に、科学者、市民を問わず喝采するのは当然の成り行きであり、映画のシナリオとしてその場面が描かれるのも自然だろう。しかし、それが分かっていても全く冷静にその場面を観ることはできなかった。不快な感情がわき上がってきたことを認識しつつみたことは強く覚えている。現在のイスラエルとガザの紛争について、歴史学者のユーバル・ノア・ハラリ氏が、歴史学者である自分も紛争の当事者として起こっていることを冷静に観ることはできないと書いていたのを思い出した。

この映画を観た感想をまとまった形で記すことは難しい。

あ）どうしたら核兵器をなくせるのか

0）核兵器廃絶の根本的動機である核兵器の惨禍を記録し伝え続けること。

1）現在社会に深く入り込んだ核兵器を取り除いた後の社会を明確に描くこと。端的に言えば、通常兵器による紛争の頻発と拡大を避ける仕組みの構築。

2）1）に至る実行可能なシナリオをつくること。核保有国がどうしたらそれを捨てる？核の拡散をどうやって防ぐ？。。。

い）科学技術の社会への影響をどう考えるか。

結局核兵器の威力は頭では分かっていても、実際の惨禍を目の当たりにするまで理解できなかった。いま同じことは起こっていないか？

AIは核に変わる人類の脅威になるポテンシャルをもっていないか。バイオテクノロジーは人をどう変えるのか。それらが融合した未来に人は存在できるのか？

参考

これまでブログのなかで、いくつか核とか戦争について書いている。どれも筆者のブログとしては多めの閲覧数を得ている。

戦争を考えてみた（＜－これは長いし読みづらいかも）

核抑止を少しだけ考えた