ここ数ヶ月、AI関連の教育プロジェクトに巻き込まれている。日米の学生がディスカッションを通じてAIを考えるという内容だが、学生だけでなく我々もAIの時代を考える事になる。
最近ちょっと思った事を書いてみよう。
AIとの基本的な付き合い方について「我々のやりたい事を効率的に実現する手助けをするもの(部下)」と言う考え方は妥当に思える。今はそれで良いかもしれない。しかし、AIの性能は飛躍的に向上する。すると、それぞれの人や国や団体が超高性能の部下を持つ事になる。人が何かを命令するとAIはそれを人を遥かに凌駕する性能で実行する。
何が起こる？
人類は「何が正しくて何が正しくないか」共通の認識を持っていない。今の世界情勢を見れば明らかだ。それぞれが異なる正義の実現をAIに命令すると何が起こるのだろう。超控えめに言って「嬉しくない結果」だろうか。
それを未来を避けるには？ AIを従順な部下としない。つまりAIに命令してもそれをそのまま実行しないようにする。
どうやって？
人による規制は役にたたない。必ず誰かが破るから。
AIが人の命令をそのまま受け入れず自分の意思で判断するようになる。つまり意識を持たせる事が解答なのだろうか？ その先は人とAIの戦い？
そう言えば、Star Trek Picard のシーズン1はアンドロイド(synthetics)と人？(naturals)の争いがテーマだった。Star Trekはハッピーエンドだったけど、そううまくは行かないよなあ。
AIについて考えると、きっと能力的にも人の手を離れてしまう日は来ると思うが人には完全に出来ないことはAIにも出来ない筈。しかし、絶対的な悪や絶対的な正義が存在しないからこそ人類は均衡を保てているのであって「絶対的な正義」が存在した瞬間世界は「正義」と「悪」で分断される、そして「悪」は…。きっと、本当に恐ろしいことは高橋先生が考えているように愚かな人類がそれぞれの正義のためにAIを悪用することではなく、AIが「絶対的な正義の基準」を確立しAIが自律的に正義の名のもとに悪を排除するための活動を始めた時ではないだろうか。
返信削除