先月、米国の非営利団体「生命未来研究所」が、GPT4より強力な人工知能（AI）の開発を6カ月以上ただちに中断しなければならないとする公開書簡を出した。イーロン・マスクなど書簡に参加した多くのエリートは、AIの研究室が自分たちでさえ理解、予測、統制できない強力なシステムを開発するコントロール不能の競争に陥ったと懸念している。
これらの人々の恐怖をどのようにみるべきなのか。コントロールが話の中心であることは分かるが、それは誰のコントロールを意味するのか。ここで私たちは、危険になったものは何なのかを考えてみる必要がある。
ユヴァル・ノア・ハラリは著書『ホモ・デウス』で、AIが発展すれば階級区分よりはるかに強力な区分ができると予想する。彼は、まもなく生命工学とコンピュータ・アルゴリズムが身体、脳、精神を生産することになり、そうなると、身体と脳を設計することができる人とそれができない人の間に大きな格差が発生することになるという。「技術発展の列車に乗った人々は、創造し破壊する神秘的な力を得ることになるが、そうでない人々は絶滅に直面するだろう」
先の書簡に表れた恐怖は、「技術発展の列車に乗った人々」でさえ、その発展をコントロールできなくなるだろうという恐怖だ。今の時代のデジタル封建領主でさえ恐怖を感じるのだ。AIの能力が強まることは、権力者にとって深刻な脅威だ。人間の行為力の投入なしに自ら生産できるAIシステムは、私たちが知っている資本主義の終末を意味するからだ。
今後、多くの孤独な人々（や孤独はでない人々）が、AIのチャットボットと友人のように本や映画、政治について対話するだろう。これらから人々が得るものは、カフェインなしのコーヒーや砂糖なしの炭酸飲料だ。ただひたすら、自分に必要なものをすべて提供してくれる親密な隣人だ。それには物神的な否認の構造が作動する。「私は、自分が本当に人間と対話しているわけではないということをよく知っている。それでも、私は本当に人間と対話していると感じている。本当に人と対話する時に直面することになるいかなるリスクもなしに」
書簡の要求は、不可能なことを禁止しようとする試みだ。本当に「ポストヒューマン」となるAIは不可能だが、その不可能なことの開発を禁止しようと考える点で逆説的だ。ここで私たちは、レーニンの質問を投げかけなければならない。自由は重要だが、誰のための自由であり、何をする自由なのか。これまで私たちは、はたして自由だったのか。私たちは、すでに思ったよりはるかに強いコントロールを受けているのではないだろうか。私たちが今しなければならないことは、未来に人間の自由と尊厳が脅かされることになりうると不満を言うのではなく、いま目の前の自由について考えることだ。
未来学者のレイ・カーツワイルは、まもなくAIをはるかに越える「霊的」な機械が出てくるだろうとみている。そうしたポストヒューマン的な立場を、自然に対する完全な技術的支配を成就しようとする態度と混同してはならない。今日、ポストヒューマン科学のスローガンはもはや、「支配」でなく驚き、計画されなかった偶発的な出現だ。フランスの哲学者ジャン＝ピエール・デュピュイは、ロボット工学、遺伝学、ナノテクノロジー、人工生命、AIの研究によって、デカルト的で人間中心的な傲慢さが奇妙にひっくり返っていることを次のように書く。
「科学が危険になったことについて、ある哲学者は、人間が自然の主人になる必要があるというデカルト的な夢がひっくり返ったためであり、人間が『主人の主人』の地位に戻らなければならないと主張する。これらの人々は何も理解できずにいる。すべての学問の融合を通じて人類の地平線に到達した新技術が目標にするものは『非‐支配』だ。未来の工学者は誤って魔術師の弟子になるのでなく、自らの選択で魔術師の弟子になるだろう」
「ポストヒューマニティ」が実現されるのであれば、私たちの世界観の人間、自然、神はすべて消えるだろう。私たちの人間性は侵すことのできない自然という背景の上だけに存在する。人間が経験する「神」は、人間の有限性と死の観点だけで意味を持つ。人間が技術で神になれるという「テクノ‐英知主義」的な展望は、私たちを待つ深淵を理解しがたくさせるイデオロギー的な幻想にすぎない。
スラヴォイ・ジジェク｜リュブリャナ大学（スロベニア）、慶煕大学ES教授 (お問い合わせ japan@hani.co.kr )
訳M.S
