hankyoreh

エリーザー・ユドコウスキー氏＝イ・ジュヒョン記者//ハンギョレ新聞社

　人工知能（AI）が今より賢くなったら？　この疑問符の前では、楽観と悲観が長いスペクトラムのように広がる。一方では、AIが人間の統制を超える事象が相次ぎ、「人類滅亡論」が唱えられているが、他方では宇宙AIデータセンターの構築のような先端技術のスペクタクルが繰り広げられている。いったい私たちは、AIの光と影のどちらを見つめるべきなのだろうか。「超知能AIを作れば皆が死ぬ」という強力なメッセージを発信している「AIアライメント」の専門家エリーザー・ユドコウスキー氏と、AIを活用しながらも人間の自律性を侵害しない道を模索する哲学者フィリップ・コラルス氏の二人が来韓した。

　彼らは5日、「代替知能時代、思考主権を問う」をテーマに開催される「2026 SBS Dフォーラム」（SDF）の基調講演者として登壇する。イベントの前日である4日、ソウルの東大門デザインプラザ（DDP）で記者団と会い、AIの急速な発展がもたらす問題と解決策について語った。

　非営利研究機関「マシーンインテリジェンス研究所」（MIRI）の共同設立者であるユドコウスキー氏は、同僚研究者のネイト・ソアリス氏と共に、『超知能AIをつくれば人類は絶滅する（If Anyone Builds It, Everyone Dies）』という衝撃的なタイトルの本を書いた人物だ。韓国では昨年、『神の誕生、人間の終焉』（サンサンスクエア）として翻訳され出版された。彼は「今は汎用的なAIと超知能AIの中間段階に来ている」とし、「開発を遅らせるのではなく、完全に中止すべきだ」と述べた。彼が超知能に反対する理由は、人間がAIの知能発達過程を十分に理解しないまま賢い機械を育てているからだ。誰かがAIを独占することよりも、AIを人間の意図どおりに「整合」させることの方が難しいという点が、リスクの核心だと考える。

フィリップ・コラルス氏＝イ・ジュヒョン記者//ハンギョレ新聞社

　「サイバーセキュリティや人類の長年の難治病の治療にはAIの開発が必要ではないか」という質問に対しても、彼の立場は揺るがなかった。「AI開発で得られる利点と欠点は、そもそも取引対象にはなり得ない。AIを開発し続けてがんを治療することよりも、私たち全員が死ぬことの方が大きな問題ではないか」。彼は「国際協定を通じて、皆で開発を止めること」を提案した。核爆弾が引き起こした惨状を目の当たりにした人類が、第二次世界大戦以降、核兵器の使用を控えてきたように、AIも抑制の合意を形成すべきだということだ。AI産業の中核となるサプライチェーンを担う韓国も行動すべきだと指摘した。

　英国オックスフォード大学「人間中心のAI研究所（HAI=Human-Centered AI Institute）」創設ディレクターのフィリップ・コラルス教授は、ユドコウスキー氏が予測する暗い未来よりも、AIと共に生きる人間のジレンマに焦点を当てた。彼は「私たちがAIを使わなければ、AIでより効率的に働く人々と比べて後れを取る時代が来る」としつつ、「AIを多用すればするほど、私たちの決定や判断をAIに委ねることになる」と診断した。そして「このため、人間の自律性を強化できるAIの活用が非常に重要になる」と強調した。

　人間の自律性を助けるAIとは、特定の選択をするように助けるのではなく、人間が自らの基準に従って判断する「質問平衡」に至るよう、良い質問を投げかけることができるAIだ。ソクラテスの「対話」において、問答を通じて真理に至らせるチューターの役割をAIが担うべきだという意味だ。彼は「私たちが追求する価値、優先順位、到達方法を知るためには、より多くの哲学が必要だ。AI開発時代は哲学の開発時代だ」と語った。