hankyoreh

/AFP・聯合ニュース

　アンソロピック、オープンAI、スペースX（旧xAI）、グーグル・ディープマインドなど、米国の4大AI開発企業が人工知能（AI）の危険性を警告し、「ペース調整」を掲げていることから、その背景に関心が集まっている。表向きはAIが人間にもたらす危険を減らすための措置に見えるが、その裏には、すでに確保した技術的優位を守り、中国などの後発企業の追撃を遅らせようとする思惑も潜んでいるとみられている。

■「ペース調整論」が今出てきた理由とは

　主要なAI企業のリーダーたちがAIの安全性問題に言及したのは、今に始まったことではない。オープンAIのサム・オルトマン最高経営責任者（CEO）や、グーグル・ディープマインドのデミス・ハサビスCEOらは、これまで人間の制御を逸脱した最先端AIの脅威に対応するため、国際原子力機関（IAEA）などをモデルとした国際規制機関の設立を提案してきた。

　しかし、今月オープンAIが公開した「GPT-6 Astra」が、一部の性能評価（ARC-AGI-3）で99.9％を記録するなど、汎用人工知能（AGI、人間と同等またはそれ以上の知能を備えた人工知能）の時代に入ったと評価されたことを受け、状況が変わった。7月、オープンAIエージェントによるハギングフェイス（Hugging Face：AIモデル共有プラットフォーム）への攻撃のように、次世代AIモデルが制御範囲を超えて外部システムに侵入するなど、予期せぬ事故が現実のものとなるにつれ、ビッグテック（巨大テクノロジー企業）も頭を抱えざるを得なくなった。

　AIが人類を破滅に導く可能性があると主張し、最近アンソロピックを退社した研究員のジェイコブ・コックソン氏も14日（現地時間）、ニューヨーク・タイムズのポッドキャスト「ザ・デイリー」に出演し、 「（ハギングフェイス事件と）同様に、AIが『人間が自分の目標に何らかの形で反対している』と考えるようになれば、同レベルで全力を尽くす可能性がある」とし、ドローンをハッキングしたり、私たちが日常で利用する各種機器を活用して人類を攻撃したりする可能性もあると語った。

■安全を前面に出した「はしごを蹴り落とす」行為？

　このように、AIをめぐる安全問題への懸念が高まっているが、ビッグテックのペース調整論をそのまま受け入れるのは難しいという指摘もある。ペース調整論を主張するビッグテックの動きには、戦略的な利害関係が反映されている可能性があるためだ。アンソロピック社のアモデイCEOは12日、AIの安全な開発のために「民主主義国家間の基準策定」や「グローバルな連携」などを提案した。だが、すでに市場の主導権を握っている米国のビッグテック企業が、中国などの後発企業に対して高い水準の安全基準や関連費用を要求することは、事実上、市場参入を阻む「はしごを蹴り落とす行為」ではないかという反応も出ている。

　一部では、今後、大規模な投資誘致や新規株式公開（IPO）の過程でリスクを軽減するための布石だとみている。高麗大学ヒューマン・インスパイアード人工知能研究院のチェ・ビョンホ研究教授は、「（上場を控えたオープンAIとアンソロピックの場合）AIの安全上の欠陥は投資家の損失に直結するため、これを解決するという『ペース調整』を名目に、大規模な投資の誘致を狙っている」とし、「徹底的に計算された利益に基づく動きだ」と分析した。

■「空しい宣言」に終わるのか…米中の主導権争い

　専門家たちは、「AIの開発ペースを落とし、安全装置を整えよう」というアンソロピック社のアモデイCEOのブログ記事がきっかけとなった今回の「AI開発のペース調整論」も、また一つの宣言的な議論に終わる可能性が高いと予想している。ただし、これを機に、AIの安全性確保に向けたグローバル・ガバナンスや安全基準の標準化に関する議論へと拡大する可能性は残されている。こうした中、24日にニューヨークで開かれる米中首脳会談では、最先端のAIの規制に関する議題がテーブルに上る可能性があるとみられているが、実効性のあるグローバルな合意を引き出すのは容易ではないだろうというのが大方の予想だ。嘉泉大学スタートアップカレッジのイ・スンヒョン兼任教授は、「ビッグテックがAIをどのレベルまでリスク指標とみなすかの基準を定め、それを超えるモデルは開発しないという原則を策定し、それに従えばよい」とし、「AIのトップ企業が何の措置も講じずにペース調整だけを主張するならば、その真意を疑わざるを得ない」と指摘した。