「アンソロピックのＡＩ掌握、ヒトラーによる原爆先取りのようだ」
中国の人工知能（AI）スタートアップ企業「ディープシーク」の中心的な開発者が、最先端のAI技術と資源が米国のAI企業「アンソロピック」に集中する可能性を懸念し、ヒトラーが連合国より先に原子爆弾の技術を手に入れることになぞらえた。
香港のサウスチャイナ・モーニング・ポストなどの報道によると、ディープシークの開発者である劉勝与氏は14日、中国の無料メッセンジャー「WeChat（微信）」に長文を投稿し、「人類は自らを破滅させることについて、古来より少しも躊躇したことはない」としたうえで、「たとえ私があきらめたり、モデルの学習を故意に妨害して遅らせたとしても、他社のモデルは発展を続け、最終的には容赦なく私を圧倒するだろう」と記した。
最近、アンソロピックのダリオ・アモデイCEOをはじめとする米国のAI開発を先導する企業のトップらが、AIの開発速度を緩め、安全策や規制策を整える必要があるとする「ペース調整論」を打ち出し、賛否をめぐる議論が熱を帯びるなかでの立場表明だ。劉氏は「誰もが自らを破滅させることに執着している状況下では、私もまた残酷な軍拡競争に参加せざるを得ない」と記した。開発競争が激しい状況で、人為的にこれを阻止する方法はないとする趣旨だと読み取れる。
昨年4月にディープシークに加わった劉勝与氏は、ディープシークの新モデルv4.1の中心的な開発者であり、この投稿は劉氏が新モデルを発表した後に所感を述べた際に書いたものだ。AIのペース調整論と中国脅威論が話題となっているなか、劉氏の投稿は2日間で10万回以上閲覧され、注目を集めた。
この投稿で劉勝与氏は、AIの発展にともない、未来社会は生産性が最大化され、人々の生活水準も向上する共産主義社会へと向かうか、あるいは、荒廃したディストピアを描いたゲーム「サイバーパンク2077」のような世界になる可能性があるとみた。劉氏は「（ディストピアでは）少数のテック企業が大部分の資源を支配し、ごく少数の人が最も先進的なAIや各種の科学技術を用いて『機械的昇天』に近づくことはできるかもしれないが、ほとんどの人はごく低性能のAIしか利用できない」とし、「（社会的な）階層間の移動がますます難しくなるだろう」と展望した。
劉氏は何よりも、AIが一部の者によって掌握される閉鎖的な状況を警戒した。劉氏は「私は依然として、最先端のAIが開放的かつ安価な方法ですべての人に提供されるべきだと信じている」としたうえで、「アンソロピックやオープンAIがそうするとは信じていない」と記した。さらに、「特にアンソロピックが最先端の汎用AI（AGI）技術を掌握するとしたら、少し大げさに言えば、ヒトラーが連合国より先に原子爆弾の技術を手に入れるのと同じくらい深刻なことだ」と記した。AGIとは、人間レベルの知能、あるいはそれ以上を備えたAIシステムを総称する。
その上で、自身がディープシークに残ることを決めた理由の一つは、包摂的なオープンソースAIを育成するという自らの信念によるものだとし、「ディープシークが強力で高速かつ広く利用できるAIを研究し、これをオープンソースとして公開することで、もしかすると世界を『サイバーパンク2077』のようなディストピアの瀬戸際から、少しでも引き戻せるかもしれない」と記した。ディープシークは、主要なAIモデルのコードとモデルの重みを公開するオープンソース戦略を採用している。
大きな反響を受け、劉氏は翌日の15日に投稿し、前日の投稿の本来の目的は、アンソロピックに対する「否定的な感情」を語ることではなかったとしたうえで、あくまで個人的な見解にすぎず、ディープシークの立場ではないと説明した。劉氏は「AIが今後ますます強力になっていくことは確実であり、フィジカルAIや再帰的自己改善（RSI）、さらには、われわれがまだ知らない新たな技術も控えている」とし、「私は将来のAIの能力について楽観的だ」と付け加えた。
訳M.S
