22日(現地時間)に開幕する国連総会で、人工知能(AI)の安全性問題が主要議題として取り上げられる。
ロイター通信の報道によると、国連安全保障理事会(安保理)は23日に、AIが制御不能になる危険性と国際平和および安全保障への影響をテーマに会議を行う予定になっている。今月の安保理の議長国となっているフランスは、今回の会議を招集し、「AIに対する統制力の喪失や、最新のAIモデルが国際安全保障と平和に影響を及ぼす行為に悪用される危険性について、参加国に分析を提示させることを目的とする」とその趣旨を説明した。
ロイター通信は、AIの制御権が奪われる可能性を警告してきたオープンAIのサム・アルトマン最高経営責任者(CEO)がブリーフィングを行う予定だと報じた。オープンAIの広報担当者は、アルトマン氏は国際協力と安全基準の共有の必要性に焦点を当てる計画だと語った。安保理は、AIモデル「クロード」の開発会社であるアンソロピックの高位関係者の出席も推進している。続いて24日には、AI安全団体が主導し、国連開発計画(UNDP)やユネスコなどが共催するAI危機についての付帯行事も、国連本部で行われる。
一方、米国のトランプ大統領は19日、ソーシャルメディアのトゥルース・ソーシャルに「AI軍を創設しようと思う」、「そのために近くAI『ツァーリ(皇帝)』を発表する」と表明した。続けて同氏は「AIによる大量殺傷(の恐れ)」について、「ねつ造劇」だと一蹴した。トランプ大統領は、AI軍がどのような役割を果たし、どのような組織で、どのように動くのかなどについては具体的に説明していない。