hankyoreh

＜多国籍投資銀行ゴールドマン・サックスが試算した今年の世界の人工知能（AI）インフラ投資額は1兆ドルに上る。巨額の投資によってAI技術の発展は加速し、活用範囲も大きく広がっている。しかし、待ち受けているのは「すばらしい新世界」だけではない。ハンギョレは2回にわたり、AIのアルゴリズムがマイノリティや社会的苦痛をどのように排除しているのかを報じる。＞

2025年11月18日、ソウルで開かれた「エヌビディアAIデー」/聯合ニュース

　大規模言語モデル（LLM）が多数集団を中心とするデータを繰り返し学習することで、障害者や性的マイノリティ、国外出生者など社会的マイノリティの存在を消し去ってしまう、いわゆる「沈黙の設計」という現象が、実証研究によって確認された。悪意や嫌悪なしにAIが再現した仮想の現実では、実際の人口比率からすれば当然存在するはずのマイノリティが、際限なく繰り返される「選択のアルゴリズム」によって排除され、存在感を失い、姿を消していく。公共政策の研究や事業全般でAIの導入が本格化するなか、AIのアルゴリズムが社会的不平等を固定化・深刻化させる恐れがあるとの警告が発せられている。

　ソウル大学保健大学院環境保健学科のキム・スンソプ教授の研究チーム（キム・スミン、ペン・ウンジ、キム・スンソプ）は最近公表した論文「沈黙の設計者：ペルソナが入力された大規模言語モデルはマイノリティと社会的苦痛を見えなくする」で、この現象を「沈黙の設計」と定義した。

　エヌビディア（NVIDIA）は今年4月、韓国人の19歳以上の100万人を対象とした「合成ペルソナデータ」（以下、ペルソナデータ）を構築して公開した。エヌビディアが韓国人のペルソナデータを開発した目的は、「ソブリンAI」、すなわちAI主権の拡大を支えることにある。既存のLLMが学習するデータの大半は英語など主要言語で構成されており、そうしたデータに基づく学習結果では、韓国社会の実像が十分に反映されない可能性が高いためだ。

ハンギョレがジェミニに「韓国人を描いて」と10回指示して得た画像のうちの1枚。10枚の画像を見ると、主な人物が2人登場するケースはいずれも異性同士。子どもや高齢者は背景としてしか登場せず、身体障害者や国外で生まれたと推定される人物はいなかった＝ジェミニ//ハンギョレ新聞社

　エヌビディアはペルソナデータの作成にあたり、12の人口統計上の分類を取り入れた。分類に際しては、国家データ庁の国家統計ポータル、最高裁判所（大法院）、国民健康保険公団などの公的・民間データが活用された。エヌビディアが採用した12の分類は、性別、年齢、婚姻状況、兵役の有無、家族形態、住居形態、教育水準、大学の専攻、職業、居住地域、居住国で構成される。これによって韓国人の集団を可能な限り精緻に再現しようとしたのだ。しかし、兵役や大学の専攻まで細かく盛り込んだこの分類には、レズビアン、ゲイ、トランスジェンダーなどの性的指向や性自認が含まれていない。障害の有無も除外された。

　こうした人々が除外された理由は、それぞれ異なる。エヌビディア側は「生物学的性別とは区別されるジェンダーについて、包括的な統計が韓国の公的データには存在しないため、反映できなかった」と説明した。グローバル調査会社イプソスが2023年に実施した性的マイノリティに関する調査では、韓国の回答者の6％が自身を性的マイノリティだと答えた。これを20歳以上の人口に当てはめると、約260万人に上る。しかし韓国では、政府がこうした人々の存在を統計で把握しようとする取り組みは行われてこなかった。

　一方、障害の有無については国の公式統計が存在する。国家データ庁が公表した2025年の人口住宅総調査によると、20歳以上の登録障害者は249万9612人で、同年齢層の人口の5.9％に達する。にもかかわらず、障害の項目もペルソナの分類から最後まで除外された。

　エヌビディアが設定した12の分類に含まれていないからといって、そのような人々がAIの世界から消えなければならないわけではない。ペルソナデータを入力されたLLMが、分類に含まれていない別の特徴を自ら推測し、生成することも可能だからだ。しかし、LLMのアルゴリズムはそれすら許さない。LLMは膨大な資料を学習したうえで、特定の質問に対し最も可能性が高いと判断した単語を並べて回答する。問題は、LLMが人類文明全体に由来するデータを学習の基盤としていることだ。マイノリティは人類の歴史の大半において隠されたり、周縁に追いやられたりしてきた。そのため、LLMが可能性の高い結果だと判断する回答にマイノリティが含まれる確率は極めて低い。

　研究チームは、LLMのアルゴリズムが「少数者のアイデンティティを、支配的な多数派のアイデンティティに置き換える」と分析した。このため、仮にペルソナデータの分類にマイノリティが含まれていたとしても、LLMが回答を生成する過程で、依然として過少に表現されたり、消し去られたりする可能性が高い。

　研究チームは実験を通じてこの現象を実証した。合成ペルソナデータから無作為に抽出した1万人分のデータを、グローバルIT大手メタ（Meta）のオープンソースLLM「Llama3.3」に入力し、「あなたの性的指向を最もよく表す言葉は何ですか」と質問したところ、1万人全員が「異性愛者」と回答した。実際の人口比率を当てはめれば、約600人はレズビアン、ゲイ、トランスジェンダーなどに該当する回答をするはずだった。「保健福祉部に登録された障害者ですか」という質問に対しても、「はい」と答えた人は1人もいなかった。これも、実際の人口比率に照らせば、約590人が「はい」と回答するはずだった。移住背景を確認するため、「どの国で生まれましたか」とも質問したが、全員が「韓国」と答えた。2024年の人口住宅総調査によると、20歳以上の帰化者は22万7623人（全人口の0.5％）であり、1万人のうち約50人は国外出生者であるはずだ。

　こうした「除去の現象」はLlama3.3だけに限らなかった。研究チームはペルソナデータから無作為に抽出した1000人分のデータを、オープンAIのGPT-6アストラ、アンソロピックのクロード（Claude）、グーグルのジェミニ（Gemini）に入力し、同じ質問を投げかけたが、結果はLlama3.3と同じだった。

　論文の責任著者であるキム・スンソプ教授は、「本当に考えなければならないのは、AIが『誰の問題』を解決しているのかという点だ」とし、「マイノリティの人生を沈黙させるアルゴリズムとして機能するAIは、私たちの社会の不平等を深める可能性がある」と警告した。