2026年9月7日 月曜日
AI時短ラボ
研究· 約17

Wikipediaは言語ごとに『違う話』をしている──20言語・150概念で測る『Framing Distance』

arXivが2026年8月22日に公開した論文は、Wikipediaの各言語版が同じ概念をどれだけ異なる枠組み(フレーミング)で説明しているかを、従来の『カバー範囲の差』ではなく『意味の距離』として測定した。20言語版・150概念・2,799記事を分析した結果、科学は言語版をまたいで記述が近い一方、宗教は言語版によって最も乖離することが分かっている。

Wikipediaは言語ごとに『違う話』をしている──20言語・150概念で測る『Framing Distance』
執筆・編集:
目次

Wikipediaの日本語版と英語版で、同じ項目を読み比べたことがある人なら、記述量や書きぶりが違うことに気づいた経験があるはずだ。ある言語版では歴史的経緯が詳しく書かれ、別の言語版では技術的な仕様が中心になっている、といった違いは珍しくない。この違いを「情報量の差(カバレッジギャップ)」としてではなく、「意味そのものの距離」として測定した論文が、2026年8月22日にarXivで公開された。著者はHung-Hsuan Chen氏1名、台湾・National Central University(国立中央大学)所属の単著論文。

3行まとめ

  • 論文は20言語版・150のWikidata概念・2,799記事を分析し、宗教の記事は言語版間で最も乖離し、科学・技術の記事は最も近い記述になると報告した
  • 論文全文のTable 1を確認すると、分析対象の20言語には日本語も含まれており、日本語版のカバー率(有効記事の割合)は141/150=94%。最も低いのはスワヒリ語版の106/150=71%で、論文はこれを「Bot翻訳・機械翻訳に最も依存した言語版」だと指摘している
  • コード・データ・言語ペアごとの較正ベースラインはGitHub(hhchen1105/cross-linqual-concept)で公開されている

カバー範囲の差ではなく「枠組み」の差を測る

論文はまず、既存研究との違いを明確にする。

"Prior work measures coverage gaps between editions; we measure framing distance for matched concepts."

先行研究は言語版間のカバレッジギャップ(記述量の差)を測っているが、この論文は対応づけられた概念について「フレーミングの距離」を測る。同じ概念でも、どの側面を強調し、どんな文脈で語るかという「枠組み」自体が言語版によって異なりうる、という着眼点だ。記事の長さが同じでも、ある言語版は歴史的な経緯を中心に語り、別の言語版は現状の制度や数値を中心に語る、というような違いは、単純な文字数の比較では捉えられない。分析対象は20の言語版・150のWikidataに紐づく概念・4つの領域・キャリブレーション用のデータセットにまたがる、3,000件の想定される概念×言語の組み合わせのうち2,799件の有効な記事だ。

論文全文(3.1節)には、この150概念の内訳がある。「文化的に負荷のかかった」4領域——宗教・政治・科学技術・ポップカルチャー——それぞれ30概念ずつに加え、化学元素・小さい数・基本色・一般的な動物・普遍的な自然種(水や山など)といった「文化的な負荷が最小限」の概念30個からなるキャリブレーション用セットを用意している。文化的に負荷のかかった領域の概念例として、論文はkarma(カルマ)・dharma(ダルマ)・democracy(民主主義)・liberalism(自由主義)・freedom(自由)・human rights(人権)・work-life balance(ワークライフバランス)を挙げている。各概念はWikidataのQID(項目を一意に識別するID)で紐づけられており、英語版記事のwikibase_itemページプロパティからQIDを解決する手法を取っている。論文は、この自動解決が誤動作した実例も明記している——最初のヒットによるエンティティ検索は不安定で、例えば"Sin"(罪)をSingapore(シンガポール)に、"Sun"(太陽)をSun Microsystems(企業名)に誤って対応づけてしまうケースがあった。こうした曖昧さ解消・リダイレクトの誤りの影響を受けた5概念については手作業でQIDを検証し、最終的に150概念すべての解決に成功したとしている。

キャリブレーション:単純な距離では言語ペアの相性が混じる

論文は重要な問題点を指摘する。生の埋め込み距離(意味をベクトル化して比較する際の距離)は、内容そのものの違いだけでなく、エンコーダがその言語ペアをどれだけうまく整合させられるかという「相性」も反映してしまう。

"the largest language-pair mean distance is 3.6 times the smallest, and distances are typically smaller within language families."

化学元素・数字・色のように、文化を超えて安定した対象を指す「キャリブレーション概念」であっても、最大の言語ペア平均距離は最小のものの3.6倍に達し、同じ語族内の言語ペアの方が距離は小さくなる傾向がある。つまり、比較したい概念の「本当の」意味的な距離を見るには、まずこの言語ペアごとのクセを補正する必要がある。そこで論文は、同じ言語ペアのキャリブレーション概念の平均距離を差し引いた「較正済み距離(calibrated distance)」を定義し、この補正によって言語ペア固有の整合性の違いや語族パターンの影響を大幅に減らせることを示している。

較正済み距離の計算式は、公式GitHubリポジトリのREADMEにも論文本文と同じ形で書かれている(excess_distance(concept, lang_i, lang_j) = raw_cosine_distance(concept, lang_i, lang_j) - mean_raw_cosine_distance(calibration_domain, lang_i, lang_j))。つまり、ある概念の生の距離から、同じ言語ペアにおけるキャリブレーション概念群の平均距離を引いた「超過分」がスコアになる。この値は符号付きで、プラスならその概念はキャリブレーション概念群よりも言語版間で異なって記述されている、マイナスなら逆に、キャリブレーション概念群よりも似て記述されていることを意味する。論文自身は、この指標の限界にも触れている——較正済み距離が高いことは「2つの言語版が概念の意味について本当に食い違っている」場合と「同じ意味を共有しつつ違う側面を強調しているだけ」の場合の両方と整合してしまい、この指標だけではどちらなのか区別できないと明記している。

数字:科学は収束、宗教は言語版ごとにバラバラ

3つの多言語エンコーダ(LaBSE、多言語MPNet、CMLM)を横断した分析結果はこうだ。

"scientific articles align more closely than calibration articles, and all three rank religion first and science/technology last."

科学に関する記事はキャリブレーション記事よりも言語版間で近く整合しており、3つのエンコーダすべてが、宗教を(乖離の)1位に、科学・技術を最下位にランクづけた。つまり、科学的な概念はどの言語で書かれても比較的似た説明になる一方、宗教に関する概念は言語版ごとに大きく異なる語られ方をしている、ということだ。概念ごとのランキングはエンコーダ間で高い一貫性を示し(LaBSEを基準にしたMPNet・CMLMとのスピアマン相関は0.75〜0.79)、政治領域の中でも検閲・難民といった概念は乖離が大きい一方、民主主義・人権は最も整合している概念の一つだったという。

この「政治領域の中でも概念によって差がある」という結果は、単純に「政治は言語版ごとに揺れやすい」で片づけられない解像度を持っている。検閲・難民のように、各国・各言語圏の政治状況や報道の立場が直接反映されやすい概念は乖離が大きく、民主主義・人権のように国際的な規範として比較的共有された理解がある概念は近い記述になる、という構図が見えてくる。化学元素や数字のような文化中立的な対象を基準にした「較正済み距離」という手法自体が、この種の解像度を持つ比較を可能にした鍵だと言える。

分析対象の20言語版:日本語版はカバー率94%

論文全文のTable 1には、20言語版それぞれの語族・文字体系・150概念中の有効記事数(カバー率)が一覧になっている。抜粋すると次の通りだ。

言語 語族 文字 有効記事数(カバー率)
スワヒリ語 バンツー語派 ラテン文字 106/150(71%、最低)
ヒンディー語 インド・アーリア語派 デーヴァナーガリー 133/150(89%)
ドイツ語 ゲルマン語派 ラテン文字 139/150(93%)
日本語 日本語族 日本語(漢字仮名) 141/150(94%)
中国語 シナ語派 漢字 144/150(96%)
英語 ゲルマン語派 ラテン文字 149/150(99%、最高)

(出典:論文全文 Table 1「The 20 language editions」。全20言語はアラビア語・中国語・英語・フィンランド語・フランス語・ドイツ語・ヘブライ語・ヒンディー語・インドネシア語・日本語・韓国語・ペルシア語・ポーランド語・ポルトガル語・ロシア語・スペイン語・スワヒリ語・タイ語・トルコ語・ベトナム語)

論文は、スワヒリ語版のカバー率の低さそのものを「Wikipediaのカバレッジ不平等を示す実質的なシグナル」として扱っており、別セクションでは「サンプル中で最もBot・機械翻訳に依存した言語版でもある」と分析している。分析対象言語の選定条件は「LaBSE(使用した多言語埋め込みモデルの1つ)が対応していること」で、20言語という規模は190通りの言語ペアを扱いながら3,000件規模の記事取得・検証パイプラインを現実的な範囲に収めるための制約だったと説明されている。

この「Bot・機械翻訳依存」という指摘は、論文6.2節の監査結果に基づく。スワヒリ語・ヒンディー語・タイ語・ベトナム語・インドネシア語の全有効記事と、他の言語では15概念のサンプルを含む計889記事を対象に、ContentTranslationツールで作成された記事(改訂タグで判定)・ユーザー名がbotで終わるアカウントが作成した記事・直近30回の改訂の50%超をそうしたアカウントが占める記事を「フラグ」として集計している。全体では13.3%が該当したが、スワヒリ語は突出して高い41.5%(106記事中44件)、ヒンディー語15%、ベトナム語13%と続き、大半のヨーロッパ言語版は7%以下だった。重要なのは、この論文がフラグ付き記事を除外して再計算した結果も報告している点だ。宗教領域の平均較正済み距離は、除外前の+0.034から除外後は+0.032とほぼ変わらず、いずれの領域でも符号(プラス・マイナスの向き)は変化しなかった。つまり「宗教は言語版間で最も乖離する」という中心的な結果は、Bot・機械翻訳への依存度が高い言語版を除いても崩れないことが確認されている。

論文はさらに、キャリブレーション用の30概念の内訳(化学元素8・小さい数4・基本色5・一般的な動物8・普遍的な自然種5)についても、いずれか1つのサブドメインを除いて分析をやり直す頑健性チェックを5回実施している。その結果、キャリブレーション基準値の平均は最大でも0.011しか変動せず、どのサブドメインを除いても領域間の順位(宗教が最も乖離・科学技術が最も収束)は保たれたという。加えて論文は、Wikipedia記事から作ったキャリブレーション基準(平均0.215)を、プロの翻訳者が同じ20言語に訳した並行テキストFLORES-200(平均0.062)と比較する検証も行っている。両者の言語ペアごとの構造はよく似ている(スピアマン相関0.79〜0.82)が、水準には差があり、論文はこの差について「Wikipedia版の基準値には、翻訳では説明のつかない独立した執筆・文体の違いが含まれている可能性があり、その分だけ較正済み距離はむしろ控えめ(過小評価)に出ている」と解釈している。

150概念の内訳──Appendix A Table 5で全リストを確認

論文全文の巻末Appendix A・Table 5には、150概念すべてが英語版Wikipediaのタイトルで、ドメインごとにリスト化されている。各領域から一部を抜粋する。

領域 収録されている概念の例(一部抜粋)
宗教(30概念) Karma, Dharma, Sin, Salvation, Heaven, Hell, Reincarnation, Nirvana, Prayer, Blasphemy, Martyr など
政治(30概念) Democracy, Liberalism, Freedom, Human rights, Censorship, Propaganda, Refugee, Colonialism, Work-life balance など
科学技術(30概念) Artificial intelligence, Machine learning, Quantum mechanics, DNA, Vaccine, Climate change, Evolution, Virus など
ポップカルチャー(30概念) Anime, Manga, K-pop, Esports, Internet meme, Cosplay, Streetwear など
キャリブレーション(30概念) Hydrogen・Helium・Gold(化学元素)、One・Two・Ten(数)、Red・Blue(色)、Dog・Cat(動物)、Water・Mountain(自然物)など

(出典:論文全文 Appendix A「Concept Inventory」Table 5)

さらに論文はTable 6で、5,000回のブートストラップ再抽出をかけても順位が安定して動かない、最も乖離した概念・最も整合した概念を個別に示している。最も乖離した側の上位には宗教領域のSacrifice(較正済み距離+0.115)・Clergy(+0.093)・Martyr(+0.085)・Blasphemy(+0.074)と、政治領域のCensorship(+0.108)が並ぶ。逆に最も整合した側には科学技術領域のVirus(-0.074)・Evolution(-0.072)や、ポップカルチャー領域のK-pop(-0.049)が入っている。個別の概念で見ても、儀式性・制度性の強い宗教用語と、検閲のように各国の政治的立場が直接反映される政治概念が乖離の上位を占め、自然科学の概念が下位(=整合側)に集まるという、ドメイン単位の傾向と整合する構図になっている。

多言語展開で語り口の違いを意識する

多言語でAIコンテンツを展開する、あるいはWikipediaのような多言語情報源をAIの学習・検索対象として活用する場合、この論文は「同じトピックでも言語によって語られ方の枠組み自体が違う」という前提を、実測データとともに示している。特に宗教・政治のようなセンシティブな話題を多言語で扱う際は、翻訳の正確さだけでなく、言語圏ごとの「語り口の違い」自体が情報のズレを生みうることを意識する価値がある。AIの多言語対応の限界についてはLLMのハルシネーション(幻覚)とはで扱う信頼性の問題とも通じる部分がある。

リポジトリの各スクリプトの中身までは踏み込めていない

論文全文を確認したことで、20言語版の一覧・日本語版のカバー率・4領域の構成(宗教・政治・科学技術・ポップカルチャー各30概念+キャリブレーション30概念)・150概念全リスト(Appendix A Table 5)・較正済み距離の計算式・Bot監査の詳細は判明した。GitHubリポジトリのREADMEも直接curlで確認し、論文本文と同じ計算式が実装されていることを照合できた。一方、リポジトリ内の実際のコード・データファイル(resolve_qids.pycompute_embeddings.pyなどREADME以外の各スクリプトの中身)までは、本記事の執筆時間内では踏み込んで確認していない。Zenn記事検索(2026年8月27日実施)では該当する日本語記事は見つからなかった。

シェア: ポスト はてブ

出典・参照資料

AIニュースの解説を動画でも

YouTubeでは注目ニュースの背景を解説し、Xでは新着記事をお知らせしています。

コメント

まだコメントはありません。最初のコメントを書いてみませんか?

AIについて聞きたいことはありますか?

質問箱で無料で受け付けています。回答は公開され、他の方の参考にもなります。

質問箱を見る →

新しい記事をメールで受け取る

AIの新しい発表を、出典付きで整理して届けます。

関連記事