AIに書かせた原稿を公開する前に潰す──検品ゲートの作り方

AIに書かせた原稿で事故が起きるとき、壊れているのは文章ではなく出典と本文の対応関係です。日本語は整い、数字も具体的で、URLまで付いている。それでも、その数字がそのURLの中に書かれていない。この記事では、当サイトが実際に出してしまった4類型の事故（引用欠落・虚偽の但し書き・AI生成ページの引用・別条件の実測流用）をそのまま出し、公開前に止める「検品ゲート」4段の手順に落とします。ゲートを通らなかった原稿は、直すのではなく該当の文を消すのが既定値です。

3行まとめ

• AI原稿の欠陥は「嘘の文章」より「本物に見える出典」の形で出る。IFCN綱領は出典に4基準を課し、その2番目が「適切な一次ソースがあるなら二次ではなく最良の一次を使う」である
• 引用先そのものがAI生成である事故が起きる。NewsGuardは2026年8月27日時点で16言語・3,749件のAIコンテンツファームを列挙し、列挙条件の1つに「AI生成である旨を明示していない」を置いている
• Googleはスパムポリシーで「生成AIツールでユーザーに価値を足さないページを大量生成すること」をscaled content abuseとして名指ししている。AI利用そのものは禁止していない

AI原稿で最初に壊れるのは文章ではなく出典である

危険を「事実と違うことを書く」と要約すると、対策を読解の精度に求めてしまい、実務では外します。実際に落ちるのは次の順です。①本文に数字が入る。②出所としてそれらしいURLが並ぶ。③URLは実在し、開ける。ドメインも公式に見える。④しかしその数字は、そのページのどこにも書かれていない。

③まで揃うので目視では止まりません。止めるには「主張ごとに原文の該当箇所を突き合わせる」機械的な工程が要ります。Anthropicの公式ドキュメントも同じ設計で、主張ごとに引用と出典を出させ、裏付けの引用が見つからない主張は撤回させる（If it can't find a quote, it must retract the claim）と明示しています。OpenAIのCitation Formattingガイドも引用を設計対象として扱い、独自プロンプトを書く場合に定義すべき項目として「what to do when support is missing（裏付けが無い時にどうするか）」を挙げています。ここを先に決めていない原稿は、検品の対象外です。

実際に出した4類型の事故

いずれも「AIが暴走した」ではなく、人間側が検品工程を持っていなかったために通ったものです。

①②は原稿の内部で完結するので機械で落とせます。③④は外を見に行かないと判定できないので人が担当します。この分担を決めずに「全部よく見る」にすると、量が増えた瞬間に検品が形骸化します。

① 引用欠落：数字はあるが、出所がない

最も数が多く、最も見つけやすい類型です。AIは「この主張にはこういう出典が付くはずだ」という形式の再現が得意なので、出典の形だけが先に生成されます。対策は、原稿から数字（%・件数・金額・日付・バージョン）を全部抜き出し、sourcesのURLをcurlで取得して該当文字列の有無を機械照合すること。桁区切りや全角半角で落ちるので、数字を正規化してから照合します。見つからなかった数字を「近い数字」に直さないことが要点です。直せば通ってしまい、次から検品が甘くなります。

② 虚偽の但し書き：確認していないのに「確認した」と書く

当サイトは「2026年8月14日時点で公式ページを確認」のような但し書きを付けています。この一文は記事の信頼性そのものなので、アクセスしていない状態で書かれると記事全体の価値がマイナスになります。事故の起き方は地味です。AIに「出典を確認した旨を書いて」と指示すると、確認という行為ではなく確認したという文が生成されます。指示の側が行為と文を分けていないので、AI側では区別しようがありません。

対策は、但し書きを作文ではなく取得ログから生成することです。curlを叩いた時刻・HTTPステータス・取得バイト数を記録し、記録がある出典にだけ「確認した」と書く。なお生存確認をHEADで機械化すると別の穴が開きます。当サイトの出典URL1,529件で比較したところ、HEADのみの判定とGETで確かめ直した判定は56件で食い違い、うち40件は「死んでいる」判定なのに実際はGETで200が返るURLでした（出典URLの死活チェックで404だけ見てはいけない）。チェックの仕組み自体が偽の安心を出す点で、この類型と地続きです。

③ AI生成ページを引用してしまう

URLは生きていて体裁も記事らしく、しかし中身が自動生成だった事故です。NewsGuardのAI Tracking Centerは2026年8月27日時点で、16言語にまたがる3,749件を「AIコンテンツファーム」として列挙しています。同社が列挙の条件に挙げるのは、(1)内容の相当部分がAI生成であるという明確な証拠、(2)人間の監督なしに公開されている強い証拠（チャットボットのエラー文言が本文に残っている等）、(3)一般読者が人間の書き手によるものと思い込む体裁、(4)AI生成である旨を明示していないこと、の4点です。引用先を疑うときは、この4点をそのままチェック項目に使えます。同センターは収益源が主にプログラマティック広告で、広告主が意図せず資金を供給している構造も指摘しています。減る方向の圧力がかかりにくい以上、引用側で弾く前提に立つほうが現実的です。

判断基準としてより上位に置けるのがIFCN（International Fact-Checking Network）の綱領です。原則2「Standards and Transparency of Sources」は署名機関に4基準を課しており、うち2つがここに効きます。「適切な一次ソースが手に入る場合は二次ではなく最良の一次を使い、一次が無い場合はなぜ二次を使ったか説明する」、および「主張の主要な要素はすべて、名前のある複数の証拠に照合する（その論点で唯一の情報源である場合を除く）」。AI生成ページは両方で落ちます。

④ 別条件の実測を流用する

自分で測った数字だから安全、とは限りません。測った条件（モデル名・バージョン・料金プラン・解像度・日付）を書かずに引くと、読者の環境では再現しない数字になります。主張と根拠の対応が切れている点で、引用欠落と同型です。対策は、実測値をテキストではなく構造化データで持つこと。値に加えて「measured_at / tool / version / plan / settings」を必須項目にし、欠けたら記事に差し込めないようにします。

検品ゲートは何を通し、何を止めるか

4類型を公開までの順序に並べ直したものが検品ゲートです。

順序に意味があります。G1で原文を保存しないとG2を機械化できず、G2が機械化できないとG3・G4に使う人間の時間が残りません。人間の目を後ろに残すために前段を機械にするという配分です。AIへの指示もこれに合わせ、Anthropicの公式ガイドが挙げる手法のうち、①「わからない」と言うことを明示的に許可する、②長い文書は先に原文の逐語引用を抜き出させてから書かせる、③生成後に主張ごとの裏付け引用を探させ、見つからなければ撤回させる、の3つを使います。③を実行させると原稿は短くなります。短くなった分が、検品前に含まれていた根拠なき主張です。

検索エンジン側はAI記事をどう見ているのか

「AIで書くと評価されない」という前提で工程を組むと判断を外します。Google Search Centralは2023年2月8日の記事で、どう作られたかではなく品質で評価する方針を示し、FAQで「AIコンテンツはガイドライン違反か」に対し「適切なAI・自動化の利用は違反ではない」と答えています。同時に、検索順位の操作を主目的とした自動生成はスパムポリシー違反だとしています。スパムポリシー側ではscaled content abuseとして「生成AIツールやそれに類するツールを使い、ユーザーに価値を足さないページを大量に作ること」が例示されており、線を引いているのは生成手段ではなくユーザーへの価値が足されているかです。

同社の「Creating helpful, reliable, people-first content」の自己評価質問は、そのまま検品に転用できます。「容易に検証できる事実誤認はないか」「他の情報源に依拠する場合、単なる複製や書き換えを避け、実質的な付加価値と独自性を提供しているか」「明確な出典、専門性の証拠、著者や運営者の背景など、信頼したくなる形で情報が提示されているか」。逆に警告サインとして挙がるのは「多くのトピックでコンテンツを作るために広範な自動化を使っているか」「他人の言っていることを主にまとめているだけで価値をあまり足していないか」です。

案件記事やアフィリエイトを含む記事では、事実の検品とは別に表示上の義務も発生します。日本では令和5年10月1日から、広告であるにもかかわらず広告であることを隠す表示が景品表示法違反の対象です。消費者庁は規制対象を「商品・サービスを供給する事業者（広告主）」とし、依頼を受けた第三者は対象外と明記しています。

この手順で防げないこと

原文が間違っている場合。G2は「本文の数字が原文に存在するか」しか見ないので、原文の側が誤っていればそのまま通します。IFCNが複数ソース照合を要求しているのはこの穴を人間で埋めるためですが、当サイトも全主張でやり切れてはいません。

文脈のすり替え。数字が原文に存在していても、原文が別の対象について述べていれば文字列照合は通ります。「AがXである」を「BがXである」に書き換えても、Xが一致すれば機械は落としません。ここは人間が読むしかなく、当サイトでは1本あたりの数字が20個を超えると精度が落ちます。

AI検出ツールでの判定。引用先がAI生成かを検出ツールで自動判定する運用は採っていません。検出ツールは見逃しと冤罪の両方向に外れることが報告されており（AI検出ツールは「両方向に壊れている」）、白黒の根拠には使えないと判断しています。③の判定はNewsGuardの4条件を人が当てる方法に留めています。

モデル側の性質。ハルシネーションは工程で減らせても消えません（LLMのハルシネーション(幻覚)とは？原因と対策）。Anthropicの公式ドキュメントも「これらの技法はハルシネーションを大きく減らすが完全になくすわけではない。重要な情報は常に検証すること」と明記しています。ゲートは事故率を下げる仕組みであって、事故ゼロを保証する仕組みではありません。

情報収集の段階で一次ソースに寄せておけば、このゲートで落ちる原稿は減ります。その部分はAIニュースの追い方──リークに振り回されない「一次ソース主義」の情報収集術に分けています。

検証日時と数字の限界

本文中の事実・数値は、2026年8月27日に各公式ページをcurlで取得して確認しました。NewsGuardの件数（16言語・3,749件）は同日の掲載値で、同センターは継続更新されるため閲覧時点で変動します。Google Search Central、OpenAI Platform Docs、Claude Platform Docs、IFCN Code of Principlesの記述は同日時点の英語原文にもとづく要約で、訳文の責任は当サイトにあります。消費者庁の記述は同庁ページの記載にもとづきますが、個別の表示が違反にあたるかの判断は当サイトでは行えません。広告・案件記事の表記は専門家に確認してください。出典URL比較の数字（1,529件・食い違い56件）は2026年8月14日時点の自社実測で、外部で追試できるものではありません。検品ゲートの4段構成は当サイトの運用であり、他サイトでの効果を保証するものではありません。