OpenAI、EU向けにテキスト透かし「textGrain」を導入へ――APIは全世界で任意、未検出でも人が書いた証明にはならず

OpenAIは10月5日、EU AI法への対応として、AIが生成した文章に入れる電子透かし「textGrain」の方針を公表した。APIでは同日から全世界で一部のモデルに任意で提供し、EUのChatGPT・Codexでは、今後数週間で対象となるテキスト出力に透かしを入れる。

検出器は当初、承認された研究者・専門機関に限って提供するという。同時にOpenAIは、透かしはOpenAIのシステムが文章に関わったことを示す限られた信号であり、人の寄与の量・責任の所在・内容の正確さは示さないと説明した。短い文章や編集された文章では検出率が下がることも、数値で公表している。

OpenAIが示したテキスト透かしの導入範囲

OpenAIの発表文は、導入の中身をAPI・EUのChatGPTとCodex・検出器の3項目に分けて示した。画像・音声の検証ツールは、確認を希望する組織に引き続き公開で提供するという。

APIは同日から全世界で、一部のモデルに任意で提供

API利用企業は発表当日から、全世界で一部のモデル（select models）の出力に透かしを入れるかを選べる（opt in）。APIでの透かしは、既定ではオフのままだ。今回確認した10月5日の発表文では、対象となるモデル名を確認できなかった。

OpenAIはこの選択制を、透明性に関する義務に透かしをどう組み込むかを、顧客自身が決められるようにするためだと説明した。クラウドパートナー経由で使うOpenAIのモデルの出力についても、今後数週間で透かしを使えるよう取り組んでいるという。

EUのChatGPT・Codexには、数週間内に不可視の透かし

EUでは今後数週間で、対象となる（eligible）ChatGPT・Codexのテキスト出力に、目に見えない透かしを入れる。対象は全プランの利用者で、地域はEUに限られる。

OpenAIは、導入時点では透かしを全世界の既定にしないと明言した。地域を絞った理由は、実際の利用状況とフィードバックから学ぶ余地を得るためだという。

ただし、「対象となる」出力の具体的な範囲は、発表文に記載がない。EUの利用者の判定方法・Codexの対象となる使い方・透かしをオフにできるかも、記載はない。

検出器は承認された研究者・専門機関に限って提供

検出器は、同日から利用の申請を受け付けた。利用できるのは当初、技術の評価と改善に協力できる、承認された研究者と専門機関（approved researchers and expert organizations）に限られる。

OpenAIによると、利用は行動規範に沿って（In accordance with the Code of Practice）、個別に審査して認める。透かしの見逃しと誤検出のリスクを理由に、検出器の一般公開は見送った。

検出器が返すのは、OpenAIの透かしを検出したかどうかだけだ。利用者を特定せず、プロンプトや会話の内容も明かさないとOpenAIは説明している。

textGrainの仕組みとOpenAIが公表した検出率

textGrainは、AIが選ぶ単語に統計的な偏りを持たせる方式だ。OpenAIは検出率を数値で示し、文章の長さ・分野・編集の有無によって結果が大きく変わることを明らかにした。

単語の選び方に、目に見えない統計的な信号を入れる

OpenAIによると、textGrainはモデルが選ぶ語に、目に見えない統計的な信号を加える。検出器はその信号を探し、文章にOpenAIの透かしが含まれているかを判定する仕組みだ。

技術報告書は、ペンシルベニア大学・イェール大学の研究者とOpenAIの研究者の共著で、10月5日付で公開された。OpenAIは今後数週間で報告書に詳細を追記し、技術をオープンソースで公開する計画も示したが、公開時期の記載はない。

目標偽陽性率1%で、心理学の400トークンの文章を約95%検出

検出器の誤りには、透かしが無い文章を「ある」と判定する偽陽性と、入っている透かしを見逃す偽陰性の2種類がある。OpenAIは目標偽陽性率を1%とした条件で、文章の長さごとの検出率を公表した。

トークンとは、AIが文章を処理するときの区切りの単位で、日本語の文字数とは一致しない。OpenAIの心理学分野の評価では、200トークンで約80%・400トークンで約95%を検出できたという。

一方、数学のように語の選択の自由が小さい文章では、検出率が大幅に低かった。発表文に掲載された図の値では、数学は200トークンで約37%、400トークンでも約61%にとどまる。

同義語に置き換える編集で、検出率は17%まで低下

編集を加えると、透かしの信号は弱まる。OpenAIは英語の応答を対象に、単語を同義語に置き換えたときの検出率を示した。この評価は600件の応答を元に、置き換えの割合を変えて比べたものだ。

400トークンの文章で単語の10%を同義語に置き換えると、検出率は約92%から66%に下がった。25%を置き換えた場合は17%だ。

翻訳後の検出率の数値は、発表文に記載がない。OpenAIは翻訳された文章では、検出が確実に働かないことがあると書いている。

OpenAIは、SynthIDのテキスト版を含めて同社が試した他の方式と比べ、textGrainは同等以上の性能だったとしている。ただし、比較の数値は発表文に記載がない。同社は、理想的な条件での性能が日常の利用での確実な検出を保証しないと付け加えた。

8つのベンチマークで、品質に意味のある差は見られないと説明

透かしが出力の質を落とすかどうかについて、OpenAIは8つのベンチマークで、透かしの有無による意味のある性能差は見られなかったと説明した。比較に使ったモデルは、同社が最新のフロンティアモデルと呼ぶ「Astra」だ。

例えば、Artificial Analysis Intelligence Indexは透かし無しが49.57点・透かし有りが49.76点だった。DeepSWE v1.1では、透かし無しの72.80%に対し、透かし有りは71.68%となっている。

2024年には翻訳や書き換えへの弱さを挙げていた

OpenAIは2024年8月4日、テキスト透かしについての懸念を自社のブログで説明していた。手法は開発済みだとした上で、言い換えのような局所的な改変には強い一方、翻訳や別の生成AIでの書き直しのような全体的な改変には弱いと書いている。

同じ更新では、英語を母語としない人がAIを文章作成に使うことへの偏見を生むおそれと、大量の文章に適用すると偽陽性の総数が増える点も挙げた。TechCrunchが引用する2024年のWSJ記事では、OpenAIが透かしを公開せず、透明性と利用者の獲得・維持の間で判断が揺れていたと報じられた。

透かしの検出結果が示さない5つのこと

OpenAIは発表文の中で、検出結果から何が言えて何が言えないかを5項目に分けて示した。透かしは、OpenAIのシステムが文章に果たした役割について、限られた信号を与えるにすぎないという位置付けだ。

人の寄与・責任・利用者・内容の正確さは示さない

透かしは、OpenAIのシステムが文章の一部を生成または処理したことを示しうる。しかし、人がどれだけ判断・編集・創意を加えたかは測れないとOpenAIは説明する。

また、透かしは文章の所有者を決めるものではない。利用が適法だったか・開示が必要だったか・誰が責任を負うかも、透かしからは判断できないとしている。

透かしは、人物・組織・アカウント・プロンプト・会話を文章に結びつけない。内容の真偽を確かめるものでもなく、文章が正しいか・誤解を招くか・有害か・適切な文脈で示されているかは分からないと、OpenAIは書いている。

透かしが検出されなくても、人が書いた証明にはならない

OpenAIのツールで生成された文章でも、短すぎる・編集された・翻訳されたといった状態では、検出が確実に働かないことがある。

加えて、透かしに対応していないモデルの出力・透かしの導入前に作られた文章・他社のツールで作られた文章である可能性もある。透かしが検出されないことは人が書いたことの証明にはならないと、OpenAIは明記した。

EU AI法第50条第2項と行動規範の定め

OpenAIは発表文で、EU AI法が生成AIの提供者に対し、生成した文章を機械で読み取れる形で識別できるようにするよう求めていると述べた。発表文に条番号の記載はないため、ここでは法律と行動規範の該当箇所を並べる。

第50条第2項は、生成物に機械可読なマークを求める

EU AI法第50条第2項は、音声・画像・動画・テキストを生成するAIシステムの提供者に、出力を機械可読な形式でマークするよう求める。AIが生成または加工したものとして検出できるようにすることも義務の内容で、汎用AIシステムも対象に含む。

技術的な手段には、技術的に可能な範囲で有効性・相互運用性・頑健性・信頼性が求められる。標準的な編集の補助を行う範囲や、利用者が入力したデータまたはその意味を実質的に変えない範囲は対象外だ。法律が犯罪の検知・予防・捜査・訴追のために認めるシステムも、適用除外に含まれる。

適用開始は8月2日、対象となる既存システムは12月2日まで

第50条の適用開始は2026年8月2日だ（第113条）。ただし、8月2日より前に市場に出たシステムについては、2026年のデジタル・オムニバスで経過措置が新設された。

第111条第4項は、こうしたシステムの提供者に、第50条第2項への適合に必要な措置を2026年12月2日までに取るよう定める。OpenAIの発表文に、これらの期限への言及はない。

行動規範への参加は任意、透明性義務は法的義務

欧州委員会は6月10日、行動規範（Code of Practice on Transparency of AI-generated Content）の最終版を公表した。委員会は7月8日、この行動規範が第50条第2項・第4項・第5項の義務を十分に扱い、効果的な実施を助けると結論付けている。

行動規範への参加は任意だが、第50条の透明性義務そのものは法的義務だと委員会は説明する。行動規範に従っても、それだけで義務を果たしたと証明されるわけではないとも記した。署名者にはOpenAI・Anthropic・Googleが含まれる。

行動規範は200トークン超の文章に透かしを求める

行動規範のSub-measure 1.1.2は、ごく短い文章を除き、AIが生成したコンテンツに知覚できない透かしを入れるとする。200トークンを超える自由記述の文章には、非常に長い文章より信頼性が低くなりうるとしても、透かしを入れる必要があるという。

Sub-measure 2.1.2は、自由記述の文章向けの検出の仕組みについて、信頼性や頑健性が低い範囲で利用を制限してよいと定める。制限は、より信頼できる検出の仕組みが現れるまでの期間に限るとされた。その場合も、正当な必要がある検証済みの専門家には、適切な管理の下で利用を認めるという。

OpenAIの発表文は、検出器の利用を個別審査で認める方針について「行動規範に沿って」と書いている。当メディアは8月1日の記事で、EU AI法の執行開始と、8月2日から適用される透明性義務を扱った。

他社の透かしの範囲と、日本の企業が確認できる3点

行動規範に署名した他社も、テキスト透かしの導入を進めている。OpenAIとの違いは、適用する地域と製品の範囲だ。最後に、日本の企業の立場から確認できる事実を整理する。

Anthropicは全世界の製品で、対応モデルのテキストに透かし

Anthropicは、Claudeのヘルプセンターで行動規範に署名したと説明している。2026年8月2日以降にEUで提供を始めるClaudeのモデルは、提供開始時点から機械可読なマークに対応し、生成した文章には透かしが入るという。それ以前のモデルについては、対応を進めているとした。

透かしの適用範囲は、Claude Platform（API）・Claude・Claude Code・Claude Cowork・Claude Tagで、地域はClaudeを提供する全世界だ。AWS・Google Cloud・Microsoft Foundry経由も対象だが、一部のモデルは展開途中だ。

検出は限定プレビューの段階で、EU法が定める対象組織と、同法の遵守のために透かしを確認する義務を負う企業に提供している。両社の範囲を並べると次の通りだ。

項目	OpenAI	Anthropic
適用する地域	ChatGPT・CodexはEUのみ、APIは全世界で任意	Claudeを提供する全世界
対話型サービス・開発ツール	EUの対象となるChatGPT・Codex（今後数週間）	Claude・Claude Code・Claude Cowork・Claude Tag
API	全世界で一部のモデルに任意（既定はオフ）	Claude Platform（API）の対応モデルに適用
クラウド経由	今後数週間で対応するため取り組み中	AWS・Google Cloud・Microsoft Foundry経由も対象、一部は展開途中
検出器	承認された研究者・専門機関に個別審査で提供	限定プレビュー（対象組織と義務を負う企業）

GoogleのSynthID Textは2024年にNatureで論文を公表

2024年10月23日、Googleのテキスト透かし「SynthID Text」の論文が科学誌Natureに掲載された。論文掲載時点では、SynthID TextはGeminiとGemini Advancedの透かしに使われていた。コードはGitHubで公開されている。

論文は限界も挙げた。AI生成テキストの識別を広く行うには、生成サービスの運営者間で透かしの導入に協調が必要なことと、透かしの仕組みを盗み取る攻撃・偽装する攻撃・除去する攻撃に弱いことの2点だ。

OpenAIの発表文によると、OpenAI自身も対応する画像と音声にはSynthIDの透かしを入れ、対応する画像にはContent Credentialsを付けている。テキストには、自社のtextGrainを使う形だ。GoogleがSynthIDの透かしを音声に入れる仕組みは、9月25日の記事で扱った。

日本の企業から見て、10月6日時点で確認できる3点

一連の発表と規定から、日本の企業が10月6日時点で確認できる事実は次の3点だ。

• 日本のAPI利用者も透かしを選べる：APIでの任意提供は全世界が対象で、日本の利用企業も一部のモデルで透かしを有効にできる。OpenAI APIでは既定でオフだ。
• EUのChatGPT・Codexでは対象となる出力に順次導入する：今後数週間で導入する計画で、地域はEUに限られる。対象となる利用者・モデル・使い方の具体的な範囲と、オフにできるかは、今回確認した発表文では確認できなかった。
• 国内のガイドラインは電子透かしを指針の中で挙げる：総務省・経済産業省のAI事業者ガイドライン（第1.2版）は、広島AIプロセスの国際指針を引用する形で、電子透かしと来歴の仕組みの開発・導入に触れている。ただし、これは指針であり法的な義務ではない。