メインコンテンツへスキップ

忙しい方のためのカメラ関連ニュース
海外のカメラ関連ニュースを翻訳してお届け


Anthropicの不可視透かしはAIの「スラップ」を抑制できるか? 研究者は懐疑的

  • From 
    Anthropic (Hacker News)

AI企業Anthropicは、同社のClaudeモデルが生成するテキストと画像に、AIによって作成されたものであることを示す不可視の透かし(ウォーターマーク)を埋め込むと発表した。これは、EUのAI規制(AI Act)への対応であり、2024年7月1日以降にリリースされたモデルはAI生成コンテンツの検出可能性を保証する必要がある。

テキストの透かしは、AIモデルの単語選択アルゴリズムに統計的な痕跡を残す。Anthropicによれば、この透かしは「意味、質、可読性に影響を与えず、一部の編集でも残る可能性がある」。画像にはデジタル署名を含むメタデータが付与される。

しかし、研究者からは懐疑的な見方も出ている。ノースウェスタン大学のリース・リチャードソン氏は、透かしは編集や他のAIモデルによって容易に除去されるため、AIによる偽論文や低品質な論文(AIスラップ)の作成を完全に防ぐのは難しいと指摘する。カーネギーメロン大学のニハル・シャー氏は、Anthropicが提供する検出ツールと、その誤検知率の低さによっては、一部の不正利用を検出できる可能性を示唆している。

透かしは、AI生成コンテンツの検出を支援する可能性があるが、その有効性や、学術的誠実性への影響については、まだ不明な点が多い。ICML 2026では、AI使用を禁止したレビュープロセスで506人の違反者を発見した事例もあり、簡易的なAI利用の検出には一定の効果が期待されている。

[custom_js_sp]

AIによる翻訳/要約をしています。正確な情報はオリジナルサイトにてご確認ください。
当サイトの記事にはプロモーションが含まれる場合があります。

今週の人気ニュース

アップル関連のニュースはこちら