学術プレプリントサイトarXivは、論文における大規模言語モデル（LLM）の不注意な使用に対処するため、投稿規定を強化しました。

これまでも、AI生成の低品質な論文対策として、新規投稿者には既存の著者からの推薦を義務付けるなどの措置を取ってきましたが、今後はさらに厳しい対応が取られます。

arXivのコンピュータサイエンス部門長であるThomas Dietterich氏によると、「LLM生成結果の確認を著者が怠ったという反論の余地のない証拠」が論文に含まれていた場合、その論文の著者は「arXivへの1年間の投稿禁止処分」を受け、その後は「信頼できる査読済み媒体で最初に採択される」ことが必要となります。

これはLLMの使用自体を禁止するものではなく、著者が生成方法に関わらず、内容に対して「全責任」を負うことを求めるものです。LLMから直接コピー＆ペーストした不適切な表現、盗用コンテンツ、偏見のある内容、誤り、不正確な参考文献、誤解を招く内容などについても、著者の責任となります。

このルールは「一発退場」制ですが、モデレーターが問題を指摘し、部門長が証拠を確認した後にペナルティが科されます。著者は決定に対して異議を申し立てることも可能です。

最近の研究では、LLMが原因と思われる架空の引用の増加がバイオメディカル研究で見られており、科学者だけでなく、AIに捏造された引用を使用することが問題視されています。