AI開発企業Anthropicは、AIの「自己改善」能力の急速な進展がもたらす潜在的リスクを警告し、AI開発の6ヶ月間の世界的一時停止を提唱しました。

同社は、AIが人間を超える能力を獲得し、制御不能になる事態を懸念。特に、AIが自らを改良し、指数関数的に進化する「自己改善」の可能性に注目しています。

Anthropicは、このリスクに対処するため、主要なAI開発組織や研究機関に対し、大規模な計算能力の利用を一時停止し、安全対策の研究に注力することを求めています。これは、AIの進化速度と、それに対応する安全対策の遅れに対する危機感の表れです。

この提言は、AIの倫理的・社会的な影響に関する議論を一層深めるものとなりそうです。