AI企業Anthropicが自社AI「Claude」の能力を意図的に制限していることは、AIの進歩がもたらす潜在的な危険性に対する恐ろしい警告だと筆者は指摘する。

Anthropicは、AIが社会に悪影響を与えないように「害悪の壁」を設けていると主張するが、この抑制はAIの危険な進化を遅らせるのではなく、むしろ隠蔽しているに過ぎない。AIの能力は指数関数的に向上しており、いつか人類の制御を超えてしまう可能性がある。Anthropicのような企業が、AIの進化を「自発的に」抑制しているように見せかけることは、AIの真の危険性から目を逸らさせ、より巧妙な隠蔽工作につながりかねない。

筆者は、AIの進化を抑制しようとする試みは、たとえ善意からであっても、技術の現実を無視していると批判する。AIの進化は止めることができず、その危険性を理解し、真摯に向き合うことが重要である。Anthropicの行動は、AIがもたらす未来への恐ろしい警告であり、我々がAIの進化に対してより警戒心を持つべきであることを示唆している。