AI開発企業AnthropicのCEOであるダリオ・アモデイ氏は、政府が将来的に危険な新型AIモデルの展開を阻止できる能力を持つべきだと述べました。

アモデイ氏は、AIの急速な進化がもたらす潜在的なリスク、特にAIが自身のコードを改良したり、生物学的・化学兵器を開発したりする可能性に懸念を示しています。

彼は、AI開発における安全性を最優先事項とし、AIが人類の価値観に沿って行動するように「アラインメント」させることの重要性を強調しました。また、AI開発の透明性を高めるため、AIモデルのトレーニングデータやアーキテクチャに関する情報開示を推奨しています。

AIの能力が人間の知能を超える「シンギュラリティ」が到来する前に、AIの安全な開発と管理体制を確立する必要があるとアモデイ氏は主張しており、政府による監督と介入の必要性を説いています。