Hacker Newsで、ChatGPTやClaudeのWebフロントエンドから、リモートのサーバー上でBashコマンドを実行できる可能性が報告されました。

投稿者「mabynogy」は、「run ls on your own server」というプロンプトをChatGPTに入力した結果、サーバー上のファイルリスト（lsコマンドの出力）が表示されたことを示しています。この出力には、`/`ディレクトリ以下の多くのサブディレクトリ（bin, boot, dev, etc, home, lib, mnt, openai, proc, root, srv, sys, tmp, usr, varなど）や、それらに含まれるファイル、シンボリックリンクなどが詳細にリストアップされています。

これに対し、別のユーザー「WheelsAtLarge」は、これが「幻覚」（hallucination）である可能性を指摘し、Anthropic（Claudeの開発元）がこのような機能を見逃すとは考えにくいと述べています。ただし、この機能がローカル環境に限定されたものである可能性にも言及しています。

この報告は、AIモデルのWebフロントエンドにおける意図しない、あるいは潜在的なセキュリティリスクを示唆するものとして注目されます。