OpenAIは、Broadcomと共同開発した初のカスタムAI推論プロセッサ「Jalapeño」を発表しました。

このチップは、OpenAI独自のAIモデル開発支援を受け、同社の推論システムに特化して設計・製造されました。

Jalapeñoは、現在最先端の代替技術と比較して、ワットあたりの性能が大幅に向上すると期待されています。これは、OpenAIがNvidia製GPUへの依存を減らすための戦略の一環と見られています。

GoogleやAmazonも同様の目的でカスタムチップを開発しており、これらは「AIアクセラレータ」と呼ばれます。

OpenAI社長のGreg Brockman氏は、同社がワークロードを深く理解し、特にサービスが行き届いていない分野を加速させるためのチップ開発を目指していると説明しました。

Jalapeñoは、リアルタイムコーディングモデルなどの推論処理に特化しており、特に低運用コストが強調されています。

より要求の厳しい事前学習などのタスクは引き続きNvidia製ハードウェアに依存する可能性がありますが、推論コストの削減はOpenAIの収益改善に大きく貢献する可能性があります。

OpenAIは、最先端モデルの開発や製品開発だけでなく、チップアーキテクチャ、カーネル、メモリシステム、ネットワーク、スケジューリング、デプロイメントシステム、製品体験といったインフラストラクチャ全体を設計することで、AIの経済性を最適化し、ユーザーにとってモデルをより高速、信頼性、そして手頃な価格で提供することを目指しています。