/note/tech

AppleやAMDを渡り歩いた伝説的エンジニアのジム・ケラーが「NVIDIAがうまく対応していない市場」を狙ったAIチップ...

[...]さらにTenstorrentは、2024年末に第2世代の多目的AIプロセッサを販売する準備をしているとのこと。記事作成時点では、AI向けチップ市場はNVIDIAによってほぼ支配されていますが、ケラー氏はNikkei Asiaに「NVIDIAがうまく対応していない市場はたくさんあります」と述べ、NVIDIAが目を向けていない分野でチャンスがあると考えています。

AIは現代社会のさまざまなシチュエーションで活用されていますが、NVIDIAのハイエンドGPUは2万~3万ドル(約310~470万円)に達するため、企業はより安価な代替品を探しています。Tenstorrentが狙っているのはこの層であり、同社のGalaxyシステムはNVIDIAのDGXシステムより3倍も効率的で、価格も33%安いと主張しています。

ケラー氏はTenstorrentのプロセッサが安い理由のひとつに、大量のデータを高速転送するための高帯域幅メモリ(HBM)を使用していない点を挙げています。HBMは生成AIチップの重要なコンポーネントであり、NVIDIA製品の成功においても大事な役割を果たしてきました。しかし、HBMはAIチップの膨大なエネルギー消費や高価格の原因になっているそうで、ケラー氏は「HBMを使用する人々でさえ、そのコストと構築のための設計時間に苦労しています」と述べ、HBMを使用しないと決定したとのこと。

一般的なAIチップセットでは、GPUはプロセスが実行されるたびにデータをメモリに送信しており、これにはHBMによる高速データ転送機能が必要です。しかし、Tenstorrentはこのデータ転送を大幅に減らすようにチップを設計し、HBMを使わないAIプロセッサを実現しました。

Tenstorrentが開発するAIプロセッサの特徴は、100個を超える各コアにそれぞれCPUが搭載されているという点です。各コアに搭載されたCPUがデータ処理の優先順位を決定することで全体的な効率が向上するほか、各コアが比較的独立しているため、コア数を調整することで幅広いアプリケーションに適応可能だとのこと。ケラー氏は、「現時点ではAIに最適なアプリケーションがどれほどのサイズになるのかわかりません。ですから、私たちの戦略は幅広い製品に適した技術を構築することです」と述べました。