▼ もうちょっと詳しく

スタートアップGroqが独自に開発したASIC型のチップ。LLMの推論だけに特化して、GPUの何倍ものスピードで応答を返せます。「ChatGPTで何秒もかかる答えが、ほぼ瞬時に返ってくる」を実演する、見せ場のあるチップ。

ただし学習はできない(推論専用)、メモリ容量に制約ありなどの弱点もあるので、用途は限定的。「速さで殴る」という選択肢。