Groq (Groq)
▼ ざっくり言うと
LLM推論専用の超高速チップ(LPU)を作っているスタートアップです。
▼ もうちょっと詳しく
2016年、元GoogleのTPU設計者ジョナサン・ロスらが創業。LLMの推論だけに振り切ったASIC「LPU」を作っています。デモを見ると、Llamaなどのモデルが1秒間に数百トークンを平気で吐き出す、目を疑うスピード。
ちなみに名前は「Grok」(xAIのLLM)とは別物で、紛らわしいことでも有名。「Groqです。Grokじゃないです。」と毎回強調する苦労人ポジション。
会社の名前で勘違いされ続けるのは、それはそれで広報的に得かもしれません。
あなたの読了: 0 / 388 語

