計算コスト (Compute Cost)
▼ ざっくり言うと
AIの学習や推論に必要なお金と時間と計算機の話です。
▼ もうちょっと詳しく
最新のLLMを学習させると、何千枚のGPUを何ヶ月動かす必要があります。電気代だけで何十億円、ハード込みなら数千億円、というのが業界の相場感。スタートアップが一発で挑戦できる金額ではありません。
その結果、本気のモデル開発はお金のある一部の大企業の独壇場になりつつあります。「AIは民主化する」とよく言われた割に、現実にはお財布の差で勝負がついてしまう、というのが今の構造です。
▼ ちょっとだけ深い話
推論コストも馬鹿になりません。ChatGPTを世界中の人が使うと、サーバー代だけで会社が傾く規模になります。儲かるはずなのに儲からない、というのが大手AI企業の共通の悩みです。
AIが本当に「電気を食う」と聞いて、急に時代を巻き戻したくなる気持ちは、まあ分かります。
あなたの読了: 0 / 388 語

