▼ もうちょっと詳しく

AIを本番に出したら動きっぱなしで終わり、ではない。リクエスト数、エラー率、レイテンシ、応答の品質、ユーザーの反応、データ分布の変化、をずっと観測していく必要があります。これがモニタリング。

データドリフトで精度がジワジワ落ちていく、急にハルシネーションが増える、特定ユーザーから攻撃される、といった事故を早めに検知するための地味な仕事です。派手な仕事の裏には必ず地味な仕事、というのが運用の鉄則。