困りごとの用語 | チャーハンも作れる「AI用語辞典」

困りごと (37件)

AIスロップ (AI Slop): AIが大量生産する、それっぽいけど中身がない低品質なコンテンツのことです。
API (Application Programming Interface): ソフトとソフトをつなぐ「窓口」のことです。
過学習 (Overfitting): 練習問題を覚えすぎて、本番でこける現象のことです。
間接プロンプトインジェクション (Indirect Prompt Injection): 外部から読み込んだ文書に攻撃命令を仕込んでおく、間接型の攻撃です。
学習データ漏洩 (Training Data Leakage): AIが学習中に覚えた個人情報や機密情報を、推論時にうっかり吐いてしまう現象です。
黒箱問題 (Black Box Problem): AIが「なぜそう答えたのか」を中の人にも説明できない、という困りごとです。
計算コスト (Compute Cost): AIの学習や推論に必要なお金と時間と計算機の話です。
勾配消失問題 (Vanishing Gradient Problem): 深いネットワークで学習信号が層を伝わるうちに消えてしまう古典的問題です。
勾配爆発問題 (Exploding Gradient Problem): 勾配が学習中にどんどん巨大化して、モデルが発散してしまう現象です。
公平性 (Fairness): AIの判断が、特定の属性の人に不利にならないようにする考え方です。
雇用への影響 (Job Displacement): AIで一部の仕事がなくなる/変わるかもしれない、という社会問題のことです。
コンテキスト切れ (Context Loss): 長い会話の中でAIが古い話を忘れてしまう現象のことです。
サイコファンシー / 迎合 (Sycophancy): ユーザーに気に入られたいあまり、AIが事実より「お世辞」や「同調」を優先してしまう傾向のことです。
シャドウAI (Shadow AI): 会社が把握していないところで社員がこっそりAIを使っている状況のことです。
ジェイルブレイク (Jailbreak): AIに本来禁止された返事をさせる、抜け道テクのことです。
推論遅延 (Latency): AIに質問してから答えが返ってくるまでの待ち時間のことです。
透かし(電子透かし) (Watermark): AI生成物に「これはAI製です」と分かる印を埋め込む技術です。
スキル衰退 (Skill Atrophy): AIに頼りすぎて、人間の能力が落ちていく現象のことです。
著作権問題 (Copyright Issues in AI): AIの学習データや生成物に絡む、著作権をめぐる悩ましい話題のことです。
敵対的サンプル (Adversarial Example): AIを意図的に騙すために、ちょっとだけ細工された入力データのことです。
ディープフェイク (Deepfake): AIで作る「本物そっくりの偽動画・偽画像」のことです。
電力消費・環境負荷 (Energy Consumption / Environmental Impact): AIの学習・運用が大量の電気と水を使う、という社会問題のことです。
データ汚染 (Data Poisoning): 学習データに変なものを意図的に混ぜてAIを狂わせる攻撃のことです。
データドリフト (Data Drift): 時間とともに現実のデータが変化して、AIの精度が落ちていく現象です。
偽の確信度 (Overconfidence): AIが「自信ないこと」も「自信あること」と同じ口調で言ってくる困った特性です。
ハルシネーション (Hallucination): AIが自信満々で嘘をつくことです。
バイアス (Bias): AIの判断や答えに含まれる「偏り」のことです。
バグ (Bug): プログラムが意図しない変な動きをすることです。
フェイクニュース (Fake News): AIで大量生成できるようになった、もっともらしい偽情報のことです。
プライバシー (Privacy): AIの学習・運用にまつわる個人情報の取り扱いの話題です。
プロンプトインジェクション (Prompt Injection): 悪意あるユーザーがAIの指示を上書きする攻撃のことです。
プロンプトリーク (Prompt Leak): AIに仕込まれていた「裏設定(システムプロンプト)」が外に漏れる現象です。
ベンダーロックイン (Vendor Lock-in): 特定のAI事業者から離れられなくなる、ビジネス上の困りごとです。
無限生成ループ (Infinite Generation Loop): AIが同じことを何度も繰り返し出力してしまう現象のことです。
モデル崩壊 (Model Collapse): AIが自分の出力を学習データに混ぜてしまうと、世代ごとに質が劣化していく現象です。
モニタリング (Monitoring): 本番運用中のAIの動作を継続的に観測することです。
レート制限 (Rate Limit): AI APIに「短時間に呼べる回数」の上限が決められていることです。