▼ もうちょっと詳しく

AIに「医者を描いて」と頼むと男性ばかり出てくる、「秘書を描いて」と頼むと女性ばかり出てくる、みたいな現象があります。これがバイアス。学習データの世界が偏っていると、その偏りがそのままAIに乗り移ります。

AIは魔法ではなくて、見せられた世界の鏡なので、人間社会の偏りがそのまま反映されます。「世界はだいたいこんな感じだよ」と教えると、「あ、そういう感じね」と信じてしまう。ちょっと素直すぎる気もします。

▼ 気をつけること

統計用語の「バイアス」ともう少し倫理寄りの「バイアス」が、AIの文脈では混ざって使われます。文脈で判断するしかありません。「データの偏り」と「社会的な不公平」のどっちの話かは、聞いてる側で見分けてください。