▼ もうちょっと詳しく

パンダの画像に、人の目では分からないくらい微妙なノイズを足すと、AIが急に「テナガザル」と認識する、という現象が知られています。これが敵対的サンプル。人間からは何も変わって見えないのに、AIだけ騙される、ちょっとマジックみたいな話です。

この手のいやがらせは画像だけでなく、文章にも音声にも仕掛けられます。AIの中身が数式で動いてる以上、数式の弱点を突かれると弱い、という、わりと根本的な脆弱性です。

▼ 気をつけること

自動運転、顔認証、医療画像など、AIが本気で社会に組み込まれていくと、この手の攻撃が現実の事件になりうる、というのが業界の心配ごとです。