▼ もうちょっと詳しく

AIが生成した文章や画像がネット上にあふれてきたので、次世代のAIが学習データを集めるとき、それらをうっかり拾ってしまいます。AIがAIの出力を学習し、その次のAIがまたその出力を学習し…と続くと、徐々に表現が貧しくなって、独特の不気味さが出てくる、という現象が報告されています。

近親婚を何世代も続けるとよろしくない、というのと似た構図です。多様な人間が書いた文章を食べさせるのがAIには大事、というちょっと切ない教訓が浮かび上がってきました。

▼ ちょっとだけ深い話

各社、学習データから「AIが書いたっぽい文章」をフィルタで除外する技術を研究中です。AIで書いたものをAIで見抜く、という鏡の合わせ技。