▼ もうちょっと詳しく

「徳川家康の好物は何ですか?」って聞いたら、AIが「ティラミスです」とか答えてくる現象のことです。江戸時代にティラミスはありません。でも本人(?)は本気でそう言ってます。たちが悪い。

なぜこうなるかというと、AIは「正しいことを答える機械」ではなくて、「それっぽい言葉を続ける機械」だからです。質問されたら、学習した大量の文章をもとに「次に来そうな言葉」を確率で選んで並べていきます。流れの中でたまたま「ティラミス」が選ばれちゃうと、もう止まりません。後戻りもしません。

人間でいうと、よく知らない単語が出てきた英語のテストで、雰囲気で書いた答えがなぜかバッチリ自信たっぷりに見えてしまう、あの状態です。中身がなくても顔だけは堂々としているという意味で、面接中の就活生にちょっと似ています。

▼ 気をつけること

AIの答えは「とりあえず疑う」が基本姿勢です。特に固有名詞・日付・数字・出典。このへんは平気で間違えてきます。「〇〇という論文によると」と書いてあっても、その論文が存在しない、なんてことが普通にあります。