▼ もうちょっと詳しく

ChatGPT、Claude、Geminiといった「対話できるAI」の中身です。インターネット上の文章を何兆語ぶんも食わせて学習させたもので、要はめちゃくちゃ本を読んだ人を作ったと思ってください。

ただし「読んだ」と言ってもニュアンスは独特で、「次に来そうな単語」を当てる練習を延々と続けるうちに、副産物として言語っぽいものを操れるようになった、という感じです。狙ってそうしたのか、勝手にそうなったのか、研究者もちょっと曖昧にしています。

▼ ちょっとだけ深い話

「大規模」というのは、内部のパラメータ(数字)の数が何百億〜何兆個ある、ということを指します。普通の機械学習モデルの何万倍も巨大。規模を大きくしたら急にできることが増えた、というのが2020年代に起きた事件のあらすじです。