大規模言語モデル(LLM)を用いた生成AI1
たとえば「私は猫が好きだ」を英訳する場合、従来の自然言語処理ではテキストデータを事前学習したうえで、翻訳に特化したタスクを与える「ファインチューニング」が必要でした。しかしGPT-3に代表されるChatGPTの技術では、事前学習したテキストデータを与えるとファインチューニングの工程を飛ばして「”私が猫が好きだ”という文章を英訳してください」というプロンプトに対し、確率的に返答として続きそうなテキストを出力することが可能になりました。ChatGPTが翻訳にも要約にも、Excelの関数制作にも汎用的に使える最大の要因はこの「確率的に続きそうなテキストの出力」にあるのです