ChatGPTは自然言語処理の技術を用いた対話型AI。しかし、稀に回答の出力が途中で止まったり、途切れたりすることがあります。具体的には、文章の途中でカーソルが点滅し、それ以上の文章が生成されない状態になりがち。
文章が途中で途切れてしまう理由は「文字数」。AIの回答が長文になる際に、回答が途中で止まる事象は発生しやすくなっています。ChatGPTの文字数制限は「人間側の質問文やプロンプト」にも設定されており、筆者が検証した限りではおおよそ2800文字を超えだすとエラーが発生しやすくなります
なお、ChatGPTの文字数制限の詳細はこちらで解説しています。
この記事では、回答が途切れた際に続きを出力する方法や、その「続き」が的外れな内容だった際の修正方法などを解説します。
ChatGPTの回答が途中で止まった際に続きを出力するには？
シンプルに「続きを出力してください」と指示すると、回答の続きが出力可能。
出力された「回答の続き」が質問のもともとの意図とズレているときの原因と対処法
基本的にGPT3.5を始めとする大規模言語モデル(LLM)は長期記憶する仕組みを持ちません。個別の対話を長期的に記憶することは苦手。
具体的にはセッションが終了するたびに記憶がリセットされている他、会話が非常に長く続いた場合でも記憶がリセットされてしまうケースがあると見られます。
そのためChatGPTとのやり取りが長くなったり、扱う内容が複雑化した場合、ChatGPT側の回答が「ズレだす」ことがあります。
たとえば「続けてください」と出力した文章が、文体が崩れていたり、前段の文章との連続性が薄いものになっているといったケースがあります。こうしたケースでも会話の文脈を理解させるためには、これまでの会話を毎度入力する必要があります。つまり「プロンプト側の工夫」が求められます。
なお、プロンプトに「文脈を埋め込む」ことで問題を解決することも可能。要約した過去の会話履歴などを再送し、「上の文章を参照したうえで、◎◎について続きを出力してください」などと指示をし直すと意図した会話が出力しやすくなります。
上記の画像では「自作のデータベース」を参照しており、この場合はAPI経由でChatGPTを利用します。データベースを参照したうえで、ChatGPT APIに返答を出力するように指示すれば「意図通りの回答が出力される」可能性は高くなります
ブラウザ版でも、プロンプトに文章でデータベースの情報をできるだけ与えておけば返答の精度は高くなりやすいです。
まとめ
ChatGPTの回答の出力が途中で止まった場合には、まず「続きを出力してください (英語の場合には”go on”)」と入力し、回答の続きを確認してみましょう。また、やりとりが長くなったり、内容が複雑化したことで回答にズレが生じた場合には、プロンプトに文脈を埋め込むことで意図した会話が出力しやすくなり回答の精度が上がるでしょう。
エラーが出た場合には、文字数が2800字を超えていないかどうかも確認してみてください。
※サムネイル画像（Image:rafapress / Shutterstock.com）