ChatGPTのAPIを使う際に会話履歴を残したいとか、最初に大量のインプットをさせてその情報をもとにやりとりしたい、などのニーズがでてきます。しかし、トークン制限や料金の問題であまり大量のデータをやりとりするのは避けたいところ。 そこで、GPT自体にプロンプトでデータを圧縮してもらえるか試してみました。結果、…