ChatGPTのトークンはAPIコストや、入力制限の影響を与えるため、トークンを圧縮・解凍する方法があればその限界を克服できる可能性が高まります。APIのコスト削減にも役立つ可能性が高いです。 今回の検討では、どうやらできそうだといういくつかの検討を行いました。 着想はTwitterでトークンを圧縮できるというつぶやき ChatGPTでトークン数圧縮の手法を使ってみたけど、確かに全力肯定彼氏くんみたいな、いかにユーザーとの体験を記憶できるか(いかに少ないトークン数の中に多くの情報を詰め込めるか)みたいなサ ...