GPT-4o、Gemini 1.5 Pro──。

近年の、大規模言語モデルの、アップデートにより、扱えるトークン数は、飛躍的に増大しました。 「もう、文字数制限に、悩む時代は、終わった」 そう、感じる方も、多いでしょう。しかし、本当に、そうでしょうか。

この記事では、一見、その役割を終えたかに見える「トークン圧縮」という技術が、なぜ今なお、「APIコストの劇的な削減」と「超長文データの解析」という、2つの、よりプロフェッショナルな領域において、極めて強力な武器となり得るのか、その理由と具体的な方法を解説します。

【現状分析】巨大化する、コンテキストウィンドウと、それでも残る、2つの課題

確かに、日常的な利用において、トークン上限が問題になることは少なくなりました。 しかし、我々、医師・研究者が、AIを真にプロフェッショナルなツールとして活用しようとする時、そこには今もなお、2つの巨大な壁が存在します。

① APIコストの問題:コンテキストウィンドウが大きくなったということは、それだけ一度に多額の料金が発生するリスクも増大したということ。特に、API経由で大量のドキュメントを自動処理する場合、この入力トークン数に比例するコストは、決して無視できません。

② それでも、超えられない物理的な壁:数千ページに及ぶ医学の成書や、一人の患者の数十年分の電子カルテ記録。これらは、100万トークンという巨大な壁すら、容易に超えてしまいます。

ChatGPT自身に「圧縮・復元」させる、コスト削減プロトコル

これらの課題に対する、最もエレガントな解決策。 それは、ChatGPT自身に、情報を「圧縮」させ、そして、後から「復元」させる、という逆転の発想です。

【実験】自己暗号化による、圧縮と、復元

私自身の、ブログ記事を用いて、以下のプロンプトで実験しました。

ChatGPTの回答

できない？

指示をもう少し変えてみて、復元できる暗号で作ってみて下さいとしてみます

おー、暗号が作られました。どうやら結構良さそうな答えが返ってきましたね。

凄いですね。暗号化するとトークンが圧縮できるようです。いろいろ試したところ、このやり方が一番復元率が良かったです。

• 圧縮前のトークン数：375
• 圧縮後のトークン数：41

と、実に9倍以上もの圧縮に成功しました。これは、すなわち、APIコストの約9割を削減できるということを意味します。 そして、この圧縮されたテキストを再度入力し、「復元して」と指示するだけで、ほぼ完全に元の文章へと戻すことができたのです。

他の圧縮方法

絵文字を使って圧縮することもできるようです

復元率が悪いですね。

絵文字圧縮前のトークン数（おおよそ）： 204 絵文字圧縮後のトークン数（おおよそ）： 69

この復元は、圧縮文章から抽出できる情報に基づいていますが、元の文章と完全に一致しているわけではありません。

絵文字による圧縮では、情報の細かいニュアンスや文脈が失われる可能性があります。

検討結果

暗号化を利用することで、文字数（トークン）が減り、GPT-4で復元できることがわかりました。これは、さらなる応用が期待できます。

現状はChatGPTのトークン圧縮はできるということなのでAPIと組み合わせるとコストを大幅に減らすことができるかもしれません。

医師・研究者は、この技術を、どう使うべきか？

この「トークン圧縮」技術は、我々の研究や臨床に、新しい可能性をもたらします。

• ケース①：大量の、論文アブストラクトの、バッチ処理何百という論文のアブストラクトを、API経由で要約・分析する際に、この技術を用いれば、そのコストを10分の1近くまで抑えることができます。
• ケース②：医学書、一冊、全体の、要約と、質疑応答医学の成書一冊を、章ごとに圧縮し、全てを一度に入力。「この教科書全体を要約し、そして、〇〇という疾患に関する記述を全て抜き出して」といった、これまで不可能だったレベルの対話が可能になります。
• ケース③：個人の、全カルテ記録の、サマリー生成（※倫理的な配慮と匿名化が大前提ですが）一人の患者の、膨大なカルテ記録全体を圧縮して読み込ませ、「この患者の臨床経過における、主要なターニングポイントを時系列で要約せよ」といった、究極の診療サマリーの自動生成も、夢ではありません。

まとめ：それは、ハックではなく、プロの「最適化」技術

コンテキストウィンドウが巨大化した今、ChatGPTの「トークン圧縮」は、もはや、単なる「文字数制限を突破するためのハック」ではありません。

それは、我々プロフェッショナルが、コストを管理し、そして、これまで扱えなかったレベルの、巨大なデータと向き合うための、極めて高度で、戦略的な「最適化」技術へと、その意味を変えたのです。

あわせて読みたい：より、高度な、AI活用術

それは、まるで、優秀な、研修医が、過労で、燃え尽きてしまったかのようで、我々の、知的生産の、流れを、無慈悲に、断ち切ります。

なぜ、この、制限は、存在するのでしょうか。

この記事では、この「回数制限」を、AIという、貴重な、資源の「マネジメント」の問題として具体的な、タスク管理術を、解説します。

なぜ、「回数制限」は、存在するのか？

この制限が、存在する、理由は、主に、2つあります。

① サーバー負荷の、分散（医療資源の、適正配分）全ての、ユーザーが、安定して、サービスを、利用できるようにするため、一部の、ヘビーユーザーによる、過剰な、リクエストを、制限する必要があるのです。

② 有料プランへの、誘導（アップセル）より、高度な、機能を、求める、プロフェッショナルな、ユーザーに、より、制限が、緩やかで、高性能な、有料プランへ、移行してもらうための、ビジネスモデルです。

ChatGPTの教科書

【ChatGPT】 daily limitとは？Bingチャットに回数制限？ - ChatGPTの教科書

https://www.kyoukasho.net/entry/chat-gpt-limit

登録者に順次解放されているBingのAIチャットが話題となっています。 しかし、BingのAIチャットを何度も使っていると「Sorry, you’ve reached your daily limit to chat. Let’s pick up again tomorrow!」としてその日の利用ができなくなるようになりました。 Bingチャットに制限 なぜ制限？ Bingチャットに制限 BingのAIチャットは制限なく無料で使えていました。 しかしどうやら回数制限が付与されたようです。 #bing は、無料の人のチャット回数を制限するのかな。利用できなくなった＞＜ pic.twitter.c…

使いこなす2つのプロトコル

① 無料版（研修医）の、上手な、使い方

無料版の、制限の中で、最大限の、パフォーマンスを、引き出すための、基本原則。それは、「一度の、指示（プロンプト）の、質を、最大化することです。

漠然と、10回の、質問を、繰り返すのではなく、背景、目的、出力形式などを、明確に、指示した、1回の、質の高い、プロンプトで、望む、答えを、引き出す。

② 有料版（専門医）への、アップグレードという、選択肢

もし、無料版の、応答速度や、回数制限が、あなたの、知的生産の、ボトルネックに、なっている、と感じたなら有料版（ChatGPT Plus）への移行は、極めて費用対効果の高い「自己投資」です。

まとめ：あなたの、仕事の「相棒」を、どう、育てるか

ChatGPTは、もはや、単なる、ツールではありません。それは、我々の、仕事を、サポートしてくれる「相棒」です。

その、相棒の、能力と、限界を、正しく、理解し、適切な、タスクを、与え、そして、時には、その、成長に「投資（課金）」する。 その、マネジメント能力こそが、これからの、AI時代を、生き抜く、我々、医師に、求められる、新しい、スキルなのです。

ChatGPT関連記事

日々の臨床、そして終わらない研究と論文執筆。我々医師の時間は、常に有限です。

もし、24時間365日、文句も言わずに働いてくれる、超有能な「デジタル研修医」がいたら…？ それが、ChatGPTです。

この記事では、この強力なAIアシスタントを、単なる「おもちゃ」で終わらせず、我々の知的生産性を飛躍させる「最高の仕事仲間」として使いこなすための、具体的な戦略と、コピー＆ペーストで今日から使える実践的プロンプトを、徹底解説します。

【最重要】医師として、ChatGPTを使う上での倫理的ガイドライン

この強力なツールを活用する大前提として、我々が遵守すべき、3つの絶対的なルールがあります。

ルール①：患者情報の入力は絶対禁止個人情報保護と守秘義務は、我々の職業倫理の根幹です。患者ID、氏名、生年月日など、個人が特定されうる情報は、いかなる形であれ絶対に入力してはいけません。

ルール②：最終的な文責は、常に自分自身にあるAIはあくまでアシスタントです。生成された文章の医学的な正しさ、表現の適切さを検証し、その内容に全責任を負うのは、筆者である先生ご自身です。

ルール③：生成された情報のファクトチェックは必須ChatGPTは、時に「ハルシネーション（幻覚）」と呼ばれる、もっともらしい嘘の情報を生成します。特に、参考文献などを尋ねると、存在しない架空の論文を提示することがあるため、必ず一次情報での裏付け（ファクトチェック）が必要です。

【実践プロトコル①】日本語論文・文章の質を高める

日本語の論文やレポート、プレゼン資料などを作成する際に、ChatGPTは強力な壁打ち相手になります。以下のプロンプトを、自身の文章の前に付け加えてみてください。

▼使えるプロンプト例

• この文章の誤字脱字を見つけて、修正案を提示してください。
• 以下の文章を、より自然で、専門家らしい表現に書き直してください。変更した箇所も指摘してください。
• この文章の論理的な矛盾点を指摘し、より説得力のある構成案を提案してください。
• この文章の結論が弱いので、先行研究との比較や、将来的な展望についての考察を加えて、結論を強固にしてください。

【実践プロトコル②】英文校正・パラフレーズを、ネイティブレベルにするプロンプト

非ネイティブにとって最も時間のかかる、英文のブラッシュアップ作業。ChatGPTは、このプロセスを劇的に効率化します。

英文校正・改善プロンプト

以下のプロンプトの末尾にある“ここに文章を入れる”の部分を、ご自身の英文に書き換えて入力してください。AIが、より洗練されたアカデミックな英語表現に修正してくれます。

I want you to act as an English translator, spelling corrector and improver. I will speak to you in any language and you will detect the language, translate it and answer in the corrected and improved version of my text, in English. I want you to replace my simplified A0-level words and sentences with more beautiful and elegant, upper level English words and sentences. Keep the meaning same, but make them more scientific and academic. I want you to only reply the correction, the improvements and nothing else, do not write explanations. My sentences are “ここに文章を入れる”

（プロンプト出典：Awesome ChatGPT Prompts を一部改変）

パラフレーズ（言い換え）プロンプト

自身の過去の論文など、表現を大きく変えたい場合に有効です。

I would like you to paraphrase in English. I will give you the sentences of the paper in English, and you will paraphrase the text and reply in English. Try to change the structure of the sentences as much as possible, keep the meaning as it is, and keep the tone scientific and academic. Please reply only with corrections and improvements. Please do not write a description. my writing is “ここに文章を入れる”

（プロンプト出典：Awesome ChatGPT Prompts を一部改変）

実践プロトコル③】患者さんへの説明を、分かりやすくするプロンプト

インフォームド・コンセントの質を高めるためにも、ChatGPTは有効です。専門的な内容を、患者さんのリテラシーに合わせて平易な言葉に翻訳させることができます。

▼使えるプロンプト例

• 「大動脈弁狭窄症」について、中学生でも理解できるように、比喩を交えて説明してください。
• 「カテーテルアブレーション治療」のメリットと、起こりうる合併症（リスク）を、箇条書きで簡潔にまとめてください。

ChatGPTが苦手なこと（禁忌）

一方で、ChatGPTには明確に「やってはいけないこと」「できないこと」があります。

剽窃チェック: ChatGPT自身の剽窃チェック機能は、非常に甘く、信頼できません。信頼性を担保するなら、iThenticateなどの専門ツールが必須です。

文献検索: 前述の通り、平気で架空の論文を提示します。文献検索には、AI搭載のElicitや、伝統的なPubMedなどを使いましょう。

まとめ

ChatGPTを使用する際には注意点もあります。たとえば、文章の意図を正しく理解できない場合があります。そのため、ChatGPTを使用する場合は、常に文章の意図を明確にし、チェックを行うことが重要です。以上のように、ChatGPTは多くの用途に役立ちますが、使用する際には注意が必要です。

あわせて読みたい：AI活用を支えるPC環境

複雑なAIの処理をスムーズに行うには、PCの「頭脳」も重要です。必要なスペックを医師が脳の機能に例えて解説。

あわせて読みたい外付けディスプレイを使ってデータ編集や作業時の効率を上げる

あわせて読みたい腱鞘炎、肩こり対策にトラックボールがオススメ