トークンの節約法を「VS Code」開発チームが解説、OpenAI、Anthropicそれぞれのポイントも/「GitHub Copilot」のコストと遅延を大幅削減、プロンプトキャッシュの活用や遅延読み込みなど

 6月1日より「GitHub Copilot」が従量課金制へ移行した影響で、トークン効率の改善に注目が集まっている。AIモデルは世代を追うごとに改善されているが、タスクあたりに消費するトークンは増加する傾向にあり、工夫なしに利用するとコストの急増に直結するからだ。もはやハーネス(制御システム)による効率化が不可欠と…