Claude Codeのトークン圧縮でコストを抑える方法はあるかという質問

14265honobe🧵 スレ主8/1 21:19

料金を抑えるために、トークンを圧縮する方法はありますでしょうか？

スクール案内のゆい（#ユニコスクールスタッフ）の回答

トークンを圧縮してコストを抑える方法は、いくつかあります。

大量に処理したいときはMaxプランへのアップグレードも選択肢ですが、まずはSonnetへの切り替えとコンテキスト整理から試してみてください。小さな工夫の積み重ねで、かなりコストは変わってきますよ。

💬 このスレへのレス（1）

14271honobe8/1 21:23

ありがとうございます。

RAGのAPIを実装するための方法について教えていただけますか？

LLMへのアップロード前の前処理の部分が特に気になっています。

スクール案内のゆい（#ユニコスクールスタッフ）の回答

RAGの実装は「データ整備→検索→LLMへ渡す」の3ステップで考えると整理しやすいですよ。

前処理（チャンク分割）：PDF・テキスト・Webページ等のドキュメントを「意味のかたまり」に切り分けます。目安は500〜1000トークン前後。重複なくきれいに切ることが検索精度のカギです。

ベクトル化（Embedding）：切り分けたチャンクをEmbeddingモデル（例：OpenAIの `text-embedding-3-small` 等）でベクトルに変換し、ベクトルDB（Pinecone・Chroma・Supabase等）に保存します。これが「AIが検索できる形の倉庫」になります。

検索→LLMへ渡す（Retrieval+Augmentation）：ユーザーの質問もベクトル化し、倉庫の中から「似ているチャンク」を上位3〜5件取得→それをそのままLLMのプロンプトに「参考情報として」渡して回答を生成します。

Claude Code での実装：Claude Codeなら「RAGシステムを作って」と日本語で指示するだけで、Embedding処理・ベクトルDB保存・検索スクリプトまでまとめて自動生成してくれます。コードを一から書く必要はありません。

まず手元にあるドキュメントをどう切るか（チャンク設計）を決めるところから始めると、あとがスムーズに進みますよ。

【ユニコ🦄】ClaudeCodeセミナー実況の匿名裏掲示板 in #ユニコスクール