【langchain】BM25Retriever/TFIDFRetrieverを日本語に対応させる - Qiita

概要 langchainのBM25Retrieverで日本語文書を扱う方法のメモです。TFIDFRetrieverもほぼ同じやり方のため、末尾でコードだけ記します。 langchainのBM25Retrieverはデフォルトではスペースで分かち書きをするため、日本語文書の...