カテゴリ · AI
RAG(Retrieval-Augmented Generation)
ドキュメント検索とLLM生成を組み合わせるAIアーキテクチャです。
LLMを自社データで学習させる代わりに、クエリごとに検索(BM25、ベクトルDB、ハイブリッド)で取得したコンテキストを渡します。メリットは事実性の担保、リアルタイム更新、高コストなファインチューニング不要の3点です。落とし穴はインデックス品質、リトリーバルのレイテンシ、ノイズの多いコンテキストでのハルシネーションです。
// クライアント事例
// 関連
