Retrieval-Augmented Generation for Large Language Models: A Survey より引用

近年、Retrieval-Augmented Generation（RAG）は、大規模言語モデルに知識検索を組み込むことで、出力の精度と関連性を向上させる技術として注目を集めています。しかし、企業環境においてRAGを実装する際には、さまざまな要件と課題が存在します。

要件

1. データセキュリティとプライバシー: 企業環境では、データセキュリティとプライバシーが重要な要件となります。RAGシステムは、機密情報が漏洩したり誤用されることを防ぐために、堅牢なアクセス制御やデータ匿名化技術を組み込む必要があります。
2. 正確性と解釈可能性: RAGシステムが生成する出力は、法的または財務上の影響を持つことがあります。そのため、出力の正確性、一貫性、解釈可能性が重要となります。システムは、生成されたコンテンツの明確な説明と帰属を提供し、どのようにして最終的な出力に影響を与えたかを明確に示す必要があります。
3. スケーラビリティと統合性: 企業環境では、膨大かつ多様なデータソースを効率的に処理し、検索する能力が求められます。RAGシステムは、企業データのボリューム、多様性、速度に対応しつつ、検索の品質と新鮮さを確保する必要があります。

課題

1. データセキュリティとコンプライアンス: 企業環境では、厳格なデータセキュリティとコンプライアンス要件に準拠する必要があります。RAGシステムは、機密情報の保護や法的規制への適合を確保するための仕組みを備えている必要があります。
2. 出力の正確性と解釈可能性: RAGシステムが生成する出力は、高い正確性と解釈可能性が求められます。特に、法的または財務上の重要性がある場合は、出力の信頼性と透明性が不可欠です。
3. スケーラビリティとパフォーマンス: 企業環境では、大規模なデータセットや複雑な知識ベースを効率的に処理する必要があります。RAGシステムは、スケーラビリティとパフォーマンスの面で課題に直面する可能性があります。

以上の要件と課題を考慮すると、企業環境においてRAGを実装する際には、データセキュリティ、正確性、解釈可能性、スケーラビリティ、およびパフォーマンスに焦点を当てた綿密な計画と設計が不可欠であることが理解されます。これらの課題に対処するために、大規模言語モデルのファインチューニングなどのアプローチが有効である可能性があります。

More Information: 「RAG Does Not Work for Enterprises」, arXiv:2406.04369, Tilmann Bruckhaus (Strative.ai), https://arxiv.org/abs/2406.04369