大規模言語モデル（Large Language Model: LLM）に推薦結果を直接生成させると、1回の応答に数秒かかります。ミリ秒単位の応答が求められるレコメンデーションシステム（Recommender System: RS、以下「推薦システム」）にとって、これは致命的な遅さです。それでもLLMを推薦システムに持ち込みたくなる理由は明確です。ユーザーの興味や商品の特徴を自然言語として理解できるLLMは、従来の協調フィルタリングだけでは拾いきれない意味的な手がかりを推薦に付加できるためです。

こうした状況を整理する試みとして、LLMを推薦システムの「学習時の補助」や「特徴量の補強」として活用し、サービス提供（推論）の瞬間にはLLMを一切呼び出さない構成に絞った手法が注目されています。この構成はLLM-Enhanced Recommender Systems（LLM強化型推薦システム、以下LLMERS）と呼ばれており、近年、数多くの手法が提案されています。

この記事では、LLMERSがどのような課題意識から生まれたのかをはじめ、3つの分類軸に分け、それぞれの仕組みと代表的な手法、実際にどのLLMがどのように使われているかというトレンド、実務におけるヒント、そして今後の展望について体系的に整理します。

1. 推薦システムにLLMを使うと何が起きるか

LLM as RS が抱えるレイテンシの壁

対話システムと推薦システムには、レイテンシ要件という点で決定的な違いが存在します。

推薦システムは大量のリクエストに対して低遅延（ミリ秒単位）で応答する必要がある一方、LLM（例: GPTシリーズ）は1回の応答生成に数秒単位の時間を要します。

それにもかかわらず、初期のLLM活用研究の多くはLLMを推薦システムの本体として直接動かすアプローチ（LLM as RS）に集中していました。しかし、この方式は実世界のアプリケーションが求める応答速度を満たすことが困難であり、近年は多くのアプローチが推論時のLLM利用を避ける方向へとシフトしています。

LLMERS の定義と2つの条件

オンラインシステムにLLMを組み込みつつ推論時のオーバーヘッドを回避するため、LLMERSは次のように位置づけられています。

「従来の推薦システムは、学習時の補助またはデータの補強としてLLMによって強化される一方、サービス提供時にLLMによる推論を必要としない」

LLMERSとして成立するための条件は、以下の2点に集約されます。

1. 学習フェーズ: LLMの推論能力や知識を何らかの形で利用すること
2. サービス提供フェーズ: LLMを一切呼び出さないこと

2. LLMERSの全体像

従来の推薦システムの構成要素

LLMERSがどこにLLMを組み込むかを理解するために、まず従来の推薦システムの構造を整理します。従来の推薦システムは大きく「インタラクションデータ」と「推薦モデル」の2つで構成されます。

• インタラクションデータ（Interaction Data）
  • 特徴量（Feature）: ユーザーおよびアイテムの属性情報
  • 行動履歴（Interaction）: 実際の閲覧・購入などのインタラクション履歴
• 推薦モデル（Recommendation Model）
  • Embedding層: 特徴量を密なベクトルに変換する層
  • Deep Network: ユーザーの興味を捉えるネットワーク（一般的な「Embedding-Deep Network」パターン）

推薦システムが抱える3つの課題

従来の推薦システムには、構成要素ごとに以下の3つの課題が存在します。

課題	対象	内容
ユーザー・アイテム	特徴量	数値やカテゴリ値に変換されて利用されるため、知識に基づく推論や理解が欠けている
行動履歴データ	インタラクション	ユーザーごとの行動履歴が少なく、データのスパース性（sparsity）により学習が不十分になりやすい
推薦モデルの学習	推薦モデル	協調フィルタリング的な信号は捉えられるが、意味的な情報を活用できない

課題に対応する3つの強化ライン

LLMERSは、解決対象となる課題に応じて以下の3つのラインに分類されます。

• インタラクションデータ側への作用
  • Knowledge Enhancement（特徴量の知識補強）
    ユーザー・アイテムの特徴量に作用
  • Interaction Enhancement（行動データの補強）
    行動履歴データに作用
• 推薦モデル側への作用
  • Model Enhancement（モデル構造・学習の補強）
    推薦モデルの学習プロセスそのものに作用

それぞれのラインはさらに細かく分類されており、対象（ユーザー側、アイテム側、あるいは両方）や手法に応じて多様なアプローチが提案されています。

3. Knowledge Enhancement

Knowledge Enhancementの概要

Knowledge Enhancement は、LLMが持つ世界知識と推論能力を活用してユーザーやアイテムに関するテキスト説明を生成し、それを追加の特徴量として利用する手法です。生成された特徴量は事前に作成・保存（オフライン処理）できるため、推論時にLLMを呼び出す必要がなく、高い推論効率を維持できます。

出力される特徴量の形式により、以下の3つのサブカテゴリに分類されます。

サブカテゴリ	特徴量の形式	代表的なプロンプト・手法の例
Summary Text	非構造化テキスト	"Given a user who has viewed <Browsing History>, please explain what he or she is interested in:" のようなプロンプトで要約
Knowledge Graph	構造化グラフ	"Given an item named …, does it have the attribute …?" のようなプロンプトでエンティティ・関係を抽出
Combination	両者の組み合わせ	KGをプロンプト構築に組み込み、要約テキスト生成時のハルシネーションを抑制

① Summary Text（非構造化テキスト）

非構造化テキストを用いた要約手法は、以下のように発展しています。

• ニュース推薦における要約:
  LLMを内容要約器として活用する手法が先駆けとなり、記事本文をLLMで拡張した後にエンコードする改良手法が提案されています。
• ユーザー・アイテム両方の知識抽出:
  LLMからユーザーの推論知識とアイテムの事実知識を抽出し、複数のエキスパートによるテキストエンコーダで処理した上で、DeepFMやDINなどのクリック率（CTR）予測モデルに統合する手法が提案されています。後続研究では、推薦規模の違いに応じて知識抽出モジュールがさらに洗練されています。
• グラフベース推薦モデルへの適用:
  LLMをユーザー・アイテムの構造情報を抽出するための集約器として活用する手法も存在します。

➁ Knowledge Graph（構造化グラフ）

構造化された知識グラフ（KG）を活用する手法は、「新規生成」と「既存補完・融合」に大別されます。

• Generation（新規生成）
  • 推論・検証プロンプト:
    推論プロンプトでLLMから可能性のあるインタラクション系列を導出し、検証プロンプトで非論理的な系列を除外する手法が先駆けです。
  • 多様なグラフ生成:
    ユーザーの興味に基づくハイパーグラフの生成や、複数の意味的側面に対応する複数のインタラクショングラフの生成が行われています。
  • 求人推薦への応用:
    求人票と履歴書からエンティティを抽出して専用グラフを構築する手法も報告されています。
• Completion & Fusion（補完・融合）
  • 補完的関係の識別: 既存の項目KG内にある不足した関係性をLLMで識別します。
  • 融合手法の改良: 既存KGとLLM生成エンティティ関係の単純な融合が最適ではないという課題に対し、より洗練された融合手法が提案されています。

③ Combination（テキストとKGの組み合わせ）

Summary TextとKnowledge Graphの利点を融合させるアプローチです。

• ハルシネーションの抑制:
  KGをプロンプト構築に統合することで、LLMが要約テキストを生成する際のハルシネーション（事実に基づかない出力）を防ぎます。
• 概念推薦の強化:
  KG内のエンティティをテキストプロンプトに紐づけ、概念レベルでの推薦精度を向上させます。

4. Interaction Enhancement

Interaction Enhancementの概要

Interaction Enhancement は、データスパース性の課題を解決するために、LLMを用いて疑似的なユーザー・アイテムのインタラクション（行動データ）を生成し、学習データを拡張するアプローチです。

• 推論コストゼロ: 生成データは学習時のみに使用され、推論時には一切関与しないため、ランタイムの計算負荷は増加しません。
• 2つの出力形式: LLMの出力形式に応じて、Text-basedとScore-basedに分かれます。

手法タイプ	LLMの出力	特徴と対応策
Text-based	疑似的にインタラクションしたアイテム名そのもの	候補数が膨大だと直接選択が困難なため、事前絞り込みなどの工夫が必要
Score-based	候補アイテムそれぞれの尤度（logit）	テキスト出力が実在アイテムと一致しない「out-of-corpus問題」を回避可能

① Text-based アプローチ

LLMにアイテム名を直接出力させる手法は、以下の工夫とともに発展してきました。

• 候補アイテムの絞り込み:
  大規模なアイテム集合から直接選ばせる初期手法（ニュース推薦等）の課題を受け、学習済み推薦モデルによる絞り込みや、ランダムサンプリングされた候補集合から選ばせる手法が開発されました。
• コールドスタート対策:
  ユーザーが2つのアイテムのどちらを好むかをLLMに判定させ、ペアワイズのインタラクションを生成してデータ不足を補います。
• サンプルの識別:
  逐次推薦において、ノイズの多いサンプルや判別が難しいサンプルをLLMに見分けさせる手法も登場しています。

➁ Score-based アプローチ

LLMの生成テキストが既存のアイテム辞書に存在しない「out-of-corpus問題」を回避するため、スコアに基づく手法が提案されています。

• 意味的埋め込みによる類似度計算:
  LLMからユーザーとアイテムの意味的埋め込みを抽出し、埋め込み間の類似度を計算して拡張データを生成します。
• トークン生成確率の信頼度利用:
  単語トークンの生成確率を「ノイズかどうかの信頼度」として扱い、埋め込み類似度に基づいて新しいアイテムインタラクションを生成します。

5. Model Enhancement

Model Enhancementの概要と4つの分類

推薦モデルは通常、「アイテム間の関係を捉えるEmbedding層」と「ユーザーの複雑な興味を抽出する隠れ層（Hidden Layers）」から成ります。Model Enhancementは、LLMの能力と意味理解をこのモデル構造そのものに注入するアプローチです。

モデル全体を対象とするアプローチと、Embedding層のみを対象とするアプローチに大別され、さらに以下の4つに分類されます。

サブカテゴリ	適用対象	LLMの使われ方	サービス提供時のLLM依存
Model Initialization	モデル全体 or Embedding層	LLMの意味表現をモデルの初期パラメータとして利用	不要（学習前のみ使用）
Model Distillation	モデル全体	隠れ状態や出力を蒸留損失で小規模モデルに転写	不要（学習時のみ使用）
Embedding Utilization	Embedding層	LLM埋め込みをそのまま補助特徴量として利用	事前計算・キャッシュのみ
Embedding Guidance	Embedding層	LLM埋め込みを追加の損失関数（ガイド）として利用	不要（学習時のみ使用）

① Model Initialization（モデル初期化）

モデルの学習開始時のパラメータにLLMの知識を反映させます。

• Wholeタイプ（モデル全体を初期化）:
  • LLMの意味表現と従来の協調表現を異なる「モダリティ」と見なし、対照学習タスクで整合させたパラメータをモデル全体の初期値とします。
  • テーブルデータと言語モデリングをより細かい粒度で整合させるタスク設計へと発展しています。
• Embeddingタイプ（Embedding層のみを初期化）:
  • アイテムタイトルを大規模テキスト埋め込みモデルに入力し、得られたベクトルで逐次推薦モデルのEmbedding層を初期化する手法が先駆けです。
  • フリーズしたオープンソースLLMの隠れ状態の利用や、属性レベルの対照学習による細かい意味関係の抽出へと進化しています。

➁ Model Distillation（モデル蒸留）

知識蒸留（Knowledge Distillation: KD）を用いて、大規模なLLMから小規模な推薦モデルへ知識を転写します。

• Feature-based（特徴量ベース蒸留）:
  • 学習可能なアダプタを介して、LLMの最終層の隠れ状態から小規模推薦モデルへ蒸留します（LLM自体も識別モデルへファインチューニング）。
  • LLMの基本構造（多層Transformer）を維持しつつ層数を減らしたモデルを作成し、知識蒸留を行う手法もあります。
• Response-based（応答ベース蒸留）:
  • 推薦タスク向けにファインチューニングしたLLMからランキングリストを出力させ、ランキング蒸留損失を用いて小規模モデルを学習させます。

③ Embedding Utilization（埋め込み活用）

LLMの隠れ状態などの埋め込みベクトルを、推薦モデルの補助特徴量として直接利用します。

• アイテム側の強化（研究数が最も集中）:
  • LLMによるアイテムテキストのエンコードと頻度ベースの融合
  • 自己教師あり学習によるアイテム間関係の発見
  • フリーズしたLLM埋め込みと学習可能アダプタの併用（元の意味情報の維持）
  • アイテムLLMとユーザーLLMの2階層構造による推薦
• ユーザー側の強化:
  • 推薦向けにファインチューニングしたLLMに思考の連鎖（Chain-of-Thought: CoT）を行わせ、推論結果からユーザーの選好埋め込みを強化します。
• ユーザー・アイテム両方の強化:
  • LLMの下位層でアイテム属性を、上位層でユーザーの興味履歴を別々にエンコードし、行動履歴の長期化に伴うプロンプト長大化問題に対処します。

④ Embedding Guidance（埋め込みガイド）

LLM埋め込みを特徴量として直接入力するのではなく、学習時の正則化や追加損失関数（ガイド）として利用します。

• ユーザー側の強化:
  • LLM埋め込みを用いて代表的アイテムを特定し短期・長期の興味を強化する手法や、類似ユーザーを検索してロングテールユーザーの学習を補助する手法があります。
• ユーザー・アイテム両方の強化:
  • 協調的な埋め込みをLLMの意味埋め込みと整合させる追加損失関数を導入します。
  • 発展形として、埋め込みを「共有部分」と「固有部分」に分離し、共有部分にのみ整合を課すことで高い性能を達成する手法が報告されています。

サービス提供時におけるレイテンシへの配慮

Model Enhancementの各アプローチは、いずれもサービス提供時のリアルタイム性を損なわないよう設計されています。

• 完全切り離し型: Model Initialization、Model Distillation、Embedding Guidanceの3手法は学習フェーズのみでLLMを使用するため、推論時は完全にLLMから独立して動作します。
• キャッシュ型: Embedding UtilizationはLLM埋め込みを利用しますが、オフラインで事前計算してキャッシュしておくことで、推論時のオーバーヘッドをストレージ参照のみに抑えられます。

6. 研究トレンド

分析の2軸：モデル種別と意味情報タイプ

LLMERSに関する研究トレンドを把握する上で、以下の2つの軸による分類が有効です。

1. 意味情報のタイプ
   • Explicit semantics（明示的意味情報）: 要約テキストなど、人間が可読な自然言語
   • Implicit semantics（暗黙的意味情報）: LLMの隠れ状態ベクトルなど、非言語的な内部表現
2. モデルの種類と学習形態
   • オープンソースLLM vs クローズドソースLLM
   • ファインチューニング（FT）の有無

3つのトレンド

時系列および手法の分析から、以下の3つの明確なトレンドが確認できます。

• explicitからimplicitへの移行:
  初期研究ではテキストを生成させるexplicit semanticsが主流でしたが、近年は隠れ状態などを直接使うimplicit semanticsが増加しています。可読性や説明性はexplicitが勝るものの、推薦性能の面ではimplicitが優れており、テキストへの再エンコードに伴う情報損失を回避できるためです。
• ファインチューニング済みオープンソースLLMの増加:
  推薦タスクへの適応性を高めるため、ファインチューニングを施したオープンソースLLMの採用が進んでいます。APIコストの削減に加え、内部パラメータを直接最適化できる点が大きな理由です。
• Model Enhancementへの注目の高まり:
  implicit semanticsとファインチューニング済みLLMの強みを最大限に組み合わせられるカテゴリであるため、Model Enhancementに関する研究が特に活発化しています。

オープンソースLLMとクローズドソースLLMの使われ方の違い

採用されている具体的なLLMモデルとファインチューニングの状況は以下の通りです。

• オープンソースLLM（FTあり・なしの双方が存在）
  • 主なモデル: LLaMA, ChatGLM, Qwen, Vicuna, Mistral, Baichuan, InternLM
  • 特徴: 重みへの直接アクセスが可能なため、タスク特化のファインチューニングを施して性能を引き出す研究が多く見られます。
• クローズドソースLLM（FTなしのプロンプト利用のみ）
  • 主なモデル: GPT-4, GPT-3.5, text-embedding-ada, PaLM
  • 特徴: API経由のアクセスに限定され、パラメータの直接調整が構造的に難しいため、プロンプティングや埋め込み取得に用途が限られます。

7. 応用先・データセット・効率性

LLMERSが適した2つのアプリケーション特性

LLMERSの適用が有効な領域には、共通して以下の2つの特性のいずれかが存在します。

1. 豊富なメタ特徴量が存在する領域: ユーザープロファイルや商品属性が充実しており、LLMが構造・属性情報を理解しやすいドメイン（Eコマース等）。
2. 大量のテキスト情報が存在する領域: 本文テキストが豊富に存在し、LLMによる要約や意味抽出の恩恵が大きいドメイン（ニュース推薦等）。

応用分野と代表的な公開データセット

実務や検証で広く参照されている公開データセットは、ドメインごとに以下のように整理されます。

ドメイン特性	応用分野	代表的なデータセット
豊富な特徴量	Eコマース	Amazon, Alibaba, Online Retail
豊富な特徴量	映画	MovieLens, Netflix
豊富な特徴量	POI（位置情報）	Yelp, Delivery Hero, Foursquare
豊富な特徴量	動画	KuaiSAR
大量のテキスト	ニュース	MIND
大量のテキスト	書籍	GoodReads, BookCrossing, WeChat-ArticleRec
大量のテキスト	求人	Personalized

3つのラインにおける効率性と推論時オーバーヘッドの比較

各ラインの実運用における計算効率とオーバーヘッドは以下のように異なります。

• Knowledge Enhancement:
  要約テキストや知識グラフを事前にオフライン生成することで推論時のLLM依存を排除しますが、追加された特徴量を推薦モデル側でエンコードし続ける計算コストが残ります。
• Interaction Enhancement:
  疑似データの生成は学習時のみに完結するため、推論時の効率を100%維持できます。また、既存のあらゆる推薦モデルにそのまま適用可能な汎用性の高さがあります。
• Model Enhancement:
  初期化（Initialization）や蒸留（Distillation）は推論時のLLM依存を完全にゼロにします。埋め込み活用（Embedding Utilization）のみ埋め込みのキャッシュストレージが必要となりますが、リアルタイムサービスの低遅延要件を十分に満たせます。

ベンチマークとコードの公開状況

LLMERSは急速に発展している新興分野であるため、手法間を横断して公平に比較できる統一的な共通ベンチマークはまだ確立されていません。

一方で、多くの研究でソースコードが公開されており、それらを集約したリポジトリの整備など、コミュニティ全体で再現性と発展を支える環境が整いつつあります。

8. 今後の課題

LLMERSが実用的な推薦技術としてさらに成熟するために、以下の5つの課題と発展の方向性が挙げられます。

• 推薦タスクの拡張:
  既存研究の多くは協調フィルタリングや逐次推薦といった基本タスクに集中しており、その有効性は実証されています。この成功を他の多様な推薦タスクへと展開していく余地があります。
• マルチモーダルRSへの対応:
  画像や動画を含む多メディアサービスの増加に伴い、マルチモーダル推薦システムが普及しつつある一方、異なるモダリティ間の特徴抽出・融合という課題が残っています。マルチモーダルLLMの採用がこの課題を解決する現実的な手段になり得ます。
• ユーザー側の強化:
  これまでの研究の多くはアイテム側の強化に偏っており、ユーザー側の強化はほとんど手つかずの状態です。ユーザーの行動履歴は整然としたテキストとして扱いやすい一方、プロンプトが長大化しやすい問題があり、この長文をLLMが理解しにくいという課題がユーザー側の強化を阻む要因となっています。
• 説明可能性（Explainability）の向上:
  従来の推薦システムは意味を持たないID表現に依存するため説明性に乏しいとされますが、LLMによる意味理解はユーザーやアイテムを理解した上での説明生成に有望とされています。
• 包括的ベンチマークの整備:
  LLMERSが新興分野であることから、共通のベンチマークが存在しない状態が続いています。包括的で使いやすいベンチマークの整備は急務であり、新しい研究者の参入を促し、分野全体の発展を加速させると位置づけられています。

おわりに

LLMERS（LLM強化型推薦システム）は、従来の推薦システムが抱える特徴量の理解不足、データのスパース性、モデル表現力の限界といった課題に対し、LLMの知識や推論能力を学習フェーズやデータ準備フェーズに組み込むことで解決を図る技術です。その根底には、推論時にはLLMを呼び出さないという厳格な設計思想があり、実運用の厳しいレイテンシ要件をクリアしつつLLMの恩恵を享受できる現実解として位置づけられます。

実務でLLMを推薦システムに取り入れる際には、目的や制約に応じた3つのラインの使い分けが1つの判断軸になります。説明可能な特徴量を増やしたいならKnowledge Enhancement、モデルアーキテクチャを変えずにデータのスパース性やコールドスタート問題へ対処したいならInteraction Enhancement、既存のモデル構造からさらに表現力を引き出したいならModel Enhancementが候補です。ただし、共通のベンチマークが存在せず手法間の性能比較が難しい点、ユーザー側の強化や説明可能性の確保が依然として手薄な点には注意が必要です。導入を検討する際は、こうした分野全体の未成熟さも踏まえたうえで、対象アプリケーションが持つ特徴量やテキストの豊富さと、許容できるレイテンシ・コストの両面から適切なラインを選ぶことになるでしょう。

オープンソースでファインチューニング可能なLLMのエコシステムが成熟するにつれて、implicit semanticsを活用するModel Enhancement系の研究はさらに増えていくはずです。共通ベンチマークの整備やユーザー側強化への取り組みが進むかどうかが、LLMERSという分野が実運用へどこまで広がるかを左右する分かれ目になりそうです。

More Information

• arXiv:2412.13432 , Qidong Liu et al., 「Large Language Model Enhanced Recommender Systems: A Survey」, https://arxiv.org/abs/2412.13432