一人ひとりに寄り添うAIを、継続して届けるには
商品レビュー生成の比較実験から考える、パーソナライズの品質と運用コスト

生成AIを顧客対応や業務支援に活用する際には、一人ひとりの目的や好みに合った内容を届けることが重要です。こうした個人に応じた内容や表現の調整を「パーソナライズ」と呼び、LLM（Large Language Models：大規模言語モデル）の活用でも研究が進められています。利用者が指定した好みや過去の行動などを生成時に参照する方法や、追加学習によって利用者の特徴をモデルに反映する方法など、さまざまなアプローチがあります。本研究では、その中でも、利用者が過去に書いた文章を活用し、文体や好みを新たに生成する文章に反映する方法に着目しました。

一人ひとりに合った文章をサービスとして継続的に提供するには、生成品質と運用コストの両立が課題となります。利用者の特徴を詳しく伝えようと過去の文章を多く入力すると、入力が長くなり、API利用コストが増える要因となります。では、過去の文章をそのまま与える方法と、文体や好みを短いプロファイルにまとめて与える方法では、品質とコストにどのような違いが生まれるのでしょうか。プロファイルの作成や再利用も含め、継続的な運用を見据えた比較が必要です。

こうした背景のもと、当社AIトランスフォーメーションセンターでは、商用LLMの活用を見据えた「ユーザー履歴表現におけるコストと生成品質のトレードオフ検証」に関する研究を実施しました。本研究では、商品レビューのパーソナライズ生成を題材に、ユーザー履歴の与え方による違いを比較しています。本研究をまとめた論文（Raw Histories or Compact Profiles? A Cost-Aware Empirical Study of User History Representations for Personalized Review Generation with LLMs）は、データマイニング・機械学習分野の主要な国際学会であるICDM（IEEE International Conference on Data Mining）の併設ワークショップ「IEEE ICDM International Workshop on AI for Personalization（WAIP）」に採択されました。

本コラムでは、論文で得られた検証結果をもとに、商用LLMにおける生成品質とAPIコストの両立に向けた、ユーザー履歴の活用方法と運用設計のポイントについて、論文の執筆者であるAIトランスフォーメーションセンターの大沢 直史が解説します。