ソニー銀行、生成AIの誤情報を抑える回答テンプレートで進めるメール対応の効率化

最も効いているのは、AIの出力先を顧客ではなく担当者に向けた切り分けです。生成AIに作らせたのは送信される回答そのものではなく、担当者が引き出して使う回答テンプレートであり、最終的に何を送るかの判断は人の側に残されています。この設計であれば、仮にAIの出力に問題があっても顧客に届く前に止まるため、誤りが許されない業務でも検証を前に進められる。完全自動化を最初のゴールに据えなかったことが、むしろ着手を可能にしたと考えられます。

次に、生成の素材を過去に高頻度で寄せられた問い合わせメールに限定した判断です。ハルシネーションは、AIが答えを持たない領域を埋めようとするときに起きやすい現象ですから、すでに回答の蓄積があり、聞かれ方も答え方も型が定まっている問いに範囲を絞れば、生成物が妥当かどうかを人が確かめられる射程に収まります。安全性を後工程のチェックだけで担保するのではなく、入力段階で扱う範囲を設計しているところに、この手法の要点があります。ハルシネーションを回避する仕組みが特許出願に至っている事実も、汎用のAIをそのまま使うのではなく、固有の仕掛けとして作り込まれたことをうかがわせます。

見落とせないのが、テンプレートを引き出すための検索精度に手を入れている点です。良い文例が用意されていても、探すのに手間がかかれば担当者は自分で書き始めてしまい、品質をそろえる効果は現場に届きません。生成と検索を一続きの仕組みとして組んだことで、テンプレートは資料ではなく実務の道具になっています。研究開発を担う組織であるソニーCSLと組み、検証と技術開発を並行させた体制も、こうした作り込みを可能にした条件と言えます。