SOMPOホールディングスがRAGで社内情報検索、グループ各社に安全な体験環境

既存の仕組みを作り込むのではなく、生成AIの中核部分を新しく作って既存のチャットツールに組み込むという切り分けが、短い期間で実用の水準へ届かせた要因と考えられます。土台になっていたのはハンズオン向けのシステムで、一般利用向けに機能を広げるにはソースへ大きく手を入れる必要がありました。使える機能は残し、鍵となる部分だけを新規に作る判断は、目先の工数よりも公開後の運用のしやすさを重く見たものです。限られた期間と工数の中で「やったほうが良いこと」と「やらなくてよいこと」を仕分ける役割を外部の技術者が担った点も、社内だけでは踏み切りにくかった選択を可能にしたのではないでしょうか。

情報の出し分けを設計の中心に置いたことも大きいでしょう。グループ企業は数十社あり、他社に見えてはいけない固有情報をそれぞれが抱えています。この事例では、検索サービスAmazon KendraのAccess Control List（誰が何を見られるかを定めた一覧）で制御し、別の会社の情報がRAGの検索対象に入らない構造にしました。全社共通の基盤は、権限の線引きを後回しにするほど載せられる情報が減っていきますが、会社単位の境界を最初から組み込んだ設計が、グループ全体への公開を現実的な選択肢に変えたと見ています。

移り変わりを前提に置いた作りも見逃せません。プロジェクトの最中にも生成AIの大きな更新が2回あり、使用するモデルはパラメータの変更で差し替えられるようにしています。AWS CloudFormationを用いたIaC（インフラの構成をコードで管理する手法）化は依頼にはなかったものの、後の管理しやすさを見越して組み込まれました。リリースの10日ほど前に、非公開チャンネルが使えないという基盤構成の問題が判明した際も、報告の翌日にはAmazon ECSを使う解決策が示され、基盤の変更とアプリケーションの作り直しが並行して進んでいます。