RAGで社内文書検索を3カ月試作、経営層向け試験運用で生成AIの可能性を探る

最初の一歩を、社内の全文書ではなく約30種類のファイルに絞り込んだ判断が、この取り組みの土台になっています。対象に選ばれたのは、交通費や出張旅費の計算など社員が日常的に開く申請系の書類でした。全社の文書をいきなり扱えば技術的にもコスト的にも壁が高くなりますが、利用頻度が高く様式も決まった文書群であれば、欲しい情報が取り出せたかどうかを使う側がその場で判断できます。検証の合否を誰でも見分けられる範囲まで問題を小さくしたことが、短い期間で答えにたどり着けた理由と考えられます。

もう一つの要因は、生成AI・RAG・チャットアプリを別々に組み上げるのではなく、パッケージ化されたサービスをそのまま使う構成を選んだ調達の設計にあります。他社の提案がそれぞれを構築してカスタマイズする形だったのに対し、採用されたのは低コストかつ短期間で仕上げる方式で、アーキテクチャ全体をカバーする技術サポートが付いていました。AWSのフレームワーク内でセキュリティ要件を満たせる点がAmazon Bedrock採用の理由に挙がっていることからも、作り込みの自由度より、最初に確かめたい問いへ早く到達することを優先した判断が読み取れます。

試験運用の設計も独特です。対象を経営層10数名に限り、検索のヒット率や回答内容の精度はあえて評価から外して、質問してから回答が返るまでのプロセスを見てもらうことに重きが置かれました。精度を問えば荒削りな初版は低い評価にしかなりませんが、生成AIがどう動くのかを方針を決める当事者が自分の手で体感すれば、それ自体が次の判断材料になります。評価軸を技術指標から意思決定者の納得へ振り替えた設計は、ナレッジ獲得という当初の狙いに照らせば筋が通っています。