電話自動応答AIの基盤をGeminiへ移行、返事の認識精度85%→97%

音声を文字に書き起こしてから処理するという中間工程を外し、モデルへ音声をそのまま渡す構成に切り替えた点が、この移行の中心にあります。書き起こしを挟む方式では、聞き取りにくい人名がいったん文字として固定された時点で誤りが確定し、後段のAIがどれだけ賢くてもその誤りを引きずります。音声を直接扱えば、発音そのものから最も近い候補を選び直せます。中間データの形式を一つ減らすだけで誤りの入り込む余地が減るという、地味ながら効きの大きい設計判断です。

一つの大きなモデルに会話全体を任せず、インテント（相手の用件・意図）の認識フローを細かく分岐させ、複数のAIコンポーネントへ処理を分散させた構成も効いています。分岐ごとに軽い処理を割り当てれば、待ち時間を抑えたまま日時などの必要情報を同時に取り出せるためです。電話は数秒の沈黙でもかけた側が不安になる媒体で、賢さより速さが体験を左右する場面が多く、処理の速いモデルが揃う基盤を選んだ判断は、この分散構成と表裏一体だったと見ています。

生成AIの出力をそのまま利用者に返さず、いったん構造化データとして受け取り、そこから先は自社のルールベースで処理する切り分けも見逃せません。確率的にしか振る舞えないモデルを、業務システムとして扱える形に閉じ込める考え方です。さらに、仮想エージェントが実際に電話をかけて100パターン近くの会話を最後まで通すエンドツーエンドのテストをCI（変更のたびに自動でテストを走らせる仕組み）へ組み込み、他サービスや別モデル、別リージョンへの切り替え先も用意されています。新しい業種へ広げるたびに会話が壊れていないかを人手で確かめずに済むこの体制が、横展開の速度を裏側で支えているのではないでしょうか。