2026.05.19 最終更新
オンプレミス環境のハラスメント検知をAIで実現し、判定精度95%以上を達成
※イメージ画像です
プロジェクト概要
アプローチと成果
カテゴリー詳細
お問い合わせ
こんな課題を持つ企業におすすめの事例です
- セキュアなオンプレミス環境でAIを活用したい
- 社内チャットにおけるハラスメントのリスクを低減したい
- クラウドにデータを上げずに高精度な言語モデルを実装したい
プロジェクト概要
背景・目的
三和コムテックは、クラウド環境の利用に制限がある顧客向けに、オンプレミス型のチャットソリューション「Rocket.Chat」を提供しています。近年、企業におけるコンプライアンス意識の高まりから、チャット上のコミュニケーションにおけるハラスメント対策が重要視されています。しかし、外部ネットワークに接続できないセキュアなオンプレミス環境では、一般的なクラウドベースのAIを活用することが困難でした。そこで同社は、クローズドな環境下でもユーザーのチャット内容からハラスメントが疑われる会話を検知し、アラートを発する新機能の開発を目指し、プロジェクトを始動しました。
アプローチと成果
アプローチ
この課題を解決するため、三和コムテックはIBMをビジネスパートナーとして迎え、共創プロジェクトを開始しました。具体的には、AIおよびデータプラットフォーム「IBM watsonx.ai」を活用し、オンプレミス環境で稼働する軽量なカスタム言語モデルの構築に着手しています。
開発にあたっては、法律の専門家と連携し、セクシャルハラスメントやパワーハラスメントに該当する会話例を含む高品質なトレーニングデータを厳選しました。このデータを基に、「IBM Watson natural language processing（NLP）」の分類機能を用いてモデルを学習させています。さらに、PoC（概念実証）を通じて複数のNLPモデルの精度を比較評価し、最も効果的なモデルを選定しました。現在もハラスメント検知の精度をさらに高めるため、トレーニングデータの継続的な改良とチューニングが行われています。
プロジェクトへの評価と成果
改善・向上したこと
品質・安全性向上
コンプライアンス強化
推進したこと
システムへのAI機能組込み
プロトタイプ開発（PoC）
新サービス・製品開発
PoCの結果、外部ネットワークから切り離されたクローズドネットワーク環境でありながら、AIによるハラスメント判定において95％以上という極めて高い精度を達成しました。これにより、クラウドベースの大規模言語モデル（LLM）に依存することなく、オンプレミスパッケージ内に軽量な言語モデルを安全にデプロイできる可能性が実証されています。
現在、同社はソリューションの実稼働環境への導入に向け、引き続きIBMと連携しながらアプリケーションの開発とモデルの精度向上を推進しています。
カテゴリー詳細
プロジェクト内容
AI導入・支援形態
導入部門・データ活用
導入部門と活用内容
情シス・社内DX
チャットツール提供
バックオフィス・管理部門（人事・経理・法務）
コンプライアンス・監査支援AI
活用したデータ
文書・ナレッジ
日報・議事録・メール履歴
チャットデータ
採用したAI技術・ツール
採用したAI技術
テキスト・言語AI
メール・文書の分類
ハラスメント検知
活用・導入したAIモデル・ツール
クラウドAI基盤
連携ツール
構築・利用したデータ基盤・インフラ
オンプレミス・社内サーバー
チャットツール・UI（画面）連携
Rocket.Chat
WarpBiz編集部の事例考察
成功の最大の要因は、法律の専門家と連携して高品質な学習データを厳選し、オンプレミス環境に適した軽量モデルを構築した点にあります。このアプローチは、機密情報を扱う金融や医療業界における社内コミュニケーションの監視や、コンプライアンス強化にも応用可能です。導入にあたっては、ハラスメントの定義が時代とともに変化するため、継続的なモデルの再学習と専門家による監修体制の構築が不可欠となります。セキュアな環境でのAI活用を検討される方は、ぜひ他の事例記事もご覧ください。
プロジェクト実施・導入企業
IBM
この事例と同じようなシステムを開発したいですか？ WarpBizで実現可能なパートナーを探しましょう。
三和コムテック株式会社
この事例を見た方は以下の事例も見ています
類似事例を読み込んでいます
関連度の高い事例を選定しています。少しお待ちください。