AIに社内データを触らせるときの、権限と記録の作り方

相談のきっかけ

商談音声のような取り扱いに注意が要るデータをAIに処理させるにあたり、誰が・何を・いつ処理したかを後から説明できる形にする必要があった。

この案件の中身

運用状況

実運用中（2026年9月時点）。このページの最終更新：2026年10月12日

対象業務

AIが社内データを扱う範囲の制限、データ取り込みの申請と承認、処理の記録、AI障害時の切り替え

導入前の手間

生成AIに社内のデータを渡す運用を広げるとき、「誰が・どのデータを・何のために処理したか」を後から説明できる形になっていなかった。とくに商談の音声は取り扱いに注意が要るため、担当者の判断だけでアップロードできる状態は避けたかった。

実装した範囲

• —AIが呼び出せる操作をあらかじめ定義し、その範囲の外は実行できないようにした
• —読む操作と保存する操作を、わざと別の操作として用意した。中身が同じ処理でも二つに分けてあり、保存する側は利用者がはっきり頼んだときにしか呼ばれない。AIに「保存していいか」を判断させない作りにしている
• —AIに渡す操作の説明文に、見える範囲を書き込んだ。既定ではログイン中の担当者が持っている取引先しか見えず、全員ぶんを横断するには明示的な指定が要る
• —人が確認する場面では、複数人がそれぞれ独立に判断し、決まるまでの経緯が記録として残る形にした。ひとりの承認だけで通らない
• —AIの判定を自動で確定させない。確定は人の操作でのみ行われる
• —データの取り込みは申請 → 承認 → 使用 の形にし、承認されていないものは処理されない
• —申請にはファイルの指紋（ハッシュ）を持たせ、承認したものと違うファイルは使えないようにした
• —承認には期限を設け、使ったあとは再利用できない状態に変わる
• —誰が・何に・どう操作したかを記録に残す（操作者・操作・対象・内容・日時）
• —上長が内容を確認してレビューする画面を用意し、確認の履歴を残す
• —利用しているAIが応答しないときは自動で別のAIに切り替え、繰り返し失敗する場合は一時的に呼び出しを止める

確認できている成果

• —AIが呼べる操作のうち、保存する操作は1つだけに絞った。計画を作る操作と保存する操作を分けてあるため、頼まれない限りAIはデータを書き換えない
• —音声の取り込みを申請・承認制にし、承認されたファイルだけが処理される状態にした
• —判定にかけた565件について、誰がいつ何をしたかと、決まるまでの経緯が残っている
• —AIの処理が失敗したときに別のAIへ自動で切り替わる構成にし、片方の障害で業務が止まらないようにした

安全のために入れたもの

• —扱ったデータ 商談の録音と、担当者ごとの取引先の情報
• —守り方 AIが呼べる操作を読む／書くに分け、保存する操作は1つに絞った。取り込みは申請→承認→使用で、承認したファイルの指紋（ハッシュ）と違うものは使えない。誰が・何を・いつ処理したかを記録
• —人が確認する場面 取り込みの承認と、判定（複数人が独立に判断し、経緯が残る）

開発期間・体制

先にAIを動かす部分を作り、運用しながら「ここは人の承認が要る」という箇所を足していった。最初から全部を固めようとすると使われなくなるため、動かしながら絞る進め方をとっている

費用目安

既存のシステムにこの仕組みだけを足す場合、月額3万〜8万円（税別）が目安。対象の操作数と承認の流れによって変わります

対応できない条件

• —承認を挟む以上、その場ですぐ処理したい業務には向かない
• —承認する人が決まっていない組織では、仕組みだけ作っても運用が回らない
• —記録は残せるが、法令や業界基準への適合そのものを保証するものではない

今つくる場合の構成

AIエージェント、権限制御、読み取りと書き込みの分離、監査ログ、合議レビュー、フォールバック設計、フルスクラッチ開発

通信の暗号化（TLS 1.2以上）、パスワードのハッシュ化（bcrypt）、認証情報の暗号化、サーバーの公開鍵認証、国内データセンター、バックアップと復旧手順は、すべての案件でセキュリティポリシーのとおりに行っています。安全性と使いやすさを両立させる考え方は安全にAIを入れる当社のやり方にまとめています。

関連する事例

• 営業支援基盤とAIエージェント（同じ基盤） →