開発事例 ／ AIに安全に操作させる仕組み（ハーネス）
AIに社内データを触らせるときの、権限と記録の作り方
AIが動かせる範囲をあらかじめ決め、データを扱う操作は申請と承認を必須にした。処理の記録を残し、AIが使えないときは別のAIに切り替えて止まらないようにした。
※ ※ 社内の評価基準と項目の中身は非公開
相談のきっかけ
商談音声のような取り扱いに注意が要るデータをAIに処理させるにあたり、誰が・何を・いつ処理したかを後から説明できる形にする必要があった。
この案件の中身
- 運用状況
- 実運用中（2026年9月時点）
- 対象業務
- AIが社内データを扱う範囲の制限、データ取り込みの申請と承認、処理の記録、AI障害時の切り替え
- 導入前の手間
- 生成AIに社内のデータを渡す運用を広げるとき、「誰が・どのデータを・何のために処理したか」を後から説明できる形になっていなかった。とくに商談の音声は取り扱いに注意が要るため、担当者の判断だけでアップロードできる状態は避けたかった。
- 実装した範囲
-
- —AIが呼び出せる操作をあらかじめ定義し、その範囲の外は実行できないようにした
- —データの取り込みは申請 → 承認 → 使用 の形にし、承認されていないものは処理されない
- —申請にはファイルの指紋（ハッシュ）を持たせ、承認したものと違うファイルは使えないようにした
- —承認には期限を設け、使ったあとは再利用できない状態に変わる
- —誰が・何に・どう操作したかを記録に残す（操作者・操作・対象・内容・日時）
- —上長が内容を確認してレビューする画面を用意し、確認の履歴を残す
- —利用しているAIが応答しないときは自動で別のAIに切り替え、繰り返し失敗する場合は一時的に呼び出しを止める
- 確認できている成果
-
- —音声の取り込みを申請・承認制にし、承認されたファイルだけが処理される状態にした
- —AIの処理が失敗したときに別のAIへ自動で切り替わる構成にし、片方の障害で業務が止まらないようにした
- 開発期間・体制
- 先にAIを動かす部分を作り、運用しながら「ここは人の承認が要る」という箇所を足していった。最初から全部を固めようとすると使われなくなるため、動かしながら絞る進め方をとっている
- 費用目安
- 既存のシステムにこの仕組みだけを足す場合、月額3万〜8万円（税別）が目安。対象の操作数と承認の流れによって変わります
- 対応できない条件
-
- —承認を挟む以上、その場ですぐ処理したい業務には向かない
- —承認する人が決まっていない組織では、仕組みだけ作っても運用が回らない
- —記録は残せるが、法令や業界基準への適合そのものを保証するものではない
- 今つくる場合の構成
- AIエージェント、権限制御、監査ログ、フォールバック設計、フルスクラッチ開発
同じような相談をお持ちの方へ
この事例と近い状況であれば、上の「対応できない条件」に当てはまらないかを確認したうえで、同じ範囲を初期費用0円・月額制で作れます。稼働するまで課金は始まりません。まず状況を聞かせてください。