売上や商談の記録、取引先とのメールをAIに読ませたいが、外部のAIサービスに送ることはできない。そう考える会社が、社内のPCでAIを動かすローカルLLMを選びます。
この記事では、ローカルLLMの導入に何にいくらかかるかと、構成の決め方に絞って書きます。ローカルLLMそのものの説明はローカルLLMとは？中小企業のおすすめと始め方にあります。費用は、当社で動いている実例をもとにした計算例です。
結論：費用は3つに分かれる
ローカルLLMの導入費用は、AIを動かすPC・構築と運用の月額・電気代の3つに分かれます。
| 費用 | 実例 | 誰が払うか |
|---|---|---|
| AIを動かすPC | GPU搭載で約50万円 | お客様が購入 |
| 構築と運用の月額 | 月額5万円（税別） | 開発会社へ |
| 電気代 | PCを動かす分 | お客様 |
外部のAIサービスを使う場合と違うのは、利用料の代わりにPCを買う点です。使う量が増えても追加の利用料はかかりません。その代わり、最初にPCの費用がまとまってかかります。
実例：サプリメーカーの営業部門
当社の実例を1つ挙げます。
- 業種：サプリメントのメーカー（営業部門）
- 分析するもの：Excel・レジ・販売管理の売上に、商談の文字起こしとメールの内容を合わせて、なぜ売上が動いたかを見立てる
- 構成：社内に置いたGPU搭載のPCでローカルLLMを動かす。データを社外のAIサービスに送らない
- 使える人：社内の一部の人だけ。使える端末は特定のPCだけ
- 費用：月額5万円（税別）・初期費用0円。PC（約50万円）はお客様が購入
- 2026年1月から稼働
分析するデータの種類が多く、取引先の名前や商談の中身を含むため、ローカルにしています。
費用を計算例で見る
上の実例の構成で、計算例を出します。計算例であり、平均や推奨の金額ではありません。
- 初年度：PC約50万円＋月額5万円×12か月＝約110万円（税別）
- 2年目以降：月額5万円×12か月＝年60万円（税別）
- 電気代は別。GPU搭載のPCを業務時間だけ動かす程度なら、月に数千円の範囲が目安ですが、PCの構成と稼働時間で変わります
PCの金額は、読み込むデータの量と求める速さで変わります。長い文書を大量に読ませる、何人も同時に使う、という場合は、上の構成より大きなPCが要ります。逆に、短い文章を1人が使う程度なら、もっと小さなPCで足ります。
構成を2つから選ぶ
社内のデータをAIに読ませる構成は、大きく2つあります。
| 構成 | 向いているデータ | PCの購入 |
|---|---|---|
| ローカルLLM（社内のPCで動かす） | 取引先の名前や商談の中身など、外に出せないデータ | 要る |
| マスキング＋クラウドのAI | 名前や金額を伏せれば外に出せるデータ | 要らない |
マスキングとは、取引先の名前や人の名前、金額などを、AIに送る前に別の記号に置き換えることです。AIの答えを受け取ったあとで、元に戻します。この構成は、別のお客様で稼働しています。
選ぶときの目安は次のとおりです。
- 伏せても外に出せないデータがある → ローカルLLM
- 伏せれば出せる。PCの初期費用を避けたい → マスキング＋クラウド
- 両方ある → 外に出せないものだけローカルで扱い、残りはクラウドで、という併用
どちらが安いかは、使う年数と量で変わります。初年度の費用を抑えたいならクラウド、長く多く使うならローカルが有利になりやすい、という傾向はありますが、自社の数字で比べてください。
使える人と端末を限定する
ローカルにしても、社内の誰でも使えるようにすると、データが外に出ない意味が薄れます。実例では、次のようにしています。
- 使える人を、社長や営業部長など社内の一部に限る
- 使える端末を、分析用のPC1台に限る。社外や手元のスマホからは使えない
- AIの見立ては判断の材料として使い、打ち手は人が決める
「ローカルだから安全」ではなく、「ローカルにしたうえで、使える人と端末を決めている」ことが、取引先に説明できる状態を作ります。
向かないケース
- PCの購入費（約50万円）が重く、クラウドに送ってよいデータしか扱わない場合。マスキング＋クラウドのほうが安く始められる
- 重い分析を急いで何度も回す場合。ローカルLLMはPCの性能の範囲で動くため、外部の大きなAIより時間がかかることがある
- PCを置く場所と管理する人がいない場合。社内に置く以上、電源・更新・故障の対応は社内で行う
よくある質問
ローカルLLMの導入に、初期費用はかかりますか？
当社の場合、構築の初期費用は0円で、月額に含めています。別にかかるのは、AIを動かすPCの購入費です。実例ではGPU搭載のPCで約50万円でした。PCは会社の資産として残ります。
どのくらいのPCが必要ですか？
鍵になるのはGPUのメモリ（VRAM）です。読み込むデータの量と、同時に使う人数、求める速さで決まります。実例では約50万円のGPU搭載PCでしたが、短い文章を1人が使う程度なら、もっと小さな構成で足ります。相談のときに、扱うデータの量を伺って目安をお返しします。
ChatGPTの法人向けプランと、どちらがよいですか？
扱うデータが「外に出してよいか」で決まります。外に出せないなら、ローカルLLMかマスキング＋クラウドです。出してよく、社内の決まりで運用できるなら、法人向けプランのほうが早く安く始められます。費用だけで比べず、データの扱いの決まりを先に確かめてください。
当社では、ローカルLLMを使った分析の仕組みを初期費用0円・月額5万円（税別）から作っています。売上と商談・メールをまとめて分析する流れは売上分析AIのデモで触れられ、実例は売上と商談・メールをまとめて分析するAIの事例にまとめています。
