「社内専用AIを導入したら、あとは使うだけ」——情シス兼任の担当者から、こうした認識をよく耳にします。しかし実態は異なります。AIモデルは定期的な更新と性能評価なしでは、知らぬ間に出力品質が低下し、「費用だけかかる置き物」になっていきます。
この記事では、情報を外に出さない社内専用AI（ローカルLLM）のモデル更新と性能評価の考え方について、中小企業の情シス兼任担当者の視点から解説します。初期導入費用だけでなく、運用から廃棄までのライフサイクル全体にわたるコスト設計の勘所を、具体的な数字と判断軸でお伝えします。
「入れたら終わり」ではない：社内専用AIのライフサイクルとは
AIモデルは一般的なソフトウェアと異なる特性を持っています。ソフトウェアは基本的に「バグが修正されない限り同じ動作をする」のに対し、AIモデルは学習済みのデータと時代背景が前提となって動きます。例えば、2023年時点のデータで学習したモデルを2026年に使い続けると、「最新の法改正に対応した文書の要約」「現在の業界用語の解釈」「最新のセキュリティ脅威への回答」など、時事性が求められる業務で出力品質が著しく低下します。
また、モデル自体の性能向上も見逃せません。2年前に「業務では使えない」と判断されたモデルの水準が、同等のハードウェアで現在の最新モデルによって大幅に改善されているケースは珍しくありません。Mistral、Llama、Gemma等の主要オープンモデルは毎年2～3世代のメジャーアップデートが行われており、情シス兼任担当者が何もしなければ、会社は性能の劣ったAIを使い続けることになります。
ライフサイクルの観点で捉えると、社内専用AIの運用は次の4フェーズで構成されます。
・導入フェーズ: モデル選定・サーバー設置・初期設定・テスト運用（初年度）
・安定運用フェーズ: 日常利用・軽微な設定変更・社員への定着支援（1～2年目）
・評価・更新フェーズ: 性能測定・新モデルとの比較・更新判断・切り替え作業（2年目以降定期）
・廃棄・刷新フェーズ: ハードウェア更新またはサービス終了・後継システムへの移行（4～6年目以降）
初期導入費用に注目が集まりがちですが、実はこの「評価・更新フェーズ」と「廃棄・刷新フェーズ」のコストが、ライフサイクル全体の50～70%を占めることも珍しくありません。「導入して終わり」の発想では、この後段のコストが予算計画に入らず、後から予想外の出費として経営を圧迫します。社内専用AIを「設備投資」ではなく「継続的に運用が必要なインフラ」として経営計画に組み込むことが、ライフサイクルコストを正しく管理するための第一歩です。
特に中小企業に多いのが、「初年度の費用だけ予算化して、2年目以降の運用コストを見ていない」というパターンです。初期費用の安さだけで選択した結果、運用フェーズに入ってから予算不足になり、更新を先送りにし続けて気づいたときには「使えないAI」を抱えている——このサイクルを防ぐために、導入前の段階でライフサイクル全体のコストを試算しておくことが重要です。
モデル更新を先送りすると起きる3つの経営リスク
社内専用AIのモデル更新を後回しにした場合、以下の3つの経営リスクが顕在化します。これらに共通する恐ろしさは、「エラーが出ない」ために問題が気づきにくいことです。
リスク1：出力品質の静かな劣化
モデルが古くなると、回答精度が下がります。例えば、導入初年度は「質問の7割に使える回答が出る」水準だったものが、2年後には「4割しか使えない」状態になっていても、社員は「もともとこんなもの」と感じてしまいます。Before：社員1人あたり月10時間の文書作業が社内AIで7時間に短縮されていたケースが、After：8.5時間に戻っている（短縮効果が半減）という逆転現象が、現場の体感なく静かに進行します。年間で換算すると、1人あたり18時間分の効率低下が積み上がることになります。
さらに問題なのは、この劣化が「AI全般への不信感」に転化しやすい点です。品質が悪いのはモデルが古いせいなのに、「やっぱりAIは使えない」という結論になって社員の利用率が下がり、IT投資の費用対効果がさらに悪化する悪循環に陥ります。
リスク2：セキュリティホールの放置
AIモデルを動かすミドルウェア（Ollama、vLLMなど）や依存ライブラリは、脆弱性対応のためにアップデートが継続的に行われます。モデル更新を先送りにしている環境では、同時に周辺ソフトウェアのアップデートも怠られているケースが多く、脆弱性を放置した状態で社内ネットワークにAIサーバーが稼働し続けることになります。中小企業のサイバー被害の多くが「古いソフトウェアの未更新」を侵入口にしていることは、IPA（情報処理推進機構）の毎年の調査が示しています。「モデルを更新しない」という判断が、セキュリティリスクの温床になっていることを認識してください。
リスク3：IT投資の説明責任の喪失
経営者が「社内AIに年間XX万円かけている」と認識している一方で、実態の稼働状況や効果測定が行われていない状況は、次の予算審議で「続けるべきか廃止すべきか」の判断ができなくなる状態を意味します。日本の中小企業でIT投資のROIを定期的に測定している割合は全体の2割未満（2025年度IPA調査参考値）とされており、社内専用AIは特にこの傾向が強い領域です。性能評価の記録がなければ、予算継続の根拠も、廃止の判断根拠も示せなくなります。
モデル更新の実際のコストと工数をライフサイクルで見る
「モデルを更新する」と聞くと「ファイルを差し替えるだけ」に見えますが、実際にはその前後に相応の工数が発生します。以下は、従業員20名規模の情シス兼任環境での目安工数です（執筆時点：2026年7月時点）。
・性能評価（現行モデルの測定）: 2～4時間（評価シート作成・実行・集計）
・新モデル候補の調査・選定: 3～6時間（リリースノート確認・ベンチマーク参照・社内要件との照合）
・テスト環境での動作確認: 4～8時間（インストール・プロンプトテスト・比較評価）
・本番切り替え作業: 1～2時間（サービス停止・切り替え・再起動・動作確認）
・社員への周知・再教育: 1～3時間（動作変化の説明・プロンプトの再調整支援）
合計すると、1回のモデル更新に11～23時間（情シス兼任担当者の実働ベース）が必要です。年に2回更新するなら、それだけで22～46時間＝月換算で約2～4時間相当の恒常的な負担が加算されます。情シス兼任担当者が本業の業務も抱えている現場では、この工数は無視できない負荷です。
ハードウェアの観点では、古いモデルで動作していたサーバーが新モデルには性能不足になるケースも起こります。VRAM（GPU搭載メモリ）8GB以下の構成では、2024年以降の高精度モデルが動作しないことが多く、2～3年での機器更新コスト（目安：12万～30万円）も試算に含める必要があります。
ライフサイクルコストの全体像を下表で整理します（執筆時点：2026年7月時点）。
| コスト区分 | 初年度 | 2～3年目 | 4年目以降 |
|---|---|---|---|
| ハードウェア購入 | 15万～30万円 | 0円（予備品のみ） | 12万～30万円（更新） |
| ソフトウェア・モデル | 0円（オープンモデル） | 0円 | 0円 |
| モデル更新工数（内製換算） | 5万～10万円相当 | 10万～20万円相当 | 10万～20万円相当 |
| 電気代 | 6万～10万円/年 | 6万～10万円/年 | 6万～10万円/年 |
| セキュリティ対応工数 | 2万～5万円相当 | 3万～8万円相当 | 3万～8万円相当 |
| 年間合計概算 | 28万～55万円 | 19万～38万円 | 31万～68万円 |
この表が示すのは、「初期費用が安い」ことと「ランニングコストが安い」ことは別であるという現実です。初年度にハードウェアを安く抑えても、2年目以降の工数コストが積み上がれば、クラウドサービス比でのコスト優位性が薄れることがあります。ライフサイクル全体の視点で「3年間の総コストはいくらか」を経営指標に加えることが、正確な投資判断につながります。
クラウドAIと社内専用AIの3年間総コスト比較
社内専用AIを選ぶ理由の多くは「情報漏洩リスクの回避」と「月額課金コストの削減」ですが、ライフサイクルコストの観点で正しく比較できている企業は多くありません。下表は従業員20名・週5日利用・中程度の利用量を前提にした3年間の概算比較です（執筆時点：2026年7月時点）。
| 比較項目 | 社内専用AI（自社運用） | クラウドAI（API従量課金） | クラウドAI（月額定額プラン） |
|---|---|---|---|
| 初期費用 | 15万～30万円 | 0円 | 0円 |
| 月額ランニングコスト | 1万～2万円（電気代・工数換算） | 3万～10万円（利用量次第） | 5万～15万円（人数×単価） |
| 3年間総コスト概算 | 55万～100万円 | 108万～360万円 | 180万～540万円 |
| 情報漏洩リスク | 低（社内で完結） | 高（外部送信あり） | 高（外部送信あり） |
| モデル更新の手間 | 要（自社対応） | 不要（自動更新） | 不要（自動更新） |
| 性能評価の責任 | 自社負担 | 提供者が管理 | 提供者が管理 |
| カスタマイズ性 | 高（任意のモデル選択可） | 低（提供モデルのみ） | 低（提供モデルのみ） |
この比較から読み取れる重要な点は3つあります。
第一に、コスト面では社内専用AIが3年間で大幅に有利ですが、「モデル更新の工数コスト」を適切に計上しないと比較が歪みます。「タダで使えるオープンモデル」という認識のままでは、実際にかかっている工数コストが見えなくなります。
第二に、守秘義務上の制約がある業務（士業・医療・人事）では、情報漏洩リスクの差が費用以上の意思決定要因です。クラウドサービスがどれだけ安くても、顧客データを外部サーバーに送信する時点でコンプライアンス上の問題が生じる業務では、社内専用AIが合理的な選択になります。
第三に、社内専用AIは「自社で性能評価と更新を継続する能力」があることが前提です。その能力がない場合は、クラウドサービスの方が実質的なコストパフォーマンスが高くなる場合もあります。自社の運用体制を正直に評価した上で選択することが、失敗しない投資判断の基本です。
性能評価の正しい進め方：情シス兼任担当者が使う4つの指標
「今のモデルで十分かどうか」を判断するには、感覚ではなく数値で評価する仕組みが必要です。以下の4指標を3ヶ月に1回程度の頻度で測定することを推奨します。
指標1：タスク達成率
社内で実際に使われている代表的な業務プロンプト10～20件を選び、回答の「使える割合」を記録します。「そのまま使えた：1点／一部修正で使えた：0.5点／使えなかった：0点」として合計スコアを算出します。初期値と比較することで劣化傾向が数値として見えます。評価者は2名以上を設けることで主観のブレを抑えられます。このスコアが初期値の80%を下回った時点を「更新検討のタイミング」として運用ルールに明記しておくと、担当者の判断負荷が減ります。
指標2：レスポンス速度
同一のプロンプトを送信した際の応答時間（秒）を月次で記録します。モデルが古くなっても速度が大きく変わることはありませんが、新モデルへの更新時の速度比較に活用できます。VRAM使用率と合わせて記録することで、ハードウェア更新の必要性の判断材料にもなります。目安として、7Bパラメータのモデルが同一ハードウェアで初期比30%以上遅くなっている場合は、周辺ソフトウェアの肥大化を疑ってください。
指標3：利用頻度（アクセスログ）
Ollamaのアクセスログや、社内チャット経由のAPI呼び出し回数を週次・月次で集計します。利用頻度が下降傾向にある場合は、「性能に不満を感じた社員が使うのをやめた」という無言のフィードバックである可能性が高く、出力品質の評価を早急に行うシグナルとして扱えます。逆に利用頻度が急増している場合はハードウェアの負荷状況も確認し、ボトルネックが生じていないかを合わせてチェックしてください。
指標4：ユーザーフィードバックスコア
月に1回、利用者5名以上に「今月の社内AIの満足度を5段階で」という社内アンケートを実施します。実施コストはほぼゼロで、経営者への報告資料にもそのまま活用できます。スコアが3.5未満に落ちた場合は、モデル更新の検討タイミングの目安です。アンケートには「どの業務で使いにくさを感じたか」を自由記述で添えてもらうと、更新後の評価シート作成にも役立ちます。
この4指標は、「モデルを更新すべきか否か」の経営判断を裏付ける根拠になると同時に、IT投資の費用対効果を経営者に報告する際の資料としても機能します。測定の仕組みを最初から設計に組み込んでおくことで、後から「なぜ更新が必要なのか」を説明する手間が大幅に減ります。
よくある質問
Q1. モデル更新はどのくらいの頻度で行うべきですか？
業務の重要度と利用頻度に応じて異なりますが、目安として「半年に1回の性能評価、1年に1回の更新検討」が中小企業規模では現実的です。主要オープンモデルのメジャーリリースは年2～3回程度あるため、すべてに追随する必要はありません。タスク達成率が初期値から10%以上低下した時点、または新モデルが同じハードウェアで20%以上の性能向上を公表した時点を更新検討のトリガーにすると、合理的な判断ができます。
Q2. 専任のIT担当者がいなくてもモデル更新は対応できますか？
情シス兼任の方でも対応できますが、初回は外部サポートを受けて手順を確立することを推奨します。Ollamaのようなモデル管理ツールを利用している場合、モデルの切り替え自体はコマンド数行で完了します。ただし「どのモデルを選ぶか」の判断と「切り替え後の動作確認」には、ある程度の技術知識が必要です。外部のITコンサルタントと年間保守契約を結び、更新時のみ1～2時間のリモートサポートを受ける形が、コストと安心感のバランスが取れた運用方法です。
Q3. モデル更新で既存のプロンプトが使えなくなることはありますか？
モデルの世代が大きく変わると、同じプロンプトでも出力の文体・形式・詳細度が変わることがあります。これは「壊れた」のではなく「モデルの挙動が変化した」ものです。更新前にプロンプトのリストと期待する出力例を記録しておき、更新後に照合するだけで対応できます。切り替え後2週間は「旧モデルに戻せる状態」を維持しておくと、万が一の際に業務を止めずに済みます。
Q4. ライフサイクルコストの試算を経営会議でどう説明すればよいですか？
「初期費用：XX万円、3年間の運用コスト：XX万円相当、クラウドサービス同等機能との3年間比較：XX万円の節約かつ情報漏洩リスク回避」という3行で説明できる資料を準備することを推奨します。「感覚的に安い」ではなく「数字で節約できている」「リスクを金額で換算するといくら分の価値か」を示すことで、予算審議での説得力が増します。
Q5. 古いモデルをそのまま使い続けることの何が問題ですか？
直接的なエラーが出ないため、問題が見えにくいことが最大のリスクです。出力の品質劣化は「AIが使えない」ではなく「AIで作った成果物を社員が手直しする時間が増える」という形で現れます。手直し工数の増加は「AI導入前より多くの時間がかかっている」逆転現象を引き起こす可能性があり、その認識なしに予算を継続することは経営上の判断ミスにつながります。
モデル更新前の確認チェックリストと本記事のまとめ
社内専用AIのモデル更新を実施する前に、以下の項目を確認してください。
・現行モデルの性能記録が手元にある: タスク達成率・レスポンス速度・利用頻度の最新値を把握していること
・新モデルのハードウェア要件を確認済み: 新モデルのVRAM要求量・ディスク容量・CPU/GPU要件が現行サーバーで満たせること
・テスト環境で動作確認済み: 本番切り替えの前に、代表的な業務プロンプト10件以上で出力品質を確認していること
・切り替え手順書が作成済み: 担当者が変わっても同じ手順で実施できるよう、コマンド・設定変更・確認項目が文書化されていること
・旧モデルへのロールバック手段が確保済み: 切り替え後に問題が発生した場合、2時間以内に旧モデルに戻せる状態であること
・社員への事前周知が完了: 「いつ・何が変わる・何が変わらない」を社員に伝え、更新当日の混乱を防いでいること
・更新後の評価スケジュールが決まっている: 切り替え後2週間以内に性能再評価を実施する日程が確定していること
本記事で伝えたかったことを整理します。社内専用AIの導入コストは初期費用だけではありません。モデルの評価・更新・廃棄までを含めたライフサイクル全体でコストを設計することが、中小企業のIT投資判断において不可欠です。
モデル更新の先送りは業務効率の静かな劣化を招き、セキュリティリスクを高め、IT投資の説明責任を失わせます。4指標による定期評価を仕組みとして組み込み、更新を「イベント」ではなく「定常業務」として位置づけることで、社内専用AIは長期にわたって費用対効果を発揮し続けます。
社内AIを「入れたら終わり」ではなく「定期的に評価し更新するインフラ」として捉え直すことが、IT投資の費用対効果を最大化する経営判断の第一歩です。
社内専用AIのモデル更新・ライフサイクルコストの試算について、自社の状況でどう対応すべきか判断に迷う場合は、株式会社イーネットマーキュリーの無料相談フォームからお気軽にご連絡ください。情シス兼任の方から経営者まで、現状のヒアリングから最適な運用設計のご提案まで対応いたします。
