オンプレミス × ローカルLLM | 株式会社Ippu Senkin
IS Coworkの実際の画面:チャットで依頼した資料がプレビュー表示されている様子

オンプレミス × ローカルLLM。
AIエージェントを、コストを気にせず使う。

自社専用のGPUサーバー上でオープンウェイトLLMを動かす、日本初のオンプレミス版AIエージェント基盤です。API利用料を気にすることなくClaude Code / Coworkと同等の開発体験を実現し、機密データを社外に持ち出す必要もありません。

The Product

日本初の、オンプレミス版AIエージェント基盤。

計画やフローの設計は不要です。エージェントが依頼を受け取り、必要な機能を自ら選択して実行します。一連の作業は、チャット上の指示だけで貴社専用の「カスタムエージェント」として登録できます。

IS Code
For Engineers

コーディング業務を大幅に効率化します。レガシーコードの改修やモダナイゼーションにも対応し、最新GPUの活用によりClaude Code比 約2/3〜1/2 の時間でタスクを完了します。

IS Codeの実際の画面
IS Cowork
For Everyone

非エンジニアの幅広い業務を効率化します。Agentic OCR、Excel分析、資料作成といった難度の高いタスクも、高い精度で実行します。

IS Coworkの実際の画面

IS Coworkの実際の画面。ユーザーが行うのは依頼の一文だけ。エージェントが自らスキルを選び、データを集め、デザインまで仕上げます。

Executive Summary

数字で見る、オンプレミス移行の合理性。

AIエージェントは業務の生産性を大きく高める一方で、従量課金型のコストが経営上の課題となりつつあります。その解決策として、AIを「借りて使う」から「自社で保有する」へと移行する動きが広がっています。

AIエージェントのトークン消費量
1,000
通常のチャット利用と比べて(10³倍)※1
オンプレ導入時の月額コスト
最大 1/20
クラウド型エージェント比・2,000名利用時 ※2
ローカルLLMの推論速度
0
NVIDIA NIM 活用による高速化・Ollama比 ※3

※1 出所:How Do AI Agents Spend Your Money? — Analyzing and Predicting Token Consumption in Agentic Coding Tasks ※2 DGX B300(減価償却費・電気代含む)とClaude Code/Cowork従量課金(1名2万円/月換算)の弊社試算 ※3 DGX H100×2、DeepSeek-R1-Distill-Qwen-32B (FP16) での弊社検証

The Problem

AIエージェントの本格導入を阻む、2つの課題。

Cost

運用コストの高さ

AIエージェントは推論時のトークン消費が非常に大きく、従業員一人あたり月に数百万円へ達する事例もあります。利用が広がるほど、従量課金のコストは際限なく増加していきます。

Security

セキュリティの課題

顧客情報や機密情報を外部のAPIに送信できないという制約があります。入力してはならない情報が含まれていないかを管理者が監視し続ける負担も、全社展開の障壁となります。

AIエージェントのトークン消費は、チャットの約1,000倍。

AIエージェントのトークン消費量は、通常のチャット利用の約1,000倍(10³倍)に達します。さらに日本語は英語に比べてトークン効率が低いため、日本企業ほどコスト負担が重くなる傾向があります。

チャット
AIエージェント
10³×

日本語は、英語より1.73倍トークンを消費する

1タスクあたりのトークンコスト効率の言語間比較(英語=1.00)

英語
1.00×
日本語
1.73×
韓国語
1.39×
中国語
1.11×

値が大きいほどトークン消費が多く、コスト高。日本企業ほど従量課金の負担が重くなる構造です。

日本のデジタル赤字は、2035年に18兆円へ

日本のデジタル赤字額(兆円)の推移

2.1
2014
4.0
2021
4.7
2022
5.5
2023
6.7
2024
18
2035(推計)

GPTやGemini等の海外APIへの支払いは、この赤字をさらに拡大させます。

海外APIに依存しないAI基盤の整備は、
世界最大の「デジタル赤字」大国・日本を救う有力な選択肢でもあります。

The Prescription

AIは「借りて使う」から、「自社で保有する」へ。

「自社専用のGPUサーバー」に「オープンウェイトLLM」を載せる。この2つを組み合わせることで、API料金ゼロ・データは社外に出さず、AIを”使い放題”にできます。

自社専用GPUサーバー

社内に設置するオンプレミス環境(ハードウェア)です。機密データが社外に出ることはありません。

オープンウェイトLLM

GPUサーバー上で動かすAIモデル(ソフトウェア)です。オープンウェイトモデルは4か月〜半年でフロンティアモデルに追従し、API料金はかかりません。

定額・使い放題のAI

従量課金を気にすることなく、全社規模での展開を判断できます。

オンプレミス
貴社内(管理している敷地内)
貴社
自社専用オンプレミスGPUサーバー生成AI

自社専用オンプレミス
GPUサーバー

LLMはオープンウェイトモデルを利用することで、API料金が一切不要・利用し放題

金融機関を中心に、世界で「オンプレ回帰」が進む。

コストとデータガバナンスの観点から、生成AIの活用はクラウド一辺倒から、オンプレミスとクラウドを併用するハイブリッドの時代へと移行しつつあります。最も要件の厳しい金融機関が、その動きを牽引しています。

金融機関取組概要
Barclaysアメリカ86%のCIOがクラウドワークロードの一部または全部をオンプレ等へ回帰する計画。調査史上最高値。
Deutsche BankドイツNVIDIA AI Enterpriseを活用し、オンプレDCとクラウドのハイブリッドでAIワークフローを実行。
BNY MellonアメリカDGX SuperPODをオンプレ導入。600以上のAI活用機会を特定、40以上のアプリを開発中。
BNP ParibasフランスNVIDIA技術でAI factoryを構築中。リテール向け次世代バーチャルアシスタントを開発。
OCBCシンガポールコスト最適化とデータ主権の観点から、生成AIを主にオンプレで運用。大規模GPU基盤を保有。
Open Models

オープンモデルの性能は、フロンティアモデルに並びつつある。

オープンウェイトモデルの性能は、4か月〜半年ほど遅れてフロンティアモデルに追従する水準に達しています。その性能をオンプレミス環境で最大限に引き出すにはノウハウが求められ、創業当初からオンプレミスを手がけてきた弊社が最も得意とする領域です。

オープンウェイト(OSS) プロプライエタリ(API専用)
Claude Fable 5
60
Claude Opus 4.8 (max)
56
Claude Opus 4.7 (max)
54
GLM-5.2 (max)
51
GPT-5.5 (medium)
50
MiniMax-M3 *
44
DeepSeek V4 Pro (Max)
44
Claude Opus 4.6 (max)
44
Kimi K2.6
43
NVIDIA Nemotron 3 Ultra
41
GPT-5.2 (medium)
38
Gemini 3 Flash
38
Qwen3.6 27B
37
Qwen3.5 122B A10B
32
Step 3.7 Flash
30
Gemma 4 31B
29
NVIDIA Nemotron 3 Super
25
gpt-oss-120B (high)
24

出所:Artificial Analysis「Intelligence Index」。* MiniMax-M3はオープンウェイトながら商用利用に制限あり。トップのOSSモデル GLM-5.2(51)は、最上位フロンティアモデルの約4〜6か月前の水準に相当します。

Economics

導入・運用コストは、クラウド型の最大1/20に。

ハードウェアの進化により、オンプレミス×ローカルLLMはコストパフォーマンスの面でも有力な選択肢となりました。NVIDIA DGX B300(GPUメモリ2.1TB)1台で、1,000〜3,000名規模の同時利用に対応できます。

NVIDIA DGX B300

NVIDIA DGX B300

GPUメモリ2.1TBを搭載した最上位クラスのGPUサーバーです。GLM-5.2クラスの大規模モデルを数百名が同時に利用できるGPUクラスターを、1台で構築できます。

GPUメモリ 2.1TB 1台で1,000〜3,000名が快適に利用 価格 約1億円

同じ「2,000名が利用する」条件で、クラウド型エージェント(従量課金)と、オンプレDGX B300を導入した場合の月額コストを比較しました。

従来:クラウド型(従量課金)
2,000名利用時の月額コスト
4,000 万円/月
※1名あたり2万円/月で試算
約1/20
月額コストに削減
弊社:オンプレ型(DGX B300)
2,000名利用時の月額コスト(減価償却費・電気代含む)
200 万円/月
API利用料ゼロ。使うほど差が開く。

推論速度も、実運用に十分な水準を確保。

NVIDIAの推論最適化サービス「NIM」の活用により、推論速度はvLLMの約2倍、Ollamaの約9〜10倍に達します。最新GPUとの組み合わせで、同一タスクをClaude Code比 約2/3〜1/2 の時間で完了します(弊社調べ)。

NIM
約866 tokens/sec
vLLM
約443
Ollama
約91*

検証環境:DGX H100×2、Ubuntu 22.04/検証モデル:DeepSeek-R1-Distill-Qwen-32B (FP16) *OllamaはInt4モデルでの速度比をFP16換算で算出。出所:NVIDIA社提供資料および弊社検証。

Claude CodeとLocal AI Agentの並走比較デモ

Claude Code(左)と IS Code / Local AI Agent(右)に同一タスク・同一プロンプトを与えた実測デモ。
DGX B300 × GLM-5.2(NIM活用)構成では、Claude Code比 約2/3〜1/2 の時間でタスクが完了します(弊社調べ)。

How It Works

一言の依頼から、成果物が完成するまで。

計画やフローの設計は不要です。実際の操作画面とともに、依頼から成果物が完成するまでの流れをご紹介します。修正が必要な場合も、チャット上の指示だけで対応できます。

01

依頼するだけで、作業を開始

エージェントが利用可能なスキルを確認し、タスクを整理したうえで、必要なコマンドを自動で実行します。

依頼直後にエージェントがスキル確認・コマンド実行を進める画面
02

構成と根拠を添えて報告

スライドの構成、データの出所、デザイン仕様までを整理して報告します。修正の依頼も、チャット上の指示だけで対応できます。

スライド構成表とデザイン仕様つきの完成報告画面
03

成果物をその場でプレビュー

グラフや出典を含むPowerPointが完成します。プレビューで内容を確認し、そのままダウンロードできます。

完成したPowerPointのグラフ入りスライドをプレビュー表示している画面

デモ動画で見る、IS Code。

エンジニア向けコーディングエージェント IS Code の実際の動作を、デモ動画でご覧いただけます。

エージェントが扱える、主な機能。

依頼に応じて、以下の機能を自ら組み合わせて実行します。

OCR・文書読取

PDF・画像・各種ドキュメントを高精度に読み取り

データ処理・分析

構造化/非構造化データの処理・分析

文書生成

docx / xlsx / pptx / pdf 各種オフィス形式に対応

ドキュメント検索

フォルダ内を横断検索し、必要な情報へ到達

要約・翻訳

様々な言語・形式に対応

コーディング・シェル操作

コード生成・実行、ファイル・OS操作まで柔軟に

依頼を受けたエージェントの、内部処理の流れ。

稟議書ドラフトの作成を依頼した場合を例に、内部処理の流れをご紹介します。計画から成果物の生成まで、エージェントが必要な機能を自ら選択して実行します。

01
計画
  • 依頼内容の解析
  • ToDo生成
02
ファイル検索
  • 稟議DB:類似案件
  • 顧客DB:過去取引・決算書3期分
  • 規程書類:テンプレート
03
分析
  • ROE / DSCR / 自己資本比率
  • 業界平均と比較
  • キャッシュフロー試算
04
文書化
  • 稟議テンプレ.docx読込
  • ドラフト文の生成
05
サマリ
  • 分析結果・リスク情報の整理
  • 参照リスト整理

一連の作業は、チャット上の指示だけで貴社専用の「カスタムエージェント」として保存し、再利用できます。

Use Cases

さまざまな部門の業務で活用できる。

業界を問わず、大企業の各部門の定型・非定型業務を効率化します。

経理・財務

帳票・決算書OCRと財務分析

取引先のPDF帳票・決算書を読み取り、社内フォーマットへ正規化。財務指標分析まで自動出力。

法務・コンプラ

規程・約款・契約書の差分整理

既存規程と参照情報を照合し、更新必要箇所の抽出から更新案作成まで。法的対応文書のドラフトも。

営業

日報・週報・レポートの自動生成

DB・Excelから集計・グラフ化し、Word/PPTレポートまで自動作成。

審査・与信

取引先チェック調書のドラフト

企業情報を横断確認し、社内ポリシーに則って評価。調書案を規定フォーマットで作成。

企画

補助金・公的制度スクリーニング

自治体・政府の制度情報を横断し、自社・取引先に該当する制度を自動マッチング。

開発・情シス

レガシーコードの改修

IS Codeがコードの調査・改修からモダナイゼーションまでを支援。開発生産性を大幅に向上。

監査対応を前提とした設計。

大企業に安心してご利用いただくための機能を、標準で備えています。

01

ログ保存機能

入力・参照ファイル・実行内容を記録。すべての行動を後から確認可能。

02

元ファイル保護

専用の作業領域でファイルを扱い、参照元を書き換え・破損しない設計。

03

作業領域の分離

ユーザーごとに専用領域を用意し、他ユーザーの情報へのアクセスを制御。

04

アカウント管理

ユーザーの追加・管理、SharePoint等の外部連携もユーザー単位で安全に。

Pricing

料金体系。

オンプレミスサーバー(ハードウェア)、IS Cowork / IS Code(ソフトウェア)、保守サポートをワンパッケージで。GPU構成に応じて柔軟にご提案します。

GPU 4枚構成
初期費用(サーバー費用)1,500万円
ライセンス・保守費用250万円/月
DGX B300 構成
初期費用(概算)8,000万円〜1億円
ライセンス・保守費用別途お見積り

※税別。保守サポート(生成AIモデル・ライブラリの更新)付随。納品後1年間はハードウェア故障時の無償交換対応。契約期間2年、以降1年更新。IaaS/SaaS環境での提供は個別にご提案。

About Us

株式会社 Ippu Senkin

一歩千金 — たった一枚の歩で、千枚の金を上回る価値を。

01

金融機関に特化したAIスタートアップ

要件の厳しい金融機関での豊富な導入実績を持ちます。そこで培った品質とセキュリティの水準を、あらゆる業界へ提供します。

02

NVIDIAとの公式パートナーシップ

NVIDIA Inception Programに採択されています。GPUの特別割引やNIM・NeMoといった最新技術を活用し、高精度な生成AIを提供します。

03

AIエージェント開発の確かな技術力

日本初となる生命保険の引受査定AIエージェントを構築しました。査定者の暗黙知をAIに取り込み、業務の効率化を実現しています。

代表取締役社長 鈴木秀弥
CEO / Founder
鈴木 秀弥SHUYA SUZUKI

京都大学大学院修了後、野村総合研究所にて金融機関向けの戦略策定・実行支援コンサルティングに従事。自身もデータサイエンティストとして与信モデル・需要予測等のAIモデル開発〜導入を主導。2024年5月、株式会社Ippu Senkinを創業。日本初となる生命保険の引受査定AI Agentを開発。

FDUA(金融データ活用推進協議会)生成AIガイドライン策定アドバイザー/GUGA(生成AI活用普及協会)協議委員/FDUA「金融生成AIガイドライン1.1版」・日経BP金融DXレポート・月刊金融ジャーナル・銀行実務 ほか執筆多数/NVIDIA 金融AI Meet-up・AI EXPO等 登壇

NVIDIA Inception Program

NVIDIA Inception Programに採択。GPUの特別割引やNIM・NeMoなどの最新ソフトウェアを活用しています。

Macnica Holdings

NVIDIA正規販売代理店マクニカとの連携により、ワークロードに応じた最新GPU構成をご提供。

Selected Works
  • 東和銀行:オンプレ型生成AI「とわログ」「とわナビ」本格運用(議事録作成・社内規程検索)
  • 北陸電力:話者認識機能搭載の議事録AI、全社約3,000名で本格運用
  • ビューカード:オンプレ型訴答書面作成システム「Court」導入(債権管理業務)
  • 生命保険:引受査定AI Agent/クレジットカード:与信審査AI ほか多数

企業価値向上を実現する AI を創る

貴社に最適な、オンプレミスAI基盤をご提案します。

貴社環境・想定利用人数を踏まえ、最適なGPU構成と導入プランを個別にご提案します。

お問い合わせ

コーポレートサイトはこちら