プライベートLLM PoC · 30日間・固定価格
あなたのデータでプライベートLLMが機能することを、30日間で証明する——ハードウェアへのコミット前に。
汎用ベンチマークではなく、自社のドキュメントとワークロードに対して精度とレイテンシを測定します。GPUサーバーに費用をかける前に、デプロイ形態・モデルサイズ・フルビルドのコストについて、書面での推奨をお渡しします。
よくある状況
「プライベートLLMを導入したい。でも実際に機能するか確かめるためにGPUサーバーへ費用をかけたくない。」
プライベートLLM PoCは、ハードウェアやホスティング契約にコミットする前の段階のためのものです。「精度基準を満たすか」がまだ未解決の問いであり、ベンダーのデモではなく自社データでの答えが欲しいときに使います。
フル8GPU構成は、USD建てで6桁の投資になります。自社ドキュメントでの精度を誰も測定していない段階でコミットするには、大きな金額です。
機材市場の現実についてはインフラサービスページをご覧ください——このPoCは、その支出を最初にしなくて済むように存在します。情報システム部門が既にオープンモデルのセルフホストを試したが、普段慣れている精度に届かないか、想定より多くのVRAMを必要とした。
モデルサイズと量子化は、まさにPoCが実際のワークロードに対して検証する項目です。セルフホスト、マネージド、共有——3つの運用形態があるが、自社の利用パターンにとってどれが最も安いか、社内で自信を持って言える人がいない。
3つのうち、どの規模でも常に有利な形態はありません。PoCレポートが、あなたにとってどれが最適かを示します。Before → After
30日間で何が変わるか。
納品物は、プライベートLLMが理論上何をできるかについてのスライドではなく、行動につながる意思決定です。
- ハードウェアはなく、自社ドキュメントに対する精度数値も測定されていない。
- 3つのデプロイ形態が机上にあるだけ——セルフホスト・マネージド・共有——選ぶ根拠がない。
- GPU市場は非常に速く動いており、前四半期の見積もりが既に古くなっている可能性がある。
- 自社の具体的なユースケースに対して、フルビルドが実際にいくらかかるかの見積もりがない。
- 書面レポート：実現可能・条件付きで実現可能・実現不可能のいずれか——自社のワークロードに特化した判定。
- 自社のドキュメントと質問に対して測定された精度とレイテンシ。
- 推奨モデルティアとデプロイ形態、そしてそれぞれの根拠。
- フルビルドのコスト見積もり、継続する場合はPoC費用がそこへ充当される。
ハードウェアの見積もりの前に、なぜこのPoCなのか
重要なのはデモではなく、説明責任を果たせる意思決定です。
プライベートLLM PoCは、一つの問いに正直に答えるために設計されています：自社の資料において、自社の利用に見合ったコストで、精度とレイテンシの基準を満たすかどうか。
既に運用しているインフラで検証
PoCはLLL自社内の環境で実施されます。答えがイエスかどうかを知るために、GPUサーバーを用意していただく必要はありません。
自社ドキュメントで精度を測定
評価セットは、自社の資料と質問から構築されます——自社のドメインや言語の使い方を反映しない汎用の公開ベンチマークではありません。
デプロイ形態とモデルサイズ、その根拠
レポートは特定のモデルティアとデプロイ形態を挙げ、その理由を説明します——検証内容に対してプライベートLLMが適さない場合は、その旨も明記します。
進め方 · 週単位の4フェーズ
キックオフから書面での推奨まで、30日間。
評価に自社のドキュメントやデータを使用する前に、NDAとDPAを締結します。
キックオフとワークロード定義
ユースケース、モデルを検証する対象のドキュメントと質問、そして自社の精度・レイテンシ要件における「実現可能」の定義を、検証開始前に書面で定めます。
先にNDA/DPAを締結
モデルとデプロイ形態の候補を絞り込み
定義したワークロードに基づき、モデルティアの候補を絞り込み（70Bクラスのデフォルトを起点に）、検証のため当社の運用環境上にプロビジョニングします。
この段階でハードウェア購入は不要
構築とテスト
絞り込んだモデルを自社の資料に接続し（該当する場合はRAG）、自社の評価セットに対して精度テストを実施。あわせて、代表的な負荷下でのレイテンシとスループットも測定します。
推定ではなく実測
レポートと推奨
書面での検証レポート：実現可能・条件付きで実現可能・実現不可能。推奨モデルティアとデプロイ形態、およびフルビルドのコスト見積もりを添付します。
継続する場合、フルビルド費用へ充当
PoCが実際に取り除くもの
まだコミットしなくていい判断。
これらは、より大きな契約に署名する前に、プライベートLLM PoCが取り除くよう設計された3つの要素です。
検証はLLLが既に運用しているインフラ上で行われます。ハードウェアへのコミットは、レポートがどの形態・サイズが実際に合うかを示した後で構いません。
推奨する全てのビルドで使用しているのと同じ下限です——当社のテストでは、これを下回ると日本語のビジネスタスクで精度が明確に低下することが分かっており、デフォルトではそれより下を検証・提供しません。
セルフホスト・マネージド・共有——それぞれに最も安く済む規模があります。レポートは、デフォルトではなく、自社のワークロードにとってどれが最適かを示します。
信頼していただける点
すべてのプライベートLLM PoCを支配する5つのルール。
努力目標ではなく運用ルールです——すべての案件で共通です。
データの前にNDA
自社のドキュメント・データ・質問を評価に使用する前に、NDAとDPAを締結します——無料の初回通話中も含みます。
自社の資料で検証
精度は、自社のドメインや言語の使い方を反映しない汎用の公開ベンチマークではなく、自社のドキュメントと質問に対して確認します。
FP8量子化の下限
業務向けの回答について、FP8を下回る量子化は検証も推奨もしません。ユースケースが本当にそれを必要としない場合は、レポートにその旨を明記します——アップセルではありません。
ビルドへの全額充当
フルビルドへ進む場合、$6,000（または$3,000）のPoC費用はその請求書から全額控除されます。クーポンや有効期限はありません。
正直なNO-GO
ワークロードがプライベートLLMに適さない場合——精度が届かない、経済合理性が成立しない、公開APIの方が本当に適している——それでもビルドを推奨するのではなく、レポートにその旨を明記します。
FAQ
始める前の5つの質問。
該当するケースが見つかりませんか？下記フォームのメッセージ欄にご記入ください。1営業日以内に返信します。
PoCは実際にどのハードウェアで動きますか？
どのモデルサイズを検証しますか？
なぜFP8で、それより小さい量子化を使わないのですか？
費用は本当にフルビルドから差し引かれますか？
「プライベート」とは、何も自社ネットワークの外に出ないという意味ですか？
プライベートLLM PoCを始める
ワークロードをお聞かせください。無料の初期評価をお返しします。
$6,000（または$3,000）をコミットする前に、1営業日以内に実現可能性についての無料の初期評価をお返しします。
- 技術的な議論の前にNDAを締結——無料の評価も含みます。
- PoC自体の実施にハードウェア購入は不要です。
- プライベートLLMが適さない場合は、レポートでその旨をお伝えします。
- $6K（50名以下は$3K）
- 30日間
- ハードウェア0で開始
- フルビルドへ充当
無料の初期評価を申し込む
必須項目は * でマークされています