PoC LLM Peribadi · 30 hari, harga tetap
Buktikan LLM peribadi berfungsi pada data anda, dalam 30 hari — sebelum anda komited kepada perkakasan.
Ketepatan dan kependaman diukur terhadap dokumen dan beban kerja anda sendiri, bukan penanda aras generik. Anda mendapat cadangan bertulis mengenai bentuk penggunaan, saiz model, dan kos pembinaan penuh — sebelum berbelanja untuk pelayan GPU.
Situasi biasa
«Kami mahukan LLM peribadi. Kami tidak mahu berbelanja untuk pelayan GPU untuk mengetahui sama ada ia benar-benar berfungsi.»
PoC LLM Peribadi adalah untuk saat sebelum perkakasan atau kontrak hosting komited — apabila persoalan terbuka masih "adakah ini memenuhi tahap ketepatan kami," dan anda mahukan jawapan pada data anda sendiri, bukan demo vendor.
Pembinaan penuh 8-GPU mencecah enam digit, dalam USD. Itu adalah komitmen besar sebelum sesiapa mengukur ketepatan pada dokumen anda sendiri.
Lihat realiti pasaran peralatan pada halaman perkhidmatan infrastruktur — PoC ini wujud supaya anda tidak perlu berbelanja itu dahulu.IT sudah cuba sendiri-hos model terbuka. Ia sama ada tidak mencapai ketepatan yang biasa digunakan orang, atau memerlukan lebih banyak VRAM daripada dijangka.
Saiz model dan kuantisasi adalah tepat apa yang diuji oleh PoC terhadap beban kerja sebenar anda.Sendiri-hos, terurus, atau kongsi — tiga cara untuk menjalankan ini, dan tiada sesiapa di dalaman boleh menyatakan dengan yakin yang mana paling murah untuk corak penggunaan anda.
Tiada satu daripada ketiga-tiganya menang pada setiap skala. Laporan PoC menyatakan yang mana, untuk anda.Before → After
Apa yang berubah dalam 30 hari.
Hasil kerja adalah keputusan yang boleh anda tindaki, bukan slaid persembahan tentang apa yang secara teorinya boleh dilakukan LLM peribadi.
- Tiada perkakasan, dan tiada angka ketepatan diukur terhadap dokumen anda sendiri.
- Tiga bentuk penggunaan di atas kertas — sendiri-hos, terurus, kongsi — tanpa asas untuk memilih satu.
- Pasaran GPU bergerak cukup pantas sehingga sebut harga suku tahun lepas mungkin sudah lapuk.
- Tiada anggaran untuk berapa kos sebenar pembinaan penuh bagi kes penggunaan khusus anda.
- Laporan bertulis: boleh dilaksanakan, boleh dilaksanakan secara bersyarat, atau tidak boleh dilaksanakan — khusus untuk beban kerja anda.
- Ketepatan dan kependaman diukur terhadap dokumen dan soalan anda sendiri.
- Tahap model dan bentuk penggunaan yang disyorkan, dengan sebab di sebalik setiap satu.
- Anggaran kos untuk pembinaan penuh, dan yuran PoC dikreditkan ke arahnya jika anda teruskan.
Mengapa PoC ini, sebelum sebut harga perkakasan
Intinya adalah keputusan yang boleh anda pertahankan, bukan demo.
PoC LLM peribadi direka untuk menjawab satu soalan dengan jujur: adakah ini memenuhi tahap ketepatan dan kependaman anda, pada bahan anda sendiri, pada kos yang masuk akal untuk penggunaan anda.
Diuji pada infrastruktur yang telah kami operasikan
PoC berjalan pada persekitaran dalaman LLL sendiri. Anda tidak diminta menyediakan pelayan GPU untuk mengetahui sama ada jawapannya ya.
Ketepatan diukur pada dokumen anda sendiri
Set penilaian dibina daripada bahan dan soalan anda — bukan penanda aras awam generik yang mungkin tidak mencerminkan domain atau penggunaan bahasa anda.
Bentuk penggunaan dan saiz model, dengan sebab
Laporan menamakan tahap model dan bentuk penggunaan tertentu dan menjelaskan sebabnya — termasuk menyatakannya jika LLM peribadi bukan padanan yang tepat untuk apa yang anda uji.
Cara ia berfungsi · 4 fasa mingguan
Tiga puluh hari daripada permulaan kepada cadangan bertulis.
NDA dan DPA ditandatangani sebelum mana-mana dokumen atau data anda digunakan dalam penilaian.
Permulaan & definisi beban kerja
Tentukan kes penggunaan, dokumen dan soalan yang akan diuji terhadap model, dan apa maksud "boleh dilaksanakan" untuk keperluan ketepatan dan kependaman anda — secara bertulis, sebelum ujian bermula.
PM + jurutera + pelanggan · 60 minit
Senarai pendek model & bentuk penggunaan
Berdasarkan beban kerja yang ditentukan, senarai pendek tahap model (bermula daripada lalai kelas 70B) dan sediakannya pada persekitaran operasi kami sendiri untuk diuji.
Tiada pembelian perkakasan pada peringkat ini
Bina & uji
Sambungkan model senarai pendek kepada bahan anda (RAG jika berkaitan) dan jalankan ujian ketepatan terhadap set penilaian anda sendiri, ditambah kependaman dan throughput di bawah beban yang mewakili.
Keputusan diukur, bukan dianggarkan
Laporan & cadangan
Laporan pengesahan bertulis: boleh dilaksanakan, boleh dilaksanakan secara bersyarat, atau tidak boleh dilaksanakan. Tahap model dan bentuk penggunaan yang disyorkan, ditambah anggaran kos untuk pembinaan penuh.
Yuran pembinaan penuh dikreditkan jika anda teruskan
Apa yang sebenarnya dihapuskan oleh PoC
Komitmen yang belum perlu anda buat.
Ini adalah tiga perkara yang direka khas untuk dihapuskan oleh PoC LLM peribadi sebelum anda menandatangani apa-apa yang lebih besar.
Ujian berjalan pada infrastruktur yang telah dioperasikan LLL. Anda hanya komited kepada perkakasan selepas laporan memberitahu anda bentuk dan saiz mana yang sebenarnya sesuai.
Tahap minimum yang sama yang kami gunakan dalam setiap pembinaan yang disyorkan — ujian kami menunjukkan penurunan ketepatan yang signifikan pada tugasan perniagaan bahasa Jepun di bawahnya, jadi kami tidak menguji atau menghantar lebih rendah secara lalai.
Sendiri-hos, terurus, dan kongsi — setiap satu mempunyai skala di mana ia paling murah. Laporan menyatakan yang mana untuk beban kerja anda, bukan secara lalai.
Apa yang boleh anda percayai
Lima peraturan yang mengawal setiap PoC LLM Peribadi.
Peraturan operasi, bukan matlamat regangan — sama pada setiap penglibatan.
NDA sebelum data
NDA dan DPA ditandatangani sebelum mana-mana dokumen, data, atau soalan anda digunakan untuk penilaian — termasuk semasa panggilan awal percuma.
Diuji pada bahan anda sendiri
Ketepatan diperiksa terhadap dokumen dan soalan anda, bukan penanda aras awam generik yang mungkin tidak mencerminkan domain atau penggunaan bahasa anda.
Tahap minimum kuantisasi FP8
Kami tidak menguji atau mengesyorkan di bawah FP8 untuk jawapan yang menghadap perniagaan. Jika kes penggunaan benar-benar tidak memerlukannya, laporan menyatakan sedemikian — ia bukan jualan naik taraf.
Kredit penuh ke arah pembinaan
Jika anda teruskan kepada pembinaan penuh, yuran PoC $6,000 (atau $3,000) ditolak sepenuhnya daripada invois itu. Tiada baucar, tiada tarikh luput.
NO-GO yang jujur
Jika beban kerja tidak sesuai untuk LLM peribadi — ketepatan tidak mencapai tahap, ekonomi tidak berfungsi, API awam benar-benar lebih sesuai — laporan menyatakan sedemikian dan bukannya mengesyorkan pembinaan.
Soalan Lazim
Lima soalan sebelum anda bermula.
Kes khusus tiada di sini? Tambahkannya pada medan mesej pada borang di bawah. Kami membalas dalam satu hari bekerja.
Perkakasan apa yang sebenarnya digunakan oleh PoC ini?
Saiz model mana yang akan anda uji?
Mengapa FP8 dan bukan kuantisasi yang lebih kecil?
Adakah yuran benar-benar ditolak daripada pembinaan penuh?
Adakah peribadi bermaksud tiada apa yang meninggalkan rangkaian kami?
Mulakan PoC LLM Peribadi
Beritahu kami beban kerja anda. Dapatkan penilaian awal percuma.
Kami membalas dalam 1 hari bekerja dengan bacaan awal percuma mengenai kebolehlaksanaan, sebelum anda komited kepada $6,000 (atau $3,000).
- NDA ditandatangani sebelum sebarang perbincangan teknikal — termasuk penilaian percuma.
- Tiada pembelian perkakasan diperlukan untuk menjalankan PoC itu sendiri.
- Jika LLM peribadi bukan padanan yang tepat, kami akan menyatakannya dalam laporan.
- $6K ($3K ≤50 kakitangan)
- 30 hari
- 0 perkakasan diperlukan
- Kredit ke arah pembinaan penuh
Minta penilaian awal percuma
Medan wajib ditandakan *