Kāds serveris nepieciešams mašīnmācīšanai un AI
Noskaidrojiet, kur pietiek ar CPU un kur vajag GPU — un pārbaudiet konfigurāciju uz saviem datiem testa periodā 5 stundas
Izvēlēties konfigurāciju
Servera izvēle mašīnmācīšanai sākas ar jautājumu, vai ir vajadzīga videokarte. CPU pietiek klasiskajai mašīnmācīšanai, datu sagatavošanai un nelielu modeļu inferencei: modelis ar 7 miljardiem parametru 4 bitu kvantizācijā aizņem 4–5 GB, 8 bitu — 7–8 GB, bet, ņemot vērā kontekstu un sistēmu, plāno no 16 GB RAM. GPU ir vajadzīgs neironu tīklu apmācībai un ģeneratīvajiem modeļiem — šāda konfigurācija tarifos neietilpst un tiek salikta pēc uzdevuma. Zemāk — konfigurācijas pa scenārijiem; kad izvēle izdarīta, noformējiet VPS AI/ML vajadzībām.
Cik šāds serveris maksā
Tarifi bez videokartes — datiem, klasiskajam ML un inferencei. Testa periods 5 stundas pirms samaksas.
Standard 1
| 4 vCPU · AMD EPYC |
| 4 GB RAM |
| 50 GB NVMe |
| Neierobežota datplūsma |
| 1× IPv4 · KVM |
| Atbalsts 24/7 |
Standard 2
| 4 vCPU · AMD EPYC |
| 6 GB RAM |
| 60 GB NVMe |
| Neierobežota datplūsma |
| 1× IPv4 · KVM |
| Atbalsts 24/7 |
Standard 3
| 6 vCPU · AMD EPYC |
| 8 GB RAM |
| 80 GB NVMe |
| Neierobežota datplūsma |
| 1× IPv4 · KVM |
| Atbalsts 24/7 |
Konfigurācija tipiskam uzdevumam
Orientieri pēc atmiņas un kodoliem uzdevumiem, kas tiek rēķināti uz procesora.
| Uzdevums | Konfigurācija | Tarifs | Cena, €/mēn | |
|---|---|---|---|---|
| Mācību projekti, scikit-learn uz maziem datiem | 6 vCPU · 8 GB · 80 GB | Standard 3 | 8,99 € | Pasūtīt |
| Jupyter un datu kopu sagatavošana | 8 vCPU · 8 GB · 100 GB | Standard 4 | 10,99 € | Pasūtīt |
| Kvantizēta 7B modeļa inference | 10 vCPU · 16 GB · 160 GB | Power 1 | 17,99 € | Pasūtīt |
| Gradienta pastiprināšana, ETL uz lielām tabulām | 16 vCPU · 24 GB · 240 GB | Power 3 | 27,99 € | Pasūtīt |
| Datu kopas simtos gigabaitu, smaga priekšapstrāde | 40 vCPU · 64 GB · 700 GB | Max 3 | 84,99 € | Pasūtīt |
Orientieri aprēķiniem uz procesora. Neironu tīklu apmācībai vajadzīga konfigurācija ar videokarti: tā tarifos neietilpst un tiek izvēlēta individuāli pēc modeļa un datu apjoma. Cenas — ikmēneša maksājums no mūsu cenrāža, par pusgadu par 10 % zemāk, par gadu — par 18 %.
Atmiņa modelim un kontekstam
Rēķiniet modeļa svaru izvēlētajā kvantizācijā plus kontekstu un sistēmu: 7B 4 bitos — 4–5 GB, darba minimums — 16 GB RAM.
Kodoli datiem
Priekšapstrāde, ETL un gradienta pastiprināšana labi paralelizējas — te palīdz 16–40 vCPU, nevis videokarte.
GPU — apmācībai
Neironu tīklu apmācībai un ģeneratīvajiem modeļiem vajadzīga videokarte. Konfigurāciju saliekam pēc uzdevuma — skatiet GPU serveru salīdzinājumu.
Kā izvēlēties serveri savam uzdevumam
Trīs soļi — no modeļa prasībām līdz mērījumam uz saviem datiem.
Nosakiet slodzes veidu
Neironu tīkla apmācība ir GPU. Inference, klasiskais ML un datu apstrāde tiek rēķināti uz procesora.
Aprēķiniet atmiņu
Saskaitiet modeļa svaru vajadzīgajā kvantizācijā, partijas vai konteksta izmēru un 2 GB sistēmai — iegūsiet RAM minimumu.
Pārbaudiet uz saviem datiem
VPS tiek izsniegts testa režīmā uz 5 stundām: izvietojiet vidi, izdzeniet epohu vai inferences partiju un izlemiet pirms samaksas.
Konfigurācija izvēlēta — var pasūtīt
Tarifi un pasūtīšanas kārtība ir lapā VPS AI/ML vajadzībām. Ja vajadzīga videokarte, sāciet ar GPU serveru salīdzinājumu: tur ir izskaidrots, ko skatīties papildus kartes modelim.
Ja rīks ir zināms jau iepriekš, sāciet no tā lapas: PyTorch, TensorFlow, Jupyter vai Stable Diffusion.
Pāriet uz VPS pasūtīšanuBiežāk uzdotie jautājumi
Neatradāt atbildi?
Rakstiet mums caur kontaktu lapas formu.
CPU pietiek klasiskajam ML, datu sagatavošanai un nelielu modeļu inferencei. GPU vajadzīgs neironu tīklu apmācībai un ģeneratīvajiem modeļiem — konfigurāciju saliekam pēc uzdevuma.
Aptuveni 4–5 GB 4 bitu kvantizācijā un 7–8 GB 8 bitu. Ņemot vērā kontekstu un sistēmu, ņemiet no 16 GB RAM — tas ir Power 1 par 17,99 €/mēn.
Uz paša servera NVMe: 160 GB tarifā Power 1, 240 GB tarifā Power 3, līdz 700 GB tarifā Max 3. Ja datu ir vairāk, rakstiet atbalstam — pieslēgsim papildu disku.
Jebkurus: PyTorch, TensorFlow, scikit-learn, JAX, conda vides un vajadzīgo versiju draiverus. Root piekļuve ir pilna, programmatūras sastāvā mēs neiejaucamies.
ETL, priekšapstrāde un gradienta pastiprināšana paralelizējas: 16 vCPU (Power 3, 27,99 €/mēn) ir manāmi ātrāk nekā astoņi uz tām pašām tabulām.
Jā, Jupyter tiek uzstādīts uz servera un atveras pārlūkā caur SSH tuneli vai reverso starpniekserveri. Piezīmju grāmatas un dati paliek uz jūsu servera.
Cena ir atkarīga no kartes modeļa un video atmiņas apjoma, tāpēc tiek rēķināta pēc uzdevuma. Aprakstiet modeli un datu apjomu — saliksim konfigurāciju un aprēķināsim.
Lapā VPS AI/ML vajadzībām: tarifi, OS attēli un pasūtījuma noformēšana. Serveris tiek izsniegts testa režīmā uz 5 stundām — samaksa pēc pārbaudes.