Millist serverit vajavad masinõpe ja tehisintellekt
Saa selgeks, kus piisab protsessorist ja kus on videokaart vältimatu — ning kontrolli konfiguratsiooni omaenda andmetel 5-tunnise prooviaja jooksul
Vali konfiguratsioon
Serveri valik masinõppe jaoks algab ühest küsimusest: kas videokaarti on tegelikult vaja. Protsessorist piisab klassikalise masinõppe, andmete ettevalmistuse ja väikeste mudelite käivitamise jaoks: seitsme miljardi parameetriga mudel võtab 4-bitises kvantimises 4–5 GB ja 8-bitises 7–8 GB ning koos konteksti ja operatsioonisüsteemiga planeeritakse 16 GB mälu või rohkem. Videokaarti on vaja närvivõrkude treenimiseks ja generatiivsete mudelite jooksutamiseks — see konfiguratsioon pakettidesse ei kuulu ja pannakse kokku ülesande järgi. Allpool on konfiguratsioonid stsenaariumide kaupa; kui valik on tehtud, telli VPS AI/ML jaoks.
Mis selline server maksab
Paketid ilma videokaardita — andmete, klassikalise ML-i ja järelduse jaoks. 5 tundi prooviaega enne maksmist.
Standard 1
| 4 vCPU · AMD EPYC |
| 4 GB RAM |
| 50 GB NVMe |
| Piiramatu andmeside |
| 1× IPv4 · KVM |
| Tugi 24/7 |
Standard 2
| 4 vCPU · AMD EPYC |
| 6 GB RAM |
| 60 GB NVMe |
| Piiramatu andmeside |
| 1× IPv4 · KVM |
| Tugi 24/7 |
Standard 3
| 6 vCPU · AMD EPYC |
| 8 GB RAM |
| 80 GB NVMe |
| Piiramatu andmeside |
| 1× IPv4 · KVM |
| Tugi 24/7 |
Konfiguratsioon tüüpilise ülesande jaoks
Mälu ja tuumade orientiirid koormuste jaoks, mis jooksevad protsessoril.
| Ülesanne | Konfiguratsioon | Pakett | Hind, €/kuus | |
|---|---|---|---|---|
| Õppeprojektid, scikit-learn väikestel andmetel | 6 vCPU · 8 GB · 80 GB | Standard 3 | 8,99 € | Telli |
| Jupyter ja andmestike ettevalmistus | 8 vCPU · 8 GB · 100 GB | Standard 4 | 10,99 € | Telli |
| Kvantitud 7B mudeli järeldus | 10 vCPU · 16 GB · 160 GB | Power 1 | 17,99 € | Telli |
| Gradient boosting, ETL suurtel tabelitel | 16 vCPU · 24 GB · 240 GB | Power 3 | 27,99 € | Telli |
| Sadade GB andmestikud, raske eeltöötlus | 40 vCPU · 64 GB · 700 GB | Max 3 | 84,99 € | Telli |
Orientiirid protsessoril arvutamiseks. Närvivõrkude treenimine nõuab videokaardiga konfiguratsiooni: see nendesse pakettidesse ei kuulu ja valitakse eraldi mudeli ning andmemahu järgi. Hinnad on kuumakse kohta meie hinnakirjast — poolaasta eest 10% ja aasta eest 18% soodsamalt.
Mälu mudelile ja kontekstile
Liida mudeli maht valitud kvantimises konteksti ja süsteemi omale: 7B 4 bitis on 4–5 GB ning 16 GB mälu on töötav miinimum.
Tuumad andmete jaoks
Eeltöötlus, ETL ja gradient boosting paralleelduvad hästi — siin aitavad 16–40 vCPU-d, mitte videokaart.
GPU on treenimiseks
Närvivõrkude ja generatiivsete mudelite treenimine vajab videokaarti. Selle konfiguratsiooni paneme kokku ülesande järgi — vaata GPU-serverite võrdlust.
Kuidas valida server oma ülesande järgi
Kolm sammu — mudeli nõuetest mõõtmiseni omaenda andmetel.
Määra koormuse tüüp
Närvivõrgu treenimine tähendab GPU-d. Järeldus, klassikaline ML ja andmetöötlus jooksevad protsessoril.
Arvuta mälu välja
Liida mudeli maht vajalikus kvantimises, batchi või konteksti suurus ja 2 GB süsteemile — see ongi mälu miinimum.
Kontrolli omaenda andmetel
VPS antakse 5-tunnise prooviajaga: sea keskkond üles, jooksuta üks epohh või partii järeldusi ja otsusta enne maksmist.
Konfiguratsioon on valitud — aeg tellida
Paketid ja tellimise kord on lehel VPS AI/ML jaoks. Kui vajad videokaarti, alusta GPU-serverite võrdlusest: seal on kirjas, mida peale kaardi mudeli veel kontrollida.
Kui tööriist on juba teada, alusta selle omaenda lehelt: PyTorch, TensorFlow, Jupyter või Stable Diffusion.
Mine VPS-i tellimisleheleKorduma kippuvad küsimused
Ei leidnud vastust?
Kirjuta meile kontaktilehe kaudu.
Protsessorist piisab klassikalise ML-i, andmete ettevalmistuse ja väikeste mudelite järelduse jaoks. Videokaarti on vaja närvivõrkude ja generatiivsete mudelite treenimiseks — selle konfiguratsiooni paneme kokku ülesande järgi.
Umbes 4–5 GB 4-bitises kvantimises ja 7–8 GB 8-bitises. Koos konteksti ja süsteemiga planeeri 16 GB mälu või rohkem — see on Power 1 hinnaga 17,99 €/kuus.
Serveri enda NVMe-l: Power 1-s on 160 GB, Power 3-s 240 GB ja Max 3-s kuni 700 GB. Kui andmeid on rohkem, kirjuta toele ja ühendame lisaketta.
Kõiki: PyTorch, TensorFlow, scikit-learn, JAX, conda keskkonnad ja vajalikud draiveriversioonid. Root-ligipääs on täielik ja sinu tarkvarapinusse me ei sekku.
ETL, eeltöötlus ja gradient boosting paralleelduvad hästi: 16 vCPU (Power 3, 27,99 €/kuus) on samadel tabelitel märgatavalt kiiremad kui 8.
Jah, Jupyter paigaldub serverisse ja avaneb brauseris SSH-tunneli või pöördproksi kaudu. Sinu märkmikud ja andmed jäävad sinu enda serverisse.
Hind sõltub kaardi mudelist ja videomälu mahust, seega arvutatakse see ülesande järgi. Kirjelda mudel ja andmemaht ning paneme konfiguratsiooni kokku ja hinnastame selle.
Lehelt VPS AI/ML jaoks: paketid, OS-i tõmmised ja tellimuse vormistamine. Server antakse 5-tunnise prooviajaga — maksad pärast kontrollimist.