0
Prašymas 0,00 €
0
Krepšelis
0,00 €
Krovimas...
Krovimas...
Atnaujinta užklausa ir užsakymas!
Atnaujinta užklausa ir užsakymas! Atnaujinta užklausa ir užsakymas!
Prekės nėra.
Atsiprašome, bet prekės nėra sandėlyje.

DI kompiuteriai ir darbo stotys

Skaičiavimo galia, pritaikyta darbui su dirbtiniu intelektu

DI darbo stotys užtikrina skaičiavimo galią, būtiną vietiniam LLM modelių mokymui ir diegimui, mašininiam mokymuisi bei moksliniams modeliavimams. Jos garantuoja nepriklausomybę nuo debesijos, aukštą duomenų saugumo lygį ir našumą, pritaikytą inžinieriams bei MTEP komandoms.

DI modelių mokymas ir diegimas

DI modelių mokymas ir diegimas

Vietinis mokymas, tikslinimas ir išvedimas - be debesijos išlaidų.

Duomenų analizė ir duomenų mokslas

Duomenų analizė ir duomenų mokslas

Greitas darbas su dideliais duomenų rinkiniais ir ML aplinkose.

Duomenys visiškai kontroliuojami

Duomenys visiškai kontroliuojami

Apdorojimas on-premise, nesiunčiant duomenų į išorę.

Kompiuteriai dirbtiniam intelektui

parodyti
Rūšiuoti pagal
Pasirinkti filtrai:

Nvidia DGX Spark GB10 128 GB LPDDR5x-SDRAM 4 TB SSD DGX OS Kompiuterizuotos darbo vietos Auksas

Part number: 940-54242-0005-000

Manufacturer: NVIDIA

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: DGX OS

5650,00 € neto
6949,50 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
50+  vnt.
Produkto konfigūracija

Asus Ascent GX10 Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 1TB Gen 5

Part number: 90MS0371-M00030

Manufacturer: ASUS

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 1000 GB

Numatyta operacinė sistema: Ne

5200,00 € neto
6396,00 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
50+  vnt.
Produkto konfigūracija

Gigabyte AI TOP Atom Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB Gen 4

Part number: ATAGB10-9001

Manufacturer: Gigabyte

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: NVIDIA DGX OS

5600,00 € neto
6888,00 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
50+  vnt.
Produkto konfigūracija

Lenovo ThinkStation PGX Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 1TB

Part number: 30KL0004YM

Manufacturer: Lenovo

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 1000 GB

Numatyta operacinė sistema: NVIDIA DGX OS

4900,00 € neto
6027,00 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
7  vnt.
Produkto konfigūracija

MSI EdgeXpert MS-C931 Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB Gen 5

Part number: 9S6-C9311-32S

Manufacturer: MSI

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: DGX OS

6600,00 € neto
8118,00 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
11-20  vnt.
Produkto konfigūracija

Asus Ascent GX10 Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB Gen 5

Part number: 90MS0371-M000V0

Manufacturer: ASUS

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: Ne

7700,00 € neto
9471,00 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
1  vnt.
Produkto konfigūracija
5900,00 € neto
7257,00 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
11-20  vnt.
5700,00 € neto
7011,00 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
50+  vnt.

MSI EdgeXpert MS-C931 Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB Gen 5

Part number: EDGEXPERT-32SEU

Manufacturer: MSI

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: DGX OS

6600,00 € neto
8118,00 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
11-20  vnt.
Produkto konfigūracija

Dell Pro Max Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB

Part number: W2KP4

Manufacturer: Dell

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: DGX OS

5975,18 € neto
7349,47 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
11-20  vnt.
Produkto konfigūracija

Dell Pro Max Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB

Part number: 7MFXX

Manufacturer: Dell

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: DGX OS

5568,40 € neto
6849,13 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
11-20  vnt.
Produkto konfigūracija

Dell Pro Max Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 2TB

Part number: T9WMV

Manufacturer: Dell

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 2000 GB

Numatyta operacinė sistema: DGX OS

6063,75 € neto
7458,41 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
1  vnt.
Produkto konfigūracija

Dell Pro Max Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB

Part number: N2T93

Manufacturer: Dell

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: DGX OS

5568,40 € neto
6849,13 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
11-20  vnt.
Produkto konfigūracija

Asus Ascent GX10 Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 2TB Gen 5

Part number: 90MS0371-M000U0

Manufacturer: ASUS

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 2000 GB

Numatyta operacinė sistema: Ne

7764,76 € neto
9550,65 € bruto
Prieinamumas:
5  vnt.
Produkto konfigūracija

Gigabyte AI TOP Atom Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB Gen 5

Part number: ATAGB10-9000

Manufacturer: Gigabyte

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: NVIDIA DGX OS

7894,94 € neto
9710,78 € bruto
Prieinamumas:
5  vnt.
Produkto konfigūracija

Acer Veriton GN100 Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB

Part number: DT.R6LEH.002

Manufacturer: Acer

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: DGX OS

6289,45 € neto
7736,02 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
9  vnt.
Produkto konfigūracija

Lenovo ThinkStation PGX Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB

Part number: 30KL0003GF

Manufacturer: Lenovo

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: DGX OS

6529,41 € neto
8031,17 € bruto
Prieinamumas:
4  vnt.
Produkto konfigūracija

Dell Pro Max Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB

Part number: CD2J8

Manufacturer: Dell

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: DGX OS

6900,00 € neto
8487,00 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
11-20  vnt.
Produkto konfigūracija

HP ZGX Nano G1n Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 2TB

Part number: D4DB3ET#ABD

Manufacturer: HP

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 2000 GB

Numatyta operacinė sistema: Linux

6379,31 € neto
7846,55 € bruto
Prieinamumas:
6  vnt.
Produkto konfigūracija

Dell Pro Max Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 1TB

Part number: BTO100_FCM1253_EMEA

Manufacturer: Dell

4910,73 € neto
6040,20 € bruto
24h Išsiuntimas per 24 val
Prieinamumas:
50+  vnt.

Lenovo ThinkStation PGX Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB

Part number: 30KL000BGF

Manufacturer: Lenovo

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: DGX OS

7057,65 € neto
8680,91 € bruto
Prieinamumas:
11-20  vnt.
Produkto konfigūracija

HP ZGX Nano G1n Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 1TB

Part number: D4DR6ET#AKD

Manufacturer: HP

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 1000 GB

Numatyta operacinė sistema: Linux

6111,41 € neto
7517,03 € bruto
Prieinamumas:
8  vnt.
Produkto konfigūracija

Dell Pro Max Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 2TB

Part number: MCNYD

Manufacturer: Dell

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Procesoriaus branduoliai: 20

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 2000 GB

Numatyta operacinė sistema: DGX OS

6099,65 € neto
7502,57 € bruto
Prieinamumas:
6  vnt.
Produkto konfigūracija

HP ZGX Nano G1n Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 4TB

Part number: D4CY3ET#ABD

Manufacturer: HP

Procesoriaus gamintojas: Nvidia

Procesoriaus modelis: GB10

Integruoto grafikos adapterio modelis: NVIDIA Blackwell

Vidinė atmintis: 128 GB

Vidinės atminties tipas: LPDDR5x-SDRAM

Iš viso talpa: 4000 GB

Numatyta operacinė sistema: Linux

7011,49 € neto
8624,13 € bruto
Prieinamumas:
4  vnt.
Produkto konfigūracija

AI kompiuteriai – Pirkimo vadovas

AI kompiuteriai yra specializuotos darbo stotys, sukurtos vietiniam dirbtinio intelekto modelių mokymui, derinimui ir paleidimui. Kompiuterio pasirinkimas dirbti su dirbtiniu intelektu priklauso nuo modelių naudojimo būdo - nuo prototipavimo ir didelių kalbos modelių derinimo, iki vaizdų generavimo ir realaus laiko išvadų (inference), tai yra, paruošto modelio užklausų apdorojimo su minimaliu vėlavimu. Šiame vadove rasite išsamų parametrų, gamintojų ir konfigūracijų palyginimą, kuris padės IT vadovams, kūrėjams ir pirkimo komandoms pasirinkti optimalų įrangą, atsižvelgiant į našumą, skalę ir biudžetą.

Kas yra AI kompiuteriai

AI kompiuteris yra darbo stotis arba kompaktiška stalinė sistema, optimizuota dirbtinio intelekto užduotims: mašininio mokymosi (Machine Learning), neuroninių tinklų mokymo ir modelių naudojimo savo duomenų rinkiniuose bei išvadų. AI kompiuteris paprastai turi sudėtingesnę architektūrą nei įprastas kompiuteris - pagrindiniai komponentai AI kompiuteriams yra vaizdo plokštė, RAM atmintis ir procesorius su NPU.

Pagrindiniai veikimo principai remiasi trimis skaičiavimo vienetų tipais:

  • GPU (Graphics Processing Unit) - grafikos procesorius, atsakingas už didelių duomenų matricų lygiagretų apdorojimą, įskaitant svorių ir gradientų skaičiavimus dirbtinio intelekto modeliuose. GPU padalina skaičiavimus į tūkstančius lygiagrečių gijų, taip sumažindamas AI modelių mokymo ir paleidimo laiką nuo savaičių iki valandų. Pagrindinis parametras renkantis AI kompiuterį yra GPU atminties (VRAM) kiekis, nes jis lemia, koks didelis modelis tilps vaizdo plokštės atmintyje be duomenų perjungimo su disku.
  • NPU (Neural Processing Unit) - specializuotas procesorius išvadų operacijoms. NPU procesoriai sumažina sistemos apkrovą AI užduotims, užtikrindami mažą vėlavimą ir didelį efektyvumą vietiniame duomenų apdorojime. NPU buvimas leidžia efektyviai apdoroti duomenis AI.
  • SoC (System on Chip) - integruota mikroschema, apjungianti procesorių (CPU), grafikos procesorių (GPU) ir atmintį viename čipe. Dėl to visi komponentai naudoja bendrą atminties rezervą, o ne keičiasi duomenimis tarp atskirų mikroschemų. Tai pašalina siaurąsias vietas, kurios klasikinėse kompiuteriuose atsiranda tarp CPU, GPU ir atskiros RAM/VRAM atminties. Šis požiūris taikomas kompaktiškuose AI kompiuteriuose, leidžiant dirbti su dideliais modeliais mažesnėmis energijos sąnaudomis ir mažesnėmis korpusais nei tradicinėse darbo stotyse.

AI kompiuterių naudojimo privalumai verslo aplinkoje apima:

  • pilną kontrolę virš duomenų,
  • mažesnius vėlavimus nei debesų sprendimuose,
  • priklausomybės nuo interneto pralaidumo nebuvimą,
  • mažesnes ilgalaikes veiklos išlaidas,
  • galimybę vietiškai paleisti modelius - daugeliui įmonių tai reiškia naujas galimybes, nuo prototipavimo iki gamybos diegimo, be būtinybės naudotis debesų apdorojimu.

Skirtumas tarp vietinio ir debesų apdorojimo yra kompromisas: debesys siūlo skalę, tačiau generuoja nuolatines išlaidas ir reikalauja duomenų perdavimo. Vietinis AI kompiuteris pašalina šiuos apribojimus - ypač dažnai ir intensyviai mokant modelius ar atliekant išvadas.

AI kompiuteris ir įprastas kompiuteris su vaizdo plokšte

Įprastas stalinio kompiuterio su galinga vaizdo plokšte ir profesionali darbo stotis yra dvi skirtingos įrenginių klasės. Vaizdo plokštė yra svarbiausias AI kompiuterio elementas, tačiau pati savaime ji nedefinuoja AI kompiuterio.

Atminties architektūra

Atminties architektūra tiesiogiai veikia, kokius didelius modelius galima apdoroti be našumo praradimo. SoC pagrindu veikiančiuose kompiuteriuose CPU ir GPU naudoja bendrą atminties rezervą, kas leidžia dirbti su dideliais kalbos modeliais be jų dalijimo į mažesnes dalis (segmentacijos) ir be našumo praradimo keičiant duomenis tarp mikroschemų. Tai realus pranašumas užduotims, reikalaujančioms didelės atminties, pvz., dirbant su modeliais, turinčiais keliasdešimt milijardų parametrų, kurie standartinėje architektūroje reikalautų kelių tarpusavyje sujungtų vaizdo plokščių.

Našumas

Našumas AI užduotims labai skiriasi priklausomai nuo įrangos klasės. Vartotojų klasės vaizdo plokštės pasiekia AI našumą, matuojamą tūkstančiais TOPS (Tera Operations Per Second), kas pakanka daugeliui išvadų ir mažesnių modelių derinimo užduočių. Specializuoti AI kompiuteriai, paremti skaičiavimams optimizuota architektūra, siūlo skaičiavimo galią, kurios negali pasiūlyti vartotojų klasės vaizdo plokštės.

Procesų pagreitinimas

AI kompiuteriai pagreitina tiek dirbtinio intelekto procesus, tiek kūrybines užduotis, nuo grafikos renderavimo, vaizdo apdorojimo iki vaizdų generavimo AI modeliais pagrįstose priemonėse. Tačiau profesionaliam modelių mokymui pakanka tik specializuotos darbo stoties, naudojančios aukščiau aprašytą architektūrą ir bendrą atmintį. Vartotojų klasės vaizdo plokštės, net ir galingiausios, neturi pakankamai atminties ar pralaidumo šio masto užduotims.

Aušinimas

AI kompiuteriai dažnai turi didesnius energijos ir aušinimo reikalavimus dėl ilgalaikės apkrovos, kas yra dar vienas aspektas, skiriantis juos nuo standartinių PC.

AI kompiuterių tipai pagal taikymą

Pasirinkus AI kompiuterį, reikia atsižvelgti į atliekamų užduočių tipą. Skirtingi darbo su AI modeliais etapai - nuo mokymo nuo nulio, per derinimą, iki gamybos diegimo - reikalauja skirtingų techninių konfigūracijų.

Kompiuteriai modelių mokymui

Didelių neuroninių tinklų mokymas nuo nulio yra viena iš labiausiai skaičiavimo reikalaujančių AI taikymo sričių. Darbo stoties našumas priklauso pirmiausia nuo GPU galios mokymo metu, GPU atminties talpos ir pralaidumo bei duomenų tiekimo greičio. Priklausomai nuo modelio dydžio, gali būti naudingi GPU su keliasdešimt gigabaitų VRAM arba sistemos su didele bendra atmintimi. Dideli mokymo rinkiniai taip pat pateisina greitų NVMe diskų, kurių talpa kelios terabaitai, ir didelės RAM atminties naudojimą. PCIe Gen4 arba Gen5 gali papildomai sumažinti komunikacijos siaurąsias vietas, ypač konfigūracijose su keliais GPU. Tačiau konkretūs reikalavimai priklauso nuo mokomo modelio tipo ir masto.

Kompiuteriai modelių derinimui (Fine-tuning)

Esamų AI modelių derinimas reikalauja subalansuotos konfigūracijos. GPU arba Blackwell tipo mikroschema su vidutiniu/aukštu VRAM lygiu, greitas SSD NVMe diskas checkpoint'ų įrašymui ir skaitymui bei didelė RAM atminties talpa sudaro optimalią bazę. Greitis įrašant į diską ir atminties pralaidumas tiesiogiai veikia kiekvieno mokymo ciklo laiką.

Kompiuteriai AI išvadoms

Paruoštų AI modelių paleidimas reikalauja optimizacijos greičiui (latencijai) ir energijos efektyvumui. Čia tinka tiek GPU, tiek NPU procesoriai. RTX našumas yra svarbus vietiniam AI vaizdų generavimui, o kompaktiškos SoC sistemos su bendra atmintimi pasiekia puikius rezultatus esant mažam energijos suvartojimui.

Pagrindiniai AI kompiuterių parametrai

Techniniai parametrai lemia, kokias AI užduotis kompiuteris galės efektyviai atlikti. Žemiau pateikiama pagrindinių specifikacijų apžvalga, į kurią verta atkreipti dėmesį renkantis.

Disko talpa - 1 TB, 2 TB ar 4 TB

NVMe diskai yra svarbūs greitam duomenų įkėlimui AI programose. 512 GB SSD diskai rekomenduojami pagrindiniams AI kompiuteriams - 512 GB NVMe SSD diskai yra universaliai tinkami AI paprastesnėms išvadoms.

Profesionaliems taikymams:

  • 1 TB - pakankamas išvadoms ir prototipavimui su vienais modeliais
  • 2 TB - optimalus derinimui, kai duomenys ir checkpoint'ai saugomi vietiškai
  • 4 TB - rekomenduojama mokant modelius ir dirbant su dideliais duomenų rinkiniais

10 GbE ir 200 GbE ryšys

Greitas tinklo ryšys yra labai svarbus AI aplinkose, ypač kai keli kompiuteriai dirba kartu viename klasteryje arba naudoja duomenis, saugomus vietiniuose serveriuose. Efektyvios darbo stotys gali pasiūlyti 10 GbE prievadus, o pažangesnės konfigūracijos taip pat interfeisus su pralaidumu iki 200 Gb/s.

Tokie greiti ryšiai palengvina didelių duomenų kiekių mainus tarp sistemų, skaičiavimų sinchronizavimą ir užduočių paskirstymą tarp kelių vienetų. Tai ypač svarbu dirbant su labai dideliais modeliais, kurie dėl atminties ar skaičiavimo galios poreikių gali reikalauti daugiau nei vieno kompiuterio naudojimo.

Laidinio ryšio galimybes gali papildyti Wi-Fi 7 ir Bluetooth 5.4.

RAM ir VRAM atmintis

Įprastame kompiuteryje būtent vaizdo plokštės VRAM — paprastai 16–32 GB — lemia, kokio dydžio modelį paleisite, o operatyvioji atmintis (16 GB paprastesnėms užduotims, 32 GB ir daugiau sudėtingesnėms) atlieka likusį darbą. DI kompiuteriai su NVIDIA GB10 veikia kitaip: 128 GB vieningosios atminties sudaro bendrą telkinį, kuriuo dalijasi procesorius ir grafikos branduolys, todėl išnyksta ir VRAM riba, ir duomenų kopijavimas tarp atminčių.

Procesoriai ir vaizdo plokštės

Šiuolaikiniai AI kompiuteriai remiasi dviem architektūriniais požiūriais:

  • Tradicinės platformos su daugiašalėmis bendro naudojimo procesoriais ir specializuotomis vaizdo plokštėmis
  • SoC tipo platformos su daugiašalėmis procesoriais, integruotais su grafikos mikroschema viename čipe

AI kompiuteriai turėtų turėti specializuotus NPU (Neural Processing Unit) nepriklausomai nuo platformos, NPU buvimas užtikrina efektyvų procesoriaus ir vaizdo plokštės apkrovos sumažinimą atliekant kasdienes AI operacijas, tokias kaip kalbos atpažinimas, vaizdo apdorojimas ar AI asistentų veikimas operacinėje sistemoje. Dėl to kompiuteris išlieka efektyvus ir atliekant užduotis, veikiančias fone, nesukeldamas apkrovos pagrindinėms skaičiavimo vienetams.

AI kompiuterių gamintojai Senetic pasiūloje

Senetic pasiūloje yra AI kompiuteriai iš pirmaujančių gamintojų, tokių kaip NVIDIA, Lenovo, HP, Dell, Asus, MSI, Gigabyte, Acer.

NVIDIA

NVIDIA siūlo savo AI kompiuterį, sukurtą kaip pilnas sprendimas vietiniams dirbtinio intelekto skaičiavimams. Įrenginys sujungia skaičiavimo galią su paruošta darbo aplinka. Operacinė sistema apima visą programinės įrangos rinkinį darbui su AI modeliais, leidžiančią pradėti darbą be papildomos konfigūracijos. Tai pasiūlymas komandoms, norinčioms paleisti AI projektus iš karto po įrangos išpakavimo, be laiko reikalaujančio aplinkos paruošimo.

Lenovo

Lenovo siūlo AI kompiuterius kaip dalį darbo stočių linijos, skirtos verslo taikymams. Modeliai išsiskiria išplėstinėmis duomenų saugumo funkcijomis, įskaitant diskų šifravimą ir patikimos platformos modulį, kas yra svarbu dirbant su jautriais duomenimis ar atitikties reikalavimais. Yra variantų, skirtingų diskų talpa, pritaikytų AI projektų mastui.

HP

HP pristato AI kompiuterius kaip savo verslo darbo stočių linijos plėtrą. Konstrukcijos yra kompaktiškos, sukurtos su mintimi apie diegimą biuro ir laboratorijų erdvėse, kur svarbu tiek našumas, tiek ribota užimama erdvė. Gamintojas akcentuoja patikimumą, atitinkantį verslo klasės standartus, ir aušinimo optimizavimą mažame korpuse.

Dell

Dell siūlo AI kompiuterius kaip dalį serijos, skirtos įmonėms su įvairiu diegimo mastu. Svarbus pasiūlymo elementas yra įrenginių flotilės valdymo ekosistema, kas palengvina administravimą didesniam darbo vietų skaičiui organizacijoje. Gamintojas plėtoja šią liniją kaip dalį platesnės strategijos, remiančios AI aparatinės įrangos akceleratorius.

ASUS

ASUS siūlo AI kompiuterius, sukurtus ilgalaikiams, nuolatiniams skaičiavimo krūviams. Konstrukcija akcentuoja aušinimo sprendimus, pritaikytus dirbti su dideliais duomenų rinkiniais ir AI modeliais per ilgesnį laiką. Tai pasiūlymas komandoms, vykdančioms reguliarias, pasikartojančias skaičiavimo užduotis.

MSI

MSI specializuojasi AI kompiuteriuose, skirtuose kraštiniam apdorojimui (edge computing), tai yra, duomenų apdorojimui arti jų atsiradimo vietos, o ne perduodant juos į centrinį serverį ar debesį. Gamintojo pasiūlymas ypač orientuotas į pramoninius taikymus, kur reikalingas realaus laiko išvadas tiesiogiai vietoje. Kompaktiškas įrenginių formatas palengvina diegimą gamybos, sandėliavimo ir IoT aplinkose.

Gigabyte

Gigabyte siūlo AI kompiuterius, papildytus savo programinės įrangos įrankiais, palaikančiais našumo optimizavimą derinimo ir išvadų metu. Yra variantų, skirtingų SSD diskų talpa, pritaikytų skirtingo masto projektams. Įrenginius galima sujungti tarpusavyje, kas leidžia padidinti prieinamus išteklius dirbant su didesniais modeliais.

Acer

Acer orientuoja savo AI kompiuterių pasiūlą pirmiausia į mažas ir vidutines įmones, pradedančias diegti dirbtinį intelektą savo procesuose. Dėmesys skiriamas prieinamumui, išlaikant kompaktišką, stalinę konstrukciją. Tai sprendimas, tinkamas tiek vietinėms išvadoms, tiek ankstyvosioms modelių prototipavimo stadijoms.

DUK - Dažniausiai užduodami klausimai

Ar įprastas kompiuteris su galinga vaizdo plokšte pakanka dirbti su AI?

Priklauso nuo užduoties masto. Mažesnių modelių išvadoms (inference), vaizdų generavimui, vaizdo redagavimui su AI akceleracija ar kasdieniam darbui su kodo asistentais taip, pakanka kompiuterio su galinga vaizdo plokšte ir bent 16 GB RAM. Tačiau norint mokyti savo modelius, dirbti su dideliais kalbos modeliais, turinčiais daugiau nei 70 mlrd. parametrų, arba gamybos išvadoms visam komandai, jums reikės specializuotos AI darbo stoties su bendra atmintimi ir SoC architektūra.

Kaip didelis kalbos modelis tilps 128 GB bendros atminties?

Modeliai, turintys 70-80 mlrd. parametrų, paprastai telpa ~30-40 GB GPU atminties, taikant atminties suspaudimą. 128 GB bendros atminties galima patogiai paleisti modelius iki ~200 mlrd. parametrų. Modeliai, turintys 400 mlrd. parametrų, reikalauja dviejų įrenginių sujungimo per didelės pralaidumo tinklo prievadus, kas suteikia bendrai 256 GB bendros atminties.

Ar skirtingų gamintojų AI kompiuteriai skiriasi našumu?

Modeliai, pagrįsti tuo pačiu SoC (pvz., NVIDIA DGX Spark, Lenovo ThinkStation PGX, Gigabyte AI TOP Atom, MSI EdgeXpert MS-C931), siūlo panašų skaičiavimo našumą ir tą pačią bendros atminties kiekį. Skirtumai yra kokybėje aušinimo, tinklo sąsajų, saugumo funkcijų, iš anksto įdiegtos programinės įrangos, garantijos sąlygų ir techninės pagalbos prieinamumo.

Kokia operacinė sistema palaiko NVIDIA DGX Spark?

NVIDIA DGX Spark veikia su Linux pagrindu, su iš anksto įdiegtu pilnu programinės įrangos rinkiniu darbui su AI (skaičiavimo aplinkomis, mašininio mokymosi bibliotekomis, analitiniais užrašų blokais). Windows nėra palaikomas šioje aparatinės įrangos platformoje.

Ar galima sujungti du AI kompiuterius į vieną klasterį?

Dalis šios kategorijos modelių, pvz., Lenovo ThinkStation PGX, Gigabyte AI TOP Atom, NVIDIA DGX Spark ar MSI EdgeXpert MS-C931, yra aprūpinta didelės pralaidumo tinklo prievadais, leidžiančiais sujungti dvi vienetus į klasterį.

Kiek energijos sunaudoja AI kompiuteris?

Tipiškas energijos suvartojimas kompaktiškoms AI stotims, pagrįstoms SoC architektūra, yra apie 240 W, palyginti su efektyviu stacionariu kompiuteriu, tačiau su žymiai didesniu AI našumu už sunaudotą vatą. Konfigūracijose su tradicine vaizdo plokšte suvartojimas gali būti didesnis. Pati high-end klasės vaizdo plokštė sunaudoja iki 450 W, o visas sistema 600-800 W esant pilnai apkrovai.

Kada vietinis AI apdorojimas turi pranašumą prieš debesį?

Vietinės AI stotys pranoksta debesį, kai jums reikia: mažo vėlavimo (realiojo laiko išvadų), pilnos kontrolės virš duomenų ir atitikties reikalavimų, nepriklausomybės nuo interneto pralaidumo, taip pat kai intensyviai ir reguliariai atliekate modelių derinimą ar išvadas. Ilgalaikėje perspektyvoje vietinės stoties veiklos sąnaudos gali būti mažesnės nei debesų skaičiavimo išteklių mokesčiai nuolat naudojant. Daugelis įmonių išbando hibridinį modelį, kasdienį vietinį apdorojimą, debesį, skirtą piko apkrovų skalavimui.

Kokią diskų talpą pasirinkti dirbant su AI modeliais?

1 TB pakanka išvadoms ir prototipavimui su keliais modeliais. 2-4 TB rekomenduojami derinimui ir mokymui. 512 GB diskas tinka tik pačioms paprasčiausioms taikymo sritims. Prioritetas turėtų būti disko greitis, nes greitas NVMe laikmena yra svarbesnė už pačią talpą, nes ji sutrumpina duomenų įkėlimo ir checkpoint'ų įrašymo laiką.

Palaikykime ryšį!
Užsisakykite mūsų naujienlaiškį ir gaukite karščiausias naujienas bei informaciją apie akcijas.

Paspausdami mygtuką „Užsisakyti“, sutinkate į savo el. pašto dėžutę gauti rinkodaros informaciją. Jūsų asmens duomenis tvarkys Senetic S.A., registruota adresu ul. Przewozowa 32, 44-100 Gliwice, Poland. Turite teisę reikalauti prieigos prie savo asmens duomenų, galimybės juos taisyti ar trinti, taip pat galite apriboti arba panaikinti teisę juos tvarkyti. Daugiau informacijos apie asmens duomenų tvarkymą rasite privatumo politikos aprašyme.

Klaidingas el.pašto adresas.
Šis el.pašto adresas yra jau patvirtintas.
Šis el.pašto adresas dar nėra patvirtintas.
Ačiū!
Pasitikrinkite savo pašto dėžutę – gausite mūsų žinutę, kurioje prašome patvirtinti naujienlaiškio prenumeratą.
Microsoft
Pilnas „Microsoft“ sprendimų pasiūlymas
Please wait ...
Palyginti (0/4)