Kunstig intelligens på skrivebordet

Dell lanserer nå en stasjonær arbeidsstasjon basert på NVIDIAs Grace Blackwell-arkitektur, som de mener skal legge grunnlaget for at bedrifter kan utvikle neste generasjons KI under eget tak.

Dell Pro Max GB10 leverer ifølge selskapet dataytelse i datasenterklassen – direkte på skrivebordet – og senker dermed terskelen for å trene og kjøre avanserte KI-modeller lokalt.

Kompakt

Arbeidsstasjonen er liten nok til å få plass på skrivebordet (eller i nettverkskanten), men kraftig nok til å håndtere både utvikling, trening og kjøring av KI-modeller – uten behov for skyløsninger eller ressurser fra et datasenter. Det har dermed blitt enklere for organisasjonene å ta i bruk avansert KI, enten de må behandle sensitive data lokalt, eller ønsker å unngå uforutsigbare kostnader knyttet til skybruk. 

Nødvendige drivere og verktøy som CUDA, JupyterLab, Docker og AI Workbench er forhåndsinstallert før du mottar den, dermed er Dell Pro Max GB10 klar til bruk i løpet av minutter, heter det. 

Dropp skyen

Tradisjonelt sett har selv avanserte arbeidsstasjoner nådd sine grenser ved behandling av modeller med rundt 45 milliarder parametere – selv med kraftige GPUer på 96 GB minne. Når minnekapasiteten blir en flaskehals, må utviklere ofte velge mellom å komprimere modellene (på bekostning av nøyaktigheten) eller flytte dem til skyen, noe som ikke alltid er praktisk mulig eller tillatt. I bransjer med strenge krav til datalagring, som finans og helse, er skybaserte løsninger ofte helt utelukket.

Derfor mener Dell at den nye arbeidsstasjonen representerer et betydelig steg fremover for lokal beregningskraft. Systemet er bygget på NVIDIAs Grace Blackwell-arkitektur, kjører KI-programvaren DGX OS, og er utstyrt med 128 GB enhetlig minne – nok til å håndtere KI-modeller med opptil 200 milliarder parametere direkte på skrivebordet. Ytelsen oppgis til 1000 FP4 TOPS, et nivå som tidligere var forbeholdt store datasentre. 

For dem som trenger ytterlige kapasitet, kan to systemer kobles sammen til en felles node som støtter modeller med opptil 400 milliarder parametere.

Brukerrettet

Enheten skal være er utviklet med særlig fokus på fire brukergrupper:

1. Forskning – raskere gjennombrudd Forskning hemmes ofte av begrenset tilgang til beregningsressurser. Med Dell Pro Max GB10 kan forskere kjøre store språkmodeller (LLM) som Llama 3.3-70B, noe som gjør det raskere å teste hypoteser og tilpasse modeller.
2. Startups – fleksibilitet uten høye kostnader Mindre bedrifter og gründere kan utvikle, finjustere og skalere KI-modeller lokalt. Den enhetlige minnearkitekturen reduserer kompleksiteten som ofte følger med distribuerte systemer, slik at team kan fokusere på innovasjon fremfor drift.
3. Regulerte bransjer – sikker KI på stedet Banker og helseaktører kan trene og implementere avanserte KI-modeller – som svindeldeteksjon eller diagnostisk bildeanalyse – helt innenfor egen infrastruktur.
4. Kreatører og utviklere – demokratisert KI-utvikling Frilansutviklere, kreative profesjonelle og spillutviklere får tilgang til samme beregningskraft som store selskaper. Dell Pro Max GB10 gjør det mulig å trene bildeanalysemodeller eller utvikle KI-drevne spillkarakterer lokalt.

Dell Pro Max med GB10 er tilgjengelig umiddelbart og koster fra 53.637 NOK.

Mer informasjon:

https://www.dell.com/en-us/lp/dell-pro-max-nvidia-ai-dev