V době, kdy byla Nvidia známá svými grafickými procesory pro hry a kryptografii, nebyla její konference NVIDIA GPU Technology Conference (GTC) tak velkou událostí. Ale teď, když je vedoucí společností na poli AI, jako by se všechno změnilo. Dnes je tato akce hlavní událostí pro inovátory, vývojáře a nadšence v oblasti umělé inteligence.
Nvidia dnes dodává přes 70% čipů pro AI a ještě silnější postavení má v dodávkách čipů pro trénování generativní AI. Dnes je jakýkoliv posun v AI nemyslitelný bez společnosti Nvidia. A ta také naplnila, co se od ní očekávalo.
Čipy H100 a H200 se staly hlavními procesory pro aplikace umělé inteligence a v posledních několika čtvrtletích pomohly zvýšit příjmy společnosti Nvidia z datových center. Jen v posledním čtvrtletí společnost vykázala příjmy z datových center ve výši 18,4 miliardy dolarů. Cena akcií společnosti Nvidia vzrostla pětinásobně a celkové tržby se více než ztrojnásobily od doby, kdy koncem roku 2022 odstartoval boom umělé inteligence projekt OpenAI ChatGPT.
Generální ředitel společnosti Nvidia Jensen Huang představil na konferenci nejnovější AI čipy společnosti: grafický procesor Blackwell B200 a “superčip” GB200 Grace Blackwell.
-
Čipy Blackwell společnosti Nvidia, pojmenované po matematikovi Davidu Haroldovi Blackwellovi, nabízejí oproti svým předchůdcům, čipům H100, výrazné zvýšení výkonu.
-
Huang uvedl, že čipy Blackwell jsou výrazně rychlejší než H100, jejich rychlost se pohybuje od sedmi do třicetinásobku, přičemž spotřebovávají jen zlomek energie - přesněji asi 25krát méně.
-
Nový grafický procesor B200 poskytuje výkon až 20 petaflopsů FP4, přičemž využívá svých 208 miliard tranzistorů.
-
Konfigurace GB200, která kombinuje dva grafické procesory B200 s jedním procesorem Grace, může poskytnout 30násobný výkon pro úlohy odvozování LLM a zároveň je potenciálně výrazně efektivnější. Nvidia tvrdí, že tato konfigurace může snížit náklady a spotřebu energie až 25krát ve srovnání s H100.
-
Huang zmínil, že v benchmarku GPT-3 LLM se 175 miliardami parametrů dosahuje GB200 přibližně sedminásobného výkonu oproti H100 při čtyřnásobné rychlosti trénování.
-
Podle společnosti Nvidia by v minulosti trénování modelu s 1,8 bilionu parametrů vyžadovalo 8 000 grafických procesorů Hopper a 15 megawattů energie. Nyní však tvrdí, že s 2 000 grafickými procesory Blackwell lze stejný úkol zvládnout s využitím pouhých čtyř megawattů energie.
-
Ačkoli společnost NVIDIA zatím nezveřejnila ceny čipů Blackwell, pozorovatelé v oboru předpokládají vysokou cenu, která je zpřístupní jen několika organizacím.
Čipy Blackwell společnosti Nvidia, pojmenované po matematikovi Davidu Haroldovi Blackwellovi, nabízejí oproti svým předchůdcům, čipům H100, výrazné zvýšení výkonu.
Huang uvedl, že čipy Blackwell jsou výrazně rychlejší než H100, jejich rychlost se pohybuje od sedmi do třicetinásobku, přičemž spotřebovávají jen zlomek energie - přesněji asi 25krát méně.
Nový grafický procesor B200 poskytuje výkon až 20 petaflopsů FP4, přičemž využívá svých 208 miliard tranzistorů.
Konfigurace GB200, která kombinuje dva grafické procesory B200 s jedním procesorem Grace, může poskytnout 30násobný výkon pro úlohy odvozování LLM a zároveň je potenciálně výrazně efektivnější. Nvidia tvrdí, že tato konfigurace může snížit náklady a spotřebu energie až 25krát ve srovnání s H100.
Huang zmínil, že v benchmarku GPT-3 LLM se 175 miliardami parametrů dosahuje GB200 přibližně sedminásobného výkonu oproti H100 při čtyřnásobné rychlosti trénování.
Podle společnosti Nvidia by v minulosti trénování modelu s 1,8 bilionu parametrů vyžadovalo 8 000 grafických procesorů Hopper a 15 megawattů energie. Nyní však tvrdí, že s 2 000 grafickými procesory Blackwell lze stejný úkol zvládnout s využitím pouhých čtyř megawattů energie.
Ačkoli společnost NVIDIA zatím nezveřejnila ceny čipů Blackwell, pozorovatelé v oboru předpokládají vysokou cenu, která je zpřístupní jen několika organizacím.
Společnost Nvidia také později oznámila projekt GR00T, novou iniciativu na vytvoření univerzálního základního modelu pro učení humanoidních robotů. Nvidia také dělá pokroky v oblastech, jako je robotika a partnerství v oblasti kvantových výpočtů.
Nvidia pokračuje v krasojízdě. A to tak razantně, že se u ní budeme muset někdy příště zastavit.
| 