🤖Nvidia představila vlastní open source LLM model

💡 Firemní workshopy o umělé inteligenci - pojďme se zamyslet nad tím, jak se vaší firmy dotkne AI a jak se na to připravit!

Patrick Zandl · 6. říjen 2024

Vždycky se tak nějak předpokládalo, že Nvidia nepoleze do zelí svým klientům a nepředstaví vlastní velký AI model. Pak Nvidia oznámila vývoj modelu pro roboty, to se považovalo za rozumné, protože to bude velký krok pro automatizaci průmyslu a jiné firmy se tam moc nepouštějí. V polovině září ale Nvidia představila obecný LLM model nazvaný NVLM, který je multimodální, open-source, tedy s otevřeným kódem a dokonce otevřenými váhami a trénovacím kódem. Díky tomu si jej můžete široce přizpůsobit a provozovat (na Nvidia hardware). Výkonostně je model velmi srovnatelný s GPT-4o, dnešního standardu, v některých typech úloh ho mírně předčí, jinde maličko zaostává, což s ohledem na multimodalitu a otevřený kód je bomba. Zajímavé je, že model NVLM má 72 miliard parametrů a dává lepší výsledky, než LLAMA s 404 miliardami parametrů.

Pro koncové uživatele to moc důležité není - málokdo si chce provozovat vlastní LLM na svém počítači. Ale pro firemní použití, profesionální nasazení, jsou open source modely, které lze provozovat na svém cloudu, velmi důležité. Lze jim svěřit neveřejná data bez větších obav, lze je použít jako podvozek vlastního řešení. V tomto smyslu lze krok Nvidia vítat jako základ pro vývoj budoucích produktů. Ostatně, najdete jej už na HuggingFace k použití ve vašich projektech, pokud vývoji rozumíte.


Chcete tyto články emailem?

Twitter, Facebook, Opravit 📃