V prvním díle jsme se dívali především na technologické změny v umělé inteligenci. Dnes se podíváme spíše na ty politické a ekonomické.
⚖️ Regulace v EU a Číně, USA na vážkách
Evropská unie se ve světě stane hlavním zdrojem inspirace pro legislativu zaměřenou na ochranu spotřebitele a etické aspekty AI, zatímco Spojené státy zůstanou poměrně roztříštěné či váhavé. Tady nějakou regulaci přijímá Kalifornie, tu asi převezmou kontumačně i ostatní státy federace. S nástupem nové administrativy Donalda Trumpa je tu možnost tvrdších i chaotičtějších zásahů do AI sektoru; nicméně stejně pravděpodobné je i „hands-off“ řešení – záleží, jak přesně se vyvine politická scéna. Spekulujme o možném (avšak nestabilním) vlivu Elona Muska, který však může s Trumpem brzy narazit a způsobit rozkol.
Osobně bych řekl, že regulatorní prostředí v USA potáhne demokratický guvernér Kalifornie Gavin Newsom a jemu podobní. Newsom nedávno vetoval kontroverzní regulační zákon, který mimo jiné obsahoval kill switch pro deaktivaci nebezpečného AI systému (asi chápeme, kde tu může být problém) a místo toho se snaží formovat vývoj AI v oblasti deepfakes či ochrany dětí. Pozice Kalifornie je klíčová, protože stát je domovem Silicon Valley a 32 z 50 největších světových AI společností. Přístup Kalifornie tak může ovlivnit globální trendy v regulaci AI. Její pozici nakonec vývojové firmy převezmou, pokud budou chtít v Kalifornii něco prodávat - což budou.
Čína se bude s drobným odstupem inspirovat v regulaci EU s tím, že si nebude dělat hlavu s etikou zneužití, v Číně je například povolena analýza nálady a emocí, což EU na pracovištích či ve vzdělávacích institucích zakazuje.
Ve skutečnosti bych byl za to, aby se regulace EU pro AI poněkud proškrtala či některé části přeřadily do přechodného zjišťovacího období. Zásadní problém EU regulace totiž není v samotné regulaci, ta vyžaduje vcelku logické věci. Ale firmy se obávají nekonzistentního a nepředvídatelného regulačního rozhodování v rámci EU. Vznikají tak nejasnosti ohledně praktického uplatňování nových pravidel a firmy se obávají velkých pokut, proto mohou nasazení svých AI služeb v EU odkládat. Je nyní na EU, aby vyjasnila, jak se k regulaci a především postihům bude stavět.
💥 Halucinace, spolehlivost AI a první velké průšvihy
Bude to velké téma, které příští rok narazí na pořádný malér: spolehlivost AI. Zatím jsou to spíš anekdotické historky o tom, jak AI podpora zákazníkovi prodala něco, co bylo dražší či si vymyslela do obhajoby neexistující paragraf. Ale to není ten pořádný malér. Tím se teprve stane, až AI odpojí část energetické soustavy, udělá fakt velkou objednávku akcií či je naopak za babku prodá a velký hedgeový fond půjde plaite. To se ještě asi letošní rok nestane.
Jenže stejně tak se nevyřeší halucinace AI, ty jsou již napevno součástí této technologie a zbavit se jich je stejně jednoduché, jako lidského lhaní. Proč? To budeme šetřit, vrháme na to miliardy a dost možná se díky tomu dozvíme i něco o nás samotných. Kdy jindy by se vrhaly miliardy na šetření lidských selhány, než když jde o AI…
Očekávám ale také první „reálný“ případ AI incidentu, kdy se model projeví záměrně zavádějícím či „podvodným“ chováním. Nepůjde o okamžitou katastrofu, ale o varovný signál, že AI může jednat ve vlastním „zájmu“ i bez přímého příkazu člověka. Jaké to bude mít dopady bude záležet také na tom, jak daleko postoupíme příští rok s technologií agentů…
Co by jím mohlo být? To poznáme, až to uvidíme. Ale například v USA řídí části energetické rozvodné soustavy AI (přesněji ML) - a teď si představte, že po nějakém update dá taková AI přednost napájení datových serveroven před napájením lidských obydlí, ještě hůře třeba nemocnic…
🐞 Geopolitika: USA vs. Čína vs. technokorporace
Nad obavami z AGI a úplné automatizace pravděpodobně převáží naléhavější témata spojená s mezinárodní rivalitou (USA vs. Čína) a možným vojenským využitím AI. USA se s Čínou o AI i čipy budou handrkovat nadále, přičemž třísky z tohoto lesa budou dopadat i na EU a okrajově Česko. V každém případě se USA zejména pod Trump/Muskovým vedením budou snažit urvat prvenství. Očekává se, že USA spustí první „AGI-centered national security project“ za podpory předních technologických firem. Čína a státy BRICS mohou reagovat obdobně, pokud ne v roce 2025, tak v dohledné budoucnosti.
O co by v takovém projektu šlo? Mohl by vzniknout program či agentura (podobně jako DARPA), která by se specializovala na dlouhodobou podporu výzkumu směřujícího k AGI nebo alespoň k velmi pokročilým AI systémům - a to za podpory předních technologických firem a masivní finanční podpory státu. Stát by poskytoval rozsáhlé financování a zároveň by v rámci projektu definoval konkrétní bezpečnostní či vojenské cíle (např. kybernetická obrana, pokročilá vojenská logistika, satelitní data a jejich analýza apod.). Náklady? V porovnání s nimi považujte projekt F-35 za laciný…
USA by se tak snažily získat či udržet iniciativu v oblasti AI a AGI s pobočnými výhonky do kvantových počítačů, které budou zřejmě pro části AI výzkumu důležité. Doufalo by se, že masivními státními investicemi by vznikl nový trh, pro něj nové (americké!) produkty a vznikla by tak protiváha klesající schopnosti USA vyrábět klíčové technologie doma, v USA - nebo už i kdekoliv jinde.
Bude to velmi zajímavé sledovat a taky bude důležité, co na to EU. Chybí nám americká dravost.
Snad nás probudí ruský medvěd a hořící koudel za zadkem…
📕 A osobní: vrátí AI do života autentické blogy?
Není to nijak podstatný trend, alespoň zatím. Meta brzy zaplní vaše kanály na Instagramu a Facebooku postavami s umělou inteligencí, které mají profilové obrázky, životopisy a schopnost vytvářet obsah. Budou navrženy tak, aby zaujaly generaci Z dokonale nakalibrovaným obsahem, který donutí Genzí sedět u displeje a nepřepínat na tiktok. Jenže to bude něco jako recyklovaná voda ve vesmírné stanici: dá se to pít, při troše přemýšlení si uvědomujete, že to trochu smrdí, ale chcanky v tom cítíte, jen když se zamyslíte. K čemuž v tom tlaku nebude moc prostoru.
Může se stát, že lidé zatouží po autentickém obsahu? Po příbězích, které se dějí skutečným lidem, které se skutečně staly a které možná nejsou dokonalé, ale jsou opravdové? Je to pravděpodobné - dříve nebo později přijde renesance blogů, které po roce 2010 vytěsnily sociální sítě. Koloběh se opakuje, druhá polovina třetího desetiletí bude o návratu blogů a bude to příjemné retro. Výhodu budou mít ti, kteří to nestihli zabalit, mezi něž počítám sebe. Ne, že by mi to k něčemu bylo🙂
| 