Umělou inteligenci k psaní článků používám poměrně dlouho, ale zatím vždy to bylo pro psaní faktograficky orientovaných textů. Pro beletrii jsem ji nepoužíval, protože samotné generování beletristického textu mi nedávalo výsledek, který by stál za to. Text nemá spád, bývá naivní, plný klišé. Možná to jde poladit lepším promptováním, ale to já rychleji napíšu lepší text, než to napromptuji do Claude.
Nedávno jsem se domluvil s časopisem Forbes, že pro jejich technologické vydání napíšu scifi povídku. A ta má svůj rozsah.
Téma mi bylo jasné hned: eklog. To je technologie, která se používá v druhém díle Flotily Země. Eklog zaznamenává všechno, co uděláte a počítá, jak moc přínosné to bylo. A podle toho vám zpřístupňuje podíl na celkovém bohatství společnosti. Je to způsob peněženky ve světě, kde zmizely jiné peníze. Je to způsob prokázání totožnosti, protože to, jak se chováte odpovídá na otázku, kdo jste. Je to naprostá změna paradigmatu, protože aby byl eklog důvěryhodný, je také vše v něm zaznamenané veřejně, do blockchainu. Nedá se krást ani lhát, protože všechno je hned vidět. Jen malá část světa je neveřejná - vlastně jen to, co máte v hlavě, protože cokoliv uděláte, velmi pravděpodobně nějaký senzor zaznamená a eklog vyhodnotí.
Je to koncept, který mě fascinuje ve třech směrech. Technologicky tím, že je dnes v podstatě proveditelný. Ekonomicky tím, že odstraní celou řadu problémů - a povídka je o tom, že přinese celou řadu nových. A to samé společensky: je to obrovská proměna společnosti a je nesmírně zajímavé se ponořit do toho, jaké důsledky by měla.
Povídka začíná setkáním dvou mužů, vyšetřovatele s auditorem eklogu. Auditor vypráví o problému, který zjistili: někomu se podařilo podvést neoklamatelné zařízení. A tak první velké otevření je jen rekapitulací toho, jak takový svět funguje. Jenže, co dál? Tím jsem vyčerpal velkou část rozsahu.
A tak jsem povídku nahrál do Claude a zeptal se ho, jaká by měla být další zápletka.
To je velmi zajímavý koncept pro sci-fi povídku! Zařízení eklog zní jako fascinující technologie s potenciálem pro hluboké společenské dopady. Zde je návrh zápletky, která by mohla postavit eklog do centra příběhu:
Hlavní hrdinka, řekněme Anna, je vývojářka, která pomáhala vytvořit eklog. Zpočátku věřila, že tato technologie přinese spravedlivější společnost. Ale jak se eklog stává všudypřítomným, Anna si začne všímat znepokojivých trendů:
Lidé se stávají posedlí svým “skóre přínosu” a dělají věci jen proto, aby zvýšili své hodnocení, ne z upřímné touhy pomáhat.
Vzniká nová forma sociální nerovnosti, kde ti s nízkým skóre mají potíže získat přístup k základním službám.
Objeví se černý trh s falešnými “dobrými skutky” pro zvýšení skóre.
Zápletka se může točit kolem Annina objevu závažné chyby v algoritmu eklogu, která nesprávně hodnotí určité typy přínosů. Stojí před dilematem:
Odhalit chybu a riskovat zhroucení celého systému, na kterém je nyní společnost závislá?
Nebo se pokusit chybu tajně opravit, což by mohlo vést k drastickým změnám v hodnocení lidí bez jejich vědomí?
Během svého rozhodování Anna objeví skupinu “odpojených” - lidí, kteří odmítli používat eklog. Toto setkání ji přiměje přehodnotit své předpoklady o technologii a společnosti.
Vyvrcholením příběhu by mohlo být Annino konečné rozhodnutí a jeho důsledky, které by odhalily hlubší pravdy o lidské povaze, hodnotě a společnosti.
Tento příběh by umožnil prozkoumat etické otázky kolem kvantifikace lidského přínosu, soukromí, svobodné vůle a neúmyslných důsledků dobře míněných technologií - to vše se zařízením eklog v centru narativu.
Chcete, abych tento koncept dále rozvinul nebo se zaměřil na nějaký konkrétní aspekt zápletky?
Navržené zápletky jsou očekávatelné a naivní, ale za prvé je zajímavé, že Claude ihned pobral fungování zařízení, takže konceptuálně to drží hlavu a zadek. Za druhé předložené zápletky stojí za prozkoumání. Falešný trh s dobrými skutky například je pěkné téma, které se hodí do ekonomicky zaměřeného Forbesu.
Dávám si kratší chat s Claude, kde možnost falšování skutků domýšlíme. Při té příležitosti jsme si technicky eklog navrhli, abychom věděli, jaká omezení máme. Dáváme si také odbočku. Může být eklog vnímaný jako přínosné zařízení, nebo je to zařízení pro kontrolu a svázání společnosti? Klasické scifi by řeklo, že je to totalita, ale nechci klasiku. Rychle nám v diskusi krystalizují klíčové parametry, jimiž je transparence umožňující rychlejší a účinnější šíření myšlenek a tím akceleraci vývoje. Dále menší zátěž na společnost plynoucí v vymizení kriminality. A do třetice velmi spravedlivý podíl na rostoucím bohatství, který umožní odstranit třeba i koncept patentů a ochrany intelektuálního vlastnictví. Ta je teď samozřejmou součástí světa. Mám rád, když povídka může přinést zamyšlení nad něčím, co bereme jako definici. Je tajemství ochranou nebo nákladem na víc? S AI to lze rozebrat, aniž by z vás někdo dělal idiota, bez předsudků.
Například mě zajímá, jaké by byly výhody naprosté transparentnosti a jaká by mohla být kritika starého způsobu života, kde byly záležitosti utajovatelné, soukromé. Co navrhuje Claude?
Výborná otázka. Pojďme se podívat na potenciální výhody naprosté transparentnosti a možnou kritiku starého systému:
Výhody naprosté transparentnosti:
- Snížení kriminality:
- Téměř nemožné spáchat zločin bez odhalení.
- Prevence korupce a podvodů.
- Zvýšená odpovědnost:
- Lidé by byli nuceni nést následky svých činů.
- Politici a veřejní činitelé by nemohli skrývat své aktivity.
- Efektivnější společnost:
- Snadnější identifikace a řešení společenských problémů.
- Optimalizace zdrojů na základě přesných dat o chování a potřebách lidí.
- Důvěra a otevřenost:
- Méně lží a podvodů v mezilidských vztazích.
- Větší upřímnost v osobních i profesionálních interakcích.
- Zdravotní benefity:
- Lepší sledování zdravotního stavu a včasná prevence nemocí.
- Přesnější a personalizovaná zdravotní péče.
- Meritokracie:
- Spravedlivější hodnocení lidí na základě skutečných zásluh a přínosů.
- Omezení nepotismu a protekce.
- Rychlejší pokrok:
- Sdílení znalostí a inovací bez omezení.
- Efektivnější výzkum a vývoj díky otevřeným datům.
Kritika starého způsobu života s utajitelnými, soukromými záležitostmi:
- Neefektivita:
- Plýtvání zdroji na udržování tajemství a soukromí.
- Duplikace úsilí kvůli nedostatku sdílení informací.
- Nespravedlnost:
- Možnost pro privilegované skupiny skrývat neetické chování.
- Nerovné příležitosti kvůli skrytým informacím.
- Stagnace:
- Omezený pokrok kvůli zadržování důležitých informací.
- Pomalejší řešení globálních problémů kvůli nedostatku sdílených dat.
- Nedůvěra:
- Vytváření atmosféry podezřívavosti a nejistoty.
- Ztížená budova důvěry v mezilidských i mezinárodních vztazích.
- Pokrytectví:
- Umožnění dvojích standardů mezi veřejným a soukromým životem.
- Schopnost maskovat škodlivé chování za fasádou ctnosti.
- Bezpečnostní rizika:
- Možnost skrývat potenciální hrozby společnosti.
- Ztížená prevence terorismu a organizovaného zločinu.
- Emocionální zátěž:
- Stres z udržování tajemství a strachu z odhalení.
- Komplikace v mezilidských vztazích kvůli nedostatku otevřenosti.
V kontextu vaší povídky by tyto argumenty mohly být použity různými frakcemi pro obhajobu nebo kritiku systému eklog. Mohli byste například vytvořit postavy, které vehementně zastávají tyto pozice:
- Zastánce transparentnosti, který argumentuje, že starý systém byl plný neefektivity a nespravedlnosti.
- Kritik nového systému, který varuje před ztrátou lidskosti a individuality v plně transparentní společnosti.
Toto napětí mezi výhodami transparentnosti a cenou za ztrátu soukromí by mohlo být ústředním konfliktem vašeho příběhu. Jak si myslíte, že by vaše hlavní postava navigovala mezi těmito protichůdnými pohledy?
Rozehrát napětí mezi transparentností a cenou za ztrátu soukromí ale rozsah nedovoluje, což Claude nedomyslel. Nakonec příběh končí jiným dilematem, z něhož si hrdinové volí.
Ačkoliv jsem si to původně nemyslel, AI byla pro psaní příběhu velkou pomocí. Umožnila mi rychle promyslet veškeré aspekty hypotetického světa a neudělat nějakou logickou botu (doufám!).
Svět je nám blízký, na natažení ruky, protože obsahuje technologie, které už dnes existují. A přitom je nesmírně jiný, protože je používá jinak. Přitom stačilo jediné: někdo je takto uzákonil. Jasně cítíte, že takový příběh je jen o jeden či dva paralelní vesmíry od vás. Jestli byste ho brali nebo nebrali, to už je vaše přemýšlení. Jestli krátká povídka takové přemýšlení nad změnami ve společnosti iniciuje, pak splnila účel.
Je pravda, že když jsem nechal Claude napsat samostatný text, nedal se do povídky použít. Například jsem Claude nechal navrhnout řeč na zasedání vlády, ale byla plná klišé, neměla dynamiku, nešla použít. Jenomže byla plná naťuknutí, výstup Claude mě nakonec navedl na vcelku atraktivní průběh, se kterým jsem spokojen. Jistě, že bych si k tomu všemu nějak došel sám, ale za podstatně více mého času. Celý svět bych si promýšlel při mnoha bězích, než by mi to dávalo smysl. V tomhle byla pomoc AI neocenitelná.
Otázka je, zda jednou bude AI schopná napsat příběh samostatně. Ještě před pěti lety bych si to nemyslel. Nevěřil bych, že bude AI schopná tvůrčího procesu, protože jsem nikde neviděl ani známku toho, že by byla někde na začátku. Dnes je vidět, že konstrukce příběhu odpovídá cca patnáctiletému člověku - a tedy, že jsme začali. A že AI je schopná se učit. Je zajímavé, že její kombinatorické a analytické schopnosti jsou vyšší, než ty tvůrčí. Umí vymyslet kostru, chytlavé body, ale neumí z nich udělat dobře plynoucí děj, rozhovor, příběh. Tam ještě živého zkušeného autora nenahradí. Ale dejme tomu pár let a i to přijde…
