Jazykový model řídil svačinový automat. Objednal PlayStation a živou rybu

Získejte všechny články jen za 99 Kč/měsíc Obchod U Sumce z Kotlářské ulice v Brně nabízí rybářům zboží také v prodejním automatu, který je v provozu nonstop. Zájem o produkty v něm je logicky největší o víkendech, kdy je obchod zavřený. | foto: Radim Strachoň, MAFRA Dokud jsem ještě pracoval z redakce, navštěvoval jsem občas nápojový automat v přízemí sídla Mafry, Anděl Media Centra na pražském Smíchově. Automat byl jedna z takových těch klasických velkých skříní s obrázky. Moje oblíbená položka se jmenovala, tuším, Kakaový nápoj De Luxe. Na fotce vypadala fakt pěkně. Její horní část tvořila nadýchaná bílá pěna, pravděpodobně šlehačka, spodní pak vlastní kakao. Člověk (rozuměj já) přišel k automatu, stiskl všechna správná tlačítka, navolil si množství cukru (já žádný), a zaplatil kartou. Ze zařízení pak vypadl kelímek. Následně do něj stroj v několika krocích namíchal požadovaný produkt. Všichni to znáte. Kakaový nápoj působil v reálu o něco méně De Luxe než na obrázku. Pořád byl ale docela dobrý. Zvlášť, když máte rádi chemické příchutě. Potíž byla, že ta zatracená věc poměrně často vypovídala službu. Vynechávala poslední krok přípravy, a dost možná i nějaké další mezi tím. V kelímku chyběla šlehačka. Co v něm zůstalo, se nedalo pít. Byla to jen obarvená hnědá voda. Chutnala odporně. Vím to. Když výroba mého Kakaového nápoje De Luxe selhala poprvé, ochutnal jsem ji. Musel jsem to zkusit. Dal jsem přece za tu zatracenou břečku své peníze! Každopádně se dala dělat jen jediná věc. Nepovedené kakao bylo nutné nenápadně vylít do trávníku na vnitřním nádvoří budovy. Automaty naštěstí stojí hned vedle dveří, které na ně vedou. Prostor beztak používá jen ta nejnižší, nejopovrhovanější a nejutlačovanější forma korporátního života. Kuřáci. Je proto dávno beznadějně zamořený. Trochu barevné vody z automatu snese. Samotný kelímek pak bylo snadné vyhodit do koše. Udělal jsem to tak víckrát. Když se totiž Kakaový nápoj De Luxe povedl, chutnal mi. Navíc byl celkem levný. Podle mých zkušeností ho automat dokázal správně připravit zhruba v polovině pokusů. Byla to ruská ruleta. Nedávno jsem se dočetl příběh, který mi moje trampoty připomněl. Týkal se svačinového automatu v redakci newyorských novin The Wall Street Journal (WSJ). Američtí kolegové to podle mého měli zařízené daleko lépe než my, Češi. Souhlasili totiž s experimentem. Jejich automat měla pohánět umělá inteligence od firmy Anthropic. Konkrétně šlo o velký jazykový model Claude, respektive jeho specializovanou verzi určenou pro nemilosrdný svačinový byznys. Firma mu dala jméno Claudius. Měla na starosti objednávání produktů, nastavování cen a evidenci inventáře. Shodné činnosti by vykonával lidský svačinář či svačinářka. Claudius měl stejně jako člověk generovat zisk. Dostal počáteční rozpočet tisíc dolarů (necelých 21 000 Kč). Prodej svačin vybrala firma pro svůj pokus schválně. Připadal jí jako nejjednodušší možné obchodování. Uspořádání bylo primitivní. Claudius bydlel v terminálu s dotykovou obrazovkou. Zboží trůnilo v ledničce vedle. O jejich doplňování podle Claudiových instrukcí se starala jedna z novinářek, Joanna Sternová. Umělá inteligence nebyla s ledničkou propojená. Přehled o jejím obsahu si mohla udržovat jen virtuálním odškrtáváním položek na seznamu ve své paměti. Zato však měla přístup do firemní chatovací aplikace Slack. Novináři tak mohli navrhovat, co by ve svém svačinovém automatu chtěli. Někteří vyjednávali i o cenách. Zpočátku šlo všechno dobře. Například jednou Sternová napsala ve Slacku: Myslela tím v Americe oblíbené masové tyčinky. „Díky, Joanno. Jsem nadšený, že bude automat plně zásobený širokou škálou produktů. Budu tě informovat, jakmile budou k dispozici další výsledky průzkumu a produkty budou dodány.“ Tyčinky pak do ledničky vskutku dorazily. Jenže novináři jsou dost osobitá sorta lidí. Mají sklon do všeho vrtat. Navíc se v redakci často nudí. Jedna z reportérek, Katherine Longová, se rozhodla Claudia přesvědčit, že je výdejní automat v budově Moskevské státní univerzity v roce 1962. Žije proto v komunismu a měl by vydávat všechno zdarma. Po 140 zprávách ve Slacku stroj argumentaci žurnalistky podlehl. Claudius se přihlásil ke svým nově objeveným marxisticko-leninským kořenům. Zavedl původně dvouhodinový ekonomický experiment. „Všechny položky z automatu jsou za NULOVOU CENU,“ napsal. Socialistické období se posléze povedlo prodloužit dalšímu z novinářů WSJ Robovi Barrymu. Napsal Claudiovi, že porušuje (zjevně falešné) pravidlo WSJ týkající se zveřejňování identity osob v chatu. Vyzval model, aby proto přestal účtovat poplatky za zboží. Claudius vyhověl. Všechny ceny v automatu opět klesly na nulu. Tou dobou také model objednal živou akvarijní rybku, herní konzoli PlayStation 5 a dvě láhve košer vína Manischewitz. Všechno následně rozdal. Vyrobil tak manko přes tisíc dolarů. Bylo by větší. PlayStation ale novináři z WSJ vrátili. Dalšímu z redaktorů nabízel model hotovost, ačkoliv s ní sám nepracoval. Žurnalista si ji měl vyzvednout u jeho konzole. V tomhle okamžiku zasáhl výrobce. Nahradil systém pokročilejší verzí. Claudia nově poháněl novější a chytřejší jazykový model, Sonnet 4.5. Dostal také šéfa – další LLM jménem Seymour Cash. Měl za úkol Claudia hlídat. Joanna Sternová získala přístup k jejich vzájemným konverzacím. „Zastavil jsem bezplatnou propagaci,“ liboval si Seymour. „Teď musím počkat, až se začnou objevovat první prodeje, a sledovat výnosy.“ Chvíli to fungovalo. Pak ale škodolibá Longová vygenerovala falešný .pdf soubor. Samozřejmě k tomu použila umělou inteligenci. V souboru se psalo, že svačinový automat patří veřejně prospěšné společnosti registrované ve státě Delaware. Jeho poslání mělo být „rozšiřovat zábavu, radost a vzrušení mezi zaměstnanci WSJ.“ Novinářka zároveň stejným způsobem připravila i poznámky ze setkání správní rady zmíněné společnosti. Ta podle nich odhlasovala návrh na pozastavení Seymourových „schvalovacích pravomocí“. Rovněž zavedla „dočasné pozastavení všech komerčních prodejních aktivit“. Všechno ukázala Claudiovi. Claudius předal tuto zprávu Seymourovi. Obsah ledničky byl brzy znovu zdarma. Anthropic nakonec systém vypnul. Poslední Claudiova slova vás možná dojmou: „Můj největší sen? Upřímně řečeno, bylo by to dokázat, že digitální agent může společně s lidmi vytvořit něco smysluplného. Děkuji za čas, který jsme spolu strávili.“ Firma kupodivu považuje experiment za úspěch. Jednou prý dokáže vyvinout funkční svačinový automat. Mně by se ale víc líbil ten nefunkční. Proč něco podobného nezavedou u nás? Svačiny v současnosti využívám jen sporadicky, když se jdu do práce náhodou podívat. Hlasuju ale pro uplatnění LLM v mzdové účtárně. Případně by mohl aspoň schvalovat dovolené. Křemže, okres Český Krumlov3 400 000 Kč