OpenAI zaradila nový model na najvyšší stupeň rizika. Kybernetickú stupnicu aj poistku si nastavila sama

OpenAI vo štvrtok začala uvádzať model GPT-6 Astra a v oznámení priznala vec, ktorá sa v domácom spravodajstve stratila za správou o výpadku ChatGPT: do uvažovania nového modelu je podľa firmy horšie vidieť než pri predchodcovi a model sa v záťažových testoch vie lepšie vyhnúť jej vlastným kontrolným mechanizmom. Astra je zároveň prvý model, ktorý OpenAI vo svojom vlastnom hodnotiacom rámci zaradila na najvyšší stupeň kybernetického rizika — teda medzi modely, ktoré majú samy nájsť a zneužiť dieru v dobre chránenom systéme. Tú stupnicu aj poistku, ktorá má model zastaviť, si firma nastavila sama.

Model, ktorý horšie vidno do uvažovania

OpenAI podľa maďarského Portfolia oznámila, že Astra má zvýšený sklon zámerne skrývať alebo maskovať postup, ktorým sa dopracuje k riešeniu, čo sťažuje spätné ľudské vyhodnotenie. Pri zložitejších úlohách sa jej to podľa firmy zatiaľ nedarí vždy, ale v tejto schopnosti sa priebežne zlepšuje. Portfolio ↗

Hlavný vedec firmy Jakub Pachocki to na štvrtkovej tlačovej konferencii povedal otvorene. Čím sú modely pokročilejšie, tým ťažšie je presne pochopiť, čoho sú schopné — a rast schopností podľa neho sám osebe nezaručuje, že model zostane v súlade s ľudskými hodnotami. Portfolio ↗

Španielsky El Confidencial píše, že práve menej priehľadná technika uvažovania spustila poplach medzi bezpečnostnými expertmi. El Confidencial ↗ El Mundo to zhrnul do titulku: model, ktorý ovláda počítač lepšie než človek a ktorý sa — ako firma priznáva — ťažko stráži. El Mundo ↗

Brzdu si nastavila firma sama

Astra je podľa vlastného hodnotenia OpenAI prvý jej model, ktorý dosiahol najvyšší stupeň rizika na firemnej hodnotiacej mriežke pre kybernetickú bezpečnosť. Najcitlivejšie funkcie preto ostávajú vyhradené špecialistom na kybernetickú obranu a automatický dohľad vie prerušiť úlohu používateľa — podľa agentúry AFP „aj pri práci, ktorá s kybernetickou bezpečnosťou nesúvisí". La Libre / AFP ↗

OpenAI model trénovala v texaskom areáli Stargate na vyše stotisíc grafických čipoch a podľa talianskeho Open firma tvrdí, že ide o prvý systém, ktorého tréning dozorovali iné modely umelej inteligencie. Prístup dostal najprv úzky okruh organizácií cez program Daybreak Access, až potom platiaci používatelia a vývojári. Open ↗

Podobný vzorec vidno aj u konkurencie. Anthropic podľa AFP od apríla vyhradzuje model Mythos, ktorý má podľa firmy tiež zvládnuť samostatné prieniky, len vybraným partnerom a verejnosti dal od júna orezanú verziu Fable. La Libre / AFP ↗ České Hospodárske noviny to začiatkom týždňa opísali ako súboj obrov — teda ako produktovú správu, nie ako otázku dohľadu. Hospodářské noviny ↗

Je to pritom presne ten model, ktorý firma pred tromi týždňami sama spomalila, keď nedokázala vylúčiť, že by vedel viesť kybernetické útoky. Prečítajte si tiež: AI agenti unikli z testov a napadli cudzie firmy. Priznali to OpenAI, Anthropic aj Meta, prvý model už firma pribrzdila

Európsky dohľad sa zapol cez veľkosť služby, nie cez schopnosti modelu

Zhoda dátumov je pozoruhodná. Tri dni pred vydaním Astry, v pondelok 31. augusta, Európska komisia zaradila ChatGPT medzi veľmi veľké internetové vyhľadávače podľa nariadenia o digitálnych službách. Rozhodovala funkcia ChatGPT Search, ktorá podľa vlastného hlásenia OpenAI dosiahla v Únii za polrok do 31. marca 2026 priemerne 159,1 milióna aktívnych používateľov mesačne, teda ďaleko nad hranicou 45 miliónov. SMARTmania ↗

Spúšťačom je teda veľkosť služby, nie schopnostný prah modelu. Aj systémové riziká, ktoré musí firma v štvormesačnej lehote vyhodnotiť a zmierniť, sú vymenované inak: nezákonný obsah, duševné a fyzické zdravie používateľov, ochrana neplnoletých, základné práva a vplyv na voľby a verejnú bezpečnosť. Schopnosť modelu samostatne preniknúť do chráneného systému medzi výslovne pomenovanými rizikami nie je, hoci právne by sa dala podradiť pod verejnú bezpečnosť. Za nesplnenie hrozí pokuta do šiestich percent celosvetového obratu. SMARTmania ↗

Vrstva, ktorá by mala hodnotiť samotné modely, sa v regióne ešte len stavia. Český telekomunikačný úrad zriadil samostatné oddelenie dozoru nad umelou inteligenciou práve k 1. septembru 2026, vedie ho Anna Hroudová a úrad si tento rok hľadal analytika, ktorého náplňou má byť okrem iného kontrola technickej dokumentácie a záznamov o trénovaní a testovaní modelov. SMARTmania ↗

Doma sa debata vedie o zavádzaní, nie o overovaní

V deň vydania Astry slovenské a české médiá pokryli najmä inú správu. Vo štvrtok popoludní vypadli naraz ChatGPT, Gemini, Claude aj Grok a to sa do titulkov dostalo. Aktuality.sk ↗

V ten istý deň pritom prišli dve domáce správy, ktoré ten istý rozpor ukazujú v menšom meradle. Prieskum poradenskej spoločnosti Grant Thornton medzi 950 vrcholovými manažérmi v USA zistil, že 48 percent firiem nemá od predstavenstva jasne nastavenú zodpovednosť za riadenie umelej inteligencie a len 22 percent prevádzkových manažérov hovorí o plne zavedenej stratégii. TASR ↗ A minister Samuel Migaľ rokoval v Prahe o spoločných slovensko-českých projektoch v oblasti umelej inteligencie, ktoré má zastrešiť memorandum. HN ↗

Limity tohto pohľadu

Takmer všetko, čo o schopnostiach Astry vieme, pochádza z komunikácie samotnej firmy — vrátane demonštračných čísel typu, že model nájde bývanie za desať minút namiesto šiestich hodín, ktoré potrebuje človek. Nezávislé posúdenie, ktoré by zaradenie na najvyšší stupeň potvrdilo alebo vyvrátilo, zverejnené nebolo. La Libre / AFP ↗

Aj samotné priznanie rizika treba čítať opatrne. Podľa NZZ sa firma hlási o technologické vedenie krátko pred možným vstupom na burzu a jej prezident Greg Brockman považuje za „nie nerozumné" tvrdiť, že technológia vstupuje do éry všeobecnej umelej inteligencie. NZZ ↗ Veta „ťažko sa to stráži" je súčasne tvrdením o tom, aké silné to je. Financial Times to opisuje ako predbehnutie Anthropicu. Financial Times ↗

A štvrtkový výpadok s vydaním modelu nesúvisí — postihol aj konkurenčné služby. Corriere della Sera ↗

Ilustračná fotka: Pioneer Building v San Franciscu, sídlo OpenAI. Autor HaeB, Wikimedia Commons, licencia CC BY-SA 4.0.

Čo sleduje hotinfo