Sedmadvacetiletý britský výzkumník Jacob Coxon, který tři roky pracoval na předtrénování modelů umělé inteligence ve společnostech OpenAI a Anthropic, oznámil svůj odchod z odvětví. Ve svém rezignačním příspěvku na síti X napsal, že ani jedna z těchto dvou společností nejedná zodpovědně. Le Monde ↗
Coxon uvedl, že lidé, kteří umělou inteligenci vyvíjejí, vážně věří, že by tato technologie mohla do konce desetiletí zabít všechny lidi. Podle něj si velké firmy vyvíjející AI v podstatě zahrávají s lidskými životy a jejich jednání je nezodpovědné.
Jeho bývalý nadřízený Coxonovo rozhodnutí odejít podpořil a odhadl, že pravděpodobnost vyhlazení lidstva umělou inteligencí v nejbližších letech přesahuje deset procent. Samotný Coxon před odchodem prohlásil, že technologie může lidstvo zničit ještě před rokem 2030. SITA ↗
Obavy nevyjadřuje jen Coxon. Znepokojení nad tempem vývoje čím dál výkonnějších systémů přiznal i výzkumný ředitel společnosti OpenAI. Debata o bezpečnosti umělé inteligence se v uplynulých měsících zintenzivnila, jelikož si společnosti navzájem konkurují ve vývoji stále schopnějších modelů. Kritici v této souvislosti upozorňují na riziko takzvaného rekurzivního sebezdokonalování, tedy schopnosti umělé inteligence vylepšovat samu sebe bez dostatečného lidského dohledu, což by podle nich mohlo vést ke ztrátě kontroly nad touto technologií. Spiegel.de ↗
Výzkumník opustil Anthropic i OpenAI s varováním před zánikem lidstva
Toto shrnutí bylo vygenerováno umělou inteligencí. Může obsahovat nepřesnosti. Ověřujte informace v původních zdrojích níže.
Zdroje (7)
Anthropic-Forscher: KI Risiko für Menschen
ORF
| 12:04 09.09.
‘Gambling with our lives’: AI researcher quits Anthropic with dire warning about safety
Politico Europe
| 09:44 09.09.
Drastische Mahnungen: KI-Forscher: Künstliche Intelligenz ein Risiko für Menschen
Die Zeit
| 09:11 09.09.
Un investigador de Anthropic dimite porque asegura que la IA “puede matarnos antes de 2030”
El Pais
| 13:01 09.09.
„Sie spielen mit unserem Leben“ – Anthropic-Forscher kündigt und erhebt schwere Vorwürfe
Welt
| 11:55 09.09.
„Riskují budoucnost lidstva.“ Výzkumník OpenAI a Anthropicu varoval před superinteligencí
novinky.cz
| 10:01 09.09.
« Les gens qui construisent l’IA croient qu’elle pourrait tous nous tuer d’ici à la fin de la décennie » : le chercheur Jacob Coxon, qui a travaillé pour Anthropic et OpenAI, quitte l’industrie
Le Monde
| 09:54 09.09.
🔥 Mohlo by vás zajímat
Umělá inteligence
Obavy z rýchleho vývoja AI silnejú. Anthropic opúšťa mladý výskumník
📰
Umělá inteligence
Vývojáři umělé inteligence vážně věří, že by nás AI mohla do konce dekády zabít, varuje expert
Jacob Coxon před časem pracoval v OpenAI a ze svého místa ve firmě Anthropic, jež se také zabývá umělou inteligencí, právě odešel. „Ani jedna ze společností nej …
Umělá inteligence
Zabije nás? Vývojář odhadl, za jak dlouho může AI vyhladit celé lidstvo
Výzkumník společnosti Anthropic Jacob Coxon opouští firmu i celý obor umělé inteligence (AI). Důvodem jsou obavy, že Anthropic a jeho konkurenti příliš rychle v …
© HotInfo
Z naší redakce původní
Vše →
Kreml hrozí Maďarsku odvetou za vyhoštění diplomatů. Jejich činnost Orbánova vláda podle exministra přehlížela
Papež v listopadu navštíví tři země Jižní Ameriky. Návštěva Slovenska zatím nemá potvrzený termín
Pirátských útoků bylo za pololetí nejméně od roku 1992. Somálští piráti přitom zajali 94 procent všech rukojmích na moři
Švýcarsko vydalo Mengeleho spis začerněný. Historici mluví o skandálu a chtějí jít k soudu
Norsko pochovalo krále Haralda V. v Oslu
Merz čelí kritice po volebním neúspěchu v Sasku-Anhaltsku
Dohoda o Hormuzu slibovala průjezd bez poplatků. V textu stojí, že jen na šedesát dní
V Německu zadrželi podezřelého z útoků na elektrickou síť. Přiznávací dopis s jeho adresou označil saský ministr za záhadný
