Dvadsaťsedemročný britský výskumník Jacob Coxon, ktorý tri roky pracoval na predtrénovaní modelov umelej inteligencie v spoločnostiach OpenAI a Anthropic, oznámil svoj odchod z odvetvia. Vo svojom rezignačnom príspevku na sieti X napísal, že ani jedna z týchto dvoch spoločností nekoná zodpovedne. Le Monde ↗
Coxon uviedol, že ľudia, ktorí umelú inteligenciu vyvíjajú, vážne veria, že by táto technológia mohla do konca desaťročia zabiť všetkých ľudí. Podľa neho sa veľké firmy vyvíjajúce AI v podstate hrajú s ľudskými životmi a ich konanie je nezodpovedné.
Jeho bývalý nadriadený Coxonovo rozhodnutie odísť podporil a odhadol, že pravdepodobnosť vyhladenia ľudstva umelou inteligenciou v najbližších rokoch presahuje desať percent. Samotný Coxon pred odchodom vyhlásil, že technológia môže ľudstvo zničiť ešte pred rokom 2030. SITA ↗
Obavy nevyjadruje len Coxon. Znepokojenie nad tempom vývoja čoraz výkonnejších systémov priznal aj výskumný riaditeľ spoločnosti OpenAI. Debata o bezpečnosti umelej inteligencie sa v uplynulých mesiacoch zintenzívnila, keďže spoločnosti si navzájom konkurujú vo vývoji stále schopnejších modelov. Kritici v tejto súvislosti upozorňujú na riziko takzvaného rekurzívneho samostatného zlepšovania, teda schopnosti umelej inteligencie vylepšovať samu seba bez dostatočného ľudského dohľadu, čo by podľa nich mohlo viesť k strate kontroly nad touto technológiou. Spiegel.de ↗
Výskumník opustil Anthropic aj OpenAI s varovaním pred zánikom ľudstva
Toto zhrnutie bolo vygenerované umelou inteligenciou. Môže obsahovať nepresnosti. Overujte informácie v pôvodných zdrojoch nižšie.
Zdroje (7)
Anthropic-Forscher: KI Risiko für Menschen
ORF
| 12:04 09.09.
‘Gambling with our lives’: AI researcher quits Anthropic with dire warning about safety
Politico Europe
| 09:44 09.09.
Drastische Mahnungen: KI-Forscher: Künstliche Intelligenz ein Risiko für Menschen
Die Zeit
| 09:11 09.09.
Un investigador de Anthropic dimite porque asegura que la IA “puede matarnos antes de 2030”
El Pais
| 13:01 09.09.
„Sie spielen mit unserem Leben“ – Anthropic-Forscher kündigt und erhebt schwere Vorwürfe
Welt
| 11:55 09.09.
„Riskují budoucnost lidstva.“ Výzkumník OpenAI a Anthropicu varoval před superinteligencí
novinky.cz
| 10:01 09.09.
« Les gens qui construisent l’IA croient qu’elle pourrait tous nous tuer d’ici à la fin de la décennie » : le chercheur Jacob Coxon, qui a travaillé pour Anthropic et OpenAI, quitte l’industrie
Le Monde
| 09:54 09.09.
🔥 Mohlo by vás zaujímať
Umelá inteligencia
Obavy z rýchleho vývoja AI silnejú. Anthropic opúšťa mladý výskumník
📰
Umelá inteligencia
Vývojáři umělé inteligence vážně věří, že by nás AI mohla do konce dekády zabít, varuje expert
Jacob Coxon před časem pracoval v OpenAI a ze svého místa ve firmě Anthropic, jež se také zabývá umělou inteligencí, právě odešel. „Ani jedna ze společností nej …
Umelá inteligencia
Zabije nás? Vývojář odhadl, za jak dlouho může AI vyhladit celé lidstvo
Výzkumník společnosti Anthropic Jacob Coxon opouští firmu i celý obor umělé inteligence (AI). Důvodem jsou obavy, že Anthropic a jeho konkurenti příliš rychle v …
© HotInfo
Z našej redakcie pôvodné
Všetko →Slovan pred debutom v Paríži: Touré nechce hrať v strachu
Kremeľ hrozí Maďarsku odvetou za vyhostenie diplomatov. Ich činnosť Orbánova vláda podľa exministra prehliadala
Pápež v novembri navštívi tri krajiny Južnej Ameriky. Návšteva Slovenska zatiaľ nemá potvrdený termín
Pirátskych útokov bolo za polrok najmenej od roku 1992. Somálski piráti pritom zajali 94 percent všetkých rukojemníkov na mori
Obnova budovy Najvyššieho súdu ide do súťaže druhýkrát. Pribudol druhý súd a odhad stavby stúpol o dvanásť miliónov
Nórsko pochovalo kráľa Haralda V. v Osle
Merz čelí kritike po volebnom neúspechu v Sasku-Anhaltsku
Dohoda o Hormuze sľubovala prieliv bez poplatkov. V texte stojí, že len na šesťdesiat dní
