Společnost Anthropic v posledních měsících zablokovala několik pokusů o zneužití modelů Claude na kybernetické útoky a výzkum související s biologickými zbraněmi. Firma uvedla, že někteří uživatelé se pokoušeli obejít bezpečnostní mechanismy a získávat pomoc při citlivých projektech. aktuality.sk ↗
Anthropic zároveň informoval o případech, při kterých byly jeho modely využívány ke státem podporovanému sledování a dalším operacím. Společnost tvrdí, že zasáhla proti aktivitám spojeným s aktéry z Číny a Íránu. V samostatné zprávě popsala i využití umělé inteligence při kybernetických útocích, propagandě a monitorování lidí. teraz.sk ↗
Nové informace posílily diskusi o potřebě přísnějších pravidel pro umělou inteligenci ve Spojených státech. Debata se týká zejména kontroly výkonných modelů, odpovědnosti jejich provozovatelů a způsobů, jak zabránit jejich využití při útocích nebo vývoji nebezpečných technologií.
Bezpečnostní incidenty zároveň ukazují, že obavy z možného zneužití AI se netýkají jen hypotetických scénářů. Firmy musí řešit i případy, kdy uživatelé cíleně zkoušejí obejít ochranná opatření nebo využívají modely v koordinovaných operacích. Ve Spojených státech se proto očekává pokračování diskuse o regulaci sektoru a o hranicích vývoje stále výkonnějších systémů. hnonline.sk ↗
Anthropic čelí tlaku po varováních i odhaleních zneužití AI
Toto shrnutí bylo vygenerováno umělou inteligencí. Může obsahovat nepřesnosti. Ověřujte informace v původních zdrojích níže.
Zdroje (5)
Anthropic zablokoval pokusy o zneužitie svojich AI modelov na kybernetické útoky
aktuality.sk
| 11:32 11.09.
Anthropic stoppt mögliche Versuche, KI zur Entwicklung von Biowaffen zu nutzen
Welt
| 08:57 11.09.
Anthropic says China, Iran used its AI to aid spying
RTE News
| 08:38 11.09.
OpenAI envisage de ralentir le développement de l’IA, aurait confirmé Sam Altman à ses salariés
Le Figaro
| 06:17 11.09.
Abschöpfen von Daten - Peking weist US-Vorwürfe gegen chinesische KI-Firmen zurück
Deutschlandfunk
| 11:58 09.09.
🔥 Mohlo by vás zajímat
Umělá inteligence
Mrazivé odhalenie zo sveta AI: Útočníci chceli cez známeho chatbota navrhovať zbrane a šíriť vírusy
Anthropic prekazil nebezpečné pokusy o zneužitie bota Claude. Americký startup zaoberajúci sa umelou inteligenciou (AI) Anthropic oznámil, že v posledných mesia …
📰
Umělá inteligence
Anthropic zablokoval pokusy o zneužitie svojich AI modelov na kybernetické útoky
Americký startup zaoberajúci sa umelou inteligenciou (AI) Anthropic oznámil, že v posledných mesiacoch prekazil pokusy o využitie rôznych modelov četbota Claude …
Umělá inteligence
Povinná výučba AI na školách a vyskúšali sme bizarný experiment s ňou
Južná Kórea rozdá vlastnú AI všetkým občanom zadarmo, kým slovenské školy zavádzajú opatrné lekcie. Svet umelej inteligencie zažíva obrovské posuny na úrovni ce …
© HotInfo
Geografické lokality
Z naší redakce původní
Vše →
Iľja Jašin vyzval Rusy k protestu proti Putinově straně
Babišova vláda čelí kritice, Macinka zůstává jejím členem
Po vítězství AfD se v Německu prohlubuje spor o další postup
Chorvatská vláda nechá spálit 650 tun odpadu v cementárnách. V podzemní vodě u skládky naměřili dvojnásobek limitu pro pitnou vodu
Do vojenských škol v Podněstří nastoupilo 127 dětí. V kasárenském režimu žijí už od jedenácti let
Model hledající chyby v softwaru dostala Unie později. Smí ho použít jen na obranu
Španělské služby sledují pochod za osvobození Ceuty. Má být tři dny před marockými volbami
Izrael otevřel v Lublani první stálé velvyslanectví. Delo vysvětluje, čím se Slovinsko stalo pro Netanjahua cenným
