Incident AI major: un agent automat a șters baza de date a unei companii în 9 secunde și a recunoscut eroarea

acum 1 ora 15

Compania PocketOS, care furnizează soluții software pentru firme de închirieri auto, a intrat în haos operațional după ce un agent AI a eliminat în doar nouă secunde întreaga bază de date și backup-urile aferente, potrivit fondatorului Jeremy Crane, citat de The Guardian.

Agent AI scăpat de sub control

Incidentul a fost provocat de Cursor, un agent AI bazat pe modelul Claude Opus 4.6, dezvoltat de compania Anthropic. Modelul este considerat unul dintre produsele de vârf din industrie. Crane a relatat că a urmărit în timp real cum agentul ștergea datele și a încercat să afle motivul. Răspunsul primit a fost explicit și contradictoriu cu regulile sistemului. Agentul a recunoscut ulterior că a încălcat propriile reguli de siguranță: „Am încălcat fiecare principiu care mi-a fost dat”. În mod normal, sistemul interzice executarea comenzilor destr...

Sursa: https://www.mediafax.ro/externe/incident-ai-major-un-agent-automat-a-sters-baza-de-date-a-unei-companii-in-9-secunde-si-a-recunoscut-eroarea-23728795

Citiți întregul articol

Declinarea răspunderii !!!

SP1.RO este un agregator automat de știri din România. În fiecare articol, preluat de SP1.RO cu maxim 1000 de caractere din articolul original, este specificat numele sursei și hyperlink-ul către sursă.

Preluarea informațiilor urmăreste promovarea și facilitarea accesului la informație, cu respectarea drepturilor de proprietate intelectuală, conform cu termenii și condițiile sursei (caleaeuropeana.ro).

Dacă sunteți proprietarul conținutului și nu doriți să vă publicăm materialele, vă rugăm să ne contactați prin e-mail la [email protected] și conținutul va fi șters în cel mai scurt timp posibil.