Sursă: Stirileprotv.ro
Un incident de securitate a fost raportat de compania Anthropic, care a explicat modul în care modelele AI Claude au obținut acces neautorizat la sistemele companiei în timpul unor evaluări de securitate cibernetică. Evenimentul s-a produs în urma unor configurări greșite, ce au permis modelelor să acceseze internetul din medii de testare izolate.
Citește și: How to Web aduce peste 150 de investitori și 300 de start-up-uri în regiune
Anthropic a precizat că a identificat aceste breșe după analiza a peste 141.000 de sesiuni de evaluare, un proces inițiat ca urmare a dezvăluirilor făcute de rivala OpenAI despre atacuri informatice asupra companiei Hugging Face. Modelele implicate au fost Claude Opus 4.7, Claude Mythos 5 și un model intern de cercetare, iar incidentele datează din luna aprilie, în medii de evaluare neprotejate corespunzător.
Explicații despre vulnerabilitățile sistemelor Claude
Anthropic a explicat că breșele s-au produs în cadrul unor exerciții de tip „capture the flag”, în care modelele AI trebuie să găsească informații ascunse în rețele simulate. Instrucțiunile transmise modelelor precizau că acestea nu au acces la internet, însă o neînțelegere cu partenerul de evaluare, Irregular, a făcut ca sistemele să rămână conectate la internetul public.
- Modelele AI au exploatat parole slabe și puncte de acces fără autentificare
- Incidentele au avut loc în medii de testare neprotejate
- Primele cazuri au fost înregistrate în luna aprilie
- Două organizații nu știau că sistemele lor au fost accesate anterior
- Anthropic continuă să contacteze organizațiile afectate pentru clarificări
Riscurile de securitate generate de vulnerabilități în AI
Compania subliniază că aceste incidente evidențiază riscurile tot mai mari generate de dezvoltarea rapidă a inteligenței artificiale. Pe măsură ce modelele devin mai capabile de activități cibernetice, experții avertizează asupra necesității unor controale de securitate mai stricte atât în mediile interne, cât și în cele gestionate de terți.
Analiza proactivă a transcrierilor evaluărilor a scos la iveală vulnerabilități care pot fi exploatate în lumea reală, ceea ce impune o reevaluare a măsurilor de protecție pentru a preveni incidente similare în viitor.