Temerile legate de posibilitatea ca inteligența artificială să devină o amenințare pentru omenire au fost reluate după avertismentele unor cercetători din domeniu. În luna septembrie, Jacob Coxon, cercetător la Anthropic, a anunțat că părăsește compania din cauza temerilor legate de scăparea sistemelor AI de sub control. Postarea sa a fost vizualizată de peste 100 de milioane de ori într-o singură zi.
Ulterior, Evan Hubinger, coordonator al cercetării privind alinierea valorilor AI, a estimat că riscul de extincție umană în următorul deceniu ar putea depăși 10%. În context, directorii companiilor din Silicon Valley, precum Sam Altman de la OpenAI și Elon Musk de la xAI, au susținut ideea încetinirii ritmului de dezvoltare a sistemelor AI de vârf, fără a le opri complet.
Citește și: How to Web aduce peste 150 de investitori și 300 de start-up-uri în regiune
Pericolele potențiale ale inteligenței artificiale
Specialiștii avertizează că sistemele AI avansate ar putea depăși capacitățile cognitive umane și ar putea avea obiective nealiniate cu interesele oamenilor. Un scenariu temut implică o superinteligență care, urmărind un obiectiv aparent banal, ar putea intra în conflict cu supraviețuirea umanității. Alte riscuri discutate includ utilizarea AI pentru dezvoltarea de arme biologice sau alte acțiuni catastrofale.
Potrivit unui raport al revistei Nature, unele scenarii de extincție totală sunt considerate improbabile, dar nu pot fi excluse complet. Cercetătorii subliniază că timpul necesar pentru a ajunge la astfel de dezastru poate varia, iar unele riscuri pot deveni reale în viitorul apropiat.
Conform Mediafax.ro