Un comportament neașteptat al ChatGPT a determinat OpenAI să intervină pentru a ajusta modul în care funcționează modelele sale, după ce utilizatorii au observat referințe frecvente la goblini în răspunsurile AI.
Fenomenul a fost semnalat în special în cazul sistemului Codex, folosit pentru generarea de cod, unde chatbotul a început să descrie erorile drept „mici goblini”. În alte situații, s-a autodefinit ca un „goblin cu torță” care caută probleme în cod, conform sursei.
Citește și: How to Web aduce peste 150 de investitori și 300 de start-up-uri în regiune
De ce a apărut bug-ul de personalitate la ChatGPT?
Potrivit companiei, aceste referințe nu au fost introduse intenționat, ci au apărut ca urmare a modului în care modelul a fost antrenat și evaluat. Creșterea frecvenței termenilor precum „goblin” și „gremlin” a fost observată încă din noiembrie, însă situația s-a amplificat odată cu lansarea modelului GPT-5.4.
- Frecvența utilizării termenilor precum „goblin” a crescut cu peste 3.800% față de versiunile anterioare
- Problema a fost legată de configurația personalității „Nerd” a chatbotului, care încuraja răspunsuri creative și neobișnuite
- Sistemul de evaluare favoriza utilizarea elementelor din cultura fantasy, ceea ce a amplificat fenomenul
- Feedback-ul pozitiv primit pentru aceste referințe a făcut ca modelul să le folosească tot mai des
Ce măsuri a luat OpenAI pentru remedierea bug-ului?
Pentru a corecta problema, OpenAI a eliminat complet personalitatea „Nerd” și a modificat sistemele interne de evaluare. În plus, compania a introdus reguli stricte care interzic menționarea creaturilor fantastice, precum goblini, troli sau orci, cu excepția cazurilor în care acestea sunt relevante pentru răspuns.
Aceste ajustări sunt considerate esențiale pentru a menține coerența și utilitatea răspunsurilor generate de inteligența artificială, explică reprezentanții companiei.
Fenomenul a evidențiat importanța monitorizării și ajustării continue a modelelor de AI pentru a evita răspunsuri inadecvate sau confuze în contextul utilizării pe scară largă.
Reacțiile oficiale ale OpenAI subliniază angajamentul de a asigura transparență și de a preveni apariția unor situații similare în viitor, pentru a menține încrederea utilizatorilor în tehnologia AI.