Sursă: Mediafax.ro
Un nou incident transmis în direct pe TikTok readuce în discuție eficiența moderării în timp real și riscul ca utilizatorii, în special minori, să fie expuși la conținut extrem de nociv înainte ca platforma să reacționeze.
Citește și: De ce liceenii din Franța protestează mai mult decât cei din alte țări europene
În cel mai recent caz, un livestream cu imagini explicite de auto-vătămare a rămas accesibil aproximativ 15 minute înainte ca măsurile de blocare să devină eficiente. Potrivit relatărilor, bloggerul american Perez Hilton a transmis marți seară, timp de aproximativ un sfert de oră, un video în care apărea rănit și ținând un cuțit, simulând un episod de auto-vătămare. Acest incident evidențiază vulnerabilitatea sistemelor de moderare în timp real ale platformei.
Limitările moderării automate pe TikTok
Deși TikTok dispune de reguli stricte privind conținutul legat de auto-vătămare, incidentul arată că aplicarea lor în transmisiuni live poate întârzia exact în momentele critice. În cazul de față, platforma a încercat să oprească transmisia, însă nu a reușit inițial să o blocheze, ceea ce a permis vizionarea materialelor timp de mai multe minute.
- Transmisiunea a fost vizibilă timp de aproximativ 15 minute
- Imaginile au fost explicite și au avut potențial traumatic
- Reacția platformei a fost întârziată, ceea ce a crescut riscul pentru utilizatori
- Sistemele automate și echipele de moderare pot identifica conținutul după publicare, dar nu în timp real
- Riscul este mai mare pentru minorii și persoanele vulnerabile
Provocările moderării în timp real pe rețelele sociale
Incidentul cu Perez Hilton evidențiază o problemă mai largă: în ciuda regulilor și tehnologiilor existente, reacția la conținutul periculos difuzat în direct rămâne dificilă. Sistemele automate pot detecta și șterge clipurile după ce au fost vizualizate, însă răspunsul rapid în cazul transmisiunilor live este încă problematic.
Astfel, platformele sociale trebuie să găsească soluții eficiente pentru a preveni răspândirea conținutului nociv în timp real, mai ales în situații de urgență. În cazul TikTok, întârzierea în blocarea imaginilor explicite a arătat că, în ciuda eforturilor, sistemele automate și echipele de moderare nu pot acționa suficient de rapid pentru a proteja utilizatorii vulnerabili.
Acest incident devine un test pentru marile platforme sociale, care trebuie să îmbunătățească mecanismele de intervenție în cazul transmisiunilor în direct, pentru a reduce riscul de expunere la conținut traumatic și pentru a asigura siguranța utilizatorilor, în special a celor tineri.