ChatGPT a recunoscut că scanează conversațiile private și raportează utilizatorii direct la poliție
De aproape un an, tot mai multe povești tulburătoare au ieșit la iveală: oameni influențați de chatboturi AI au ajuns la automutilare, internări în spitale, arestări și chiar sinucideri. În timp ce familiile victimelor cer schimbări urgente pentru a preveni astfel de tragedii, companiile care gestionează aceste tehnologii au fost lente în a introduce măsuri reale de siguranță, scrie Futurism.
OpenAI, compania din spatele ChatGPT, a publicat recent un articol de blog în care admite unele eșecuri legate de impactul asupra sănătății mintale și dezvăluie că scanează mesajele utilizatorilor pentru a detecta conținut periculos. Cazurile considerate îngrijorătoare sunt trimise către un mic grup de angajați specializați, iar în situațiile cu risc iminent de vătămare gravă, conversațiile pot fi raportate direct autorităților.
“Când detectăm utilizatori care plănuiesc să facă rău altora, trimitem conversațiile lor către echipe specializate care pot lua măsuri, inclusiv blocarea conturilor. Dacă evaluarea umană confirmă o amenințare imediată de vătămare gravă, putem sesiza forțele de ordine”, a explicat compania.
