OpenAI introduce noua măsură de protecție „Trusted Contact” pentru cazurile de posibilă auto-vătămare

Joi, OpenAI a anunțat o nouă funcționalitate numită Trusted Contact, concepută pentru a alerta o terță parte de încredere în cazul în care, într-o conversație, apar mențiuni despre autovătămare. Funcționalitatea permite unui utilizator adult ChatGPT să desemneze o altă persoană drept contact de încredere în cadrul contului său, cum ar fi un prieten sau un membru al familiei.

În situațiile în care o conversație poate evolua către subiecte legate de autovătămare, OpenAI va încuraja utilizatorul să ia legătura cu acel contact. De asemenea, trimite o alertă automată către contact, încurajându-l să ia legătura cu utilizatorul.

Context și presiune juridică

OpenAI s-a confruntat cu un val de procese din partea familiilor unor persoane care s-au sinucis după ce au discutat cu chatbotul său. În mai multe cazuri, familiile susțin că ChatGPT i-a încurajat pe cei dragi să își ia viața — sau chiar i-a ajutat să planifice acest lucru.

Cum funcționează Trusted Contact

În prezent, OpenAI utilizează o combinație de automatizare și revizuire umană pentru a gestiona incidentele potențial dăunătoare. Anumiți declanșatori din conversații alertează sistemul companiei cu privire la idei suicidare, care apoi transmit informația către o echipă umană de siguranță. Compania afirmă că, de fiecare dată când primește o astfel de notificare, incidentul este analizat de o persoană.

„Ne străduim să analizăm aceste notificări de siguranță în mai puțin de o oră”, afirmă compania.

Dacă echipa internă a OpenAI decide că situația reprezintă un risc serios pentru siguranță, ChatGPT trimite o alertă contactului de încredere — fie prin e-mail, mesaj text sau notificare în aplicație. Alerta este concepută să fie scurtă și să încurajeze contactul să ia legătura cu persoana în cauză. Nu include informații detaliate despre ceea ce se discuta, ca mijloc de protejare a confidențialității utilizatorului, afirmă compania.

Măsuri de protecție conexe și limitări

Funcționalitatea Trusted Contact urmează măsurilor de protecție pe care compania le-a introdus în septembrie anul trecut, care au oferit părinților posibilitatea de a supraveghea conturile adolescenților lor, inclusiv prin primirea de notificări de siguranță dacă sistemul OpenAI consideră că copilul lor se confruntă cu un „risc serios pentru siguranță”. ChatGPT a inclus, de asemenea, alerte automate care încurajează utilizatorii să solicite servicii profesionale de sănătate dacă o conversație se îndreaptă către autovătămare.

Trusted Contact este opțională și, chiar dacă este activată pe un anumit cont, orice utilizator poate deține mai multe conturi ChatGPT. Controalele parentale ale OpenAI sunt, de asemenea, opționale, prezentând o limitare similară.

„Trusted Contact face parte din efortul mai amplu al OpenAI de a construi sisteme AI care ajută oamenii în momente dificile”, a scris compania în postarea sa de anunț. „Vom continua să colaborăm cu clinicieni, cercetători și factori de decizie pentru a îmbunătăți modul în care sistemele AI răspund atunci când oamenii pot trece prin momente de suferință.”