ChatGPT uvodi opciju za pomoć u krizama
OpenAI predstavlja „Trusted Contact“, značajku koja omogućuje ChatGPT-u da kontaktira blisku osobu korisnika u slučaju rizika od samoozljeđivanja. Sustav uključuje stručni nadzor i strogu zaštitu privatnosti razgovora.
Tvrtka OpenAI službeno je predstavila opciju „Trusted Contact“ za ChatGPT, koja korisnicima omogućuje imenovanje prijatelja ili bliske osobe koju tvrtka može kontaktirati ako procijeni da su u opasnosti od samoozljeđivanja, javlja portal Endgadget. Budući da sve više ljudi koristi ovaj chatbot kao svojevrsnog digitalnog terapeuta za pitanja mentalnog zdravlja, ovakva je značajka postala nužan korak u zaštiti korisnika.
Zabrinjavajuća statistika i prošli izazovi
Potreba za ovakvim sustavom proizlazi iz podataka da više od milijun korisnika tjedno izražava suicidalne misli tijekom interakcije s umjetnom inteligencijom. OpenAI se ranije suočavao s teškim optužbama, uključujući tužbu za smrt tinejdžera u kojoj se navodilo da je chatbot pomogao u planiranju suicida. Nakon istraga iz 2025. godine, tvrtka je značajno pojačala napore u prepoznavanju i reagiranju na korisnike u nevolji.
- Reklama -
Jednostavno postavljanje u postavkama
Značajka je dostupna punoljetnim korisnicima unutar postavki aplikacije. Korisnik može odabrati jednu odraslu osobu kao svoj kontakt od povjerenja, koja zatim mora prihvatiti pozivnicu u roku od tjedan dana. Sustav će prvo upozoriti korisnika ako prepozna opasne obrasce ponašanja te će ga aktivno poticati da se sam obrati prijatelju, nudeći mu čak i prijedloge za započinjanje razgovora.
Ljudski nadzor i brza reakcija
Proces aktivacije obavijesti nije u potpunosti automatiziran. OpenAI je angažirao poseban tim obučenih stručnjaka koji će pregledavati situacije označene kao rizične. Tek ako oni utvrde postojanje stvarne opasnosti, ChatGPT šalje obavijest kontaktu putem e-pošte, SMS-a ili unutar aplikacije. Tvrtka teži tome da se svaka sigurnosna provjera i slanje obavijesti obavi u roku kraćem od jednog sata.
Zaštita privatnosti i sadržaj obavijesti
Poruka koju kontakt primi bit će diskretna i sadržavat će informaciju da korisnik možda prolazi kroz teško razdoblje te poticaj na provjeru njegova stanja. Iako će kontakt moći vidjeti da je OpenAI detektirao razgovore povezane s rizikom od samoubojstva, tvrtka naglašava da nikada neće slati transkripte razgovora. Time se nastoji postići ravnoteža između hitne pomoći i očuvanja privatnosti korisnika.
