Compania OpenAI a făcut publice date care arată că un număr redus dintre utilizatorii ChatGPT manifestă posibile semne de criză psihologică, precum manie, psihoză sau gânduri de suicid, conform BBC
Potrivit estimărilor recente, aproximativ 0,07% dintre utilizatorii activi săptămânal ai platformei afișează astfel de simptome. Deși procentul este mic, raportat la cei peste 800 de milioane de utilizatori săptămânali, cifra se poate traduce prin sute de mii de persoane aflate în dificultate emoțională.
Reprezentanții OpenAI subliniază că aceste cazuri sunt „foarte rare”, însă au precizat că sistemul ChatGPT este pregătit să recunoască și să gestioneze conversațiile sensibile. Pentru a face acest lucru în siguranță, compania a creat o rețea globală de peste 170 de specialiști – psihiatri, psihologi și medici – din peste 60 de țări, care oferă consultanță în privința răspunsurilor oferite de chatbot.
Acești experți au contribuit la elaborarea unor mecanisme de răspuns empatic, prin care utilizatorii sunt îndrumați să caute sprijin profesional real atunci când semnalează stări de suferință psihică.
Datele OpenAI mai arată că 0,15% dintre utilizatori au conversații care conțin indicii directe de intenție suicidară. Pentru astfel de cazuri, ChatGPT a fost antrenat să răspundă cu empatie și prudență, recunoscând chiar și semnele indirecte ale unei posibile crize psihice.
În situațiile considerate sensibile, chatbotul poate redirecționa conversațiile către versiuni de AI mai sigure, deschise într-o nouă fereastră, pentru a preveni orice risc suplimentar.
Mai multe știri pe republikanews.ro.
Ne găsești pe pagina de Facebook RepublikaNews.
