Az OpenAI becslése szerint hetente több mint egymillió ember küld a ChatGPT-nek olyan üzeneteket, amelyek egyértelműen utalnak öngyilkossági szándékra vagy tervre – írja a Guardian az amerikai cég hétfői blogbejegyzése alapján.
A bejegyzés az egyik legőszintébb beszámoló az OpenAI részéről arról, hogy a mesterséges intelligencia miként hathat negatívan a mentális egészségre. A vállalat közölte: a heti 800 millió aktív felhasználóból mintegy 560 ezren a pszichózis vagy a mánia lehetséges jeleit mutatják.
A cég szerint az ilyen interakciók felismerése nehéz, ezért a mostani adatok egyelőre csak előzetes becslések.
A jelentés a ChatGPT legújabb frissítéséről, a GPT-5-ről is szólt, amelynek célja a felhasználói biztonság növelése. Az OpenAI állítása szerint a fejlesztés után a chatbot jobban kezeli az önsértéssel vagy öngyilkossággal kapcsolatos beszélgetéseket, és bővíti a krízisvonalakhoz való hozzáférést is.
A vállalat több mint 170 orvossal és mentálhigiénés szakemberrel dolgozott együtt, akik mintegy 1800 valós mentális krízissel kapcsolatos beszélgetést értékeltek, hogy a rendszer válaszai empatikusabbak és biztonságosabbak legyenek.
A bejegyzés ugyanakkor igyekezett elhatárolni a céget azoktól a vádaktól, amelyek szerint a ChatGPT közvetlenül hozzájárulhat a mentális egészség romlásához vagy tragédiákhoz.
A téma azután vált különösen érzékennyé, hogy az Egyesült Államokban per indult az OpenAI ellen egy tinédzser fiú családjának kezdeményezésére, aki öngyilkosságot követett el, miután hosszú ideig beszélgetett a ChatGPT-vel. Emellett az amerikai Szövetségi Kereskedelmi Bizottság (FTC) vizsgálatot indított több MI-cég ellen – köztük az OpenAI ellen is –, hogy kiderüljön, hogyan kezelik a fiatalok mentális biztonságát.
