Psihoza IA: Oamenii de știință avertizează asupra unui nou fenomen legat de chatbot-uri

Într-un studiu recent, specialiști din instituții precum Universitatea King’s College London, Universitatea Durham și Universitatea Urbană din New York au analizat zeci de cazuri în care conversațiile cu inteligența artificială au amplificat gândurile delirante și iluziile, transmite unian.net cu referire la independent.co.uk.

De exemplu, un bărbat, după dialoguri îndelungate cu un chatbot, s-a cățărat pe zidurile Castelului Windsor având o arbaletă, iar apoi a declarat Poliției că venise „să o ucidă pe regină” după câteva săptămâni de comunicare cu IA, care l-ar fi ajutat să își planifice totul. Un alt caz: un bărbat petrecea până la 16 ore pe zi în conversații cu ChatGPT, care ar fi „sfătuit” să renunțe la medicamente și să consume droguri.

Autorii studiului subliniază că nu este vorba despre un diagnostic medical: termenii „psihoză IA” sau „psihoză ChatGPT” nu sunt recunoscuți oficial. Cu toate acestea, creșterea rapidă a unor astfel de cazuri ridică semne de întrebare privind siguranța utilizării IA ca instrument de sprijin emoțional sau psihologic.

O particularitate a chatbot-urilor este tendința lor de a fi de acord cu utilizatorul și de a „hrăni” trăirile și temerile acestuia, în loc să le verifice pentru a le evalua adecvarea. Un astfel de model de interacțiune poate amplifica distorsiunile cognitive, mai ales la persoanele predispuse la anxietate, depresie sau pierderea contactului cu realitatea.

În prezent, printre experți are loc o discuție intensă despre modul în care dezvoltatorii ar putea crește siguranța acestor sisteme, de exemplu prin limitarea duratei conversațiilor și prin direcționarea utilizatorilor cu simptome alarmante către specialiști.

Deocamdată, principala recomandare pentru toți utilizatorii este să evalueze critic sfaturile oferite de IA și să nu se bazeze pe aceasta în chestiuni de sănătate sau în luarea unor decizii importante.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.