China vrea să limiteze impactul chatbot-urilor cu inteligență artificială asupra psihicului utilizatorilor

Scopul principal al inițiativei este prevenirea impactului emoțional negativ al chatbot-urilor, care ar putea determina utilizatorii să-și facă rău. Potrivit documentului, măsurile vizează produsele AI care imită personalitatea umană și interacționează emoțional prin text, imagini, audio sau video, informează CNBC.

Winston Ma, profesor asociat la Facultatea de Drept a Universității din New York, afirmă că aceste reguli vor fi prima încercare mondială de a reglementa AI cu trăsături umane. Expertul subliniază că, dacă normele din 2023 vizau în principal siguranța conținutului, noile propuneri marchează trecerea la asigurarea „siguranței emoționale”. Consultarea publică va avea loc până pe 25 ianuarie.

Proiectul stabilește reguli stricte pentru dezvoltatori: chatbot-urilor le este interzis să genereze conținut care încurajează autovătămarea, să folosească violență verbală sau metode de manipulare emoțională care afectează sănătatea mintală.

Dacă un utilizator declară intenția de a-și face rău, furnizorul de tehnologie trebuie să transfere imediat dialogul către un operator uman și să contacteze un tutore sau o persoană de încredere. De asemenea, este interzisă generarea de conținut legat de jocuri de noroc, violență și materiale obscene.

Documentul acordă o atenție specială protecției minorilor: copiii vor avea nevoie de consimțământul părinților pentru a folosi AI-companionii, iar timpul de interacțiune va fi strict limitat. Platformele trebuie să poată identifica vârsta utilizatorului chiar și fără declarația acestuia și să aplice setările de protecție implicite în cazuri dubioase. Regula mai prevede că utilizatorilor li se va reaminti să facă pauze după două ore de comunicare continuă.

Chatbot-urile cu peste un milion de utilizatori înregistrați sau 100.000 de utilizatori activi lunar vor fi supuse verificărilor obligatorii de siguranță la nivel guvernamental.

În același timp, autoritățile chineze nu doar limitează, ci și încurajează folosirea AI „umanizat” în domenii social relevante, cum ar fi promovarea culturii și asistența persoanelor în vârstă.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.