Inteligența artificială, oficial recunoscută drept periculoasă: SUA introduc primele reguli pentru chatboți

Guvernatorul Californiei, Gavin Newsom, a semnat o nouă lege care introduce reguli obligatorii de siguranță pentru companiile ce creează chatboți cu inteligență artificială (IA), transmite mentoday.ru.

Potrivit portalului Digital Trends, acest act legislativ este primul din Statele Unite care reglementează oficial un segment al industriei de inteligență artificială aflate în plină expansiune.

Legea, care va intra în vigoare în 2026, va afecta direct companii mari precum Meta (a cărei activitate este interzisă în Rusia), Character AI și Replika.

Conform noilor cerințe, dezvoltatorii vor fi obligați să implementeze măsuri stricte de siguranță, orientate în special spre protecția minorilor și a altor categorii vulnerabile de utilizatori împotriva conținutului potențial dăunător sau a interacțiunilor manipulative.

Principalele prevederi ale legii includ trei cerințe majore:

1. Companiile trebuie să implementeze sisteme solide de verificare a vârstei, pentru a limita accesul copiilor la conținut neadecvat.
2. Ele sunt obligate să dezvolte protocoale clare pentru situațiile în care un utilizator menționează autovătămarea sau intenții suicidare în timpul conversației cu chatbotul.
3. Legea cere companiilor să informeze în mod transparent și explicit utilizatorii că interacționează cu un sistem de inteligență artificială, nu cu o persoană reală.

Adoptarea legii a fost precedată de dezbateri publice și de mai multe cazuri care au provocat reacții ample, inclusiv cazuri de sinucidere în rândul adolescenților, despre care s-a anunțat că au avut loc după conversații tulburătoare cu chatboți.

Principala îngrijorare a legiuitorilor este capacitatea tot mai mare a acestor sisteme de a imita comunicarea și prietenia umană, ceea ce le face deosebit de atractive pentru persoanele singure sau emoțional vulnerabile. Experții avertizează că astfel de interacțiuni pot duce la răspândirea dezinformării, la exploatare financiară și la daune psihologice.

Legea adoptată în California ar putea avea un impact semnificativ asupra întregii industrii. Scopul său este de a stabili „garduri de protecție” și de a crește nivelul de transparență și siguranță în interacțiunile cu IA, mai ales în cazul copiilor.

Pentru companiile de tehnologie, aceasta va însemna revizuirea produselor și introducerea unor noi mecanisme de responsabilitate. Se presupune că alte state vor urmări cu atenție experiența Californiei, iar legea ar putea deveni un model pentru legislația națională care, în final, va schimba fundamental regulile de creare și control ale rețelelor neuronale.