OpenAI amână lansarea „modului pentru adulți” în ChatGPT

Inițial, el plănuia lansarea funcției de chat erotic până în decembrie anul trecut, apoi termenul a fost amânat pentru trimestrul curent, însă acum devine clar că nici acest grafic nu va fi respectat. Cel puțin, întârzierea debutului funcției de chat erotic va fi de o lună, transmite wsj.com.

OpenAI a experimentat utilizarea inteligenței artificiale pentru crearea de conținut text erotic cu mult timp înainte de lansarea ChatGPT. Încă din 2021, clienților OpenAI li se oferea jocul AI Dungeon cu un fir narativ neliniar, al cărui curs putea fi determinat de utilizatori. Atunci, specialiștii OpenAI au constatat că platforma AI uneori propunea jucătorilor să discute teme legate de relații sexuale, chiar dacă aceștia nu provocaseră o astfel de direcție a poveștii.

Dacă utilizatorul însuși sugera un grad moderat de erotism, AI „exagera” în manifestările de sinceritate în conversațiile respective. OpenAI a început să reflecteze asupra atractivității unei astfel de utilizări a chatbot-urilor, dar a conștientizat și necesitatea introducerii unor restricții etice.

Conducerea OpenAI a fost în ultima vreme tot mai favorabilă ideii lansării chat-urilor erotice, subliniind că totul se va limita doar la informații textuale, fără crearea de imagini și videoclipuri cu conținut explicit. Concurenții nu stau nici ei pe loc. Joia trecută, Elon Musk a declarat că chatbot-ul său Grok va putea în curând să genereze conținut video din categoria „18+”. Meta permite utilizatorilor chatbot-ului său să desfășoare jocuri de rol romantice, dar doar dacă există certitudinea că sunt majori.

OpenAI însă întâmpină în continuare probleme cu mecanismele de verificare a vârstei. În prezent, sistemul specific greșește în 12% din cazuri, considerând adolescenții drept adulți. Având în vedere o audiență de aproximativ 100.000.000 de utilizatori minori ai ChatGPT, acest nivel de eroare ar permite milioanelor de adolescenți să acceseze regulat chat-urile erotice.

Comisia de experți creată de OpenAI în ianuarie și-a exprimat, de asemenea, îngrijorarea privind riscul apariției unor conținuturi interzise din punct de vedere moral și legal, care implică acte sexuale violente, menționarea minorilor și alte scenarii specifice. În plus, consumul unui astfel de conținut poate provoca dependență psihologică și reduce motivația oamenilor de a menține relații cu parteneri reali în viața offline. OpenAI dorește să reamintească forțat acestor persoane pasionate că trebuie să-și construiască relații cu oameni reali.

Aceasta este cu atât mai important în contextul unor incidente neplăcute care au apărut odată cu răspândirea chatbot-urilor. Există cazuri în care persoane au fost împinse spre suicid în urma unor conversații îndelungate cu personaje fictive din chatbot, inclusiv suiciduri în rândul adolescenților.

Experții se tem că orientarea erotică a acestor conversații va stimula doar creșterea numărului unor astfel de cazuri. În ceea ce privește mecanismele de verificare a vârstei utilizatorilor, reprezentanții OpenAI nu au iluzii mari – după cum spun ei, acestea nu vor putea fi niciodată perfecte și funcționale în 100% din cazuri. Din 2021, o parte a angajaților OpenAI se opune ideii lansării chat-urilor erotice pe platformă, temându-se de o alunecare definitivă în acest domeniu: „Nu am vrut să fim doar o companie care distribuie conținut erotic”.

În prezent, conducerea OpenAI consideră oportună lansarea chat-urilor erotice, ghidându-se după următorii principii: „Încă credem că adulții trebuie tratați ca adulți, însă formarea unei experiențe corecte va necesita mai mult timp”.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.