OpenAI angajează contractori pentru a citi conversațiile reale ale utilizatorilor ChatGPT

Evaluatorii văd conversații întregi dintre utilizatori și chatbot, lucru de care probabil nu sunt conștienți majoritatea celor peste 900 de milioane de utilizatori ChatGPT, transmite 404media.co.

Sarcina acestor echipe este de a îmbunătăți răspunsurile ChatGPT: contractorii evaluează și critică replicile generate de chatbot. După cum arată documentele interne consultate de 404 Media, colaboratorii sunt instruiți să dezvețe ChatGPT să se antropomorfizeze și să fie excesiv de conciliant — o problemă care a contribuit parțial la faptul că modelul 4o, prea concesiv, a fost asociat, potrivit mai multor acțiuni în justiție, cu câteva cazuri de sinucidere în rândul utilizatorilor. Proiectul a primit denumirea internă de cod Project Lily. Materialele nu precizează ce model anume antrenează OpenAI în acest mod.

Evaluatorii nu văd numele utilizatorilor, iar OpenAI a declarat pentru 404 Media că încearcă să elimine datele personale înainte ca solicitările să ajungă la ei, cu ajutorul modelului Privacy Filter. Totuși, compania recunoaște că detaliile sensibile trec uneori de filtru: potrivit descrierii oferite chiar de OpenAI, modelul poate „omite identificatorii nestandardizați sau mențiunile ambigue ale informațiilor private”. Potrivit unui evaluator cu care a discutat publicația, utilizatorii probabil nu își imaginează că conversațiile lor sunt analizate de „vreun contractor”.

Munca pentru contractori este organizată de compania Mercor prin firma de recrutare Crossing Hurdles. Potrivit unui evaluator care locuiește în America de Nord, plata depășește 50 de dolari pe oră — considerabil mai mult decât se plătește, în medie, pentru activități similare de moderare a conținutului în sectorul tehnologic. Anthropic a confirmat pentru 404 Media că folosește, de asemenea, evaluarea de către oameni a conversațiilor reale pentru a-și îmbunătăți modelele — însă doar în cazul utilizatorilor care au activat în setările de confidențialitate opțiunea Help improve our AI models („Ajutați la îmbunătățirea modelelor noastre”). Compania elimină în prealabil din dialoguri identificatorii contului, inclusiv e-mailul.