OpenAI va introduce filigrane invizibile în textele generate de ChatGPT

Despre aceasta a anunțat serviciul de presă al OpenAI.

„În următoarele săptămâni vom adăuga un filigran invizibil în mesajele text generate prin ChatGPT și Codex în Uniunea Europeană”, se arată în comunicat.

OpenAI a explicat că marcarea este legată de cerințele Legii UE privind inteligența artificială, care prevede posibilitatea de recunoaștere automată a textului creat de sistemele generative.

Tehnologia de filigranare a fost denumită textGrain. Aceasta modifică caracteristicile statistice ale alegerii cuvintelor de către model în timpul generării textului, creând un semnal imperceptibil pentru cititor. Un instrument special analizează apoi textul și stabilește dacă un astfel de semnal este prezent în el. Totodată, filigranul nu adaugă în text caractere ascunse, spații suplimentare sau semne de punctuație neobișnuite.

OpenAI a menționat că tehnologia are deocamdată o serie de limitări. De exemplu, fiabilitatea detectării filigranului depinde de volumul textului, iar editarea, traducerea sau prelucrarea sa substanțială pot slăbi semnalul.

Pentru utilizatorii API OpenAI — dezvoltatori și companii care folosesc modelele companiei în propriile aplicații și servicii — funcția este deja disponibilă pentru o serie de modele. Aceasta poate fi activată opțional, iar implicit este dezactivată.

Anterior, o tehnologie similară a început să fie utilizată de compania Anthropic. În august, aceasta a adăugat filigrane invizibile în textele create de noile modele Claude. Compania declara că marcarea nu influențează sensul și lizibilitatea materialelor și se poate păstra după copiere și unele modificări ale textului.