În articolele științifice au fost descoperite mii de referințe false generate de inteligența artificială

Specialistul în informatică Guillaume Cabanac a primit o notificare de la Google Scholar despre citarea lucrării sale într-un articol despre stomatologie. Acest lucru părea ciudat în sine, dar mai departe a fost și mai rău: el nu a putut identifica nici linkul, nici publicația.

„Am fost foarte surprins să văd că nu pot recunoaște propria mea referință”, spune el.

DOI-ul indicat, adică identificatorul digital unic al lucrării științifice, nu conducea la textul real. Cabanac a suspectat că referința a fost generată de inteligența artificială – și nu a fost singurul.

Dimensiunea problemei s-a dovedit neașteptată

Un studiu publicat în Nature, bazat pe analiza a mii de publicații științifice, arată că situația depășește rapid cazurile izolate.

Cercetătorii folosesc tot mai des modele lingvistice pentru căutarea literaturii, redactarea textelor și realizarea bibliografiilor. Dar astfel de instrumente pot „halucina” – generând date plauzibile, dar inexistente.

Analiza a aproape 18.000 de articole prezentate la conferințe de informatică a arătat o creștere bruscă a referințelor problematice. Dacă anterior acestea erau găsite în aproximativ 0,3% din lucrări, acum procentul a ajuns la 2,6%. În alte eșantioane, cifra atinge 6%.

Zeci de mii de publicații sunt puse sub semnul întrebării

Analiza comună a redacției Nature și a companiei Grounded AI a acoperit peste 4.000 de publicații științifice de la mari edituri.

Verificarea manuală a arătat că în majoritatea lucrărilor suspecte există într-adevăr referințe către cercetări inexistente. Dacă extrapolăm rezultatele, este vorba despre peste 100.000 de publicații cu referințe invalide doar într-un singur an.

Totodată, cercetătorii recunosc că aceasta este o estimare aproximativă, iar amploarea reală poate fi mai mare.

Cum arată referințele false

Inteligența artificială rar inventează totul complet. De cele mai multe ori combină elemente reale – nume de autori, părți din titluri, reviste.

Ca rezultat, apar așa-numitele „citații Frankenstein”. Acestea par convingătoare, dar nu duc la nicio lucrare reală.

„Pentru om, acestea par reale, dar de fapt nu sunt referințe către un obiect real”, notează dezvoltatorii instrumentelor de verificare.

Greșeli există chiar și în sursele „reale”

Chiar și atunci când referința conduce la un articol real, deseori există erori – DOI incorect, titlu distorsionat sau autori greșiți.

Într-un experiment, aproape 20% din referințele generate de IA s-au dovedit complet inventate. Alte aproximativ 45% conțineau inexactități.

„Este vorba nu doar despre inexactități, ci despre citații fabricate”, subliniază cercetătorii.

Revistele au început să reacționeze ferm

Redacțiile revistelor științifice și ale conferințelor se confruntă deja cu consecințele.

Unii editori raportează că resping până la un sfert din articolele primite din cauza problemelor cu referințele. În unele cazuri, lucrările cu citații false sunt respinse automat, fără posibilitatea de a fi retrimise.

Paralel, se dezvoltă instrumente pentru verificarea automată, dar acestea nu pot înlocui complet expertiza manuală.

De ce este mai grav decât pare

Problema depășește formalitățile. Referințele false:

• împiedică verificarea rezultatelor științifice
• induc în eroare alți cercetători
• pot distorsiona concluziile

În unele cazuri, ele devin semnul unor lucrări complet fabricate.

„Fiecare citație falsă este o problemă în literatura științifică”, notează experții.

Unde este limita greșelii

Cercetătorii nu au ajuns încă la un consens dacă astfel de cazuri trebuie considerate încălcări.

Uneori este rezultatul neatenției – autorii au încredere în IA și nu verifică referințele. Dar dacă aceste date sunt folosite ca bază pentru concluzii, poate fi vorba deja de falsificare. Editorii înăspresc cerințele pentru autori și solicită dezvăluirea utilizării IA. De asemenea, se implementează noi sisteme de verificare a referințelor.

Totuși, problema principală rămâne – viteza de răspândire a acestor erori este mai mare decât cea de identificare a lor. Și dacă tendința continuă, literatura științifică riscă să se confrunte cu o criză mai gravă – pierderea verificabilității și a încrederii.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.