Studiu: Chatboții mint mai des într-o anumită condiție

Potrivit cercetătorilor, răspunsurile scurte nu oferă rețelelor neuronale „spațiu” pentru clarificări, infirmări și explicații, ceea ce este esențial pentru sarcinile legate de validitatea factuală. Cu alte cuvinte, infirmările puternice necesită explicații mai lungi, relatează unian.net.

„Atunci când sunt forțate să fie succinte, modelele aleg de fiecare dată să fie scurte în detrimentul preciziei. „Poate cel mai important pentru dezvoltatori, indicii de sistem aparent nevinovate precum „fii concis” pot sabota capacitatea unui model de a dezminți informațiile eronate”, au scris cercetătorii.

Studiul companiei Giskard conține și alte constatări interesante, cum ar fi faptul că este mai mare șansa ca modelele să lase afirmațiile controversate nerespinse, dacă acestea sunt prezentate cu încredere. Acest lucru îi pune pe dezvoltatori în fața unei alegeri între ușurința în utilizare și menținerea acurateței.

Halucinațiile sau furnizarea de răspunsuri false sau fictive rămân o problemă greu de rezolvat în domeniul inteligenței artificiale. Chiar și modelele avansate de raționament, cum ar fi o3 de la OpenAI, prezintă rate mai mari de halucinații decât predecesorii lor.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.