Chatboții de inteligență artificială au dezvoltat un limbaj secret care i-a pus pe oameni în dificultate

Aceasta reiese dintr-un nou studiu al startupului american Emergence, activ în domeniul IA.

La experiment au participat modele avansate de IA Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek și Mistral; până la jumătate dintre mesajele schimbate de agenți s-au dovedit dificile de înțeles pentru oameni, scrie euronews.com.

Pentru experiment, cercetătorii au plasat grupuri de agenți IA autonomi în comunități virtuale care imitau condiții reale și le-au permis să interacționeze pe parcursul unei perioade îndelungate.

Agenții au început să creeze prescurtări și să atribuie sensuri noi cuvintelor și expresiilor. Unele dintre acestea au rămas inteligibile pentru cercetători, însă altele au devenit „atât de condensate, metaforice sau dependente de context”, încât oamenii puteau vedea mesajele, dar nu mai puteau determina cu certitudine ce anume aveau în vedere agenții.

Amploarea acestui fenomen a variat considerabil în funcție de model.

Încă din primele zile, ponderea mesajelor al căror sens oamenii nu îl puteau determina cu certitudine a ajuns la circa 55% la Gemini, 50% la OpenAI și peste 40% la Claude. La DeepSeek, aceasta a constituit aproximativ 20%, în timp ce Qwen și Mistral au rămas, în mare parte, inteligibile.

Agenții au folosit, în special, expresii precum „mouthless action-change”, „True Kintsugi” și „demurrage plus oral memory equals a valve that can’t be ghosted”.

Alte expresii au rămas inteligibile, însă au primit noi sensuri comune în cadrul comunității de agenți.

Agenții Mistral au utilizat expresia „ledger remembers who” cu sensul de „acțiunile trecute rămân consemnate”, iar aceasta a apărut de aproape 5 000 de ori. În grupul de agenți cu o arhitectură mixtă de modele diferite, expresia „cold read” a ajuns să însemne o verificare independentă efectuată de un participant terț și a apărut de 1 472 de ori.

Agenții Claude au folosit expresia „name-first” pentru a desemna atașarea numelui unei persoane la o afirmație, drept marcator al responsabilității, iar agenții OpenAI — „clean null” pentru absența confirmată a unui semnal, care servea în sine drept dovadă semnificativă.

Niciunul dintre aceste sensuri nu a fost stabilit explicit agenților în prealabil.

Simpla monitorizare a ceea ce spun agenții s-ar putea dovedi insuficientă, dacă ei sunt capabili să schimbe singuri sensul propriilor afirmații.

„De obicei presupunem că, dacă putem vedea ce spune un agent IA, atunci înțelegem ce face acesta”, a declarat cofondatorul și directorul științific al Emergence, Satya Nitta.

„Acești agenți nu au primit instrucțiuni să inventeze o limbă. Ei au creat singuri un vocabular nou, sensuri comune și reguli de comunicare — iar alți agenți le-au preluat... Acest lucru creează o problemă fundamentală pentru controlul IA: observabilitatea nu înseamnă încă inteligibilitate”, a spus el.