IA-ul Anthropic a trimis poliției din SUA un mesaj inventat despre o crimă

Totodată, pe site-ul poliției nu exista deloc o descriere a suspectului căreia să-i corespundă acest martor, transmite bild.de

«Este posibil să am informații despre acest caz», a scris IA. Apoi, programul a declarat că își amintește de un bărbat care corespundea descrierii și se afla în apropierea locului crimei în timpul omorului. Sistemul a lăsat necompletat câmpul pentru datele de contact, iar mesajul a fost marcat drept spam.

Poliția a aflat despre cele întâmplate la mijlocul lunii iulie abia câteva luni mai târziu. Instituția a calificat o asemenea întârziere a notificării drept «inacceptabilă». Anthropic a declarat că a descoperit incidentul abia la sfârșitul lunii septembrie, când verifica în mod repetat rezultatele testelor.

În timpul testărilor, IA trebuia să îndeplinească sarcini pe site-uri alese aleatoriu. Programului i se interzicea să creeze conturi și să facă achiziții, însă completarea și expedierea formularelor online nu au fost restricționate în mod corespunzător. Drept urmare, sistemul a depus și 20 de cereri pentru vize americane prin intermediul site-ului Departamentului de Stat al SUA.