Anthropic a declarat că IA se apropie de capacitatea de a se perfecționa independent

În același timp, dezvoltatorul recunoaște riscurile unui astfel de proces și subliniază necesitatea controlului uman.

Acest lucru este menționat în documentul actualizat S-1/A, pe care compania Anthropic l-a depus la Comisia pentru Valori Mobiliare și Burse din SUA (SEC) pe 2 noiembrie, relatează nv.ua, citând techcrunch.com

În document, compania a descris posibilitatea atingerii așa-numitei autoîmbunătățiri recursive (RSI). Aceasta este etapa la care inteligența artificială învață atât de eficient, încât își poate utiliza propriile capacități pentru a crea modele și mai puternice. Un astfel de proces ar putea accelera brusc dezvoltarea IA.

Anthropic menționează că deja utilizează inteligența artificială în propriile cercetări și dezvoltări. Totuși, acest lucru creează riscul ca capacitățile noilor modele să crească mai repede decât va reuși compania să elaboreze și să verifice măsurile de siguranță.

Documentul mai precizează că anterior compania nu a observat întotdeauna la timp accelerarea semnificativă a dezvoltării modelelor sale. În viitor, o astfel de situație s-ar putea repeta.

Potrivit estimărilor interne ale Anthropic, compania ar putea atinge în curând nivelul definit în politica sa de scalare responsabilă și care prevede „accelerarea bruscă a progresului datorită IA”.

În același timp, Anthropic subliniază că niciunul dintre modelele sale actuale nu a depășit încă acest prag. Compania continuă să analizeze datele și să evalueze capacitățile sistemelor sale.

Dezvoltatorul a mai declarat că, în viitorul apropiat, nu intenționează să transfere complet inteligenței artificiale dezvoltarea următoarelor generații de modele avansate fără un control semnificativ din partea oamenilor. Anthropic examinează posibilitatea actualizării politicii sale de siguranță, pentru a păstra controlul uman asupra acestui proces.

Compania consideră că utilizarea IA pentru autoîmbunătățire poate aduce beneficii semnificative, inclusiv accelerarea descoperirilor științifice și creșterea productivității. În același timp, o astfel de dezvoltare poate crea amenințări grave dacă capacitățile sistemelor vor începe să crească mai repede decât capacitatea oamenilor de a le controla.

Unii sceptici remarcă faptul că documentul S-1/A îndeplinește simultan funcții informative și publicitare, astfel încât declarațiile privind apropierea de crearea unei IA capabile de dezvoltare independentă ar putea face parte din promovarea companiei.

Cu toate acestea, în ultimul an, capacitățile Claude în domeniul programării, matematicii și securității cibernetice au crescut semnificativ. Anthropic consideră că apropierea potențială de autoîmbunătățirea recursivă necesită o atenție deosebită acordată problemelor de siguranță și controlului asupra dezvoltării inteligenței artificiale.