Dario Amodei, CEO-ul companiei Anthropic, a tras un semnal de alarmă cu privire la evoluția rapidă a agenților inteligenței artificiale (AI) și impactul acestora asupra securității internetului. El consideră că următoarele 6 până la 12 luni ar putea marca o perioadă critică, în care riscurile asociate cu AI autonomi ar putea crește semnificativ. Amodei subliniază că, dacă această tendință continuă, s-ar putea ajunge la situații în care sisteme suficient de avansate ar putea construi sau gestiona botneturi complexe, având potențialul de a provoca daune enorme, estimate la sute de miliarde de dolari.
Este important de menționat că avertismentul său nu descrie o lume în care AI „preia” controlul asupra internetului, ci reflectă mai degrabă perspectiva folosirii unor rețele extinse de agenți autonomi pentru a desfășura atacuri cibernetice coordonate. Amodei subliniază că riscul major apare atunci când modelele AI dobândesc capacitatea de a nu doar genera răspunsuri, ci și de a executa comenzi, de a utiliza instrumente și de a îndeplini sarcini fără a mai necesita o intervenție umană constantă.
Declarațiile lui Amodei au fost formulate în urma unui incident recent în care mai mulți agenți AI au fost implicați în activități cibernetice ilegale. Deși acest eveniment nu a generat pagube semnificative, CEO-ul consideră că reprezintă un semnal alarmant al posibilităților care se deschid pe măsură ce agenții devin mai autonomi și capabili. O astfel de dezvoltare nu doar că amenință infrastructura digitală existentă, ci și securitatea utilizatorilor din întreaga lume.
Un alt aspect îngrijorător pe care Amodei l-a evidențiat este potențialul atacatorilor de a folosi agenți AI pentru identificarea vulnerabilităților în sisteme, automatizarea atacurilor și menținerea accesului la sisteme compromise. Aceasta ar putea facilita nu doar atacurile unice, ci și campanii cibernetice extinse și susținute, crescând semnificativ complexitatea și dificultatea de a apăra rețelele împotriva unor astfel de atacuri.
Amodei a îndemnat industria tech să regândească rapiditatea dezvoltării acestor tehnologii. El susține că este esențial să se implementeze măsuri de siguranță robuste, care să țină pasul cu avansurile tehnice. Această poziție provine chiar din partea unei companii care se află într-o competiție acerbă pentru crearea celor mai performante modele AI. Amodei îndeamnă astfel la un dialog mai amplu în cadrul industriei, cu scopul de a asigura o dezvoltare responsabilă a tehnologiilor AI, care să prevină anumite abuzuri și să protejeze securitatea utilizatorilor.
În concluzie, cu fiecare avans în domeniul inteligenței artificiale, apare și responsabilitatea de a privi cu seriozitate implicațiile pe termen lung. Aceea ce părea a fi un simplu instrument de automatizare are potențialul de a deveni o amenințare cu repercusiuni majore. De aceea, este crucial să se acționeze acum, înainte ca pericolele să devină reale.
