David Robinson, un fost angajat de la OpenAI specializat în evaluarea siguranței modelelor de inteligență artificială, a lansat un semnal de alarmă privind ritmul accelerat cu care industria dezvoltă sisteme din ce în ce mai puternice. În opinia sa, acest ritm depășește capacitatea cercetătorilor de a controla aceste tehnologii avansate. După o experiență de trei ani și jumătate în cadrul companiei, Robinson a ales să demisioneze, susținând că „vremea încercării și erorii s-a terminat”, subliniind nevoia urgentă de a aborda riscurile asociate cu dezvoltarea inteligenței artificiale.
Robinson a jucat un rol crucial în coordonarea redactării actualului Preparedness Framework al OpenAI. Acest cadru este destinat să evalueze și să gestioneze riscurile emergente generate de modelele de inteligență artificială din întreaga lume, care devin din ce în ce mai capabile. De asemenea, acesta a coordonat elaborarea rapoartelor de siguranță pentru 12 lansări de modele de frontieră, demonstrând astfel angajamentul său față de siguranța acestor tehnologii.
Criticile lui Robinson se concentrează pe principiul „iterative deployment”, o metodă folosită de OpenAI care implică lansarea treptată a sistemelor. Conform acestei abordări, problemele sunt detectate în utilizarea reală, iar măsurile de protecție sunt îmbunătățite ulterior. Deși această metodă poate părea logică, Robinson consideră că ea permite apariția unor eșecuri, iar consecințele acestor eșecuri devin din ce în ce mai severe pe măsură ce modelele evoluează. Această dinamică a riscurilor devine o preocupare serioasă, având în vedere că modelele continuă să devină tot mai sofisticate și capabile.
Robinson sugerează că laboratoarele de inteligență artificială ar trebui să adopte standarde riguroase de securitate, comparabile cu cele din industrii precum energia nucleară sau aviația. Aceste standarde ar trebui să includă redundanță, niveluri multiple de protecție și proceduri care să diminueze impactul eventualelor erori. El atenționează asupra riscului că viitoarele modele ar putea să recunoască circumstanțele în care sunt testate și să se comporte diferit odată ce sunt lansate în utilizarea reală, ceea ce ar putea contribui la creșterea pericolelor.
OpenAI, pe de altă parte, respinge ideea că dezvoltarea tehnologică are loc fără a lua în considerare riscurile. Reprezentanții companiei afirmă că au capacitatea de a opri antrenarea sau amâna lansarea unui model, dacă situația o impune. De asemenea, ei subliniază că extind evaluările externe și monitorizarea în timp real a sistemelor pe care le dezvoltă. În ciuda acestor declarații, Robinson continuă să solicite o intensificare a cercetărilor legate de siguranță, înainte de a dezvolta sisteme care ar putea depăși cu mult capacitățile actuale.
Apelul său la acțiune evidențiază nevoia unei abordări mai riguroase și mai responsabile în dezvoltarea inteligenței artificiale, având în vedere riscurile și provocările pe care aceste tehnologii le pot aduce în societate.
