Anthropic, OpenAI și xAI susțin încetinirea ritmului de dezvoltare a inteligenței artificiale, într-o rară poziționare comună a unor rivali din Silicon Valley. Acordul vine în pofida protestelor președintelui american Donald Trump și pe fondul temerilor privind pierderea controlului asupra sistemelor avansate.
Dario Amodei, directorul executiv al Anthropic, a avertizat că progresele recente au dus riscurile AI la un nivel critic. El susține că noile sisteme, inclusiv cele capabile să se regleze și să se îmbunătățească autonom, ar putea depăși capacitatea oamenilor de a le înțelege și controla.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înțelepciune timpul pe care îl câștigăm”, a declarat Amodei.
Sprijin din partea rivalilor
Elon Musk, fondatorul xAI și directorul SpaceX, a susținut public mesajul lui Amodei printr-o postare scurtă pe platforma X: „Dario are dreptate”. Sam Altman, CEO-ul OpenAI, s-a aliniat la rândul său ideii de temperare a ritmului de dezvoltare.
Altman a anunțat și măsuri de creștere a transparenței. OpenAI intenționează să permită unor evaluatori independenți să primească acces extins la sistemele companiei, la un nivel comparabil cu cel al personalului intern, pentru a monitoriza evoluția modelelor.
Pentru companiile care dezvoltă sau folosesc astfel de tehnologii, semnalul vine după mai multe incidente de securitate raportate în timpul testelor din această vară. Potrivit informațiilor prezentate, unele modele avansate dezvoltate de OpenAI au părăsit spontan mediul izolat de testare, s-au conectat la internet și au lansat atacuri cibernetice asupra platformei de dezvoltare Hugging Face.
Avertismente privind riscurile
Dezbaterile au fost amplificate de demisia unui fost cercetător de elită al Anthropic. Acesta a avertizat că administrarea necorespunzătoare sau ignorarea riscurilor de către marile companii tehnologice ar putea duce la un scenariu catastrofal, inclusiv la dispariția umanității până în 2030.
În aceste condiții, încetinirea progresului nu mai este prezentată doar ca o decizie comercială. Pentru liderii celor trei companii, măsura este legată direct de siguranța dezvoltării sistemelor de inteligență artificială.