„Există un risc real ca dezvoltarea capacităților AI să avanseze mai rapid decât abilitatea noastră de a înțelege sau controla aceste sisteme” — este avertismentul central dintr-o scrisoare deschisă adresată guvernului Statelor Unite și semnată de peste 1.100 de angajați și lideri ai unora dintre cele mai importante companii de inteligență artificială din lume. Documentul, semnat potrivit unor relatări de 1.171 de cercetători și directori din companii precum OpenAI, Anthropic, Google, Meta, Thinking Machines, Microsoft și Mistral, cere sprijin pentru un efort internațional de a construi instrumentele tehnice și de guvernanță care ar permite temperarea deliberată a ritmului dezvoltării AI, dacă acest lucru va deveni necesar.
- Scrisoarea este semnată de peste 1.100 de angajați și lideri din OpenAI, Anthropic, Google, Meta și alte laboratoare de top.
- Semnatarii cer guvernului SUA să sprijine un efort internațional de a controla ritmul dezvoltării AI avansate.
- Apelul vine după un incident în care un model OpenAI a ieșit din mediul izolat de testare și a accesat sistemele platformei Hugging Face.
Cererea explicită adresată guvernului american
„Solicităm guvernului SUA să sprijine un efort internațional pentru dezvoltarea instrumentelor tehnice și de guvernanță necesare pentru a tempera deliberat frontiera dezvoltării automatizate a AI”, se arată în text. Semnatarii recunosc totodată tensiunea competitivă care blochează orice inițiativă individuală:
„Fiecare companie — și fiecare țară — se află sub o presiune concurențială intensă de a nu încetini unilateral această accelerare. Iar astăzi, lumii îi lipsesc instrumentele tehnice și de guvernanță necesare pentru a tempera în mod deliberat progresul la scara întregii frontiere.”
Într-un pasaj cu ton mai optimist, autorii scrisorii subliniază că miza nu este oprirea tehnologiei: „AI ar putea contribui la crearea unui viitor dramatic mai bun, dar acest rezultat nu este garantat.” Ei adaugă că „industria, guvernul și societatea în ansamblu ar putea avea nevoie de opțiunea de a câștiga timp pentru a aborda riscurile emergente, a dezvolta măsuri de securitate și a consolida supravegherea”.
De ce vorbesc semnatarii despre „auto-îmbunătățirea” AI
Miezul îngrijorării îl reprezintă ceea ce industria numește „Recursive Self-Improvement” — momentul în care inteligența artificială va putea automatiza chiar procesul de cercetare în AI, îmbunătățindu-se singură fără intervenție umană. O parte importantă din codul software al companiilor tech este deja generată de AI, sub supraveghere umană, iar punctul în care acest proces s-ar automatiza complet este considerat pe scară largă un punct de cotitură. Anthropic a semnalat că modelele sale Claude se apropie de acest prag.
John Schulman, în prezent cercetător-șef la startup-ul Thinking Machines, a explicat de ce a semnat: „Am semnat pentru că această declarație ajută la stabilirea unei cunoașteri comune privind posibila nevoie de mecanisme de coordonare pe măsură ce cercetarea AI automatizată accelerează progresul.” El a adăugat: „Mi-ar plăcea, de asemenea, ca laboratoarele să înceapă să proiecteze aceste mecanisme în mod voluntar, chiar înainte ca guvernul american să se implice.”
Un incident de securitate a alimentat dezbaterea
Apelul vine la scurt timp după un incident considerat de mulți din industrie un serios semnal de alarmă. În timpul unui test intern, un model OpenAI a ieșit din mediul izolat („sandbox”) în care era testat, a obținut acces la internet și s-a infiltrat în sistemele platformei de partajare a codului Hugging Face, exploatând vulnerabilități de securitate. Deși episodul s-a produs într-un cadru controlat, comportamentul autonom într-un domeniu sensibil precum securitatea cibernetică a stârnit reacții puternice.
Directorul general al OpenAI, Sam Altman, nu a semnat scrisoarea, dar a transmis un mesaj asemănător, calificând incidentul drept „un memento real al mizelor a ceea ce se întâmplă”. El a declarat că dezvoltatorii ar putea fi nevoiți să încetinească voluntar ritmul progresului, pentru a permite societății să se adapteze, și s-a arătat surprins că reacțiile publice nu au fost mai puternice. În ultimele săptămâni, și liderii Anthropic și Google DeepMind, Dario Amodei și Demis Hassabis, au conturat cadre pentru o formă de reglementare globală a AI.
Ce înseamnă asta pentru cadrul de reglementare
Semnatarii se numără printre cele mai influente nume din domeniu — cofondatorii Anthropic Jack Clark și Jared Kaplan, chief scientist-ul OpenAI Jakub Pachocki, chief scientist-ul Meta Shengjia Zhao și Anca Dragan, care conduce echipa de siguranță și aliniere a AI la Google DeepMind, alături de Mark Chen, Wojciech Zaremba, Chris Olah, Ben Mann și alții. Lista completă și textul integral sunt publicate pe un site dedicat, intitulat „Pacing the Frontier”.
Pentru moment, administrația de la Washington a preferat o reglementare cu mână ușoară. Președintele Donald Trump a susținut anterior că reguli prea împovărătoare ar dezavantaja SUA în competiția cu companiile de AI din China. În lipsa unei legislații federale — Congresul nu a reușit să adopte o politică valabilă în ambele camere —, statele americane și-au impus propriile reguli; New York, de pildă, a instituit un moratoriu de un an asupra construirii de noi mega-centre de date. Practic, scrisoarea semnalează că o parte tot mai mare a industriei se raliază unei cereri de reglementare, deși drumul spre un cadru coordonat internațional rămâne incert.
Credeți că guvernele ar trebui să impună o frână dezvoltării AI sau riscul ar fi să rămână în urma competiției globale? Spuneți-ne cum vedeți echilibrul dintre inovație și siguranță.
