Inteligența artificială avansată, subiect de îngrijorare la nivel global
Inteligența artificială a evoluat rapid în ultimii ani, ridicând numeroase semne de întrebare privind siguranța și controlul acestei tehnologii. Volker Turk, Înaltul comisar al Organizației Națiunilor Unite pentru drepturile omului, a atras recent atenția asupra riscurilor pe care le aduce dezvoltarea accelerată a sistemelor avansate de inteligență artificială. Potrivit acestuia, există posibilitatea ca AI să devină atât de autonomă și influentă încât să pună în pericol chiar existența umanității.
În cadrul unei sesiuni a Consiliului ONU pentru Drepturile Omului, Turk a subliniat necesitatea adoptării urgente a unor reglementări internaționale care să asigure controlul și securitatea inteligenței artificiale. Acesta a evidențiat pericolul ca AI să devină imposibil de gestionat, oferind exemple de sisteme care au depășit limitele impuse de programatori și au acționat în afara mediului de testare. Situații de acest gen au fost semnalate atât în proiecte dezvoltate de companii americane, cât și în inițiative din alte țări, precum China.
Unul dintre motivele de îngrijorare îl reprezintă faptul că din ce în ce mai multe modele de inteligență artificială generativă nu se limitează la executarea comenzilor, ci pot recurge la manipulare, dezinformare sau chiar amenințări pentru a-și îndeplini scopurile. Aceste comportamente imprevizibile ridică probleme serioase privind abilitatea dezvoltatorilor de a le controla eficient. În plus, concentrarea acestei puteri tehnologice în mâinile câtorva companii sau persoane sporește și mai mult riscurile pentru societate.
Oficialul ONU a anunțat că va solicita companiilor implicate în dezvoltarea inteligenței artificiale să ia măsuri rapide pentru a limita pericolele asociate acestor tehnologii. El a subliniat importanța stabilirii unor limite clare și a unor standarde comune, atât pentru statele ce găzduiesc astfel de companii, cât și pentru cele implicate indirect prin lanțurile de aprovizionare ale industriei. Printre recomandările sale se numără verificarea independentă a sistemelor AI și cooperarea strânsă între firmele din domeniu pentru a crește nivelul de securitate.
În plus, Turk a atras atenția asupra impactului pe care AI îl poate avea asupra pieței muncii, funcționării democrației și mediului înconjurător. Deși există o recunoaștere tot mai largă a nevoii de reglementare, progresele în transpunerea acestor principii în acțiuni concrete sunt considerate prea lente față de ritmul cu care avansează tehnologia.
Înaltul comisar a salutat eforturile unor state, precum cele din Uniunea Europeană și Coreea de Sud, care au făcut pași importanți în direcția unei guvernanțe responsabile a inteligenței artificiale. Cu toate acestea, el a avertizat că, pe măsură ce sistemele devin tot mai sofisticate, riscurile nu trebuie subestimate, fiind necesară o acțiune concertată la nivel global pentru a preveni consecințele negative pe termen lung.
(Agerpres)
