Actul AI: un pas mai aproape de primele reguli privind inteligența artificială | Știri
Joi, Comisia pentru Piața Internă și Comisia pentru Libertăți Civile au adoptat un proiect de mandat de negociere privind primele reguli privind inteligența artificială, cu 84 de voturi pentru, 7 împotrivă și 12 abțineri. În amendamentele lor la propunerea Comisiei, deputații europeni urmăresc să se asigure că sistemele AI sunt supravegheate de oameni, sigure, transparente, urmăribile, nediscriminatorii și ecologice. Ei doresc, de asemenea, să aibă o definiție uniformă a AI concepută pentru a fi neutră din punct de vedere tehnologic, astfel încât să se poată aplica sistemelor AI de astăzi și de mâine.
Abordare bazată pe risc a AI – Practici AI interzise
Regulile urmează o abordare bazată pe risc și stabilesc obligații pentru furnizori și utilizatori în funcție de nivelul de risc pe care AI îl poate genera. Sistemele AI care prezintă un nivel inacceptabil de risc pentru siguranța oamenilor ar fi strict interzise, inclusiv sistemele care desfășoară tehnici subliminale sau manipulative intenționate, exploatează vulnerabilitățile oamenilor sau sunt utilizate pentru evaluarea socială (clasificarea persoanelor pe baza comportamentului lor social, -statut economic, caracteristici).
Deputații au modificat în mod semnificativ lista pentru a include interzicerea utilizărilor intruzive și discriminatorii ale sistemelor AI, cum ar fi:
- Sisteme de identificare biometrică la distanță „în timp real” în spații accesibile publicului;
- Sisteme de identificare biometrică la distanță „poștală”, cu singura excepție a organelor de drept pentru urmărirea penală a infracțiunilor grave și numai după autorizarea judiciară;
- Sisteme de clasificare biometrică care utilizează caracteristici sensibile (de exemplu, gen, rasă, etnie, statut de cetățenie, religie, orientare politică);
- Sisteme de poliție predictivă (bazate pe profilare, locație sau comportament criminal din trecut);
- Sisteme de recunoaștere a emoțiilor în forțele de ordine, managementul frontierelor, la locul de muncă și instituțiile de învățământ; Și
- Extragerea fără discernământ a datelor biometrice din rețelele sociale sau din imagini CCTV pentru a crea baze de date de recunoaștere facială (încălcarea drepturilor omului și a dreptului la confidențialitate).
AI cu risc ridicat
Deputații au extins clasificarea zonelor cu risc ridicat pentru a include daune aduse sănătății oamenilor, siguranței, drepturilor fundamentale sau mediului. Au adăugat, de asemenea, sisteme AI pentru influențarea alegătorilor în campaniile politice și în sistemele de recomandare utilizate de platformele de social media (cu peste 45 de milioane de utilizatori în cadrul Legea Serviciilor Digitale) la lista cu risc ridicat.
AI de uz general – măsuri de transparență
Deputații au inclus obligații pentru furnizorii de modele de bază – o dezvoltare nouă și în evoluție rapidă în domeniul IA – care ar trebui să garanteze o protecție solidă a drepturilor fundamentale, a sănătății și siguranței și a mediului, a democrației și a statului de drept. Aceștia ar trebui să evalueze și să atenueze riscurile, să respecte cerințele de proiectare, informații și de mediu și să se înregistreze în baza de date a UE.
Modelele generative de bază, cum ar fi GPT, ar trebui să respecte cerințe suplimentare de transparență, cum ar fi dezvăluirea faptului că conținutul a fost generat de AI, proiectarea modelului pentru a preveni generarea de conținut ilegal și publicarea rezumatelor de date materiale protejate prin drepturi de autor utilizate pentru instruire.
Sprijinirea inovației și protejarea drepturilor cetățenilor
Pentru a stimula inovația AI, deputații au adăugat derogări la aceste reguli pentru activitățile de cercetare și componentele AI furnizate în baza licențelor open source. Noua lege promovează sandbox-uri de reglementare sau medii controlate, stabilite de guverne pentru a testa AI înainte de implementare.
Deputații europeni doresc să consolideze dreptul cetățenilor de a depune plângeri împotriva sistemelor de inteligență artificială și de a primi explicații cu privire la deciziile bazate pe sisteme de inteligență artificială cu risc ridicat care au un impact semnificativ asupra drepturilor lor. Deputații au reformat, de asemenea, rolul biroului UE de inteligență artificială, care ar fi responsabil cu supravegherea punerii în aplicare a regulamentului privind inteligența artificială.
Estima
După vot, coraportorul Brando Benifei (S&D, Italia) a declarat: „Suntem pe cale să punem în aplicare o legislație istorică care trebuie să reziste testului timpului. Este esențial să construim încrederea cetățenilor în dezvoltarea IA, să definim calea europeană pentru a face față schimbărilor extraordinare care au loc deja, precum și să ghidăm dezbaterea politică despre IA la nivel global. Suntem convinși că textul nostru împacă protecția drepturilor fundamentale cu necesitatea de a oferi securitate juridică companiilor și de a stimula inovația în Europa”.
Coraportorul Dragos Tudorache (Renew, România) a declarat: „Având în vedere impactul profund transformator pe care IA îl va avea asupra societăților și economiilor noastre, legea AI este, foarte probabil, cea mai importantă act legislativ din acest mandat. Este prima piesă. a legislației de acest gen în lume, ceea ce înseamnă că UE poate deschide calea pentru a face IA centrată pe om, fiabilă și sigură. Am lucrat pentru a sprijini inovarea în IA în Europa și pentru a oferi start-up-urilor, IMM-urilor și spațiului industriei să crească și să inoveze, protejând în același timp drepturile fundamentale, consolidând controlul democratic și garantând guvernanța sistemului și aplicarea inteligenței artificiale.”
Pasii urmatori
Înainte de a începe negocierile cu Consiliul asupra formei finale a legii, acest proiect de mandat de negociere trebuie aprobat de întreg Parlamentul, urmând a fi votat în sesiunea 12-15 iunie.