Blog
Reglementări clare pentru furnizori de sisteme AI în UE
Parlamentul European a adoptat poziția cu privire la Legea reglementării Inteligenței Artificiale (AI). Regulile ar asigura că inteligența artificială dezvoltată și utilizată în Europa va fi pe deplin în conformitate cu drepturile și valorile UE. Obiectivul major fiind dezvoltarea unui AI centrate pe siguranță, confidențialitate, transparență, nediscriminare, bunăstare socială și de mediu.
Ce interzice legea?
Documentul stabilește obligații clare pentru dezvoltatori și furnizori de sisteme AI în funcție de nivelul de risc pe care AI îl poate genera.
Sunt interzise sistemele AI cu un nivel inacceptabil de risc pentru siguranța oamenilor, cum ar fi:
· sisteme de identificare biometrică la distanță „în timp real” în spații accesibile publicului;
· sisteme de identificare biometrică la distanță „post”, (excepție organele de drept pentru urmărirea penală a infracțiunilor grave și numai după autorizarea judiciară);
· sisteme de clasificare biometrică care utilizează caracteristici sensibile (de exemplu, gen, rasă, etnie, statut de cetățenie, religie, orientare politică);
· sisteme predictive de poliție (bazate pe profilare, locație sau comportament criminal din trecut);
· sisteme de recunoaștere a emoțiilor în aplicarea legii, managementul frontierelor, la locul de muncă și instituțiile de învățământ;
· sisteme de răzuire a imaginilor faciale de pe internet sau a imaginilor CCTV pentru a crea baze de date de recunoaștere facială (încălcarea drepturilor omului și a dreptului la confidențialitate).
O atenție deosebită se atrage sistemelor de social media:
· sistemele folosite pentru a influența alegătorii și rezultatul alegerilor;
· sistemele de recomandare utilizate de platformele de social media.
Dezvoltatorii vor trebui să evalueze și să atenueze posibilele riscuri (pentru sănătate, siguranță, drepturi fundamentale, mediu, democrație și statul de drept) și să-și înregistreze modelele în Baza de date a UE înainte de lansarea lor pe piața UE.
Sistemele generative de inteligență artificială bazate pe astfel de modele, cum ar fi ChatGPT la fel trebuie să respecte cerințele de transparență dezvăluind faptul că conținutul a fost generat de inteligența artificială și să asigure garanții împotriva generării de conținut ilegal. Rezumatele detaliate ale datelor protejate prin drepturi de autor utilizate pentru formarea lor va trebui, de asemenea, făcute publice.
Pentru a stimula inovația în AI și pentru a sprijini IMM-urile, deputații europeni au adăugat scutiri pentru activitățile de cercetare și componentele AI furnizate în baza licențelor open-source.
Legea la fel promovează așa-numitele sandbox-uri de reglementare, sau medii din viața reală, stabilite de autoritățile publice pentru a testa AI înainte de a fi implementată.
În cele din urmă, legea va asigura dreptul cetățenilor de a depune plângeri cu privire la sistemele AI și de a primi explicații cu privire la deciziile bazate pe sisteme AI cu risc ridicat care au un impact semnificativ asupra drepturilor lor fundamentale. Iar rolul Oficiului AI al UE, va fi însărcinat și cu funcția de monitorizarea a modului în care este implementat regulamentul AI.
Sursa: https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf
Solicită o consultare