Utskott i Europaparlamentet har röstat om AI-akten

Den 11 maj 2023 röstade parlamentets utskott för den inre marknaden och konsumentskydd (IMCO) och utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) om kommissionens förslag om AI-akten. De nya reglerna rör bland annat frågeappen chatGPT och ansiktsigenkänningsprogram.

Parlamentariker i IMCO- och LIBE-utskotten har nu delgett sina synpunkter i världens första utrullning av lagar för artificiell intelligens (AI). I sina ändringar till kommissionens förslag belyser utskotten bland annat att AI-system bör vara bevakade av människor, säkra, transparenta, spårbara, icke-diskriminerande och hållbara. Utskottens ståndpunkt följer en riskbaserad linje, och föreslår obligationer för både leverantörer och användare av AI. För en etisk utveckling framhävs även vikten av transparens, riskanalyser och regler kring AI-system.

Inom ledamöternas riskbaserade linje ges ändringar i form av en lista på förbud. Bland annat ges förbud mot ansiktsigenkänning på allmänna platser i realtid och kategoriseringssystem för individkänsliga attribut (såsom kön, etnicitet, religion, politisk läggning bland annat). Man inkluderar även ett förbud på användningen av prediktivt polisarbete och kriminella prognossystem (baserat på profilering och brottsregister till exempel) – det första förbudet av sitt slag i Europa och det första stora förbudet mot sådana system i världen.

Fortsättningsvis kom man överens om att utöka klassificeringen av högriskområden för AI. Till denna lista gjordes exempelvis tillägg om att inkludera risker för människors hälsa, säkerhet, grundläggande rättigheter eller miljön men även AI-system som kan påverka väljare i politiska kampanjer och i rekommendationssystem som används av sociala medieplattformar.

Till AI för generella ändamål tillades krav på transparens för leverantörer av generativ AI-teknik, det vill säga AI-system som producerar, manipulerar eller syntetiserar data, såsom chatGPT. Dessa skulle behöva uppfylla ytterligare krav på öppenhet, som att publicera upphovsrättsskyddad data som används för utbildning samt förhindra att systemet genererar olagligt innehåll.

För att stödja AI-innovation lades undantags till för forskning och AI-teknik med licenser med öppen källkod. Den nya lagen främjar regelverk som etablerats av offentliga myndigheter för att testa AI innan den sätts i drift för att skydda av medborgares rättigheter. Vidare vill man införa medborgares rätt att lämna in klagomål på AI-system.

Med 84 röster för, 7 emot och 12 frånvarande behöver mandatet antas av hela parlamentet innan i förhandlingar med europeiska unionens råd kan påbörjas.

IMCO- och LIBE-utskottens synpunkter på AI-akten Länk till annan webbplats.