Överenskommelse om AI: förbjudna användningsområden och högriskområden

EU:s institutioner har för första gången nått en överenskommelse för att reglera användningen av artificiell intelligens (AI). Regelverket riktar in sig på specifika områden där användningen av AI antingen är förbjuden eller anses vara högrisk, men tillåts under strikta förutsättningar och kontroller.

Överenskommelsen syftar till att säkerställa att AI används på ett etiskt och ansvarsfullt sätt. Målet är att skydda människors integritet och välbefinnande samtidigt som man möjliggör utvecklingen av AI-teknologi för samhällets bästa.

Inom högriskområden regleras användningen av AI för viktiga beslut, som till exempel vid urval till studier eller arbete, där konsekvenserna kan vara livsavgörande. Dessutom faller biometrisk identifiering, såsom ansiktsigenkänning, inom detta område och måste användas med särskild försiktighet.

De förbjudna områdena täcker aktiviteter som att medvetet manipulera barn och andra grupper som är sårbara, samt användningen av AI för att ranka samt sätta sociala poäng på människor. Dessutom är användningen av biometrisk identifiering i realtid på offentliga platser inte tillåten, med undantag av brottsbekämpning och förebyggande åtgärder.

Nästa steg

Den politiska överenskommelse om AI-förordningen Länk till annan webbplats. har inneburit extremt långa förhandlingar kring förordningen som är den första i sitt slag och omfattar bland annat AI i medicinsk teknik men även generativa AI-verktyg såsom Chat GPT. Även om man nått en politisk överenskommelse är det fortfarande en hel del jobb med lagtexterna som kvarstår. Reglerna är tänkta att börja gälla 2025.