Onsdagen den 14 juni godkände Europaparlamentet det förslag till AI-förordning som EU-kommissionen tagit fram. Förslaget utgör i sin helhet en reglering av under vilka förhållanden olika AI-system får användas, där bland annat system som ChatGPT omfattas. Målet med AI-förordningen är att, med hjälp av förordningens riskförebyggande karaktär, öka allmänhetens förtroende för användning av AI, vilket i sin tur ska underlätta investeringar och innovation för AI. Genom att uppfylla målen kan vidare det övergripande syftet att etablera EU som världsledande inom utvecklingen av säker, tillförlitlig och etisk AI uppfyllas.
Europaparlamentets godkännande innebär att AI-förordningen är ett steg närmare att bli en verklighet, varför det är viktigt för styrelser och affärsledningar samt tillhandahållare av AI-system att redan nu förbereda sig inför de utmaningar förordningen kan komma att medföra. I sammanhanget kan särskilt nämnas den riskbaserade modell som förordningen utgår från, vilken måste förstås för att kunna säkerställa efterlevnad. Modellen innebär att AI-system delas in i kategorier: förbjudna system, högrisksystem, system med begränsad risk samt system med minimal risk. De två sistnämnda kategorierna avser system som inte anses medföra betydande risker för människors hälsa och säkerhet eller grundläggande rättigheter. Vidare är de inte förenade med några särskilt betungande krav, annat än att användning av system med begränsad risk förutsätter en transparens avseende omständigheten att det innehåll användare interagerar med inte genererats av en människa.
När det gäller högrisksystem måste dessa uppfylla en rad krav på tillförlitlig AI samt genomgå förfaranden för bedömning av överensstämmelse med förordningen innan de kan släppas ut på marknaden. Vidare följer ett slags övervakningskrav av regleringen av högrisksystem, vilket ålägger leverantörer och användare av dessa att säkerställa säkerhet som skyddar grundläggande rättigheter under hela AI-systemets livscykel.
De AI-system som slutligen omfattas av den högsta riskkategorin föreslås att vara totalförbjudna. Innan Europaparlamentets godkännande innehöll förslaget ett undantag avseende biometrisk identifiering av individer för brottsbekämpande ändamål, men förslaget har sedan godkännandet tagits bort. Det nämnda utgör en av de största förändringarna som den föreslagna förordningen genomgått på grund av samtalen i Europaparlamentet.
AI-förordningen kan inte bli antagen i sin helhet förrän EU-kommissionen, Europaparlamentet samt Europeiska unionens råd enats i det så kallade trilogmötet, där de tre organen förhandlar fram förslagets slutgiltiga utformning. Frågan om AI är visserligen brådskande, men en slutligt antagen förordning kan inte väntas förrän tidigast vid årsskiftet 2023/2024. När förordningen väl antagits inleds vidare en implementeringsperiod som väntas löpa över två till tre års tid. Förordningen kommer följaktligen förmodligen inte att börja gälla för allmänheten förrän år 2026 eller 2027.
Läs kommissionens förslag till förordning här
Läs Europaparlamentets ändringar här