AI Act

Med AI Act får EU världens första reglering rörande användning av AI. Eftersom det är en förordning kommer den att harmoniseras i samtliga EU s 27 länder.

AI Act syftar till att reglera användningen av AI-system för att skydda människor och samhället från potentiella risker.

AI Act fokuserar på att skapa trygghet och förtroende kring AI-teknik samtidigt som innovation och utveckling uppmuntras.

Övergripande rörande regleringarna

En riskbaserad ansats innebär att AI-system delas in i olika riskkategorier som oacceptabel risk, hög risk, begränsad risk och minimal risk. Högre risknivåer kräver strängare regler och kontroller. Vissa AI-användningar, som anses farliga för människors säkerhet eller rättigheter, exempelvis "social poängsättning" där individer bedöms utifrån deras beteende eller manipulation av människor, är förbjudna. AI-system som används inom områden som sjukvård, brottsbekämpning eller rekrytering kommer att omfattas av särskilda krav på säkerhet, transparens och mänsklig övervakning. AI-system måste vara transparenta, vilket innebär att människor ska informeras när de interagerar med AI och ges insyn i hur beslut fattas. Precis som med GDPR kommer det att finnas stränga straff för överträdelser, inklusive höga böter för dem som inte följer reglerna.

AI Act är utformad för att säkerställa att AI utvecklas på ett sätt som respekterar individers rättigheter och skyddar samhället från skadliga effekter, samtidigt som det uppmuntrar säker och etisk användning av teknologin.

Sanktioner, högre än för GDPR

Företag som bryter mot dess regler om användning av artificiell intelligens. kan straffen delas upp i tre nivåer, baserat på allvaret i överträdelsen:

För de allvarligaste överträdelserna, såsom användning av förbjudna AI-system som manipulerar människor eller innebär stora säkerhetsrisker, kan böterna uppgå till upp till 30 miljoner euro eller 6 % av den globala årliga omsättningen, beroende på vilket belopp som är högre. För mindre allvarliga överträdelser, som att inte uppfylla kraven för högrisk-AI-system, kan böterna vara upp till 20 miljoner euro eller 4 % av den globala årliga omsättningen, beroende på vilket som är högre. För mindre förseelser, som att lämna felaktig eller ofullständig information till myndigheterna, kan böterna uppgå till 10 miljoner euro eller 2 % av den globala årliga omsättningen, beroende på vilket belopp som är högre.

Dessa straff är utformade för att säkerställa att företag tar AI-säkerhet och efterlevnad på allvar och undviker risker för människors rättigheter eller säkerhet.

Att göra en GAP analys

Eftersom både utvecklare och tillhandahållare av hög risk AI måste tillämpa lagregleringen måste alla som använder hög risk AI förbereda sig och förstå vad det innebär att tillämpa sådana AI-system.

En GAP-analys kan hjälpa er organisation att bättre förstå er nuvarande situation i förhållande till vad som krävs enligt AI Act. Genom att identifiera och prioritera områden som behöver förbättras kan organisationen fokusera på viktiga efterlevnads frågor. En noggrann analys gör det lättare att se hur väl verksamheten följer reglerna i AI Act.

Även om det dröjer ett tag innan AI Act blir skarp lagstiftning kan vara klokt att redan nu göra en GAP-analys rörande vilka system man använder och vad man ska tänka på vid sådan användning. En sådan anledning är att inte organisationen vänjer sig vid att tillämpa system som senare visar sig bli förbjudna eller inte får tillämpas inom EU.

WETTERBERG Advokatbyrå kan hjälpa till med sådana analyser och även hjälpa till att upprätta AI-policys för hur anställda får använda AI på arbetsplatsen.

Välkomna att kontakta oss rörande AI Act.