Förordningen har till syfte att genom ett harmoniserat regelverk stärka den inre marknadens konkurrenskraft och främja den positiva utvecklingen av AI, samtidigt som medborgares säkerhet och grundläggande rättigheter skyddas. Förslaget bemöter dock kritik för att vara alltför omfattande och svårtillämpat för marknadens aktörer, vilket istället kan hämma utvecklingen.

AI används i allt större utsträckning inom många olika branscher och verksamheter, och utvecklingen har på kort tid gjort stora framsteg. Användningsområdena för AI är många och sträcker sig från exempelvis självkörande fordon och smarta hushållsapparater, till näthandel och applikationer i telefoner eller på internet. Området har i princip varit fritt från specifik rättslig reglering som begränsar utvecklingen och användningen av AI, vilket nu kan komma att ändras.

Mot bakgrund av denna utveckling presenterade EU-kommissionen den 21 april ett förslag till en ny AI-förordning. Till följd av att förslaget till reglering utgör en förordning, istället för ett direktiv, blir den i alla delar bindande och direkt tillämplig i varje medlemsstat till EU, likt GDPR. Syftet med förslaget är bland annat att harmonisera regler för AI inom EU, skydda grundläggande rättigheter, främja de positiva aspekterna med AI och säkerställa fri rörlighet för AI-system. Genom förordningen avser kommissionen att förtroendet för AI ska öka och gynna EU:s konkurrenskraft internationellt.

Förslaget har ett riskbaserat angreppssätt där vissa typer av utveckling och användning av AI är förbjuden, medan andra typer är förenade med restriktioner och kräver registrering hos myndigheter, och vissa typer av AI får användas fritt.

Oacceptabel risk: AI-system som anses utgöra ett hot mot människors säkerhet, försörjningsmöjligheter eller rättigheter kommer vara förbjudna. Exempel på sådan AI är system som genom röststyrning uppmuntrar minderåriga till farliga beteenden eller system som stater kan använda för ”social poängsättning”.

Hög risk: AI-system med hög risk omfattas av strikta skyldigheter innan de får släppas ut på marknaden. För att få använda AI-system med hög risk krävs CE-märkning genom prövning av behörigt offentligt organ. Till denna kategori räknas bland annat kritiska infrastrukturer (t.ex. transport) som kan innebära hot mot människors hälsa; säkerhetskomponenter i produkter (t.ex. AI-tillämpning för robotar inom sjukvården); anställning, arbetsledning och tillgång till egenföretagande (t.ex. sortering av cv:n i samband med rekrytering); och väsentliga privata och offentliga tjänster (t.ex. kreditbedömningar).

Begränsad risk: AI-system med begränsad risk omfattas av särskilda transparenskrav, vilket exempelvis innebär att användare måste vara medvetna om att de interagerar med en AI vid användandet av chattbotar.

Minimal risk: AI-system med minimal risk får användas fritt utan krav på speciella åtgärder. Detta inkluderar exempelvis AI-stödda videospel eller skräppostfilter som utgör en minimal eller obefintlig risk för medborgarnas säkerhet eller rättigheter.

Förslaget till AI-förordningen har skickats på remiss och har till viss del bemött kritik från de svenska remissinstanserna. Kritiken består främst i svårigheter för företag att tillförsäkra en efterlevnad av de nya reglerna, som i varierande mån överlappar med och strider mot befintliga regelverk avseende bland annat dataskydd, produktsäkerhet, diskriminering och ansvar. Även europeiska dataskyddsstyrelsen har framfört kritik mot förslaget då AI-förordningen i vissa hänseenden hamnar i konflikt med GDPR, vilket skapar ytterligare frågor kring dess tillämpning.

Ett antagande av AI-förordningen kan innebära en större administrativ börda för företag att ansöka om erforderliga tillstånd och säkerställa efterlevnad av regleringen. Likt GDPR föreslår kommissionen även avseende AI-förordningen höga sanktionsavgifter vid brott mot förordningen, upp till 30 miljoner euro eller 6 % av förgående års globala omsättning.

Det återstår att se om AI-förordningen antas i sin nuvarande form, men Sveriges regering förhåller sig positiv till förslaget.