Nu inleds de viktiga slutförhandlingarna om en AI-reglering

I april 2021 presenterade EU-kommissionen ett förlag till reglering av artificiell intelligens (AI). Näringslivet har från start bett om en tydlig reglering av vad man inte får använda AI-tekniken till. Det är nu en teknikneutral del av förslaget som ligger på förhandlingsbordet. Förutom AI-förslaget finnes en mängd regler i andra lagar som fortsatt kommer att gälla såsom diskriminering, produktsäkerhet, produktansvar och inte minst GDPR.

Som exempel behöver AI-utvecklare förhindra skevhet (bias) och diskriminerande utfall när systemen används och för att lyckas med det måste känsliga personuppgifter användas. AI-akten ger rätt att behandla uppgifterna enligt GDPR:s krav på rättslig grund men hur de ska hanteras styrs fortsatt av GDPR. Och reglerna i GDPR om automatiserat beslutsfattande gäller även när AI-akten träder i kraft.

Förutom att förbjuda viss AI-användning införs en mängd krav på användning som faller inom definierade högriskområden. Högrisk-AI-system ska godkännas av ett oberoende organ, så kallat tredjepartsgodkännande och användningen ska föregås av riskanalyser, registrering i EU-databas och vid användning ska ingående data sparas i 10 år.

Lagstiftningsproblemet med generativ AI som ChatGPT och system för generella ändamål är att de möjliggör en mängd användningar, men den som utvecklar modellen vet inte i vilka sammanhang och till vad användaren kommer använda den. Då är det svårt, om inte omöjligt, att vidta försiktighetsåtgärder och konsekvensanalys av användningen. Det blir spekulativt och skulle innebära regelkrav som inte går att uppfylla.

Både Rådet och Europaparlamentet vill reglera generativ AI. Det som är viktigast för näringslivet är att modeller och system levereras med transparens i form av teknisk dokumentation så att företag som sedan använder dem kan fullgöra sina skyldigheter enligt AI-akten (se bifogad ställningstagande från BusinessEurope). Idag görs detta normalt upp i kontrakt mellan säljare och köpare, men lagstiftarna vill säkerställa detta i lag.

Ibland framförs att AI-akten främst var tänkt att reglera så kallad smal AI som utvecklats och använts sedan 70-talet. Det stämmer. När EU-kommissionen gjorde sin analys för att lägga fram ett lagstiftningsförslag fanns inte generativ AI på marknaden. I Sverige och Europa är det ca 8 procent av företagen som använder AI och då främst för att effektivisera och upptäcka mönster som kräver analys av stora datamängder. Men mycket förändras med GPT-verktyg som bidrar till den våg av AI-användning som nu sköljer över hela samhället. Den användningen faller under AI-akten men själva utvecklandet av den bakomliggande modellen vill främst EU-parlamentet reglera. Detta är inte lätt och hade behövt en gedigen analys och konsultationsperiod. Det återstår att se vad lagstiftarna kan enas om i slutförhandlingen.

Med generativ AI kan människan säga till maskinen att skapa text, bilder och musik. Här ökar risken för oönskad användning och därför är det viktig med reglering om vad vi får producera och använda AI till. Att vilseleda och utnyttja människor med hjälp av AI teknik förbjuds i AI akten. Men återigen, det finns många lagar som gäller. AI-akten är en horisontell lagstiftning som är tänkt som ett extra skyddsnät ifall sektorsspecifik lagstiftning saknas.