EU:s nya lag kan krossa Strömmers drömmar
Polisens övervakning med ansiktsigenkänning kommer bli svårare
I går antog EU-parlamentet ett nytt direktiv för att reglera AI. Riskerna med artificiell intelligens ska minskas – och det kan ge den svenska regeringen problem.
De flesta AI-verktyg fungerar genom att känna igen mönster och förutspå hur de ska fyllas i. Den mest kända heter ChatGPT, som tränats med hjälp av lågavlönade arbetare i exempelvis Kenya. Ägaren heter OpenAI och värderades nyligen till 80 miljarder dollar.
AI-utvecklingen har gått så snabbt att varken forskare eller personer som jobbar med AI kan förklara varför verktygen gör som de gör.
Därför är det lönt att bromsa utvecklingen. EU:s ”AI Act” rangordnar verktyg och teknik i fyra katergorier: ingen risk, begränsad risk, hög risk eller oacceptabel risk. Ju högre risk, desto mer reglering.
AI-lagen gör det omöjligt att införa den typen av automatiserad massövervakning som finns i exempelvis Kina. Där kan staten automatiskt identifiera dig var du än går, oavsett om du begått ett brott eller ej.
För den svenska regeringen och justitieminister Gunnar Strömmer kan den nya lagstiftningen ställa till det. De vill nämligen använda automatisk ansiktsigenkänning för att bekämpa brott. Något som AI-lagen förbjuder som regel, förutom i undantagsfall i vissa typer av brott.
I andra känsliga fall, som i myndighetsutövning, skola eller vård, kommer det ställas höga krav på hur och när man får använda AI. Högrisksystem måste dokumenteras, kontrolleras och riskbedömas innan de får användas.
Men för de flesta användningsområden kommer det räcka med att hemsidor och program berättar om du chattar med en AI och ifall en text eller video tagits fram med hjälp av AI. Det kommer också vara svårare att träna AI med hjälp av upphovsrättsskyddat material. I bästa fall en vinst för konstnärer och andra kulturskapare, som sett sina verk användas utan att de fått information eller möjlighet att samtycka eller ersättas för sitt arbete.
Vi kommer inte veta på ett tag hur mycket lagen kommer märkas av för enskilda människor. Risken är att den inte kommer vara tillräcklig.
Men den är ett steg på rätt väg och en linje i sanden. Den är en signal till företagen att de inte kan offra människor i jakten på innovation. Den är en signal till vanliga människor att inte slentrianmässigt använda tjänsterna. Och det är en signal till EU:s medlemsländer att inte hoppa på riskfylld ny teknik för att försöka vara handlingskraftiga.