Den senaste tiden har det pågått en debatt om hur farlig AI-tekniken egentligen är. En rad tunga experter, bland dem Geoffrey Hinton som även kallas ”AI:s gudfader”, varnar för utvecklingen och efterfrågar reglering. När en grupp experter höjer ett varnandets finger finns det andra som konstaterar att farhågorna är överdrivna och pekar på nyttorna med tekniken. Så även den här gången.
Att artificiell intelligens både har för- och nackdelar är inte svårt att förstå. Inte heller att tekniken behöver regleras.
Men att försöka reglera teknik som utvecklas lika fort som AI-tekniken är svårt. Vi vet vilken teknik som finns i dag men inte hur den utvecklats i en snar framtid.
Det har inte hindrat EU från att försöka. Det finns ett förslag till en förordning som just nu tröskas igenom EU:s lagstiftningsmaskineri. Utformningen av förslaget är tämligen teknikneutral, då den är utformad efter vilka risker ett system kan ge upphov till: oacceptabel, hög, begränsad eller minimal.
De system som klassas som oacceptabla ska förbjudas. Det handlar exempelvis om massövervakningsverktyg som stater kan använda för ”social poängsättning” av sina medborgare. Det finns en bred enighet om att system som dessa ska vara förbjudna.
Det finns heller inte någon diskussion kring de system som anses ha begränsad eller minimal risk. Vid begränsad risk, exempelvis kommunikation med en chattbot ställs krav på att man ska veta att det är en maskin som svarar. När det rör sig om minimal risk, exempelvis mejlens skräppostfilter är användningen fri.
De system som anses ha hög risk ska uppfylla flera strikta krav, som syftar till att minska riskerna med användningen. Men hur hårda dessa krav ska vara är man ännu inte ense om.
Under torsdagen röstade två av EU-parlamentets kommittéer om utformningen av förordningen. Den grupp som förordar en striktare syn på regelverkets utformning vann överlägset med 83 mot 7 röster.
Bland de som röstade nej fanns moderaterna Arba Kokalari och Tomas Tobé som anser att förslaget ”riskerar att hämma innovation och Europas konkurrenskraft”. De anser även att förslaget närmast innebär ett förbud för ”brottsbekämpande myndigheter att använda AI”.
Det man är oense om är möjligheten att massövervaka folkmassor i realtid i samband med särskilt allvarliga brott. Det nuvarande förslaget förbjuder detta. I stället ska polisen i efterhand kunna söka i lagrad information med stöd av ett domstolsbeslut.
Det finns flera goda skäl för en mer restriktiv hållning. Det går aldrig att helt undanröja risken att befintlig teknik missbrukas. Därmed är det klokt att minimera riskerna.