EU-kommisjonen har nylig lagt frem forslag til en forordning som vil forby bruk av kunstig intelligens (AI) til masseovervåkning og sosiale poengsystemer. Alle utviklere, leverandører, distributører og brukere av AI må følge klare krav og forpliktelser.
Kunstig intelligens (Artificial Intelligence) er evnen datasystemer har til å utvise intelligent adferd som lar systemet handle og lære av seg selv. Kommisjonen foreslår en risikobasert tilnærming når det gjelder ulike AI-systemer slik at systemer med høy risiko eller uakseptabel risiko enten blir forbudt eller strengt regulert. Forslaget får betydning innenfor mange samfunnsområder. Det innebærer for eksempel at dataprogrammer utviklet for å samhandle med mennesker ved hjelp av språk, skrift eller tale (chatroboter) må informere brukerne om at de samhandler med et AI-system.
Bruk av AI innenfor ansettelses- og rekrutteringssektoren vil bli underlagt omfattende regulering. Bruk av inngripende teknologi i det offentlige rom slik som ansiktsgjenkjenning i sanntid foreslås streng regulert og vil bare være tillatt i enkelte sammenhenger.
Et hovedfundament for forslaget er de grunnleggende EU-reglene om respekt for menneskets integritet og retten til et privatliv som vil begrense bruken av AI. Kunstig intelligens som manipulerer menneskets opptreden, meninger og beslutninger til skade for den enkelte eller andre personer, vil være forbudt. Dette innebærer videre forbud mot såkalt «sosial scoring» der AI-beslutninger kan føre til ugunstig eller skadelig behandling av visse fysiske personer eller grupper uavhengig av sammenhengen for datainnsamlingen. Det samme gjelder AI-beslutninger som er grunnløse eller uforholdsmessige. Forbudet rammer også AI som utnytter sårbarheter til en spesiell gruppe av personer på grunn av alder eller fysisk eller psykisk funksjonsnedsettelse for å påvirke en persons opptreden slik at dette kan påføre de aktuelle skade.
Forslaget medfører streng regulering av AI-systemer som innebærer høy risiko. Høyrisiko er definert i et vedlegg til lovforslaget og omfatter blant annet AI-systemer for biometrisk identifisering og kategorisering av personer i sanntid og ettertid, visse typer bruk av AI i utdannelse (blant annet ved opptak og vurdering av studenter), AI som sikkerhetskomponenter i kritisk infrastruktur (som vei, vann og energi) og AI som avgjør tilgang til offentlige tjenester eller fordeler essensielle private tjenester slik som lån.
I likhet med personvernforordningen (GDPR) innebærer forslaget at regelbrudd kan sanksjoneres med svært store bøter på inntil 20 millioner euro. Hvis overtredelsen er begått av et selskap, kan bøter ilegges med inntil 4 % av årlig global omsetning. Brudd på forbudsbestemmelsen kan gi bøter med inntil 30 millioner euro eller 6% av årlig global omsetning.
Dag Thorstensen
dt@forsberglaw.no
