– EU har sett standarden for regulering av kunstig intelligens
I juni kom EU sitt nye regelverk for kunstig intelligens på plass, som det første og mest omfattande reguleringa av sitt slag.
– Med AI Act har EU sett standarden for resten av verda, meiner Rajendra Akerkar ved Vestlandsforsking, som leier instituttet si forskingsgruppe for kunstig intelligens og stordata.
Verda over jobbar forvaltninga for å førebu lovverk som kan halde tritt med den raske utviklinga av kunstig intelligens, som tenesta ChatGPT har blitt sjølve symbolet på. Status for dette «kappløpet» var tema på det internasjonale symposiet Vestlandsforsking heldt i Sogndal i mai, og Jasmien César frå Mastercard Belgia gav eit innblikk i status for alle utgreiingane og lovverka som er undervegs, med EU, USA, Kina og Russland som dei leiande.
Fram til no har det ikkje eksistert noko lovverk i EU som kan hindre at data og informasjon blir misbrukt og sikre forbrukarane sine interesser overfor teknologiselskapa. EU sitt regelverk har vore i støypeskeia sidan 2021, og mange har venta utolmodig på resultatet.
– Dette er eit heilstøypt lovverk og eit viktig steg i retning av å sikre at kunstig intelligens held seg på ein utviklingskurs som er etisk forsvarleg, seier Rajendra Akerkar, Vestlandsforsking sin desiderte senior innan stordata og kunstig intelligens.
Ulike risikonivå
Artificial Intelligence Act, forkorta til AI Act eller AIA, blei vedteke 14. juni. Regelverket blir omtalt som tematisk breitt. Når det gjeld tekst, er det formulert ganske vagt. Det er ein fordel når ein skal ta høgde for teknologi som er i stadig utvikling.
Utgangspunktet for AI Act er kva slags nivå av risiko som er knytt til ein kunstig intelligens. Nivået avgjer kva slags krav tenesta blir underlagt. EU opererer med fire risikokategoriar, og den høgaste, «uakseptabel risiko», betyr i praksis eit forbod.
Regelverket plasserer kunstig intelligens i tre kategoriar. Den største endringa kjem i kategorien der ChatGPT høyrer heime. Dei som utviklar slike modellar, på fagspråket kalla «grunnmodellar», vil måtte leve opp til strengare krav om sikkerheit, datahandtering og risiko før modellane blir allment tilgjengelege. Data ein matar modellane for å gjere dei betre, må òg vere i tråd med reglane for opphavsrett.
Forskarar ved Stanford University har nyleg sett på kor vidt Open AI, Google og andre som står bak grunnmodellar som ChatGPT følgjer den føreslåtte regelverket, og avslørte at det er ein heil del sider ved dagens praksis som er på kant med det komande regelverket.
– Det er ikkje utelukka at teknologinæringa vil prøve å legge press på EU-systemet for å få til endringar.
Kjeppar i hjula for overvaking
Rajendra Akerkar trekkjer fram to område til der AI Act truleg vil merkast av vanlege innbyggjarar, slik vi gjorde i kjølvatnet av personverndirektivet GDPR for nokre år sidan.
Det eine er at EU no forbyr ansiktsgjenkjenning i sanntid. Det betyr ikkje at det vil bli forbode å opne appar på smarttelefonen med biletgjenkjenning, men at det blir forbode å bruke denne teknologien til å identifisere og overvake folk på stader som flyplassar, togstasjonar eller i inngangsparti på viktige bygningar. Immigrasjonsmyndigheiter og politi brukar truleg denne typen gjenkjenningsteknologi mange stader i dag.
– Ein ting er å filme folk på gata og identifisere dei, men no kan ein lett gå vidare og sjekke kva som står om folk i ulike databasar, seier Rajendra. I Kina blir denne teknologien òg brukt til å rangere innbyggarane etter kor godt dei ter seg i myndigheitene sine auge.
– Europaparlamentet og medlemslanda må sikre at det òg blir ulovleg å drive med utvikling, sal, bruk og eksport av teknologi for masseovervaking i den endelege versjonen av regelverket, understrekar Rajendra.
Mindre reklame som «ser deg»
Alle som brukar sosiale medium har merka kor skremmande effektivt interessa di for ulike forbruksvarer og tema blir fanga opp. I neste stund er du omgitt av forslag til liknande innhald. Det nye regelverket set grenser for anbefalingssystema som gjer dette mogeleg.
– Litt av grunnen til det, er at systema lett kan misbrukast for å påverke innbyggjarar med politisk innhald, seier Rajendra, og viser til at fleire demokratiske land tek i bruk anbefalingssystem på måtar autoritære regime har gjort før dei.
EU har plassert anbefalingssystema i kategorien «høg risiko». Det betyr meir kontroll med anbefalingar via sosiale medium, at myndigheitene ser dei i korta og at teknologiselskapa må stå til ansvar, juridisk sett, seier Rajendra.
Strengare for forskarar
AI Act gjeld Noreg på same måte som personverndirektivet GDPR gjer det. Men òg når forskingsinstitusjonar hentar midlar frå Brüssel, slik Rajendra og Vestlandsforsking gjer, vil dei snart merke endringar.
– Det som skjer av teknologisk innovasjon på laboratorium og innafor forskingsprosjekt, får halde fram som før, og EU føreslår opprette teknologiske «sandkasser» der forskarar og utviklarar kan eksperimentere i lukka form. Men når tenester skal ut i den verkelege verda, blir kontrollen strengare enn før.
Eit døme er verktøya Vestlandsforsking og partnarane i prosjektet Socyti skal utvikle for å fange opp og hindre netthets og hatprat. Her kombinerer forskarane fleire nye teknologiar, inkludert kunstig intelligens.
– Viss og når dette skal takast i bruk ute i samfunnet, vil det måtte oppfylle nye, strenge krav, mellom anna til innsyn, seier Rajendra.
Stort framsteg
Det nye regelverket skal styrke utvikling av kunstig intelligens som er til nytte for samfunn og miljø. Eit anna tydeleg verdival, er at regelverket gir fritak for all kunstig intelligens som er gratis i bruk og byggjer på open kjeldekode, med mindre dei er knytt til teknologi med høg risiko-merking.
Sidan regelverket til EU er heilt nytt og framleis har att forhandlingar mellom EU-institusjonane, finst det smutthol som etter kvart blir tetta. Til dømes ventar Rajendra at regelverket skal forby utvikling eller sal av kunstig intelligens til land utanfor EU.
Regelverket er venta å tre i kraft innan utgangen av året. Uansett kva slags justeringar som måtte kome, meiner Rajendra at AI Act er eit viktig steg i rett retning.
– Dette er det mest imponerande rammeverket som er utvikla til no for å styre utvikling og bruk av kunstig intelligens. Det vil få stor innverknad.
