Det vekte ei viss oppsikt i vinter då Forskingsrådet annonserte tildeling av 19,3 millionar kroner til eit nytt forskingsprosjekt om kunstig intelligens, stordata og sosiale medium – både på grunn av den store budsjettramma og fordi temaet var så aktuelt. Sidan då er det skrive nye kapittel i soga om kor store skade ein kan valde ved å spreie desinformasjon via nettet, både for demokratiet og verdsfreden.

Rajendra Akerkar er leiande seniorforskar ved Vestlandsforsking og prosjektleiar for Socyti.

Prosjektet «Forebygging av voldsfremkallende atferd i det sosiale cyberrommet i lokalsamfunn», med kortnamnet Socyti, som har til mål å utvikle nye metodar for å bremse negative og skadelege krefter på nettet, har fire partnarar: I tillegg til Vestlandsforsking deltek NTNU, NLA Høgskolen og det amerikanske universitetet George Mason.

Denne veka, 16. og 17. juni, møtest forskarane i Sogndal for å ta fatt på samarbeidet, under leiing av professor Rajendra Akerkar ved Vestlandsforsking.

Nye metodar

– Internett er fullt av aktørar med dårlege hensikter, og det finst både mykje feilinformasjon og mykje skadeleg innhald, seier Akerkar, som i forskargjerninga si er oppteken av korleis ein kan ta i bruk store datamengder til ulike positive føremål, til dømes i bedrifter. I Socyti-prosjektet er det å bremse alt det negative innhaldet som er hovudmålet.

– Det finst mange algoritmar og verktøy som skal fange opp uønskt aktivitet på eit tidleg tidspunkt, men det står att ein heil del arbeid, seier han.

I arbeidet med å avdekke nettets skurkar og sjarlatanar, har forskarar så langt konsentrert seg mest om å prosessere språket i innlegg på sosiale medium, i tillegg til å forske på korleis ein kan luke ut mistenkelege profilar ved å analysere sosiale nettverk.

Ei breiare forståing av hatefulle ytringar

I dette prosjektet vil forskarane gå utanom dei opptrakka stiane. Tidlegare forsking av dette slaget har til dømes vore avgrensa til skriftlege ytringar på engelsk.

– Hatprat og netthets kan like gjerne bli spreidd på andre språk eller via videoar og bilete, seier Akerkar. Forskingsprosjektet han leier vil i tillegg sjå på fleire sosiale medium enn Twitter, der det har vore enklast å hente ut data.

– Neste generasjon med løysingar må ta høgde for at hets og hat finst på fleire språk, i fleire former og på fleire plattformer, forklarer Akerkar. Eit anna nytt element i Socyti-prosjektet er at systema forskarane utviklar, òg skal kunne tipse lokale eller nasjonale myndigheiter om aktivitet på nettet slik at dei kan vurdere å setje inn tiltak. Dette gjeld særleg når det er kan vere snakk om vald.

Minoritetar er ofte eit mål

Generelt er ulike minoritetar i samfunnet mest utsette for netthets og hatprat. I Noreg gjeld det særleg menneske med innvandrarbakgrunn og spesielt muslimar. Unge menneske opplever dette seks gonger så ofte som eldre innbyggjarar, viser tal frå Medietilsynet. I ein rapport frå Kulturdepartementet går det fram at hatprat har auka med 119 prosent sidan 2015, opplyser Carol Azungi Dralega ved NLA Høgskolen, som har ei viktig rolle i den samfunnsvitskaplege delen av Socyti-prosjektet. Ho har med seg seniorforskar Gilda Seddighi ved Vestlandsforsking. Dralega minner om at tida vi lever i av fleire grunnar blir kalla «post-truth». Medieforskarar snakkar om ein «pandemi av usannheit». Den råkar òg Noreg.

Carol Azungi Dralega, førsteamanuensis ved NLA Høgskolen, leier den delen av prosjektet som tek for seg netthets og hatytringar som samfunnsproblem. Foto. Idun A. Husabø

– Dette er ille, og det blir verre, ikkje betre, seier Dralega.

Ho er førsteamanuensis avdeling for journalistikk, media og kommunikasjon og skal leie ein del av prosjektet som ser nærare på korleis hatefulle ytringar og netthets artar seg i Noreg og elles i Skandinavia i dag. Forskarane skal kartlegge kva som er gjort med problemet til no, kva tiltak som fungerer og kva som ikkje har fungert så godt. Ein konkret ambisjon er å bidra til nasjonale handlingsplanar og strategiar.

– Å bli utsett for netthets er ei frykteleg oppleving for den enkelte. Løftar vi blikket til samfunnsnivået, fører det til ytterlegare marginalisering av utsette grupper, som folk med innvandrarbakgrunn. Det er alvorleg fordi det kan få ei stemme i samfunnet til å stilne, seier Dralega.

Eit krevjande felt

Tre teknologimiljø samarbeider i Socyti-prosjektet. Frå NTNU deltek to forskarar frå Institutt for informasjonssikkerhet og kommunikasjonsteknologi, professor Sule Yildirim Yayilgan og forskar Mohamed Abomhara. I tillegg kjem Vestlandsforsking si stordatagruppe og eit amerikansk forskingsmiljø: Humanitarian Informatics Lab ved George Mason-universitetet Virginia i USA, representert ved førsteamanuensis Hemant Purohit. Dei har spisskompetanse på informasjonssystem som brukar kunstig intelligens i analysar av ulike typar kriser.

– Eg skal ikkje stikke under ein stol at det er veldig krevjande å setje ein stoppar for netthets, hatprat og feilinformasjon på nettet. Likevel håpar eg at forskingspartnarane våre, ulike ekspertar og andre vi involverer i forskinga vår, vil kunne bidra til å gjere ein forskjell, seier Akerkar.