Internetts usynlige superhelt

Vi møter Hege i Cyber City på Gjøvik. Norges mest komplette miljø innen cybersikkerhet. Her sitter folkene i Aiba – et nestegenerasjons cybersikkerhetsselskap som har tatt nettsikkerhet til et nytt nivå. Deres hovedoppgave er å stoppe forbrytere og nettroll, for å forhindre skadelig adferd i ulike nettsamfunn. Selskapet har et ønske om at programvaren skal brukes av alle nettplattformer over hele verden.

“Vår visjon er å trygge alle barn og unge i hele verden. Vi skal bli så store som vi trenger for å nå målet vårt, men vi er opptatt av å vokse i riktig tempo og med de riktige folkene med den rette kunnskapen”

Amanda inspirerte utviklingen

Aldri før har det vært viktigere med sikkerhet på nett, spesielt med tanke på barn og unge som introduseres for data og internett i en tidlig alder. Selskapet AIBA ble i 2022 etablert på bakgrunn av en hjerteskjærende overgrepssak som fanget oppmerksomheten til en forskningsgruppe ved NTNU Gjøvik.

Det var fjorten år gamle Amanda Todd fra Canada som gjennom flere digitale samtaler ble lurt av en voksen mann til å tro han var en jevnaldrende.

“Samtalene deres foregikk over lengre tid og etter hvert etablerte de et nært forhold. Amanda ble blant annet lurt til å dele intime bilder av seg selv.”

Bedrageriet resulterte i nådeløs utpressing og trakassering, som kulminerte i et tragisk utfall med at hun tok sitt eget liv.

Den rystende historien inspirerte forskerne til å fokusere sin forskning innen adferdsbiometri mot å lage et proaktivt moderniseringsverktøy, for å oppdage og stoppe grove samtaler og cybergrooming på et tidlig stadium. Forskningsprosjektet resulterte i Ai-løsningen som har fått navnet AMANDA. En omfattende moderatorplattform som er trent opp til å identifisere og redusere uønsket adferd i sanntid.

Et viktig banebrytende samfunnsoppdrag

Det som startet som et forskningsprosjekt tilbake i 2016 har nå utviklet seg til å bli et sentralt og viktig samfunnsoppdrag. Kundene deres er sosiale medieselskaper, digitale spillaktører, markedsplasser og kommunikasjonsplattformer rettet mot barn og unge, der samtalene med overgripere gjerne starter. Aiba er en aktør som baner veien innen sikkerhet på nett. Det er ingen som tidligere har satt noen regulative krav om å sikre barn og unge på ulike webplattformer. Dette har gjort det krevende å selge programvaren. Hege forteller at det heldigvis har skjedd en endring.

“Fokuset for de fleste har hittil vært å sikre selskaper innen GDPR, men i fjor kom det et nytt EU direktiv som er enda strengere enn GDPR. I dette direktivet ligger det blant annet krav om rapportering på overgrep og netthets.”

Det nye direktivet heter «Digital Services Act». Direktivet har blant annet som formål å innføre sikkerhetsmekanismer som beskytter barn og unge. Det krever også at de digitale aktørene rapporterer på dette, hvis ikke kan de bli bøtelagt i nokså stor skala.

“Heldigvis er vi på vei til å se en endring i markedet. Direktivet er et tiltak som virkelig trengs. Vi opplever at overgripere stadig blir mer og mer utålmodige og trener derfor vår AI-modell kontinuerlig. Vi har både automatiserte og manuelle analyser for ny, uønsket adferd. Samtidig samarbeider vi tett med både spill-leverandører og politiet, for å hele tiden være i forkant og for å vite hva de er på jakt etter.”

Fra menneskelig til kunstig intelligens

AMANDA er trent på over 2 milliarder chattelinjer og dekker i dag 11 ulike språk. Ved hjelp av kunstig intelligens plukker systemet opp blant annet språk, måten ting blir spurt om og varighet på samtaler. Man ser gjerne et tydelig mønster før overgripere slår til.

“Vi har tilfeller der vi vet helt konkret at vi har stoppet alvorlige saker. Det er ganske oppsiktsvekkende hvor mye man kan fange opp kun ved å analysere tekst. Nettovergrep er det mest alvorlige vi fanger opp og er i hovedsak årsaken til at Aiba eksisterer. Men vi fanger også opp tilfeller av mobbing, selvskading og radikalisering på et tidlig stadie.”

Aiba har fokus på proaktivitet og automatikk som fanger opp og stopper nettkriminalitet før det går for langt. Målsetningen er å gjøre løsningen til en superskalerbar plattform med automatikk som gjør den enkel å ta i bruk, uten for mye skreddersøm. Systemet benytter maskinlæringsmodeller som er trent opp til å risikovurdere de ulike spillerne i et spillunivers. Dette gir en risikoverdi per spiller, som henges på identiteten til denne spilleren.

“Veldig ofte er det et fåtall personer i et spillunivers som står for mesteparten av den uønskede adferden, så ved å peke på disse kan man bli kvitt mye av det skadelige på plattformen.”

Håndtering av uønsket adferd kan være for eksempel å gi en spiller karantene over en bestemt periode eller fjerne spilleren fra plattformen permanent. Andre virkemidler kan være å koble på hjelpelinjer for selvskading eller ved åpenbare tilfeller av nettovergrep politianmelde saken. Aibas kunder vurderer i hvert tilfelle hva som er den rette håndteringen. Den nye EU-reguleringen gir også spilleren tilbakemelding om hvorfor den eventuelt er utestengt. Hege forklarer videre:

“Trenden blant nettovergripere er dessverre at de finner andre plattformer eller metoder for å komme seg inn på nytt. Vår jobb er å fange opp disse tilfellene og iverksette tiltak slik at de ikke kan slå til igjen.”

Et sentrum for digital sikkerhet

Aiba står for «Author Input Behavior Analysis”. Selskapet består i dag av 14 nøye utplukkede talenter fra ulike land, som uten tvil sitter på unik kunnskap og erfaring innen cybersikkerhet. De er lokalisert med hovedkontor på Gjøvik, men har også kontorer i Oslo og Helsinki.

Det at de har valgt å holde hovedkvarteret på Gjøvik er ingen tilfeldighet. I tillegg til NTNU er Cyber City en sentral møteplass som samler fagmiljø innen forskning, utdanning og arbeidsliv. Hensikten er å bygge verdensledende kompetanse og tjenester innen cybersikkerhet.

Aiba samarbeider også tett med NTNU og har gjerne 3-4 studentprosjekter hvert semester.

Selskapet finansieres i dag hovedsakelig av pengestøtte fra private aktører og enkeltinvestorer, men har som målsetning å bli lønnsomme allerede i 2028.

“Vi er stolte av alt vi har fått til så langt – og vi skal få til mer. AMANDA er vår superhelt og gir våre kunder superkrefter! Nå jobber vi for å oppskalere og gjøre dette til et superskalerbart system som kan stoppe nettkriminalitet i sanntid verden over.”

Det er ingen tvil om at arbeidet som legges ned av disse cyberheltene er med på å fremme et tryggere digitalt miljø for våre barn og tenåringer.