AI Data Defense: Bygger sikkerhetslag rundt språkmodeller

– Jeg har selv brukt generativ KI mye, og i starten lukket jeg egentlig øynene og bare kjørte på, sier Solveig Ellila Kristiansen og ler. – Men når du begynner å lese EU AI Act og ser hvordan data faktisk flyter, så skjønner du fort at dette ikke er holdbart.

Kristiansen er co-founder av AI Data Defense, en nystartet bedrift «født» inn i konsulentselskapet Hockeystick Impact. Sammen med founder Mikael Loefstrand og et erfarent team på tvers av landegrenser, har hun utviklet en databeskyttelsesløsning for generativ KI. Løsningen fungerer som et filter og en veiviser for sensitiv informasjon, og sikrer at bedrifter overholder krav til sikkerhet og compliance.

– Vi ser at alle bruker KI, men veldig mange gjør det «i skjul». Problemet er at språkmodellene ikke er bygget for å si «stopp, dette burde du ikke dele». De bare tar imot og svarer, sier hun.

En fersk australsk undersøkelse med svar fra over 30 000 ansatte i 47 land viste at 70 prosent brukte en generativ KI-modell som ikke var godkjent av arbeidsgiver. Nesten halvparten innrømte at de hadde delt sensitiv informasjon.

Fra undervannsprosjekt til eget produkt

Kristiansen er founder og rådgiver i konsulentselskapet Hockeystick Impact, og hentet inn Mikael Loefstrand som konsulent på AI-prosjekter, blant annet i arbeidet med undervannsteknologi-selskapet Granfoss. Da de så hvor sårbare kundene var, ble neste steg opplagt:

– Kundene våre vil ikke bruke språkmodeller på IP-prosjektene sine. De er redde for at data fra søknader, strategier og forskningsprosjekter skal lekke. Flere av dem har nettopp søkt patenter eller jobber med teknologi de absolutt ikke vil at skal ende opp på en server i Kina. Da må vi tilby noe bedre enn “copy–paste inn i en gratis chat.”

Et sanntidsfilter som styrer trafikken mellom interne og eksterne modeller

Løsningen til AI Data Defense fungerer som et intelligent sikkerhetsfilter – en slags trafikkdirigent mellom bedriftens data og språkmodellene.

– Vi kontrollerer hvilken informasjon som får passere, og hvor den skal. Noe data skal aldri forlate bedriften og rutes derfor til interne språkmodeller, mens annen informasjon kan sendes til eksterne modeller som ChatGPT – men først etter at vi har fjernet alt som er sensitivt, forklarer Kristiansen.

Hun bruker et konkret eksempel:
– Tenk deg at en ansatt legger inn et kundebrev eller en kontrakt i en KI-tjeneste for å få den skrevet om eller oppsummert. Vår løsning oppdager automatisk personopplysninger, kundedata og forretningssensitiv informasjon, maskerer dette i sanntid og sørger for at kun trygg tekst sendes videre. Resten blir behandlet internt i bedriftens egne modeller.

I større virksomheter defineres egne retningslinjer for hva som kan slippe gjennom filteret. Systemet logger også bruken, slik at ledelsen får innsikt i hvordan generativ KI faktisk brukes i organisasjonen – og hvor mye sensitiv informasjon som er fanget opp og filtrert bort.

Fra konsulent til produkt – og videre ut i verden

Både Kristiansen og Loefstrand har lang fartstid fra store amerikanske teknologiselskaper og har trent ansatte, toppledelse og styrer i hvordan de kan lytte til kundene og samtidig få frem verdiforslaget sitt. Som rådgivere med base i Oslo er valget av Forskningsparken som lokasjon ikke tilfeldig for Kristiansen.

– Her er det mange som har fantastiske ideer, og Forskningsparken ble et naturlig valg for oss. Her møter vi både forskere, gründere og etablerte bedrifter som vil ta i bruk AI, men som trenger trygghet rundt data og etterlevelse. Det passer perfekt med vår filosofi – at AI skal være et verktøy for vekst, ikke en risiko, sier Kristiansen.