II. Når virkeligheten kan hackes: hva er sant og hva kan vi stole på? Og hva gjør vi med det?
Dato: 2. mars
Påmelding
Språkmodeller og generativ KI (kunstig intelligens) er algoritmer som kan generere tekst, bilder og video som er like overbevisende som det mennesker kan lage. Hva skjer da med sannheten og vår kritiske medieforståelse? Hvordan påvirker modellene den demokratiske samtalen?
Hva skjer når "alle" får tilgang til språkmodellene? Teknologien har blitt mer avansert og tjenestene er mer tilgjengelig. Hvem som helst kan skrive et stykke tekst og få en kunstig generert versjon tilbake. ChatGPT løste en eksamensoppgave på en norsk høyskole på få sekunder til karakteren B. Et fiktivt bilde kan genereres i Midjourney. Vall-E genererer kopier av en persons stemme og en politiker kan deepfakes til å si de utroligste ting om på video. Deepfakes er allerede brukt i propagandakrigen om Ukraina. Forfatter og språkforsker Noam Chomsky advarer mot farene ved slike modeller. Modellene er ikke er i stand til å gjøre kloke vurderinger eller sammenliknes med menneskelig intelligens. En språkmodell kan kjøpes og tilpasses, og er et egnet verktøy for å oversvømme nettet med desinformasjon og propaganda.
Klarer vi å holde tritt? En viktig forskjell på tradisjonell desinformasjon og KI-generert desinformasjon er at man kan generere et svært høyt antall forskjellige versjoner av den samme historien. Dette gjør faktasjekking ekstremt krevende. Arbeidet som har vært gjort av de sosiale plattformene for å moderere innhold kan langt på vei bli utdaterte, og vi må bruke andre strategier for å finne ut hva som er sant og ikke. Nick Thompson, redaktør i The Atlantic, sier det slik: "It seems like we are now loosing the battle against disinformation".
Hvilket ansvar har plattformene? Margaret Mitchell, forsker og tidligere ansatt i Google, mener at "det å slippe løs en stor språkmodell hvor et stort publikum kommer til å bruke den, kommer med et ansvar", og gjør oppmerksom på at denne modellen vil kunne lage skadelig innhold, ikke bare på egen hånd, men også i applikasjoner som bygges på toppen av modellene.
Hva gjør vi nå? Vil internett og sosiale medier de neste årene bli fylt opp av desinformasjon og falske nyheter? Hvilke muligheter har vi til å avdekke at nyheter er falske eller KI-genererte? Hva betyr denne utviklingen for tradisjonelle medier, vil verdien av verifisert innhold stige? Vil utviklingen føre til økte forskjeller og splittelse mellom de som får "riktig" informasjon og de som ikke gjør det? Og hva vil denne utviklingen kunne bety for demokratisk utvikling og polarisering i for eksempel USA? Nærmere Norge kan vi spørre hva utviklingen vil bety for mobbing og hatprat på nett, og hvordan vi skal møte et nytt behov hos barn og unge for å utvise kritisk medieforståelse i et helt nytt internettparadigme. Skal vi forby bestemte typer teknologi fordi de er for farlige eller må de på andre måter reguleres?
Vi sees på arrangementet! Etter foredraget vil det bli servering i Parken Bakeri og mulighet for å fortsette praten med nye kontakter og gamle kjente. Vi i Forskningsparken ønsker å skape en ny arena og fysisk møteplass for samtalen om teknologi og demokrati.
Ordstyrer: Finn Myrstad, Forbrukerrådet

Hovedinnleder: Inga Strümke, NTNU og Simula

Inga Strümke har forsket på bruk av maskinlæring i partikkelfysikk, og jobbet med kunstig intelligens siden hun avsluttet doktorgraden. Gjennom forskningen innså hun hvor utrolig bra, eller potensielt utrolig dårlig, kunstig intelligente løsninger kan fungere, avhengig av bruk og tolkning.
Hun har diskutert relativitetsteori, gravitasjonsbølger, kvantefysikk, statistisk modellering og kunstig intelligens i ulike medier, engasjert seg sterkt i den nasjonale AI-debatten, har erfaring som keynote speaker internasjonalt og har holdt TEDx-foredrag om kunstig intelligens. Budskapet hennes er at det er viktig å være med på AI-utviklingen, men samtidig stille høye krav til forståelse og ansvarlig bruk, og alltid med mennesket i sentrum og nå er hun aktuell med boken "Maskiner som tenker"
I panelet:

Anders Løland er forskningssjef ved forskningsinstituttet Norsk Regnesentral (NR). Anders er dessuten co-director i BigInsight, senter for forskningsdrevet innovasjon. Han er dr.philos. fra Matematisk institutt, Universitetet i Oslo, og har lang erfaring med forskning på og bruk av maskinlæring og statistisk modellering. Anders er opptatt av edruelig og ansvarlig kunstig intelligens.

Maria Amelie er CEO og medgründer i Factiverse. Hun har skrevet fem bøker om entreprenørskap, migrasjon og ytringsfrihet, og har jobbet som journalist i Teknisk Ukeblad. I 2010 ble hun kåret til Årets Nordmann av magasinet Ny Tid.
Mer informasjon