III. Teknologi + demokrati = sterkere demokrati: er det mulig og i så fall hvordan?

Dato: 20. april

Påmelding

Tristan Harris, grunnleggeren av Center For Humane Technology, har flere ganger uttrykt et behov for teknologi som er "på vår side". En av hans ambisjoner er å finne teknologi som tilfredsstiller likningen teknologi + demokrati = sterkere demokrati. Dette står i skarp kontrast til mye av kritikken som har vært rettet mot sosiale medier, av Harris og andre, og deres rolle i å spre desinformasjon og falske nyheter.

Hvordan kan teknologi som styrker demokratiet se ut? Den engelske juristen og forfatteren Jamie Susskind gir noen forsøksvise svar i boken "The Digital Republic" for 2022. Et av eksemplene han bruker er å utnytte teknologi og internett til reaktivere den demokratiske samtalene i et land, blant annet ved å sette opp såkalte folketribunaler. Dette har blant annet vært gjort i Taiwan og Tyskland, tidvis med positive resultater. Prosessen søker å finne ut hvilke temaer som rører seg og skaper spenning i befolkingen. Etter at et egnet tema er valgt går prosessen i flere faser: en opplæringsfase, en diskusjonsfase og en innstillingsfase. Et konkret eksempel på en debatt og et kompromiss man kom fram til Taiwan var rundt bruken av Uber og om det skulle være tillatt eller ikke, og frontene var steile. Innstillingen ble å tillate Uber, men kun til lisensierte sjåfører.

I dette panelsamtalen stiller vi spørsmålet om hvordan digital teknologi kan bidra til å styrke demokrati-utviklingen. Når bør ny teknologi et foretrukket verktøy i demokrati-utviklingen, og når bør vi lene oss mot tradisjonelle og etablerte prosesser i stedet? Finnes det plattformer som på en robust måte kan bidra til en bedre demokratisk samtale, slik som digitale folketing? Finnes det situasjoner der bruk av ny teknologi kan slå tilbake på demokratiprosessen fordi den er sårbar eller kan utnyttes på utilsiktede måter, og hvilke verktøy har vi for å avdekke slike muligheter? Når blir nudging en positiv mulighet for å få folk til å stemme eller uttale seg, og når blir det uønsket påvirkning av et valg? Er det en iboende risiko for at vi blir "tech solutionist"? Løsningene trenger ikke nødvendigvis å ligge i mer eller bedre teknologi, de kan også ligge i bedre politikk, bedre kultur og bedre utdanning. Hvordan utnytter vi lovverk og regulering av teknologi, både ny og gammel, for å gjøre demokratiet sterkest mulig?

Mer informasjon

III. The Empire strikes back. Vil EUs reguleringer av plattformene gjøre en forskjell?

Dato: 11. mai

DSA, Digital Services Act, eller forordningen for digitale tjenester, trådte i kraft i november 2022. DSA handler om å styrke brukernes rettigheter på internettplattformer, balansert mot ytringsfriheten og andre grunnleggende rettigheter. Men er det mulig å regulere de mektige teknologigigantene, etter at kaviaren er ute av tuben?

Teknologiplattformene har siden 1990-tallet vært fritatt for ansvar for innholdet som publiseres på internett og sosiale medieplattformer. Denne modellen har gitt flere mulighet til å ytre seg, men også bidratt til en enorm vekst for plattformselskaper som Meta og Alphabet, som i motsetning til redaktørstyrte medier ikke trenger å bruke penger på innholdsmoderering. Dette har ført til en sterk maktkonsentrasjon, der noen få plattformer har blitt portvoktere for den offentlige samtalen.
EUs svar er reguleringene Digital Markets Acts, som har som mål å utjevne noen av konkurransefordelene for de største selskapene, og Digital Services Act, som vil styrke brukernes rettigheter på plattformene. Det blir enklere å fjerne ulovlige innlegg etter nasjonal lovgivning og å klage på feilaktig sletting av innlegg på plattformene.

Europakommisjonen har ansvaret for å håndheve DSA overfor teknologigigantene. Riset bak speilet er bøter på inntil seks prosent av selskapets årlige globale omsetning. Men Norge bør ikke innta en tilbakelent holdning. Europakommisjonen har tatt konsekvensene av at globale tjenester brukes lokalt. En norsk bruker vil kunne varsle plattformene om ulovlig innhold på Facebook, eller klage hvis TikTok feilaktig sletter et innlegg. Og behandling av YouTube, Instagram, Facebook eller TikTok å behandle varsler og klager. Og hvis en plattform systematisk ignorerer prosedyrene, vil det være et brudd på DSA.

I Norge vil det opprettes sertifiserte varslere som vil flagge ulovlig innhold på plattformene. En sertifisert varsler kan være en organisasjon som har ekspertise i å avdekke ulovlig innhold om barn på nett. Og hvis plattformene fjerner for mye innhold, har brukerne rett til å prøve klagen for en tvisteløsningsordning. En norsk koordinator har ansvaret for å godkjenne de to ordningene, og motta varsler om brudd på DSA fra brukere, organisasjonsliv, næringsliv og forskere.

DSA setter begrensninger på globale plattformenes forretningsmodell. Det vil bli forbudt med målrettet markedsføring mot barn, manipulerende design og det vil være sterke begrensninger i bruk av data om sårbare grupper. En koordinator i Norge vil ha ansvar for å innhente dokumentasjon på brudd, som kan gi Europakommisjonen et grunnlag for sanksjoner. Er det slik Dovre kan felle teknologigigantene?

Mer informasjon

V. Hva betyr det at noen få teknologieiere styrer og eier den demokratiske samtalen?

Dato: 15. juni

Mark Zuckerberg har kontrollen over Meta, og har siste ord for veivalgene på Facebook og Intagram. Elon Musk har overtatt styringen med Twitter, og justerer brukervilkårene etter egne prioriteringer. TikTok må rette seg etter regelverk diktert av det kinesiske kommunistpartiet, og kan bli utestengt fra det amerikanske markedet. I USA etablerte Donald Trump Truth Social som et middel for å nå politiske mål. Maktkonsentrasjon kombinert med maktambisjon er en farlig kombinasjon.

Mye av den demokratiske samtalen er flyttet over på plattformer som Facebook, Google, YouTube, Twitter, TikTok, Instagram og Snapchat. Tjenestene har for lengst blitt en del av informasjonsinfrastrukturen i Norge, men styres etter økonomiske mål som kan komme i konflikt med demokratiske prinsipper og brukernes interesser.

For eksempel har Meta systematisk hvitlistet brukere med mange følgere gjennom Xcheck-programmet. Twitter er i økonomisk krise, som blant annet har resultert i at rundt halvparten av selskapets ansatte har blitt avskjedige, blant annet en rekke team som jobbet med personvern, sikkerhet, kommunikasjon, universell utforming og menneskerettigheter. Et stort antall innholdsmoderatorer er løst fra kontraktene. Begge selskapene har sagt opp samfunnskontakter i Norden og EU.

Utviklingen illustrerer utfordringene med plattformmodellen, og hvor sårbar offentligheten kan være når viktige plattformer endres over natten. Det er grunnleggende problematisk at én person har definisjonsmakt over viktige arenaer for diskusjon og ytringer, og at den foretrukne plattformen for norske tenåringer står til ansvar til en totalitær stat. At samfunnsansvar er den første salderingsposten i en økonomisk nedgangstid, sier også noe om selskapenes prioriteringer.

Hvordan skal demokratiske stater forholde seg privateide globale plattformers makt? Maktfordelingsprinsippet, kombinert med ytringsfriheten, sikrere en åpen og kritisk offentlighet, og kontroll med makten. Mye av den demokratiske samtalen foregår på sosiale medier, og staten bør ikke gis definisjonsmakt over innbyggernes lovlige ytringer.

Spørsmålet er hvordan man kan motvirke at enkeltpersoner eller totalitære stater bruker plattformene som et verktøy for egne ambisjoner. Det kan stilles spørsmål ved om det er et behov for mer regulering, eller offentlig eller kollektivt eide og styrte alternativer, for å skape en tryggere og mer robust infrastruktur for demokratisk diskurs og utfoldelse i tråd med grunnleggende menneskerettigheter.

Mer informasjon

I. Er forretningsmodellene til teknologigigantene forenlig med demokratiske verdier og menneskerettigheter?

Dato: 16. februar

Se opptak

Både Google og Facebook har gitt verden tjenester som åpenbart har hatt en del fordeler. Informasjon har blitt lettere tilgjengelig og det har blitt enklere å holde kontakt med familie og venner.  

Men nedsidene har blitt tydeligere og tydeligere de siste årene. Selskapene anklages for å misbruke sin markedsmakt og har skapt digitale monopoler. Forbrukere godtar urimelige avtalevilkår og manipuleres ved bruk av manipulerende design.

Forretningsmodellene handler om å fange folks oppmerksomhet, for å vise de annonser å selge dem produkter og tjenester. For å gjøre dette mest mulig effektivt samles det også enorme mengder data som sammenstilles og analyseres.

Skandaler og avsløringer de siste årene har vist hvordan verktøyene bidrar til manipulasjon, diskriminering, spredning av hatefulle ytringer og misinformasjon og i ytterste konsekvens er en trussel mot menneskerettighetene og frie demokratier.

Det er også ventet store gjennombrudd innen kvanteteknologi, kunstig intelligens og maskinlæring i tiden fremover. Samtidig går den politiske debatten om de positive og negative konsekvensene lite i dybden. Hvordan innvirker teknologien på muligheten for en åpen og opplyst offentlig samtale, ytringsfriheten. Og hvordan påvirker det vår rett til et privatliv uten overvåking, personvernet? Det store spørsmålet er hvilket samfunn vi ønsker oss. Hvordan vil vi at verden skal se ut om 10-15 år og hvor passer teknologien og forretningsmodellene inn i et demokrati?

Ordstyrer: Tobias Dahl, SINTEF Digital & UiO

Hovedinnleder: Kari Spjældnes, Høyskolen Kristiania

Kari Spjeldnæs leder Institutt for organisasjon og ledelse, arbeider med en doktorgrad om lesing og digitalisering på Kristiania og er tilknyttet forskningsprosjektet Digitox. Spjeldæs har lang erfaring fra norsk bokbransje og har arbeidet mye med digital utvikling i litteraturfeltet. Hun har også utgitt boken Lese. En liten bok om store opplevelser (Aschehoug, 2020).

I panelet:

Line Horgen Thorstad studerer filosofi ved UIO hvor hun deltar i forskningsprosjektet GOODATTENTION. Hun er også leder for interesseorganisasjonen Eksist! som jobber for å bevare det menneskelige i møte med ny teknologi. I sommer diskuterte hun også hvorfor politikere på Facebook er et demokratisk problem på Dagsnytt 18.

Ingrid Stolpestad er kampanjesjef i Amnesty International Norge og fagansvarlig for Amnestys arbeid med teknologigigantene. Hun har er utdannet statsviter og har tidligere jobbet bl.a. som journalist og i flere organisasjone. Gjennom foredrag, medier, aktivisme og lobbyarbeid jobber Ingrid og Amnesty for at både beslutningstakere og folk flest skal få innsyn i de problematiske sidene ved teknologigigantenes forretningsmodell, men ikke minst forstå at det finnes løsninger.

Joachim Benno er daglig leder/gründer av Metaverse Consulting og leder av Juristforbundets Tech Forum. Han er tidligere policysjef for Norge og Island i Meta, direktør for myndighetskontakt i Telenor Broadcast, medlem av den svenske IT-kommissionens IT-rättsliga Observatorium og hovedsekretær for den svenske konvergensutredningen (om sammensmeltingen mellom tele- og mediesektorene). Forfatter av "Ytringsfrihet – en konstitusjonell utfordring?". Joachim har lang erfaring med digitaliseringsspørsmål i skjæringspunktet mellom juss, politikk, marked og forretningsstrategi.

Torgeir Waterhouse Partner hos Otte, co-founder av Ufilm og med bakgrunn fra IKT Norge og Forbrukerrådet

Mer informasjon

II. Når virkeligheten kan hackes: hva er sant og hva kan vi stole på? Og hva gjør vi med det?

Dato: 2. mars

Påmelding

Språkmodeller og generativ KI (kunstig intelligens) er algoritmer som kan generere tekst, bilder og video som er like overbevisende som det mennesker kan lage. Hva skjer da med sannheten og vår kritiske medieforståelse? Hvordan påvirker modellene den demokratiske samtalen?

Hva skjer når "alle" får tilgang til språkmodellene? Teknologien har blitt mer avansert og tjenestene er mer tilgjengelig. Hvem som helst kan skrive et stykke tekst og få en kunstig generert versjon tilbake. ChatGPT løste en eksamensoppgave på en norsk høyskole på få sekunder til karakteren B. Et fiktivt bilde kan genereres i Midjourney. Vall-E genererer kopier av en persons stemme og en politiker kan deepfakes til å si de utroligste ting om på video. Deepfakes er allerede brukt i propagandakrigen om Ukraina. Forfatter og språkforsker Noam Chomsky advarer mot farene ved slike modeller. Modellene er ikke er i stand til å gjøre kloke vurderinger eller sammenliknes med menneskelig intelligens. En språkmodell kan kjøpes og tilpasses, og er et egnet verktøy for å oversvømme nettet med desinformasjon og propaganda.

Klarer vi å holde tritt? En viktig forskjell på tradisjonell desinformasjon og KI-generert desinformasjon er at man kan generere et svært høyt antall forskjellige versjoner av den samme historien. Dette gjør faktasjekking ekstremt krevende. Arbeidet som har vært gjort av de sosiale plattformene for å moderere innhold kan langt på vei bli utdaterte, og vi må bruke andre strategier for å finne ut hva som er sant og ikke. Nick Thompson, redaktør i The Atlantic, sier det slik: "It seems like we are now loosing the battle against disinformation".

Hvilket ansvar har plattformene? Margaret Mitchell, forsker og tidligere ansatt i Google, mener at "det å slippe løs en stor språkmodell hvor et stort publikum kommer til å bruke den, kommer med et ansvar", og gjør oppmerksom på at denne modellen vil kunne lage skadelig innhold, ikke bare på egen hånd, men også i applikasjoner som bygges på toppen av modellene.

Hva gjør vi nå? Vil internett og sosiale medier de neste årene bli fylt opp av desinformasjon og falske nyheter? Hvilke muligheter har vi til å avdekke at nyheter er falske eller KI-genererte? Hva betyr denne utviklingen for tradisjonelle medier, vil verdien av verifisert innhold stige? Vil utviklingen føre til økte forskjeller og splittelse mellom de som får "riktig" informasjon og de som ikke gjør det? Og hva vil denne utviklingen kunne bety for demokratisk utvikling og polarisering i for eksempel USA? Nærmere Norge kan vi spørre hva utviklingen vil bety for mobbing og hatprat på nett, og hvordan vi skal møte et nytt behov hos barn og unge for å utvise kritisk medieforståelse i et helt nytt internettparadigme. Skal vi forby bestemte typer teknologi fordi de er for farlige eller må de på andre måter reguleres?

Vi sees på arrangementet! Etter foredraget vil det bli servering i Parken Bakeri og mulighet for å fortsette praten med nye kontakter og gamle kjente. Vi i Forskningsparken ønsker å skape en ny arena og fysisk møteplass for samtalen om teknologi og demokrati.

Ordstyrer: Finn Myrstad, Forbrukerrådet



Hovedinnleder: Inga Strümke, NTNU og Simula

Inga Strümke har forsket på bruk av maskinlæring i partikkelfysikk, og jobbet med kunstig intelligens siden hun avsluttet doktorgraden. Gjennom forskningen innså hun hvor utrolig bra, eller potensielt utrolig dårlig, kunstig intelligente løsninger kan fungere, avhengig av bruk og tolkning.
Hun har diskutert relativitetsteori, gravitasjonsbølger, kvantefysikk, statistisk modellering og kunstig intelligens i ulike medier, engasjert seg sterkt i den nasjonale AI-debatten, har erfaring som keynote speaker internasjonalt og har holdt TEDx-foredrag om kunstig intelligens. Budskapet hennes er at det er viktig å være med på AI-utviklingen, men samtidig stille høye krav til forståelse og ansvarlig bruk, og alltid med mennesket i sentrum og nå er hun aktuell med boken "Maskiner som tenker" 

I panelet:

Anders Løland er forskningssjef ved forskningsinstituttet Norsk Regnesentral (NR). Anders er dessuten co-director i BigInsight, senter for forskningsdrevet innovasjon. Han er dr.philos. fra Matematisk institutt, Universitetet i Oslo, og har lang erfaring med forskning på og bruk av maskinlæring og statistisk modellering. Anders er opptatt av edruelig og ansvarlig kunstig intelligens.

Maria Amelie er CEO og medgründer i Factiverse. Hun har skrevet fem bøker om entreprenørskap, migrasjon og ytringsfrihet, og har jobbet som journalist i Teknisk Ukeblad. I 2010 ble hun kåret til Årets Nordmann av magasinet Ny Tid. 

Mer informasjon