- Menneskerettighetene oppstiller ingen materielle begrensninger i adgangen til å overvåke

Tidligere i mars inviterte Universitetet i Oslo til et seminar i Gamle festsal om menneskerettslige perspektiver i den digitale tidsalderen.

- Digitaliseringen av samfunnet kan legge til rette for at menneskerettigheter blir realisert. Menneskerettigheter er teknologinøytrale og dynamiske, og skal tolkes og anvendes i den samfunnskonteksten de inngår i. Men man kan spørre om rettighetene er tilstrekkelig robuste til å verne om individuelle og sentrale individuelle og kollektive goder - slik som personlig integritet, autonomi og demokrati i den digitale tidsalderen, innledet Jon Christian Fløysvik Nordrum, som ledet seminaret.

Han er førsteamanuensis ved Institutt for offentlig rett ved UiO, og sammen med professor Ingunn Ikdahl leder av prosjektet Digital velferdsstat.

Direktør Line Coll i Datatilsynet åpnet med å tegne noen mørke skyer på personvern-himmelen.

Hun viste til den nye bestemmelsen som åpner for at PST og e-tjenesten kan bedrive masseinnsamling av data om norske borgeres bevegelser i det digitale rommet - en bestemmelse som Stiftelsen Tinius for øvrig mener er ulovlig, og nå bringer inn for retten i et søksmål mot staten.

- Nedkjølende effekt på ytringer

- Med utgangspunkt i at så å si alt vi gjør i dag skjer opp mot det digitale rommet, og det faktum at trusselbildet er i stadig endring, er det grunn til å rope et varsku for personvernet, sa Line Coll.

- Den grunnleggende retten til privatsfæren er under press. Men det er ikke bare personvernet som er under press, for personvern og ytringsfrihet hører uløselig sammen. Uten personvern, ingen reell ytringsfrihet, sa Coll.

Slik digital masseovervåking som nå løftes frem som et verktøy for etterretningstjenesten, vil kunne ha en omfattende, nedkjølende effekt på ytringer, påpekte Coll.

- Kanskje blir et brennende avisinnlegg i Aftenpostens SiD-spalte fra en samfunnsengasjert tolvåring det første digitale sporet som blir samlet inn om et ungt menneske.

- Enorm påvirkning fra kommersielle aktører

Det er et press på grunnleggende menneskerettigheter ikke bare fra stater og myndigheter, men også fra kommersielle aktører, sa hun.

- Google, Meta og TikTok saumfarer digitale flater for alt som kan være av interesse, og alt er tydeligvis av interesse, og har kommersiell verdi. Store, kommersielle aktører har et datagrunnlag som de færreste nasjoner eller andre aktører er i nærheten av å ha. Kunstig intelligens må ha dataelementer for å utvikles, og alle de store aktørene tar nå i bruk kunstig intelligens, sa Coll.

Disse aktørene blir svært viktige for samfunnsutviklingen fremover, og setter personvernet, informasjonsfriheten og meningsfriheten under press, mener Datatilsynets direktør.

- Vi må ta innover oss hvilken makt disse selskapene har, og ta dette med i våre vurderinger. Hvor frie er vi i meningsdannelsen vår hvis vi risikerer å få falske nyheter eller fakta basert på algoritmer utviklet av Kina? Hvordan sikrer vi at de unge kan danne seg frie meninger i en forsvarlig ramme, når TikTok og andre markedskrefter er informasjonsleverandøren, spurte Coll.

- Må få på plass regler og krav til kunstig intelligens

- Den dataintensive teknologien bidrar til å skape et samfunn der private og kommersielle aktører er i stand til å spore, analysere, forutsi og manipulere folks oppførsel på en måte som vi aldri tidligere har sett, advarte hun.

Vi må få på plass kollektive beskyttelsesmekanismer, lover, regler og krav til bruk av data og bruk av kunstig intelligens, mener Coll, og sa at politikere og beslutningstagere må forstå alvoret.

- Uten en åpen, offentlig samtale, bevisste politikere og beslutningstagere, hensiktsmessige og nødvendige kontrollmekanismer for å sikre et kollektivt gode, kan det bære galt av sted. Vi ser stadig at det legges en snever forståelse til retten til personvern, i motsetning til nasjonal sikkerhet, som defineres veldig vidt, sa Coll.

- Utilstrekkelige

Førsteamanuensis Ingvild Bruce ved Politihøgskolen sa at menneskerettighetene ikke oppstiller noen materielle begrensninger i adgangen til å overvåke.

- Menneskerettighetene er utilstrekkelige som normativt rammeverk. Lovgiver må selv sikre materiell forholdsmessighet, sa Bruce.

Hun spurte om EU-domstolen kan være den «reddende engelen».

- EU-domstolen løfter spørsmålene og er villig til å innføre materielle begrensninger, men i praksis gjelder det bare overvåking ved hjelp fra teletilbydere, og det er uklart hvilke begrensninger som gjelder, sa hun.

Må gjøre det selv

Lagdommer Michael Reiertsen var en av mange tilhørere som grep ordet, og som ga uttrykk for at Norge ikke kan lene seg på den europeiske menneskerettsdomstolen.

- Som Bruce påpeker, er menneskerettighetene utilstrekkelige som et normativt rammeverk. Derfor må vi være i forkant, og bruke de hensyn og prinsipper som EMD har stilt opp - av typen mildere inngrep, forholdsmessighet og legitime formål - og vurdere dette opp mot hverandre. Men siden EMD ikke har gjort den øvelsen på dette feltet - som er nytt, stadig i forandring og utrolig viktig - så må vi rett og slett gjøre den jobben selv, sier Reiertsen til Advokatbladet.

- EMD har også vridd seg i retning av mer prosessuell prøving og subsidaritet, der spørsmålene blir opp til staten selv. Jobben må gjøres i lovgivningen, ikke i domstolene, som henger etter, sier Reiertsen.

Internasjonale avtaler

Lovrådgiver Anette Ødelien i Justis- og beredskapsdepartementet innledet om arbeidet som gjøres av sentrale organer i Europa for å regulere bruken av kunstig intelligens.

Det er to sentrale initiativer på gang: EUs forslag til forordning (Artificial Intelligence Act) og Europarådets arbeid med en konvensjon.

- EU-kommisjonen la frem et forslag til forordning om kunstig intelligens i april 2021. Rådet la frem sin forhandlingsposisjon i desember 2022, og trilogforhandlinger med Parlamentet skal etter planen starte våren 2023, opplyste hun.

I Europarådet pågår det samtidig forhandlinger om en konvensjon, som skjer på bakgrunn av et utkast fra komitésekretariatet.

- Formålet er å sikre at design, utvikling og bruk av kunstig intelligens er i overensstemmelse med menneskerettighetene, demokratiske prinsipper og rettsstatsprinsipper, sa Ødelien.

I Europarådet forhandler EU på vegne av EU-statene.

- EU har fremsatt et krav om å forhandle på vegne av alle EU-statene, og brukte høsten 2022 på å fremforhandle sitt mandat. Det har ført til noen forsinkelser. I april begynner de reelle diskusjonene, sa Ødelien.

- Aldri eksistert bedre arena for misbruk

Professor Ragna Aarli ved Universitetet i Bergen, som satt i Ytringsfrihetskommisjonen og blant annet forsker på internasjonale menneskerettigheter, innledet om plattformselskapenes ansvar for ytringsfrihet på internett. Ifølge henne har det aldri eksistert noen bedre arena for bruk av ytringsfrihet enn i dag.

- Men det har heller aldri eksistert en bedre arena for misbruk. Og dette misbruket unndrar seg de vanlige kontrollmekanismene som vi knytter til nasjonalstatene. Vi står i fare for å ødelegge demokratiet i formålet med å støtte det, sa Aarli.

Hvor langt kan en konsensusbasert rettighetsforståelse av EMK artikkel 10 (om ytringsfrihet) gjelde for å pålegge private plattformselskaper å verne om ytringsfriheten, spurte Aarli.

- Jeg har flere spørsmål enn svar. Kan vi tvinge plattformselskapene til å bidra til å sikre at vår bruk av ytringsfrihet i deres allmenninger er i samsvar med menneskerettighetens krav?

Ønsker seg en fordomsfri debatt

Den største bekymringen er at de sensurmekanismene som finnes, er ugjennomtrengelige, mente Aarli.

- Og bør ytringsfriheten være den samme online som offline? Snakker vi ikke om en helt annen arena? Teknologivalg er ikke uten betydning i forhold til hvilke ytringer som kan medføre et rettslig ansvar. EUs forordning om digitale tjenester trer i kraft i 2024. Forordningen innevarsler en del regulatoriske nyheter, med blant annet noen minimumsplikter for alle tilbydere.

Betydningen av nasjonale og internasjonale menneskerettigheter som ramme for ytringsfriheten online er lite utforsket, oppsummerte hun, og oppfordret til en fordomsfri diskusjon.