- Umulig å se forskjell på hvilke bevis som er laget av kunstig intelligens og hvilke som er ekte

I en verden hvor teknologiutviklingen går fort, og det nærmest er umulig å skille ekte fra falskt: Hva gjør domstolen når den ikke lenger kan stole på bevis? 

Det var tema da Domstoladministrasjonen inviterte til debatt i Arendal Gamle Rådhus tirsdag ettermiddag. 

John Christian Elden er blant advokatene som er bekymret for hva som vil skje når KI-genererte bevis for alvor gjør sitt inntog i norske rettssaler. 

- Har man en klient som bestrider noe som tilsynelatende fremkommer av et bilde eller et lydopptak, bør man være oppmerksom på at det faktisk kan være noe i det. Man kan ikke ta for gitt at det digitale beviset mest sannsynligvis stemmer eller at klienten mest sannsynligvis lyver. Man må snu den tankegangen, sa han til Advokatbladet etter debatten. 

- Ingen garantier for hva som er ekte og hva som er falskt

Elden tror, enn så lenge, at domstolene har vært spart for å vurdere bevis som bevisst er laget for å fremstå som noe annet.

- Hvert fall i bildesammenheng. I lydsammenheng kan det være manipulerte filer som legges frem, men ikke slik at man har bedt en AI-maskin om å lage et uriktig lydklipp. Det tror jeg ikke at jeg ennå har vært ute for, sier han. 

Likevel er det ikke lenge siden han selv førte en sak for Høyesterett, hvor en person ble dømt for overgrep i lagmannsretten på bakgrunnen av et filmklipp som var lagt frem for retten i forkortet format. 

- Høyesterett avsa frifinnende dom etter å ha sett alt materialet og i tillegg sett det hele i sammenheng. Det er klart at man må være veldig forsiktig med å legge vekt på et bilde eller et lydopptak i lengden, og å tro at det representerer sannheten.

Når det kommer til domstolenes håndtering av digitale bevis, understreket Elden viktigheten av riktig tankegang hos dommeren. 

- Jeg tror ikke det er rettsreglene som er problemet. De sier at det skal være en såkalt total og fri bevisvurdering hvor man naturligvis ikke skal legge vekt på tvilsomme bevis, men hva som er et tvilsomt bevis og hvordan det vurderes av den enkelte dommer, finnes det ingen tilleggsregler for, sa han. 

- Jeg tror eksempelvis at et fotografi, som angivelig er tatt på et åsted eller liknende, vil bli tillagt stor vekt inntil dommeren får snudd sin egen tankegang og innser at bildet kan være fremstilt på en måte som gjør det falskt. Ingen vil kunne gi garantier for at et bilde er reelt slik situasjonen er i dag, hvor det er så lett å manipulere.

- Da er det igjen tilbake til brukeren, dommerens hode og partenes oppfatning, at man ikke legger for stor vekt på noe.

- Umulig å se forskjell

I debattpanelet satt også høyesterettsdommer Cecilie Ø. Berglund, professor i kunstig intelligens (KI), Morten Goodwin, og førstestatsadvokat Anne Katteland. 

Goodwin advarte mot at samfunnet beveger seg inn i en tid, hvor det vi er vant til at er ekte, ikke er like ekte som før. 

- Det finnes tjenester som kan lage bilder, lydklipp og små videoer som er så gode at det er nær umulig å se forskjell på hva som er laget av KI og ikke. Teknologien utvikler seg så fort at snart vil selv ikke eksperter kunne se forskjell, sa han. 

- I en rettsak i fremtiden vil et bildebevis, en video eller lydklipp stille seg helt annerledes. Hvis jeg blir spurt om å garantere for om noe er falskt eller ikke, vil jeg ikke ha sjans til å vite det. Enn så lenge finnes det ingen sikre måter for å verifisere digitalt materiale, fortsatte Goodwin. 

- Kan svekke kriminalitetsforkjempelsen 

Teknologi og kunstig intelligens skaper utfordringer for politiet og høyere påtalemyndighet, sa førstestatsadvokat og embetsleder ved Vestfold, Telemark og Buskerud statsadvokatembeter, Anne Katteland. 

- Frykten min er at man blir så redd for at alle disse bevisene er uekte, at det kommer til å true målet om å få materielt riktige avgjørelser. Det vil ha en side til folks rettferdighetsfølelse og til rettssystemet. Hvis man ikke tør å legge til grunn at noe er ekte, kan det føre til svekkelse av kriminalitetsbekjempelsen, sa hun.

- I tillegg er jeg bekymret for at partene i en rettssak ikke har tilstrekkelig digital kompetanse. Vi må kunne nok til å stille de kritiske spørsmålene til databevisene som blir lagt frem. Kanskje må vi ha sakkyndige til å presentere dem, og da må dette gjøres på en måte som gjør at mennesker uten teknisk utdannelse kan forstå.

Teknologiutviklingen skaper også nok en ressursutfordring for politiet, påpekte Katteland.

- Politi og etterforskere må bruke betydelige mye mer tid på å vurdere om en film er ekte eller ikke for eksempel. Allerede har det blitt brukt masse tid på å etterforske falskt overgrepsmateriale. Det motsatte kan også skje, at man tror noe er falskt når det i realiteten er ekte. 

LES MER FRA ARENDALSUKA: 

Vil bli blant landets fem største advokatfirmaer utenfor Oslo

- Kildekritikk og faktasjekk 

Ifølge høyesterettsdommer Cecilie Ø. Berglund, er det et stort sprik i dommernes kompetanse om teknologi og kunstig intelligens. 

- For dommerne er det viktigste å stille de rette spørsmålene, og å vite hvordan man skal håndtere det hvis man mistenker at noe er galt, sa hun.

Kanskje må reglene for bevisførsel oppdateres, fortsatte Berglund. 

- Bevisvurdering er noe dommere gjør hele tiden. Vi er ikke ukjente med at falske bevis presenteres. Retten blir forsøkt lurt i mange anledninger. Det som er nytt nå, er at vi nødvendigvis ikke ser omfanget av det og heller ikke kan nok om det. 

Berglund tror ikke man vil havne i en situasjon hvor en dommer legger vekt på et bevis dommeren mistenker at er forfalsket. 

- Denne debatten understreker hvorfor vi aldri kan bytte ut dommeren med en robot fullt ut. Jeg tror vi er bedre stilt enn mange andre steder til å håndtere dette på en god måte. Det handler om kildekritikk og faktasjekk innenfor de rammene vi har. Det er den samme grundige jobbene som må gjøres uansett hva slag bevis som legges frem, sa hun.