Høyesterett har mottatt sitt første prosesskriv med oppdiktede kilder

Høyesterett har i løpet av årets første kvartal mottatt et prosesskriv med såkalte hallusinasjoner, altså oppdiktet informasjon. Dette forteller høyesterettsjustitiarius Toril Marie Øie til Advokatbladet.

Prosesskrivet, som ble inngitt i forbindelse med anke over et prosessuelt spørsmål i en sivil sak, inneholdt både lover og forarbeider som rett og slett ikke eksisterer, forteller Øie.

At disse var oppdiktede kilder, ble oppdaget internt da anken ble gjennomgått i Høyesterett.

Utrederne som forbereder sakene som skal til behandling i Høyesterett gjennomgår rutinemessig de sentrale rettskildene det blir vist til i prosesskriv fra partene. 

– I prosesskrivet var det både henvist til ulike rettskilder og gjengitt sitater fra kildene. Da utrederen hos oss skulle forsøke å finne frem til disse kildene, viste det seg at kildene ikke eksisterte. Her hadde advokaten rett og slett ikke sjekket kildene fra KI før prosesskrivet ble inngitt, sier Øie.

– Overrasket

Det er ikke første gang kunstig intelligens hallusinerer. Oppdiktede rettskilder har allerede forekommet for domstolen i USA. I slutten av mars ble det også avdekket at en rapport om skolestrukturen i Tromsø inneholdt fiktive kilder.

Dette er likevel første gang hallusinasjonsproblematikken kommer på spissen i Norges Høyesterett. 

Øie forteller at hun ble overrasket over hendelsen:

- Jeg ble overrasket over at det tilsynelatende ikke har vært noe kontroll av kildene, sier hun.

Sanksjoner vil kunne bli aktuelt 

- Hvilke konsekvenser har hendelsen fått for den ansvarlige advokaten?

- Da saken ble oppdaget tok vi opp forholdet med vedkommende advokat. Høyesterett har anledning til å ilegge rettergangsbot eller bringe saker inn for Advokatnemnda. Disse virkemidlene er ikke tatt i bruk i dette tilfellet, men jeg kan ikke utelukke det ved eventuelt andre tilfeller i fremtiden, sier Øie.

Hun forteller at Høyesterett i denne omgang er opptatt av å understreke ansvaret som advokatene har.

– Advokater er forskjellige og har ulikt apparat rundt seg. Ikke alle jobber i store firmaer med et stort støtteapparat og mye veiledning internt. Det viktige for oss nå er derfor å gi god informasjon , og understreke sterkt overfor advokatene hvilke forventninger vi har, sier Øie.

- Blir prosesskriv med hallusinering et problem videre, må vi vurdere å ta i bruk de sanksjonsmulighetene vi har. Jeg har nå en forventning til advokatene om at dette ikke skal være et problem fremover, fortsetter hun.

Kunstig intelligens fritar ikke fra ansvar

Øie mener kunstig intelligens kan være et hensiktsmessig verktøy, men minner samtidig om hvilket ansvar advokater har, dersom man velger å ta det i bruk. 

– Høyesterett er klar over at kunstig intelligens er kommet for å bli, og at det kan være et nyttig verktøy for advokater. Samtidig må advokater være bevisst sitt ansvar. Advokater har det samme ansvaret for opplysningen av saken, både faktisk og rettslig, enten de bruker kunstig intelligens eller ikke.

LES OGSÅ:

- Svakere vern mot skade forårsaket av kunstig intelligens

Hun påpeker at kunnskapen om hallusinasjon er kjent, og at denne problematikken er noe advokater må være bevisste på. 

- Vi har som en klar forventning at man bare bruker KI på områder hvor man selv har nok kompetanse til å kontrollere at innholdet er riktig. Advokaten må på vanlig måte forsikre seg om at sentrale kilder blir fremstilt på riktig måte, både med hensyn til at de faktisk eksisterer, og at innholdet som gjengis er riktig.

Endrer advokatveiledningen

Torsdag publiserer Høyesterett en oppdatert versjon av advokatveiledningen med et nytt punkt om bruken av KI-verktøy.

Veilederen har til hensikt å forberede advokater til ankebehandling i Høyesterett.

–Vi ønsker å formidle hvilke forventninger vi har til advokater som skal bruke KI fremover. Advokatveiledningen er vår viktigste kanal for å kommunisere med advokatene. Vi vet at denne både er godt brukt av advokater som opptrer for Høyesterett, og underinstansene. Derfor oppdaterer vi denne nå.

I det nye punktet heter det blant annet at «det er kjent at KI kan hallusinere og finne opp blant annet rettskilder. Kilder og andre opplysninger KI oppgir, må kvalitetssikres. KI bør bare brukes på områder hvor advokaten har god nok kompetanse til å kontrollere innholdet».

- Burde ikke komme som noen overraskelse

Leder av Advokatforeningen, Siri Teigum, er ikke overrasket over problematikken. 

- Det var ventelig at det på et eller annet tidspunkt ville skje noe slikt også i Norge, men jeg er veldig overrasket over at det skjer i et prosesskriv til Høyesterett. Det er virkelig uheldig, sier hun.

Teigum stiller seg positiv til at Høyesterett nå har oppdatert advokatveilederen på dette punktet, men presiserer at innholdet ikke bør komme som noen overraskelse på advokatene. 

- Det er de samme kravene til kvalitet og etikk som gjelder, uavhengig av om advokater bruker kunstig intelligens eller ikke. Jeg synes det er positivt at Høyesterett omtaler dette i veilederen sin, men dette er noe man som advokat burde forstå også uten en slik presisering. 

Teigum forteller at Advokatforeningen arbeider for at dette ikke skal skje igjen.

- Advokatforeningen ønsker å bidra til at dette ikke gjentar seg. Vi har jevnlig kurs om KI, og for tiden utarbeider Advokatforeningens utvalg for advokatetikk en veiledning om bruk av kunstig intelligens.