Mener Norge trenger et AI-tilsyn

Vi risikerer også at uvitende brukere ryker på søksmål mot milliardselskaper, og at samfunnet mister tillit til teknologiutviklingen, mener Nicolai Halbo.

Han leder Simonsen Vogt Wiigs avdeling for teknologi og media. Firmaet ble i årets advokatundersøkelse kåret til ett av landets tre beste innen teknologi og digitalisering. IT og datasikkerhet er blant Halbos spesialiteter.

Konsekvensene av ukritisk bruk av kunstig intelligens kan være katastrofale, men det kan også være det paradigmeskiftet som får oss «ned fra trærne», mener han.

– Derfor er det ekstremt viktig å regulere AI, slik at vi får tillit til kunstig intelligens. Uten tillit kan mye av potensialet i AI gå tapt for oss. Jeg ønsker at dette skal bli et paradigmeskifte som skal komme menneskeheten til gode. Man da må verktøyene brukes på en riktig og god måte, og ikke ukritisk. Vi trenger regulering, og noen må føre tilsyn, sier han.

Mangler avklaring

I dag er det bare mennesker som kan registreres som skapere av et åndsverk («opphaver»). En maskin kan ikke få rettslig beskyttelse for et verk den har generert. Halbo er redd for at dette kan begrense investeringslysten i selskapene som bruker milliarder av dollar på å utvikle AI-modeller.

Heller ikke brukerne av tjenestene vet om de får beskyttelse for det de har skapt ved hjelp av kunstig intelligens.

LES OGSÅ:

Anbefaler alle advokater å komme i gang med AI

Nå har det begynt å komme søksmål mot utviklingsselskapene. Et eksempel er bildetjenesten Getty Images’ søksmål mot selskapet Stability AI. Sistnevnte har utviklet AI-kunst-programmet Stable Diffusion, og Getty Images mener utviklerne har brukt millioner av opphavsbeskyttede bilder fra deres database i opptreningen av kunstverktøyet.

Liknende søksmål er også rettet mot bildegeneratoren Dall-E etter bruk av rundt 135 millioner verk i opptrening av verktøyets database.

I USA har US Copyright Office trukket tilbake rettighetene til bilder produsert av forfatter Kristina Kashtanov i forbindelse med boken «Zarya of the Dawn». Bildene er nemlig generert gjennom AI-programmet Midjourney, og selv om Kashtanov har brukt ett år på å instruere programmet i hvordan bildene skal se ut, har hun ikke krav på opphavsrettslig vern nettopp fordi bildene er skapt av en AI-maskin. Dermed kan alle bruke dem.

– Disse sakene reiser spørsmål om hvem som eier rettighetene til det som fôres inn av data i AI-programmene, og hvem som eier rettighetene til det som kommer ut. Man må innrette seg annerledes når det kommer til eierskap og immaterielle rettigheter. Opplever man at egne data er på avveie og blir misbrukt, vil det påvirke tilliten negativt. Søksmålene er nødvendig for å kartlegge hva som er behovet og hvordan lovgiver skal agere, sier Halbo.

– Videre trenger vi å få på plass EUs AI Act. Denne er utvilsomt på overtid, og det gjenstår fortsatt en del finpussing før den er på plass.

LES OGSÅ:

Samtalelogg fra ChatGPT er lagt frem som bevis i en drapssak i Peru

Brukerrisiko

Halbo mener også at brukerne står overfor en betydelig risiko ved bruk av tjenester basert på generativ AI, slik som Dall-E eller Chat GPT.

– I vilkårene til Open AI heter det at det man legger inn er ditt, og det som kommer ut er ditt. Men dersom det viser seg at det som kommer ut krenker rettighetene til en tredjepart, er det brukeren som er ansvarlig overfor både tredjeparten og Open AI. Man skal altså holde Open AI skadesløs dersom selskapet blir saksøkt av tredjeparten, men det er umulig å vite om det som kommet ut faktisk tilhører noen andre, sier han.

– AI må være ettersporbart, og regelverket knyttet til immaterielle rettigheter må avklares. Vi må også få mer klarhet i hvilke data som fritt kan brukes i opplæring av AI, og hvem som får tilgang til dataene. Nå må man bruke det eksisterende regelverket til å tolke seg frem til hva som gjelder som best man kan, inntil lovgiver fastsetter rammene som er tilpasset den nye teknologien.

Trenger eget tilsyn

Det Italienske datatilsynet har allerede satt en stopper for bruken av Chat GPT etter flere anklager om brudd på personvernet. Ifølge Halbo er det helt nødvendig at det opprettes et eget tilsyn for kunstig intelligens.

Norges nasjonale AI-strategi, som kom i januar 2020, har sett på dette og fastslår at «tilsynsmyndigheter skal føre kontroll med at systemer basert på kunstig intelligens på sitt tilsynsområde opererer innenfor prinsippene for ansvarlig og pålitelig bruk av kunstig intelligens».

LES OGSÅ:

Kunstig intelligens: Tror åpenhet blir en sentral kamp fremover

– Det virker lite realistisk å tro at tilsynsmyndighetene vil ha ressurser til å føre kontroll med bruken av AI ved siden av sine andre tildelte oppgaver, da må det i så fall bevilges vesentlig mer penger til tilsynene, mener Halbo.

– Og så trenger vi et eget departement for teknologi her hjemme. Det finnes ingen gode grunner for at vi ikke har det allerede. Teknologien er det som i dag driver verden fremover, og det virker naivt at det ikke er vesentlig mer fokus på dette i samfunnet. Norge er det landet i Norden som bruker minst penger på AI, og Europa ligger håpløst langt bak USA og Kina. Vi må bruke mye mer penger på AI, innovasjon og teknologi. Vi må få på plass en mye større politisk satsing. Vi har et stort potensial, men vi mangler viljen.