slik lager du retningslinjer for bruk av generativ KI.

Når en så omveltende teknologi som generativ KI gjør sitt inntog, er det viktig at selskapet ditt legger fornuftige føringer for bruken. Generativ KI har potensialet til å endre måtene de ansatte jobber og skaper nye ting på, og det er trolig allerede i utstrakt bruk hos dere – kanskje uten at du er klar over det. Listen over fordeler er lang, men generativ KI er heller ikke risikofritt å bruke. Ved å utarbeide retningslinjer for bruk av generativ KI blir dere bedre rustet til å utnytte potensialet i denne teknologien, samtidig som de potensielle negative sidene holdes på et minimum.

I denne artikkelen skal vi ta for oss noen av de viktigste risikoene ved generativ KI, hvordan gode retningslinjer kan redusere disse, og hvordan selskapet ditt kan gå frem for å utarbeide slike retningslinjer. Artikkelen er basert på våre egne erfaringer med generativ KI og kan være et godt utgangspunkt for videre research. Den er ikke ment som juridisk rådgivning.

Hvorfor bør du lage en policy for bruk av generativ KI?

Selskapet ditt bør ha en policy for bruk av generativ KI av samme grunn som dere har andre retningslinjer – for å sikre at dere jobber i samsvar med gjeldende lover og forskrifter, for å gi de ansatte føringer for arbeidet, og for å effektivisere den daglige driften. 

Verktøy for generativ KI kan generere tekst, bilder, lyd og video basert på enkle kommandoer, og kan ha mange spennende bruksområder på tvers av selskapet. Med det store utvalget verktøy som finnes, og tempoet de utvikles i, risikerer dere å henge etter konkurrentene hvis dere ikke undersøker hvordan dere kan dra nytte av disse verktøyene.

For å navigere i dette terrenget og unngå de mange kjente risikoene ved generativ KI, er det imidlertid viktig å ha tydelige retningslinjer på plass. En gjennomtenkt policy viser at selskapet har vurdert konsekvensene av generativ KI, og gir de ansatte tydelige regler å forholde seg til mens de eksperimenterer. Dermed kan de trygt dra nytte av fordelene ved generativ KI og de ulike verktøyene som er tilgjengelige. 

La oss se litt nærmere på noen av de viktigste risikoene KI-policyen bør adressere.

Risikoene ved generativ KI

Urettferdighet, bias og uetiske praksiser i KI-verktøy

Verktøy for generativ KI er bare så objektive som dataene de er trent opp på. Hvis datasettene inneholder bias, vil resultatene også inneholde bias. Se for eksempel for deg et KI-verktøy som er utviklet for å generere stillingsbeskrivelser basert på noen enkle punkter om hva jobben går ut på. Hvis verktøyet er trent opp på tusenvis av stillingsbeskrivelser som inneholder ikke-inkluderende språk, vil det generere det samme. Dermed kan KI-verktøy lett reprodusere eksisterende skjevheter. 

De største KI-aktørene jobber med å unngå skjevheter og bias i verktøyene sine, men det er en stor utfordring å skulle eliminere dem helt. Policyen for bruk av generativ KI bør ta høyde for denne begrensningen og spesifisere konkrete tiltak for å unngå dette. For eksempel kan den kreve at alt KI-generert innhold evalueres manuelt med fokus på bias og ikke-inkluderende språk før det publiseres eller distribueres.

Brudd på opphavsretten

Denne risikoen er også et resultat av hvordan modellene for generativ KI er bygget opp. De er trent opp på store datasett med tekst, bilder, musikk og video, og selv om de kan produsere genuint unike ting, er det er en risiko for at elementer fra disse datasettene finner veien inn i det genererte innholdet og skaper potensielle opphavsrettslige problemer. 

Det er fortsatt omstridt i hvilken grad KI-generert innhold krenker rettighetene til de opprinnelige opphavspersonene, og noen interesseorganisasjoner krever at opphavspersonen må gi samtykke før verkene deres kan brukes til å trene opp KI-modeller. Andre programvareselskaper fokuserer på å utvikle verktøy for generativ KI som er «trygge for kommersiell bruk», som kun er trent opp på lisensiert innhold. Spørsmålet om hvorvidt KI-generert innhold kan gis opphavsrettslig beskyttelse, varierer i ulike jurisdiksjoner, men svaret er viktig for selskaper som vurderer å bruke denne typen innhold eksternt.

Uansett hva loven sier, bør policyen deres ha som mål å redusere risikoen for brudd på opphavsretten, for eksempel ved å kreve at KI-generert innhold ikke kan brukes eksternt.

Personvern og datasikkerhet

Helt siden generativ KI ble tilgjengelig på markedet, har problemstillinger knyttet til personvern og datasikkerhet vært oppe til debatt. Det er allment kjent at mange KI-modeller utvikler seg raskt ved å bruke brukerdata og tilbakemeldinger for å finstemme svarene sine og utvide kunnskapsgrunnlaget.

Dette kan føre til problemer. Se for deg en situasjon der en HR-spesialist legger inn sensitive opplysninger fra en liste over jobbsøkere i en KI-chatbot og ber om å få dem gruppert etter erfaringsnivå. Hvis chatboten bruker disse dataene til å trene seg videre, kan det ifølge enkelte sikkerhetseksperter være en risiko for at sensitive opplysninger avsløres for andre brukere som vet hvordan de skal stille de riktige spørsmålene.

Dette er riktignok et ekstremt eksempel, men det illustrerer noen av spørsmålene om generativ KI og personvern som fortsatt til en viss grad er ubesvart. Mange KI-verktøy hevder riktignok at de ikke deler informasjon brukerne legger inn, men dette er ikke en universell regel.

Personvern bør være en sentral del av retningslinjene for generativ KI. Selskapet ditt må selv bestemme detaljene for hvordan, men det kan være en god start å spesifisere at ingen opplysninger knyttet til enkeltpersoner eller forretningsaktiviteter skal legges inn i KI-verktøy.

I tillegg til personvern bør selskapets policy ta for seg generelle sikkerhets- og compliancerisikoer knyttet til tredjepartsverktøy brukt til forretningsformål, samt omdømmeskader som kan følge av utilsiktede brudd på opphavsretten, datalekkasjer eller innhold som er skjemmet av skjevheter og bias.

Slik lager du en god policy for bruk av generativ KI

Snakk med ekspertene

I tillegg til å innhente faglige innspill om personvern og juridiske aspekter ved bruk av KI må du også snakke med dem som skal bruke denne teknologien – som selskapets markedsførere, ingeniører, HR-medarbeidere eller selgere. De har innsikt i hvordan generativ KI brukes i selskapet, og de potensielle risikoene ved å bruke denne teknologien i sine respektive områder.

Spre ordet

Én ting er å lage selve policyen, men å sikre at de ansatte aksepterer og følger den, kan være en større utfordring. Heldigvis viser de fleste studier og rapporter at arbeidstakere generelt er begeistret for potensialet i å bruke KI på jobben, så det kan bli enklere enn du tror å få gjennomslag for policyen med effektiv kommunikasjon, opplæring og dialog. Policyen bør håndheves på lik linje med selskapets øvrige retningslinjer, men det beste er uansett å få de ansatte med på laget og engasjere dem i policyen og bruken av KI fra starten av.

Sørg for at policyen gir rom for innovasjon

Policyen er et viktig verktøy for å beskytte selskapet mot de potensielle risikoene ved generativ KI – men den bør ikke være så streng at det blir for vanskelig å bruke denne teknologien. Generativ KI har mange nyttige bruksområder, så du bør unngå unødig restriktive regler som fører til at de ansatte kvier seg for å bruke det. Fokuser heller på å forebygge alvorlige risikoer med policyen, og bruk opplæring og kommunikasjon til å vise de ansatte hvor viktig ansvarlig bruk av KI er.

Hvor lang tid tar det å lage en policy for bruk av generativ KI?

Policyen trenger ikke å være et stort og omfattende dokument for å være effektiv. Tiden det tar å utarbeide den, avhenger av de spesifikke behovene i organisasjonen din. Antallet personer som er involvert i prosessen, hvor sensitive bruksområdene for KI er, og størrelsen på organisasjonen spiller også en rolle.

Du kan spare tid ved å ta utgangspunkt i en mal. Last ned malen vår for å få inspirasjon til det grunnleggende oppsettet for policyen, med tips og veiledning til hva du bør tenke på underveis. Dette er et supert utgangspunkt hvis selskapet ditt ønsker å begynne å ta generativ KI på alvor.