KI-genererte bilder må merkes!

Det er få områder hvor den teknologiske utviklingen har vært like tydelig som når det kommer til KI-genererte bilder og videoer. Men hvor blir det av lovgivningen?

Det føles ut som vi bare er minutter unna en verden hvor det vil bli tilnærmet umulig å skille om en video eller et bilde er generert av KI. I hvertfall hvis man ikke er en ekspert med tilgang til de riktige verktøyene og selv da er vil det være tvil.

Konsekvensene blir mange og på den positive siden så vil terskelen stadig senkes for at "hvermansen" kan produsere medier av høy kvalitet og "produksjonsverdi". På den negative siden er konsekvensene av større omfang.

"Håndverksyrker" forsvinner

Lever du av å produsere video, foto, lyd eller spesialeffekter vil det bli hardere kår fremover. Jeg tror ikke man i det store og det hele vil erstatte disse yrkene, men man kan fort tvinges til å være med på transformasjonen. At man må velge ta stilling til hvordan man selv kan øke sin "produksjonsverdi" ved hjelp av KI-løsninger.

Definisjonslinjer flyttes

Bildet du tar med smarttelefonen blir i dag manipulert og "KI-korrigert" på en rekke måter lenge før du får se resultatet etter å ha tatt bildet. Definisjonen av om et bilde er manipulert er allerede flyttet ganske langt sammenlignet med analogt foto og film. Denne linjen kommer til å flyttes ytterligere i tiden fremover.

Kunsten forvitrer

En stor og subjektiv diskusjon - men at kunsten som vi kjenner den i dag vil endre seg er det ikke tvil om. Om det er til det bedre er det derimot ganske mye tvil om.

Politiske konsekvenser

Når man ikke lenger klarer å skille en video eller et bilde fra om det er generert eller virkelighet vil dette opplagt føre til en mengde forsøk på å manipulere det politiske landskapet. Har du først sett en politiker filmet med buksene nede (bokstavelig eller billedlig), vil man ikke kunne ha det usett. Selv om det senere blir avkreftet som KI-generert materiale.

Ryktet blir viktigere og troverdighet blir en valuta

Mediebransjen har opplagt store utfordringer rundt dette og for seriøse aktører vil det måtte bli et veldig stort fokus på troverdighet rundt nyhetsformidlingen. Det å bygge og vedlikeholde ryktet sitt gjennom gode prosesser og teknologi vil bli et hovedfokusområde for alle sammen.

Lovgivning må støtte opp.

I juli 2022 trådte "Forskrift om merking av retusjert reklame" i kraft - noe som for meg har hatt en spesielt tydelig effekt på reklamekampanjer i bybildet. Når denne loven først trådde i kraft, reagerte jeg på at merkingen virket alt for stor og tydelig. Tenker kanskje nå at såpass må det nesten være. (Les mer på for eksempel forbrukertilsynet).

I August 2026 vil også EU sin AI Act trå i kraft vil kreve en for merking hvis det er fare for at man kan misforstå om mediet er KI-generert eller ikke.

Det gjenstår å se om dette blir gjennomført på en så god måte at det faktisk lever opp til det som er intensjonen. Kanskje spesielt definisjonen av hva som må merkes eller ikke.

Denne teksten er inspirert av NRK-artikkelen som omhandlet designbyrået Comte sitt initiativ om at KI-genererte bilder må tydelig merkes. Den kan du lese her: https://www.nrk.no/arkiv/artikkel/slik-vil-dei-begynne-a-merke-falske-ki-bilde-1.17601014

Og mens vi venter på lovgivningen kan vi jo selv bidra ved merke våre egne KI-genererte bilder og videoer.

Mr. Goody Two Shoes