Norges første KI-skandale

Falske kilder brukt som viktig beslutningsgrunnlag i Tromsø kommune.

Digi skriver i dag om forslaget til ny skolestruktur i Tromsø kommune. I forslaget refereres det til ikke-eksisterende kilder, for eksempel bøker som aldri har vært skrevet.

Digitaliseringsminister Karianne Tung heier på Tromsø kommune. Hun synes nemlig at det å bruke KI i seg selv er noe veldig fint, og hun har som mål at 80% av offentlige myndigheter skal bruke KI. Tung synes det er flott at kommunen har innrømmet feilen. Etter min mening er det minst to ting å kommentere her:

KI er ikke noe mål i seg selv

Et mål om redusert saksbehandlingstid, kortere ventetid for å få en operasjon, bedre trafikkavvikling og så videre er gode mål. KI kan kanskje brukes for å nå disse målene, men det å stille spørsmål til ChatGPT kan umulig være et viktig politisk mål i seg selv.

KI er ikke hovedgrunnen til å kritisere Tromsø kommune

Det kan være god hjelp å bruke KI når du skriver rapporter. Men oppgir du kilder må de selvsagt sjekkes (uansett om de er generert ved hjelp av KI eller om du får tak i kildene på en annen måte). Her får i alle fall jeg en følelse av at kildene bare er der for at rapporten skal virke seriøs og gjennomarbeidet.

Jeg har også opplevd at Copilot har diktet opp referanser, men sånt må jo sjekkes! Det blir også ufattelig useriøst å bruke referanser til ting man umulig kan ha lest. Når dette brukes som beslutningsgrunnlag i en kommune, ja da må jeg si at jeg lurer på om ikke de ansvarlige bør ta seg et kurs!

Det er nærmest et krav å bruke KI om dagen, og du må bruke KI for å være flink! Jeg bruker KI mye selv (så da er jeg vel flink, da), men dette er noe av det drøyeste jeg har hørt om i offentlig forvaltning så langt. Når digitaliseringsministeren så går ut og synes dette er bra, ja da er vi på to ulike planeter. Da synes hun vel at det er helt fint at enkelte politikere er tatt i fusk med universitetsoppgaver også vil jeg tro.

Kommenter gjerne i Mortens teknologigruppe.