La det først være klart, skepsis er ikke det samme som udelt negativitet. Vi mener KI åpner for betydningsfulle bidrag i viktige samfunnsspørsmål. NRKs nylige avsløringer om naturinngrep er et godt eksempel. Problemet er at teknologien også åpner for muligheten til å gi fra oss myndighet og ansvar, og dermed noe av vår menneskelighet.

For 240 år siden oppfordret Immanuel Kant oss mennesker til å velge å være opplyste, myndige individer som tenker, avgjør og handler uten andres ledelse. Våg å vite, skrev han, og poengterte at dette krever besluttsomhet og mot. For myndighet innebærer ansvar. Når du bestemmer selv, blir du også selv moralsk ansvarlig.

Greta Marthinussen

universitetslektor i pedagogikk, UiA

Alexander Elmies-Vestergren

universitetslektor, Universitetet i Agder

Det kan være fristende å slippe ansvaret. Som Kant skriver: «Det er så bekvemt å være umyndig». Nettopp her ligger faren ved chatboter, som tilbyr en bekvem og effektiv strategi for å komme bort fra det vi kan kalle ubehagelige nå-øyeblikk.

Chatboter tilbyr en bekvem og effektiv strategi for å komme bort fra det vi kan kalle ubehagelige nå-øyeblikk.

Ubehagelige nå-øyeblikk kan oppstå i en rekke situasjoner; i studentens oppgaveskriving, forskerens analyse, lærerens undervisningsforberedelse osv. Mer generelt er det alle de øyeblikkene hvor vi søker å oppnå kunnskap, forstå noe og ta stilling. Ubehagelige nå-øyeblikk er en grunnleggende del av det å være en demokratisk medborger som våger å vite.

I disse situasjonene, som krever tid, forkunnskap og anstrengelse, representerer chatboten en forførende løsning. En umiddelbar minste motstands vei som vi fort kan være tilbøyelige til å velge.

Tilbøyeligheten til å velge det bekvemme og umiddelbare er overhengende i et utålmodig og produktfokusert samfunn. Resultater vektlegges fremfor prosesser, kunnskap er et produkt og algoritmer forsterker vår hang til umiddelbar behovstilfredsstillelse. Med et utålmodig produktfokus blir det lite rom for ubehagelige nå-øyeblikk. I stedet blir det bekvemt å søke raske resultater, raske svar og raske løsninger.

Her kommer chatboten inn som en bekvemmelig mulighet. Kronargumentet synes å være at KI kan løse problemer effektivt. Chatboter begrenser tenketid og generell menneskelig knoting. Den tar bort veien, og bringer oss direkte til målet. Et underliggende premiss er at det er en verdi i seg selv å gjøre noe effektivt. Er det det? Eller er det som de gamle kirkefedrene sa; at det hastige er djevelens verk og leder til fortapelse?

Umiddelbarhet og effektivitet som verdier kan gjenspeile et instrumentelt og begrenset syn på teknologi og kunnskap. En overdreven vektlegging av produkt over prosess blir stående i motsetning til det gamle munnhellet om at veien er målet. Denne veien hvor vi utvikler egenskaper vi trenger for å leve gode liv sammen. Egenskaper som gjør oss i stand til å imøtekomme komplekse problemstillinger. Empati, kritisk refleksjon og dømmekraft. Vår menneskelighet.

Utfordringen er at chatbotens umiddelbare svar-produksjon gjør at vi står i fare for å gi fra oss myndighet og ansvar. Når chatboten gir oss et svar, og vi holder dette for å være kunnskap, tar vi det med oss som et grunnlag for vår handling i verden.

Men vår handling kan kun være myndig og ansvarlig dersom vi handler ut fra egen selvstendige tenkning (jf. Kant). I prinsippet er dette fortsatt mulig med KI. Dersom vi kritisk vurderer svaret fra chatboten i lys av vår egen kunnskap, kan vi beholde vår myndighet.

Dersom vi kritisk vurderer svaret fra chatboten i lys av vår egen kunnskap, kan vi beholde vår myndighet.

Problemet er at vi kanskje ikke ønsker å vurdere informasjonen kritisk. Ved å la chatboten komme frem til svaret, slipper vi unna presset med selv å måtte komme frem til en løsning. Det kan være fristende i en verden som ikke bare er preget av utålmodighet, men også av digital synlighet og ansvarliggjøring. Når vi kjenner på følelsen av å bli overvåket og frykten for å måtte stå til ansvar, blir det fristende å gi fra oss dette ansvaret i stedet for å tenke selv.

Det virkelig store problemet oppstår når chatboten gir oss konklusjoner som vi ikke lenger er i stand til å vurdere kritisk. Nettopp dette er vel også litt av den store KI-drømmen, at den skal kunne gi oss løsninger vi ikke er i stand til å tenke ut selv. Men hvis vi da velger å overlate tenkningen til KI, gir vi samtidig fra oss myndighet. Og det er nok heller tvilsomt at de kommersielle aktørene bak chatboten vil ivareta det moralske ansvaret vi dermed gir fra oss.

Mens entusiaster jubler over at KI blir stadig mer menneskelig, vil vi skeptikere advare om at den kanskje heller gjør oss mennesker mindre menneskelige.

Mens entusiaster jubler over at KI blir stadig mer menneskelig, vil vi skeptikere advare om at den kanskje heller gjør oss mennesker mindre menneskelige.

Vi kan imidlertid fortsatt våge å vite. I stedet for å haste videre for å utvikle teknologi som lar oss løpe mot resultater, kan vi omfavne nå-øyeblikkene langs den kronglete veien.

Vi må se KI som en påminnelse om å tenke selv og ta ansvar. Ikke som en invitasjon til å gi det fra oss. I møtet med KI bør vi utvikle det menneskelige, ikke avvikle det.