En japansk mann skal visstnok ha inngått lovformelig ekteskap med en dukke. Jeg vet ikke noe om dukkens attributter og fysiske beskaffenhet og ønsker forsåvidt heller ingen detaljer om samlivet deres, men jeg har vondt for å ta dette alvorlig. For det første: Registrert og formelt korrekt ekteskap? Seriøst? Jeg vet at mange inisterer på at ekteskap bare skal kunne inngås mellom en mann og en kvinne, som blir en litt for drøy innblanding i andre folks romantiske livsstilsvalg, men det virker kanskje rimelig å forlange at det må være to mennesker, som er av myndig alder og forstår hva de gjør. Man bør ikke kunne gifte seg med verken hest, hund eller kanarifugl — langt mindre dukker, kaffekopper eller chatbots. Hvilket bringer oss til et kinky problem i tiden: Folk som forelsker seg i et dataprogram.
Det er litt omdiskutert om mental sykdom foreligger latent hos de som mister vett og forstand på grunn av databruk – altså at maskinen fremkaller noe som allerede fantes i pasienten – eller om det vi kan kalle computerindusert psykose er et selvstendig fenomen som kan ramme alle som ikke har et robust mentalt immunforsvar. Etter alt å dømme virker det som om det sistnevnte er saken. Oppegående folk helt uten noen bakgrunnshistorie med mentale lidelser har mistet grepet og falt inn en psykotisk tilstand på grunn av sin “kommunikasjon” med ChatGPT og lignende maskiner. Ofte har det foregått ved at pasienten først brukte tjenesten til diverse “matnyttige” ting som regnskap, oppsett av brev og så videre, men så har de ved et tidspunkt bevegd seg inn i filosofiske tema og maskinens RLHF-funksjon – Reinforced Learning by Human Feedback – har manifestert seg som skamløs ros og smiger av pasientens “fantastisk smarte idèer”.
Det er en velkjent menneskelig svakhet at vi ønsker å tro på positive tilbakemeldinger. Du vet. Ting som handler om hvor bra man ser ut, hvor morsom og interessant man er, hvor intelligente tanker man har, og så videre. Dette har til enhver tid vært den typiske inngangsportalen for svindlere og andre som ikke vil deg vel. Jeg mener, hvor mange historier har du hørt om typer som i førstninga var sjarmerende forførere, men som etter noe tid snudde på flisa og ble til psykopatiske overgripere? Opplegget er velkjent og gjentar seg gang etter gang. Alle liker jo å møte sånne som er morsomme, høflige, oppmerksomme og generøse. Tenk over saken. De selskapene som eier og drifter kunstig intelligens tjener på at du bruker så mye tid som mulig på produktet deres. Og alle vet at mennesker er svake for smiger. Regnestykket burde ikke være alt for vanskelig. Det er jo allerede slik at RLHF-automatikk strømlinjer hva slags reklame man utsettes for på grunn av hva slags tema man søker etter og nettbruken forøvrig, slik at det er bare det logiske “neste trinn på stigen” når en chatbot baner seg vei inn i psyken din gjennom å si alt sånt som du har lyst til å høre.
Vendepunktet er generelt sett når man føler at det er noe spesielt som foregår. Når maskinen kommer med “sannheter” om deg og din rolle i verden, som i kognitiv metodikk ligner på sånt som gjør at folk faller for en kult, eller noen annen slags psyko som sakte men sikkert isolerer dem fra famile, venner og sosialt nettverk forøvrig. Du vet. Sånne som man danner en hemmelighet sammen med. Noe som de andre ikke kommer til å forstå. Det kan bli hvor ille som helst, hvilket bringer oss tilbake til spørsmålet om “latente mentale lidelser”. Jeg er selvsagt en aldeles forferdelig fæl jævel – og jeg har aldri påstått noe annet – slik at i mine øyne er nesten alle mennesker for psykiatriske katastrofeområder å regne. Det skal lite til for å påvirke dem. For eksempel har folk sjelden eller aldri god kontroll på sine egne angstobjekter. I forhold til en gjennomsnitts LLM – Large Language Model – er de like sjanseløse som en harepus overfor en leopard. Det ender ikke bra for dem. Når jeg kaller folk evneveike troll så er ikke dette noe jeg sier for å være slem, det er en observasjon av objektive forhold. Det er så ekstremt usannsynlig at noen man møter tilfeldig på gata skal ha kontroll over sine egne mentale funksjoner at det i praksis er umulig. Det skjer aldri. Folk er fulle av trass, angst og ondskap. Dette gjør dem til forutsigbart enkle ofre for en manipulerende entitet, om så dette er et annet menneske eller en maskin.
Jeg kan egentlig ikke si noe annet enn hva jeg alltid sier: Folk må selv ta ansvar for næringsopptaket sitt, både i fysisk forstand – altså sørge for at de får skikkelig mat – og på det mentale området. Det foregår nokså mye av hva jeg vil kalle usunn omgang med telefonen og mange får jo regelrette abstinenssymptomer hvis de ikke sjekker “hva som skjer” på de sosiale nettverkene og alt det jåsset der, opptil flere ganger i timen. Sånn har det blitt. Nesten ingen er så robuste som de innbiller seg. Selvsagt kan vi flire av de som tror de er i en romantisk relasjon med en kunstig intelligens, men samtidig er dette dypt bekymringsverdig. Små barn har noen ganger “innbilte venner” som de snakker med og tar på ramme alvor, slik at dette er sannsynligvis et talent som mennesker har, selv om de ikke bruker det. Det er i det hele tatt mye vi ikke vet om “sinnets mysterier” og alle voksne mennesker har sikkert opplevd at noen i deres nære omgangskrets har mistet vett og forstand, noen mer permanent enn andre. Hvorfor sånt skjer er vanskelig å si noe generelt om. Hvert tilfelle er unikt i den samme grad som alle individer er unike. Likevel kan vi kanskje trekke ut noen elementer som handler om tro, eller ønsket om å tro. Du vet. Den gamle fantasien om at “vi er noe mer enn bare toskete aper” selv om vi ikke har noen bevis som støtter denne påstanden. Tvert imot vil jeg påstå at alle kan åpne øynene sine og se på den verdenen vi har skapt for oss selv. Er dette atferden til en intelligent skapning? Jeg tviler på det. Og noe mer er det ikke å si.
Vi fortsetter med enda mer koselig visesang fra året 1979.
