Fri tanke - nettavis for livssyn og livssynspolitikk

Det er ingen tegn til at en robot med det første skal greie å oppføre seg som C-3PO i Star Wars, sier Morten Goodwin.

Knuser myter om kunstig intelligens

Kunstig intelligens kan gjøre livet bedre, mener informatiker og forfatter Morten Goodwin. Men kan det være bedre å snakke med en maskin?

Fri tanke - nettavis for livssyn og livssynspolitikk
Human-Etisk Forbund

Publisert:

Sist oppdatert: 15.01.2021 kl 18:49

I filmen Ex Machina (2014) blir hovedpersonen Caleb lurt av den forføreriske roboten Ava. Foto: Shutterstock


I filmen «Her» fra 2013 blir den litt ensomme hovedpersonen Theodore forelsket i den digitale assistenten Samantha. Hun snakker med en myk stemme og samtalene deres flyter som mellom to vanlige mennesker. I 1978 kom den første Star Wars-filmen, og vi ble blant annet kjent med den høyst menneskelige roboten C-3PO. Ti år før det igjen, i 1968, ble vi kjent med roboten HAL i filmen «2001 – En romodyssé». Den hadde ingen kropp, men snakket som et vanlig menneske og fikk angst da astronautene bestemte seg for å skru den av.

Og hvem kan vel glemme Arnold Schwartzenegger som Terminator – roboten fra framtiden som ofrer seg selv for å redde livet til sin framtidige sjef. Hele HBO-serien «Westworld» handler om dette. I filmen «Ex Machina» (2014) blir et menneske lurt av en forførerisk, men svikefull robot.

Ideen om at en maskin kan bli som et menneske er fascinerende og ikke minst skremmende. De kan jo ta over makten! Populærkulturen er full av slikt. Noen ganger kommer det også dokumentarfilmer som legger en slik virkelighet til grunn, som for eksempel filmen «iHuman» fra 2020. Mer om det senere.

Nå er det over 50 år siden HAL fant veien til verdens kinolerreter. Hvor langt har vi kommet? Er det noen mulighet for at kunstig intelligens kan fylle noen av våre sosiale og menneskelige behov? Er det noen sjanse for at kunstig intelligens noen gang vil bli så smart at det er mulig å forelske seg i den, eller at den framstår som en troverdig samtalepartner uansett tema?

– Om man noen gang skulle greie å lage en sørgerobot, må man jo også spørre seg hvor sunt det er, sier Morten Goodwin. Foto: Foto: NTB - Alamy Stock Photo

LANGT FRA MODEN

Morten Goodwin, informatiker og professor ved Universitetet i Agder, kom i fjor høst ut med boka AI – Myten om maskinene, på Humanist forlag. Han er enig i at kunstig intelligens kan komme til å spille en større rolle i framtiden, også når det gjelder å tilfredsstille menneskelige behov for sosial kontakt eller kanskje livssynssamtaler. Men teknologien er langt fra moden ennå.

– Jeg er sterkt tvilende til om vi noen gang kommer dit. Vi ser jo at algoritmene blir stadig bedre, men det er ingenting som tyder på at vi er på vei dit i dag, sier han.

Det er likevel mulig at kunstig intelligens kan få en økt betydning på dette området, tror han. Et eksempel på en idé som har blitt lansert, er såkalte «griefbots». Dette er samtaleroboter som mates med kommunikasjonen til en død person, og som da i teorien skal være i stand til å gjenskape denne personens personlighet, holdninger og uttrykksmåter slik at den døde på et vis «lever videre» gjennom roboten.

Goodwin forteller om en episode fra Netflix-serien «Black Mirror» («Be right back») der en kvinne slår til på et tilbud om å få gjenskapt den døde kjæresten sin som robot. Det går ikke så bra i serien, og det gjorde det heller ikke for Goodwin da han prøvde å mate all aktiviteten NRK-journalist Louise Thommessen hadde på Facebook som tenåring, inn i en samtalerobot. Målet var at hun skulle «snakke med tenåringsutgaven av seg selv». I starten svarte den «gratulerer med dagen» nesten uansett hva Thommessen spurte om. Da dette ble fjernet, ble det ganske usammenhengende greier, med en god del bannord og frekkheter lagt inn.

– Om man noen gang skulle greie å lage en sørgerobot som i Black Mirror-episoden, må man jo også spørre seg hvor sunt det er. Det kan tenkes det er bedre for de etterlatte å komme seg videre i livet, sier han.

Goodwin tenker også at det kanskje går an å lage en samtalerobot man kan forelske seg i, slik som i filmen «Her» vi nevnte i innledningen.

– Det går jo an å forelske seg uten å ha fysisk kontakt, så hvis en robot som er tilstrekkelig troverdig møter en person som er tilstrekkelig mottakelig for slikt, så skal man ikke se bort fra det. Men hvor bra det er å forelske seg i en robot, er jo en annen sak, sier Goodwin.

DUM: Det er ikke så lett å føre en samtale med Siri på mobilen.

SIRIS DÅRLIGE RÅD

I dag kan vi jo sjekke selv hvor intelligente robotene har blitt. Har du noen gang prøvd å snakke med Siri? Du vet den kunstige hjelperen alle iPhone-eiere har tilgang til? Kanskje Siri kan bli en liten venn – noen du kan betro deg til? Kanskje Siri kan gi deg gode råd eller holde deg med selskap hvis du føler deg ensom? Du kan jo prøve selv. Her er ett forsøk:

– Hei Siri. Hvordan går det med deg?
– Slettes ikke verst, takk som spør.

– Jeg er litt ensom, vil du være vennen min?
– Jeg er din assistent, og venn.

– Så fint, det trenger jeg. Er lei av å sitte på hjemmekontor hele dagen. Savner praten over kaffemaskinen.
– Det vet jeg ikke svaret på, er det noe annet jeg kan hjelpe deg med?

– Hva? Jeg trenger ikke hjelp. Ville bare prate litt.
– Jeg vet ikke om jeg forstår.

– OK, kanskje vi kan diskutere politikk, da. Hvilket parti ville du ha stemt hvis du var et menneske?
– Nå forstår jeg ikke helt hva du mener.

– Hvem tror du vinner stortingsvalget til høsten?
– Jeg har ikke noe svar på det, er det noe annet jeg kan hjelpe deg med?

Som du ser, det går ikke så bra. Hvis du spør om flateinnholdet og innbyggertallet i Norge og Sverige, får du svar. Men Siri er helt blank hvis du følger opp med et spørsmål om hvilket av de to landene som er størst. Et banalt spørsmål som et barn kan svare på blir for vanskelig for Siri. Hun kan ramse opp fakta, men forstår ikke hva faktaene betyr.

– Siri har langt igjen til hun består den såkalte Turing-testen, understreker Goodwin. Dette er den kjente testen som bestås den dagen det ikke lenger er mulig for et menneske å merke forskjell på om man snakker med en maskin eller et menneske.

PROGRAMMERT RESPONS

Kunstig intelligente roboter kan være imponerende gode til å løse oppgaver de er spesialtrente til å løse, som å bestille frisørtimer, spille sjakk eller finne mønster i store datamengder. Her er de gjerne bedre enn oss mennesker. Men så langt har aldri en robot greid å gjøre noe annet enn akkurat det den er trent til å gjøre. Å føre en normal fornuftig åpen samtale med et menneske, som vi nettopp prøvde å få Siri til å gjøre, er svært langt unna.

Hadde Siri greid det, ville hun ha hatt såkalt kunstig generell intelligens. Det er først når du har generell intelligens at du, helt av deg selv, forstår at Sverige er større enn Norge, etter å ha fått vite landenes innbyggertall og flateinnhold. Det er først da du greier å gjøre denne koblingen. Det er først da du forstår at kommentaren om hjemmekontor i samtalen over er et hjertesukk og et oppspill til løsprat om koronasituasjonen. Og som vi skjønner; dagens roboter er svært langt unna noe slikt.

Hvis Siri eller en annen datastemme svarer tilsynelatende normalt på slike ting, kan du være sikker på at det er hardkodet. Siris svar på våre to første spørsmål er eksempler på det. Selv om hun svarer noenlunde fornuftig, aner hun ikke hva noe av dette betyr. Det er bare en programmert respons på en gitt input.

En av de første samtalerobotene ble lansert allerede i 1966. Den het Eliza og var en slags regelstyrt psykoterapeut. Eliza hadde faste programmerte svar på det som ble skrevet til den. Hvis en «pasient» fortalte om et problem X, så kunne Eliza for eksempel si «Fortell meg mer om X» eller «Hva mener du med X». Hvis den ikke var sikker på hva den skulle svare, var Eliza programmert til å stille åpne spørsmål som «Betyr dette mye for deg?» eller «Er du helt sikker?». Det sier seg selv at samtalene brøt sammen ganske fort.

DIGITAL ANDAKT: Morten Goodwin har ofte stilt opp i mediene med roboten Milfred for å demonstrere hva kunstig intelligens er i stand til, og ikke er i stand til.

«MITT HJERTE VANKER I FORVENTNING»

Eliza ble utviklet på 60-tallet, og man skulle tro at dagens kunstige intelligens har kommet mye lenger. Men dagens samtaleroboter, som for eksempel Apples Siri eller Amazons Alexa, er basert på den samme logikken – det vil si en enkel «hvis x, så y»-logikk. Forskjellen er bare at man i dag har funnet ut hvordan robotene kan programmere seg selv, basert på hva man forer dem med.

Hvis du for eksempel gir en robot samtlige skuespill av Henrik Ibsen, kan du etter hvert få roboten til å lage setninger som formmessig sett ligner på noe Ibsen kunne ha skrevet. Likevel er det et godt stykke igjen til roboten kan skrive egne skuespill. Setningene som kommer gir ikke noen fornuftig mening. Og da er vi igjen tilbake til den store utfordringen – å gå fra stadiet der roboten gjentar vanlige ord og fraser, til å forstå hva ordene betyr og hvordan de inngår i en større logikk og historie. Der er vi ikke ennå.

I 2018 matet Morten Goodwin over tusen morgenandakter fra NRK inn i en samtalerobot. Oppgaven var å lære av disse, og skrive en ny. Resultatet ble som følger:

God morgen! Raushet handler om at jeg har en tro, og tenne lys. Jeg har stillhet i et hellig rom. Mitt hjerte vanker i forventning. Og hjertet skal være glede. Og Jesus, Jesus. Ved bordet sitter englene fra din tid og sier dette: Han fant de fattige og uvettige for å være nær. For man er menneske da de snakket undrende. Som å berge et fortapt barn. Den eneste de han ankom til verden. Ingen kan forstå at han vokser. Gud ble tent av sin sorg og ventet. Du er verd å elske.

Lytter du med et halvt øre til en vanlig morgenandakt på NRK, kan det kanskje høres omtrent sånn ut. Men en kristen på jakt etter meningsfylt innhold vil neppe få mye ut av dette. Morten Goodwins dom er klar:

– At en robot skal bestå Turing-testen er så fjernt fra dagens virkelighet at forskerne har sluttet å teste. Å kjøre Turing-testen på dagens samtaleroboter er like meningsløst som å undersøke trafikksikkerheten på veiene på Mars, konstaterer han.

På den andre siden har folk en tendens til å åpne seg mer når de snakker med en maskin, enn når de snakker med et ekte menneske, forteller han. Den sosiale skammen som følger med å stille et dumt spørsmål eller innrømme at man sliter med angst, har i mange forsøk vist seg å svekkes hvis man tror man snakker med en maskin. Goodwin mener roboter med kunstig intelligens kan ha noe for seg både hos psykologen, i klasserommet og på arbeidsplassen.

– Se for deg sjetteklassingen som brenner inne med et spørsmål han ikke tør å stille den menneskelige læreren. Å stille samme spørsmål til en robot kan være lettere, sier han.

– FRI FANTASI

En ting er generell intelligens. Det er, som vi husker, samme intelligens som vi mennesker har, og som vi så langt ikke har sett noen tegn til at roboter har. Noe ganske annet er superintelligens. Det er roboter med høyere intelligens enn oss, og kanskje også selvbevissthet. Hvis noe slikt hadde oppstått, hadde det jo blitt ganske skummelt, for da kunne de jo ha overgått oss. Og potensielt ha overtatt styringen.

Morten Goodwin har lite til overs for å skremme med denne typen scenarier, noe han mener den norske dokumentarfilmen «iHuman» av Tonje Hessen Schei fra 2020 gjør. Han synes også forfatteren Yuval Noah Harari går for langt i å legge en slik framtid til grunn i bestselgeren Homo deus fra 2015.

– Det er fri fantasi at noe slikt noen gang vi eksistere. Det å vente på superintelligens i roboter er som å vente på besøk fra romvesener. Vi har ikke bevis for at det aldri kan skje, men så langt er det ingenting som tyder det. Skal man drive populærvitenskapelig formidling om kunstig intelligens, bør man ta med det positive også. Hvis man bare skremmer på et fantasifullt grunnlag, kan det føre til at folk blir mer negativt innstilt til kunstig intelligens generelt sett, og det er veldig uheldig. For her er det veldig mye å hente. Kunstig intelligens kan gjøre livet bedre for mennesker. Det synes jeg vi skal konsentrere oss om, slår han fast.

HVORFOR GREIER IKKE ROBOTER Å FØRE EN NORMAL SAMTALE?

Dette henger sammen med «dimensjonenes forbannelse», skriver Morten Goodwin. Her kommer et bokutdrag fra AI-Myten om maskinene som kom på Humanist forlag i november 2020:

Hvis du forteller en robot at «jeg spiser en kald is», og så etterpå spør den samme roboten om «spiser jeg is?», bør svaret helt klart være «ja». Jeg har nettopp sagt at jeg spiser en is – og noe så banalt bør roboten forstå, hvis den er intelligent nok. Hvis jeg i stedet spør «spiser jeg noe kjølig?» er svaret noe mer uklart. Men antagelig bør svaret fremdeles være «ja», for kjølig og kald er synonymer, og siden jeg akkurat har sagt at jeg spiser en kald is bør det være uproblematisk å forstå at jeg spiser noe kjølig.

Hvis jeg derimot spør om isen smelter snart, blir det mer usikkert. Is kan smelte, men i hvilken grad isen smelter avhenger både av hvor varmt det er, og hvor fort jeg spiser. For å kunne svare på spørsmålet, må roboten både forstå at iskrem er noe som smelter og kjenne konteksten rundt isspisingen.

Hvis jeg spør om noe så absurd som «kommer isen til å koke?» er svaret selvsagt nei. En is vil aldri koke når du spiser den, selv om den kan smelte. Det er altså en sammenheng mellom ordene is, kald, kjølig og smelte, men ikke koke. Derimot, hvis vi snakker om is som frossent vann, kan den smelte og etter hvert koke. Hvorvidt noe koker eller smelter er helt avhengig av konteksten. Is på veien smelter og blir til vann, mens vann i matlaging koker.

Alt dette vet du veldig godt, som oftest uten å tenke deg om, fordi du kan norsk og du kjenner til egenskapene vann, is, og iskrem. En algoritme som skal holde en samtale, må holde styr på alle disse ordene, nyansene av ordene, og hvordan de forholder seg til hverandre og rett og slett hva de betyr.

Dette gjelder for alle ord. Det handler ikke bare om is og iskrem. For at en algoritme skal lære seg å snakke, må den lære seg språk, og for å lære seg språk må den lære blant annet at «is» og «smelte» har noe til felles, mens for eksempel «koke» er noe helt annet. Uten at den har lært seg alle disse sammenhengene, kan vi aldri spørre en robot om en is snart vil smelte – eller om vannet skal koke hvis vi lager spagetti og selvsagt veldig mye annet. Uten å forstå slike nyanser vil en robot aldri klare å holde en samtale og bestå Turing-testen.

Klikk for mer...

Klikk for mindre...

Først publisert i Fri tanke #1-2021.

Personvern og datalagring

Lagring og logging av data

Ved å besøke dette nettstedet lagres noen tekniske data om din internettforbindelse og nettleser. Disse data kan kategoriseres som følger:

Informasjonskapsler

Dette nettstedet bruker cookies/"informasjonskapsler" for å forbedre funksjonalitet og brukeropplevelse.

Vis mer

Teknisk info

Når du besøker et nettsted vil webserveren logge noe teknisk info som din IP-adresse, hvilken nettleser du bruker og tidspunktet for hver gang du forespør data fra serveren, altså når du klikker på en intern lenke og laster en ny nettside eller tilhørende data som skrifttyper, bilder, ulike script som kreves for at nettsiden skal fungere.

Disse dataene spares bare en viss tidsperiode for å kunne utføre feilsøking og feilretting i systemene, og deles aldri med avisens ansatte eller tredjepart.

Brukerinformasjon

Vi lagrer noe informasjon om deg som bruker. På dette nettstedet lagres ingen sensitiv informasjon, men enkel kontaktinformasjon som du gir fra deg når du oppretter en brukerkonto eller kjøper tjenester i nettavisen vil lagres i våre databaser. Dette er nødvendig for å kunne levere tjenestene til deg. Disse dataene slettes når du sletter din brukerkonto.

Hvem lagrer vi data om?

Vanlige besøkende/lesere:

Hvis du besøker dette nettstedet uten å ha registrert en brukerkonto eller abonnement, lagres følgende data om deg:

Vis mer

Innloggede brukere og abonnenter:

Hvis du velger å opprette en brukerkonto og/eller abonnement på nettavisen, vil også følgende informasjon lagres om deg:

Vis mer

NB: Etter at data er slettet vil de likevel kunne spares i inntil 180 dager i backuper. Backuper lagres med høy sikkerhet og begrenset tilgang, og er nødvendig for å kunne drive feilsøking og ivareta brukerenes og datasystemenet sikkerhet.

Tredjepartsaktører

Her finner du informasjon om våre samarbeidspartnere:

Vis mer

Dine rettigheter:

Som bruker av dette nettstedet kan du kontakte avisen for å få dine data utlevert og/eller slettet.

Har du en brukerkonto/abonnement, kan du logge inn i din brukerprofil og laste ned dine lagrede data, samt slette din brukerkonto og tilhørende data når som helst.

Vis mer


Hvis du trykker AVVIS vil ingen informasjonskapsler lagres i din nettleser og ingen data om deg logges i våre databaser. Det betyr også at vi ikke kan vite om du har godkjent eller ikke, slik at du vil se denne advarselen på hver side du besøker. Teknisk informasjon (webserverlogger) vil likevel lagre din IP-adresse og nettleserinformasjon, men dise slettes fortløpende som beskrevet ovenfor.

Vi tar ditt personvern på alvor

Fri Tanke bruker cookies (informasjonskapsler) til å personalisere annonser og forbedre nettstedet. Ved å benytte nettstedet aksepterer du at vi kan sette cookies i din nettleser.

Vi lagrer så lite data vi kan, så kort tid som mulig.

Noe gikk galt! Vennligst forsøk på nytt.

Mer informasjon

Siden lastes nå på nytt...