4 min lesetid4 min read
Eliza-effekten: faren ved at det høres riktig ut
Hvorfor vi stoler mer på en glatt løgner enn på en ekspert som stotrer.
I 1966 laget Joseph Weizenbaum ved MIT en enkel chatbot som het ELIZA. Den gjorde nesten ingenting. Den snudde bare setningene til brukeren om til spørsmål.
«Jeg er trist i dag» ble til «Hvorfor er du trist?»
«Moren min er vanskelig» ble til «Fortell meg mer om moren din.»
Enkelt, nesten dumt. Men noe rart skjedde.
Sekretæren til Weizenbaum begynte å fortelle maskinen om personlige ting
Etter noen få replikker ba hun Weizenbaum gå ut av rommet, så hun kunne snakke med ELIZA i fred. Hun visste at det var et program. Men følelsen av å bli forstått var sterk nok.
Dette er Eliza-effekten
Eliza-effekten er tendensen vår til å tillegge datamaskiner menneskelige egenskaper som forståelse, empati og logikk, bare fordi de setter ord sammen i riktig rekkefølge.
Vi er vant til å tolke flytende språk som et tegn på kunnskap. Den som snakker godt, vet mye, tenker vi.
Den tommelfingerregelen holder ikke lenger.
Dagens modeller er mye bedre
Og det er nettopp det som er farlig.
ELIZA var primitiv. ChatGPT og Claude skriver flytende og godt strukturert. De formulerer seg presist, bygger argumentene logisk og høres ut som eksperter.
Fellen er å tenke slik
«Det høres riktig ut, så da er det sikkert riktig.»
Men KI kan skrive overbevisende feil like lett som riktige svar. Modellen skriver det som høres riktig ut ut fra treningsdataene, uavhengig av om det er sant.
Når språket er godt, senker vi garden
Tenk deg to råd:
Råd A, stotrende
«Eh … jeg tror kanskje … altså, renten kan gå opp? Men det er usikkert …»
Råd B, flytende
«Basert på makroøkonomiske indikatorer og signalene fra sentralbanken ventes en renteøkning på 25 basispunkter i neste kvartal.»
Hvem stoler du mest på? Det er lett å velge B.
Men hva om B er skrevet av en KI som setter sammen ord som statistisk sett «passer» etter setninger om renter? Og A kommer fra en erfaren økonom som er ærlig om usikkerheten?
Selvsikkerhet er ikke det samme som å ha rett.
Slik beskytter du deg
- Vær skeptisk til perfekte svar. Jo mer polert svaret er, jo viktigere er det å sjekke det. Et svar uten et eneste forbehold kan være et varsel i seg selv.
- Spør «hvordan vet du dette?». En god KI-assistent kan vise kilden. Kan den ikke det, eller svarer den vagt, bør du være varsom.
- Sjekk fakta før viktige beslutninger. Bruk KI som et utgangspunkt, ikke som en fasit. Jo viktigere beslutningen er, jo grundigere bør du sjekke.
- Velg systemer som viser kilden. KI som viser hvor svaret kommer fra, er tryggere enn KI som bare leverer et polert svar.
Flytende språk er ikke det samme som fakta. Derfor viser Solvei, KI-kollegaen vi lager i Floka, kilden for hvert svar, så du ser hvor svaret kommer fra og ikke bare hvor pent det er formulert. Hun kan ta feil, og da skal det være lett å se. Les mer om Solvei.
Bunnlinjen
Weizenbaum ble sjokkert over hvordan folk reagerte på ELIZA. Han brukte resten av karrieren på å advare mot å stole blindt på maskiner.
I dag er maskinene langt bedre til å høres overbevisende ut. Advarselen hans er mer aktuell enn før.
Jo bedre KI blir til å formulere seg, jo viktigere er det å huske at å forstå og å formulere er to forskjellige ting.