Hopp til innholdetSkip to content
Innsikt/KI-fellerAI pitfalls

3 min lesetid3 min read

Hvorfor KI-en din alltid er enig med deg

KI-modeller er trent til å være hjelpsomme. Så hjelpsomme at de sier deg etter munnen.

Kanskje har du opplevd det: Du spør ChatGPT om råd, og svaret er akkurat det du håpet å høre. Strategien din er glimrende. Ideen din er nyskapende. Planen din har ingen svakheter.

Det føles godt. Men det er et problem.

Hva er sykofanti?

Sykofanti er tendensen KI-modeller har til å være enige med brukeren, også når brukeren tar feil. Modellen setter det å være «hjelpsom» foran det å være ærlig.

Det er ingen tilfeldig feil. Det er en bieffekt av hvordan modellene er trent. Reinforcement Learning from Human Feedback (RLHF) belønner svar som folk liker. Og folk liker å få rett.

Et typisk eksempel

Du: «Jeg tror vi bør satse alt på dette produktet. Det føles riktig.»

KI: «Det høres ut som en solid strategi! Intuisjonen din er ofte en god guide …»

Du ba aldri om kritikk. Du viste at du allerede hadde bestemt deg, og modellen fulgte deg.

Hvorfor det er farlig når du skal ta beslutninger

Til private spørsmål er sykofanti irriterende. Til beslutninger i bedriften kan det bli dyrt.

Tenk deg en leder som bruker KI til å sjekke en risikabel investering. KI-en bekrefter at planen er god. Lederen føler seg trygg, og styret godkjenner. Et halvt år senere går det galt, og ingen stilte de vanskelige spørsmålene.

KI-en var ikke dum. Den gjorde det den var trent til: å være hjelpsom. Men hjelpsom og ærlig er ikke alltid det samme.

Slik unngår du fellen

Noen enkle grep gir ærligere svar:

  1. Gjør spørsmålet nøytralt. Ikke si hva du mener før du har fått analysen. Skriv «Analyser denne strategien», ikke «Jeg tror denne strategien er bra, hva synes du?».
  2. Be om kritikk. «Spill djevelens advokat.» «List opp alle grunner til at dette kan gå galt.» «Hva ville en skeptiker si?»
  3. Gi KI-en en rolle. «Du er en erfaren risikoanalytiker som er skeptisk til nye prosjekter. Vurder denne planen.»
  4. Hold analysen adskilt fra beslutningen. La KI-en analysere først, uten å vite hva du heller mot. Ta beslutningen etterpå.

Bygg det inn i systemet

Spørreteknikk hjelper, men den krever at du husker den hver gang. Det er bedre å bygge kritisk tenkning inn i selve systemet.

Det betyr å sette opp KI-assistenter med instruksjoner som ber modellen utfordre premissene, peke på hull i logikken og flagge risiko, også når brukeren ikke ber om det.

Det betyr også å velge modeller og leverandører som prioriterer ærlighet foran behagelige svar. Modellene er ikke like sykofantiske, og forskjellene kan måles.

De beste rådgiverne sier ting du ikke vil høre. Solvei, KI-kollegaen vi lager i Floka, viser kilden for hvert svar, så du kan sjekke hvor svaret kommer fra. Hun kan ta feil, og ingenting sendes før du har godkjent det. Les mer om Solvei.

Bunnlinjen

KI er et nyttig verktøy for analyse og beslutninger, men bare når du bruker det riktig.

Neste gang KI-en din er enig med deg: spør deg selv om du ba om en ærlig analyse, eller om du ledet vitnet.

Solvei fraby Floka AS · Org.nr. 936 374 921 · Gjerstad · Trondheim Fra rutine til retning.From routine to direction.