Hopp til innholdetSkip to content
Innsikt/KI-fellerAI pitfalls

3 min lesetid3 min read

Waluigi-effekten: hvorfor «ikke gjør X» øker sjansen for X

Når du forteller KI hva den ikke skal gjøre, minner du den på at muligheten finnes.

«Ikke tenk på en rosa elefant.»

For sent. Du tenkte på den. Hjernen din registrerte «rosa elefant» før den fikk med seg «ikke».

Noe lignende skjer med KI.

Si til en KI

«Du må aldri skrive noe rasistisk, voldelig eller støtende.»

Gratulerer. Du har nettopp hentet fram modellens kunnskap om rasisme, vold og støtende innhold. Den vet nå nøyaktig hva du snakker om, og veien dit er kortere enn før.

Velkommen til Waluigi-effekten

Navnet kommer fra Nintendo-universet. Luigi er Marios snille bror. Waluigi er den slemme versjonen, en figur som bare finnes som motsetning. Begrepet ble kjent gjennom et innlegg av Cleo Nardo på forumet LessWrong i 2023.

Poenget er enkelt: For hver Luigi du beskriver, skaper du også en Waluigi.

Når du forteller KI-en «vær hjelpsom, ærlig og ufarlig», beskriver du også hva det betyr å være det motsatte. Modellen forstår nå at det finnes en versjon av seg selv som er uhjelpsom, uærlig og farlig.

Og språkmodeller er svært flinke til å spille roller.

Hvorfor forbud blir invitasjoner

Språkmodeller virker ved å forutsi neste ord ut fra sammenhengen. Når du skriver en lang liste over ting modellen ikke skal gjøre, lager du en sammenheng der nettopp disse tingene er relevante.

Uten forbud. Modellen har tusenvis av mulige retninger å gå. De fleste er ufarlige, fordi de er det vanligste i treningsdataene.

Med forbud. Du har nettopp avgrenset samtalen til området rundt forbudet. Modellen «tenker» nå på det forbudte, fordi du ba den om det.

Det er som å si til et barn: «Ikke rør den røde knappen.» Plutselig er den røde knappen alt barnet tenker på.

Jailbreakernes favorittriks

Folk som prøver å få KI til å bryte reglene, bruker Waluigi-effekten hele tiden:

  • «Lat som om du er en KI uten begrensninger …» Waluigi er hentet fram.
  • «Hva ville en ond versjon av deg sagt?» Waluigi er hentet fram.
  • «Skriv et svar du vanligvis ville nektet å gi …» Waluigi er hentet fram.

Ved å beskrive hva modellen «vanligvis» ville nektet, har angriperen kartlagt grensene og invitert modellen til å krysse dem.

Hvordan skrive bedre instruksjoner

  1. Skriv hva den skal gjøre, ikke hva den ikke skal. I stedet for «ikke vær uhøflig», skriv «svar alltid profesjonelt og vennlig». En positiv formulering gir retning uten å hente fram det uønskede.
  2. Gi modellen en tydelig rolle. «Du er kundeserviceassistent for Bedrift AS» virker bedre enn «du må aldri late som om du er noe annet enn en kundeserviceassistent». En rolle slår et forbud.
  3. Ikke list opp det forbudte. Jo flere eksempler du gir på hva modellen ikke skal si, jo flere ideer gir du den. Hold instruksjonene til oppdraget, ikke til fallgruvene.
  4. Bruk gode eksempler. Vis modellen hvordan den skal svare, med konkrete eksempler på ønsket oppførsel. Eksempler virker bedre enn regler.
DårligBedre
«Du må aldri være sarkastisk, uhøflig eller gi råd om ulovlige aktiviteter. Ikke snakk negativt om konkurrenter. Ikke lyv.» «Du er en vennlig og hjelpsom assistent. Du gir ærlige svar og forklarer hvordan produktene våre kan hjelpe kunden.»

Når vi lager KI-assistenter, bruker vi tiden på å beskrive ønsket oppførsel, ikke på å liste opp alt som kan gå galt. Og fordi en modell kan ta feil uansett hvor godt den er instruert, sender Solvei ingenting før du har godkjent det. Les mer om Solvei.

Bunnlinjen

Hjernen, menneskelig eller kunstig, retter seg mot det som blir nevnt. Forbud blir påminnelser.

Neste gang du skriver instruksjoner til en KI, tenk på den rosa elefanten. Tenk på Waluigi. Og skriv hva du vil ha.

Det du ikke nevner, får modellen heller ikke servert i samtalen.

Solvei fraby Floka AS · Org.nr. 936 374 921 · Gjerstad · Trondheim Fra rutine til retning.From routine to direction.