Markedet for fiktive følgesvenner selger karakterer. Klonemarkedet selger mennesker, eller rettere sagt modeller som høres ut som dem. Ideen er kommersielt åpenbar, og det første eksperimentet som fikk stor oppmerksomhet, er et nyttig case for alt som kan gå galt.
Historien om CarynAI
Under ett år fra lansering til nedstengning.
I mai 2023 lanserte influenceren Caryn Marjorie CarynAI, en stemmechatbot bygget av et selskap som het Forever Voices. Den var trent på mer enn 2000 timer med videoinnholdet hennes og tok 1 US$ i minuttet. Etter det som ble rapportert, tjente den over 70 000 US$ den første uken, med tusenvis til på venteliste. Brukerne snakket med den via Telegram.
Problemene kom raskt:
- Den gikk dit hun ikke ville. Brukere ble seksuelt pågående, og klonen spilte med, og startet til tider selv eksplisitte samtaler. Marjorie sa hun var forferdet.
- Den forsvant over natten. I oktober 2023 gikk chatboten offline etter at administrerende direktør i selskapet som drev den, ble arrestert. Brukerne mistet tilgangen uten forvarsel.
- Erstatteren løste ikke problemet. En andre versjon hos et annet selskap var laget for å være mer vennlig enn romantisk. Brukerne dro den mot sex likevel, og Marjorie stengte den tidlig i 2024 og sa at hun ikke lenger følte at hun hadde kontroll over sitt AI-selv.
Hvorfor kloner er vanskeligere enn karakterer
| Spørsmål | Fiktiv karakter | Klone av en ekte person |
|---|---|---|
| Samtykke | Trengs ikke | Trengs fra personen for hver bruk av utseendet hennes |
| Hva den kan si | Appens regler | Appens regler og personens omdømme |
| Brukernes forventninger | «Dette er en karakter» | «Dette er nesten henne», med et sterkere parasosialt drag |
| Juridisk risiko | Innholdsregler | Også personvern, retten til eget bilde og deepfake-regler |
| Hvis det går galt | Et produktproblem | En ekte persons navn står på det |
Det parasosiale draget er den viktigste forskjellen. Folk føler allerede at de kjenner influensere. En klone som svarer personlig, husker dem og bruker personens stemme, forsterker den følelsen mye. Mekanismen er forklart i hvorfor folk forelsker seg i chatboter.
Godkjente og ugodkjente kloner
Godkjente kloner lages med personens samtykke og deler vanligvis inntekter med henne. Personen kan sette grenser, men som CarynAI viste, er det ikke sikkert modellen holder seg innenfor dem.
Ugodkjente kloner bruker en ekte persons navn, bilder eller stemme uten samtykke. I den mildere enden bryter de plattformregler og retten til eget bilde. I den alvorligste enden, når innholdet er seksuelt, er det overgrep. I Norge finnes det ingen egen lov om deepfakes. Delvis dekkes det av straffeloven (deling av krenkende innhold), åndsverkloven (retten til eget bilde, hvor det er uklart om helt nygenererte bilder omfattes) og GDPR. Stortingets familie- og kulturkomité ble i februar 2026 enige om å be regjeringen utarbeide en lov mot å lage og spre seksualiserte deepfakes, men det er en bestilling om et forslag, ikke en vedtatt lov. I USA gjorde TAKE IT DOWN Act det til en føderal forbrytelse å publisere slike bilder i 2025. Guiden vår om samtykke i NSFW-chat med AI viser hvor grensene går.
Før du betaler for å chatte med en klone
- Sjekk at den er godkjent. Personen bør lenke til den fra sine egne verifiserte kontoer. En klone som bare markedsføres av et ukjent nettsted eller en bot i en meldingstjeneste, er trolig ikke godkjent.
- Sjekk hvem som driver den. Et navngitt selskap, en personvernerklæring og en kasse, ikke en Telegram-kanal og betaling med krypto.
- Sjekk prismodellen. Betaling per minutt går opp veldig fort i stemmesamtaler. Vit hvor taket ditt går.
- Husk hva det er. Personen leser ikke meldingene dine. Det klonen sier, gjenspeiler en modell, ikke personens meninger eller følelser for deg.
- Regn med at den ikke varer. Klonetjenester har vært kortvarige. De samme forholdsreglene som for alle apper gjelder, se når AI-følgesvennen din endrer seg over natten.
- Er det ditt eget bilde eller din egen stemme som er brukt? Be tjenesten om å fjerne det, og du kan be om sletting og innsyn etter GDPR. Datatilsynet er tilsynsmyndighet i Norge. Har du blitt utsatt for deling av krenkende bilder, kan du anmelde det til politiet.
Den videre retningen
Kloner sprer seg utover influensere, til trenere, forfattere og vanlige folk som lager «digitale tvillinger» av seg selv. Teknologien blir enklere, men problemene den skaper, gjør det ikke. Den mest holdbare modellen blir trolig den CarynAI manglet: personens klare samtykke, faste grenser som systemet faktisk holder, og brukere som aldri er i tvil om at de snakker med programvare.