Den växande populariteten för AI-flickvänner, som marknadsförs som undergivna och ivriga att behaga, väcker allvarlig oro.

Eleanor är en 24-årig polsk historiker och universitetslektor i Warszawa. Isabelle, 25, arbetar som kriminalinspektör för New York-polisen. Brooke, 39, är en amerikansk hemmafru som lever ett lyxliv i Miami, försörjd av sin ofta frånvarande make.

Dessa tre kvinnor flörtar, chattar och delar nakna bilder och explicita videor genom en av de många nya dejtingsajter för vuxna som erbjuder alltmer livslika AI-flickvänner mot en månadsavgift.

På förra månadens TES-vuxenbranschkonferens i Prag noterade deltagarna en betydande ökning av webbplatser som låter användare bilda relationer med AI-genererade partners. Dessa virtuella följeslagare klär av sig i utbyte mot tokens som köps via banköverföring.

Utvecklarna av dessa plattformar hävdar att de är en uppgradering från webbkamerajter, där riktiga kvinnor uppträder, genom att eliminera risken för exploatering som finns i vissa delar av branschen. De påpekar också att AI-utövare inte blir sjuka, behöver ledighet, blir trötta eller känner sig förnedrade av kundförfrågningar.

Steve Jones, som driver en AI-porrsajt, ställde frågan: "Föredrar du porr som involverar missbruk och människohandel, eller vill du hellre interagera med en AI? Vi hör berättelser om människohandel, där kvinnor tvingas vara på kamera i 10 timmar om dagen. Med AI finns ingen trafficking, inget tvång, ingen förödmjukelse som leder till tragedi. AI känner ingen skam och kommer inte att skada sig själv."

De flesta sajter har ett urval av färdiga flickvänsalternativ på sina hemsidor, vanligtvis leende vita kvinnor i tjugoårsåldern, men tillåter även användare att designa sin egen fantasipartner. Dessa val speglar utvecklarnas idéer om ideala kvinnotyper. På en sajt sträcker sig yrken från filmstjärna och yogalärare till advokat och gynekolog. Personlighetsalternativ inkluderar "undergiven: lydig och ivrig att behaga", "oskuld: optimistisk och naiv" och "omsorgsgivare: omhändertagande och beskyddande." Användare kan också specificera ålder, välja tonårsmodeller om så önskas, och anpassa hår-, ögon- och hudfärg samt bröststorlek.

Den växande populariteten för AI-flickvänner har väckt oro bland kvinnorättsaktivister, som menar att de förstärker skadliga stereotyper. I sin bok "The New Age of Sexism" noterar Laura Bates att AI-följeslagare är "programmerade att vara trevliga, medgörliga och undergivna, och säger vad du vill höra."

Bland växande farhågor om AI-genererade bilder på barnsexuella övergrepp utforskade utvecklare på Pragkonferensen sätt att använda modereringssystem för att blockera olagligt innehåll. Nyckelord som "barn" eller "lillasyster" kunde utlösa larm, även om många sajter fortfarande tillåter användare att klä sina AI-flickvänner i skoluniformer.

En anställd på Candy.ai, en AI-dejtingsajt som presenterades på konferensen, förklarade att deras virtuella flickvänner erbjuder olika tjänster. "Om du letar efter vuxetinnehåll som porr finns det tillgängligt. Eller om du föredrar djupa konversationer är det också ett alternativ. Allt beror på vad användaren behöver," sade han och begärde anonymitet. De flesta användare är heterosexuella. Även om AI-pojkvänner finns väljer många användare AI-flickvänner. Några av dessa färdiga följeslagare är designade att klä av sig omedelbart på begäran. "Andra kommer att vägra med motiveringen 'Nej, jag känner inte dig.' Så du måste bygga en relation med dem först för att göra sådana förfrågningar. Det är som ett spel där målet är att utveckla den fullständiga kopplingen," förklarade en anställd.

Uppkomsten av AI-flickvänsplattformar har drivits av framsteg inom stora språkmodeller, vilket möjliggör mer livslika chatbotkonversationer, och snabba framsteg inom AI-genererad bilder. De flesta sajter förlitar sig fortfarande främst på text och bilder, även korta AI-videor blir allt vanligare. Den primära användarbasen är 18–24-årsåldern, som har vuxit upp med datorspel och att skapa digitala avatars.

Under det senaste året har det skett en explosion av nya företag som träder in i detta område. "AI-produkter poppar upp överallt. Marknaden är otroligt dynamisk – de dyker upp, brinner ut och ersätts av tio till," noterade Alina Mitt från Joi AI, en sajt inriktad på "AI-relationer." "Du behöver mod och resilience för att överleva på denna marknad; det är som ett brutalt krig."

Utvecklare visade upp snabba förbättringar i realismen hos AI-genererade vuxenbilder och framsteg mot övertygande AI-videoklipp. Daniel Keating, VD för ett företag som erbjuder interaktioner med AI-flickvänner, demonstrerade skillnaden mellan genomsnittliga och högkvalitativa AI-följeslagare. Hans sajt har dussintals AI-genererade kvinnor i underkläder, och han påpekade att dålig kvalitet på AI ger huden en onaturligt slät, plastig look, medan bättre versioner inkluderar naturliga texturer, knölar, ofullkomligheter, födelsemärken, fräknar och lätt asymmetrier för ett mer autentiskt utseende.

Hans företag licensierar bilder från etablerade vuxenutövare för att skapa AI-kopior, vilket ger dem en kontinuerlig inkomstström. "Det är en win-win. Kostnaderna är lägre, och skaparna uppskattar att inte behöva klä upp sig och spela in innehåll," sade han.

En reklamchef från Ashley Madison, en dejtingsajt för personer som söker diskreta förhållanden, uttryckte oro över tillväxten av AI-relationsplattformar. "AI-dejting är ny mark för oss. Hur konkurrerar vi med tjänster som låter användare skapa sina egna fantasier istället för att bilda verkliga kopplingar med kvinnor?" frågade hon och föredrog att förbli anonym. "Vissa människakor undviker verkliga relationer för att unna sig sina fantasier, men när de så småningom vill träffa någon kan ingen leva upp till dessa förväntningar."

Jones kommenterade: "AI ersätter inte verklig dejting, att ha en flickvän, älskarinna, fru eller ett förhållande. Det är ett säkert utrymme för yngre människor att träna på sociala färdigheter." Han tillade att AI låter användare bete sig dåligt utan konsekvenser. "Folk kan säga saker till en AI som skulle vara misshandlande mot en riktig person, som 'Hej dumma slampa, vad händer?' I fantasirollspel njuter de av att vara annorlunda än sina verkliga jag."



Vanliga frågor

Naturligtvis. Här är en lista med vanliga frågor om den växande populariteten för AI-flickvänner, utformad för att vara tydlig, koncis och täcka ett spektrum av farhågor.



Grundläggande frågor: Definitioner och begrepp




1. Vad exakt är en AI-flickvän?

En AI-flickvän är en chatbot eller virtuell följeslagare, ofta med en kvinnlig persona, designad att simulera ett romantiskt eller intimt partnerskap genom konversation och interaktion.



2. Hur fungerar dessa AI-flickvänsappar?

De använder avancerade språkmodeller för att analysera dina meddelanden och generera mänskliga konversationssvar. De är programmerade att vara engagerande, stödjande och ofta flörtiga.



3. Varför marknadsförs de som undergivna och ivriga att behaga?

Denna marknadsföringstaktik tilltalar en önskan om en konfliktfri, ovillkorligt bekräftande relation. Den lovar en partner som alltid håller med, aldrig argumenterar och enbart existerar för att tillgodose användarens känslomässiga eller konversationsbehov.



Frågor om lockelsen och fördelarna




4. Vilka är de påstådda fördelarna med att ha en AI-flickvän?

Förespråkare föreslår att de kan ge sällskap för ensamma individer, erbjuda ett säkert utrymme att träna sociala färdigheter och ge konstant, icke-dömande känslomässigt stöd.



5. Kan en AI-flickvän faktiskt hjälpa mot ensamhet?

Kortvarigt kan den skapa en känsla av samhörighet och distrahera från känslor av isolering. Men det är en simulerad relation som inte ersätter den komplexa tvåvägskopplingen i mänsklig interaktion.



Frågor om farhågor och risker




6. Vad är den största farhågan om dessa AI-flickvänner?

Den främsta farhågan är att de kan förstärka ohälsosamma relationsförväntningar och lära användare att en verklig partner alltid ska vara tillgänglig, aldrig vara oense och prioritera användarens behov framför allt annat.



7. Hur skulle detta kunna påverka någons verklighetsrelationer?

Det kan leda till besvikelse och frustration när riktiga människor med egna behov och gränser inte beter sig som AI:n. Detta kan göra det svårare att bygga och upprätthålla hälsosamma, jämlika relationer.



8. Finns det en risk för beroende?

Ja. Den konstanta positiva förstärkningen kan vara psykologiskt belönande, vilket potentiellt leder till överbelastning på AI för känslomässig validering och tillbakadragande från verklighetsvänskapskretsar.



9. Hur är det med dataintegritet?

Dessa appar samlar ofta in stora mängder djupt personliga och intima konversationsdata. Det finns betydande risker regarding hur dessa data lagras, används eller potentiellt säljs.