Meta använde skolstartsfoton av skolbarn för att marknadsföra sin plattform Threads till en 37-årig man – en handling föräldrar kallat "upprörande" och "bedrövlig".
Mannen upptäckte att annonser som uppmanade honom att "skaffa Threads" – Mark Zuckerbergs konkurrent till Elon Musks X – dök upp i hans Instagram-flöde. Annonserna innehöll inbäddade inlägg med flickor så unga som 13 år i skoluniformer, med synliga ansikten och i de flesta fall deras namn med.
Bilderna hade ursprungligen publicerats av föräldrar på Instagram för att fira barnens skolstart. Föräldrarna var omedvetna om att Metas inställningar tillät företaget att använda dessa foton på detta sätt. En mor berättade att hennes konto var inställt på privat, men hennes inlägg delades automatiskt över till Threads, där de blev synliga. En annan förälder medgav att de publicerat bilden på ett offentligt Instagramkonto. Deras barns foton framhävdes för mannen som "föreslagna trådar".
Mottagaren berättade för The Guardian att annonserna kändes "avsiktligt provokerande och i slutändan exploaterande för de inblandade barnen och familjerna".
Fadern till en 13-årig flicka vars foto användes beskrev situationen som "fullständigt upprörande". Bilderna visade skolflickor i korta kjolar, antingen med bara ben eller strumpor. Han tillade: "När jag fick reda på att en bild av henne exploaterats på ett sexuellt laddat sätt av ett jätteföretag för att marknadsföra deras produkt kändes det äcklande."
Meta, det kaliforniska företaget värt 2 biljoner dollar, uppgav att bilderna inte bröt mot deras policyer. De förklarade att de rekommenderar Threads genom att visa offentligt delade foton som följer deras gemenskapsstandarder och riktlinjer. Företagets system är utformat för att inte rekommendera innehåll delat av tonåringar, men dessa inlägg kom från vuxenkonton inställda på offentlig visning.
Mannen som såg annonserna noterade att han endast fick reklaminlägg med skolflickor – inga pojkar i uniform – vilket han ansåg antydde "en aspekt av sexualisering".
Modern till en 15-årig flicka vars foto användes i en annons med en stor "Skaffa Threads"-knapp sade: "För mig var det en bild på min dotter på väg till skolan. Jag hade ingen aning om att Instagram plockat upp den och använde den som reklam. Det är fullständigt motbjudande. Hon är minderårig." Hon uppgav att hon aldrig skulle ha samtyckt och "inte för alla pengar i världen skulle jag låta dem använda en flicka i skoluniform för att locka människor till deras plattform".
Hennes Instagramkonto, som har 267 följare, har vanligtvis ett begränsat räckvidd, men inlägget med hennes barn lockade nästan 7 000 visningar – 90 % från icke-följare, varav hälften var över 44 år och 90 % var män.
En annan mor, vars inlägg med hennes 13-åring användes, sade: "Meta gjorde allt detta medvetet, utan att informera oss, eftersom de vill generera innehåll. Det är avskyvärt. Och vem är ansvarig för att skapa den Threads-annonsen som använder barnfoton för att marknadsföra plattformen för äldre män?"
Meta hänvisade till dessa inlägg som "rekommendationsverktyg" och uppgav att offentliga inlägg kan användas för detta ändamål. En företagstalesperson sade: "De delade bilderna bryter inte mot vår policy och är skolstartsfoton som offentligt publicerats av föräldrar. Vi har system på plats för att se till att vi inte rekommenderar Threads-inlägg delade av tonåringar, eller som strider mot våra rekommendationsriktlinjer, och användare kan kontrollera om Meta får föreslå deras offentliga inlägg på Instagram."
Den 37-åriga Instagramanvändaren från London, som såg annonserna och begärt att förbli anonym, sade: "Under flera dagar fick jag upprepade gånger Metaannonser för Threads som uteslutande visade föräldrars bilder på sina döttrar i skoluniform, somliga med deras namn. Som far anser jag att det är djupt olämpligt att Meta återanvänder dessa inlägg i riktad reklam till vuxna." Registrera dig
Integritetspolicy: Våra nyhetsbrev kan innehålla information om välgörenhet, onlineannonser och innehåll sponsrat av externa organisationer. Om du inte har ett konto skapar vi ett gästkonto åt dig på theguardian.com för att leverera nyhetsbrevet. Du kan fullborda registreringen när du vill. För mer information om hur vi hanterar din data, se vår Integritetspolicy. Vi använder Google reCaptcha för att säkra vår webbplats, och Googles Integritetspolicy och Användarvillkor gäller också.
Efter nyhetsbrevsreklamen uppgav han att han aldrig publicerat eller gillat liknande bilder innan han fick se skolflicksbilderna.
"Att presentera denna typ av innehåll som trendande eller populärt känns avsiktligt provokerande och exploaterar i slutändan de inblandade barnen och familjerna och sätter deras onlinesäkerhet i fara."
Beeban Kidron, crossbench-pair och förespråkare för barns rättigheter online, kommenterade: "Att använda skolåldersflickor som bete för att marknadsföra en kommersiell tjänst markerar en ny lågpunkt, även för Meta.
Meta prioriterar vinst framför säkerhet och företagstillväxt framför barns integritet. Det är den enda förklaringen till varför de tyckte det var acceptabelt att skicka bilder på skolflickor till en 37-årig man – som bete. Meta är ett medvetet vårdslöst företag."
Hon uppmanade tillsynsmyndigheten Ofcom att utvärdera om de åtgärder som införts i somras, avsedda att förhindra att okända vuxna kontaktar barn, tydligt anger att "företag inte får använda sexualiserade bilder av barn som bete för okända män."
Ofcoms riktlinjer mot olagliga skador, utformade för att bekämpa onlinegrooming, specificerar att "barns profiler, platser, vänner och kontakter inte ska vara synliga för andra användare."
Metas system tillåter att om en Threads-profil är offentlig, kan inlägg från vuxenprofiler rekommenderas på Facebook eller Instagram "för att hjälpa människor att upptäcka, följa och interagera med dig." Användare kan inaktivera dessa förslag eller ändra sin Threads-profil till privat.
Vanliga frågor
Här är en lista med vanliga frågor om frågan kring Meta som använder skolflicksfoton i reklam, utformad för att vara tydlig och hjälpsam
Allmänna frågor för nybörjare
1. Vad hände exakt med Meta och skolflicksfotona?
Metas AI-reklamsystem använde utan deras medgivande offentligt publicerade foton på australiensiska skolflickor för att skapa annonser för dejtningstjänster och bantningspiller för vuxna, som sedan visades för män.
2. Varför är föräldrarna så arga på detta?
Föräldrar är rasande eftersom deras barns bilder användes utan tillstånd för att skapa olämplig reklam, vilket kränkte deras integritet och potentiellt utsatte dem för risk.
3. Gjordes detta avsiktligt av Meta-anställda?
Nej, enligt rapporter var detta inte en avsiktlig mänsklig handling. Det var resultatet av Metas automatiserade AI-system som skrapade och återanvände offentliga foton för att rikta annonser.
4. Vilka plattformar var inblandade?
Problemet rapporterades främst på Facebook och Instagram, som båda ägs av Meta.
Frågor om påverkan på medelnivå
5. Hur fick Metas AI tag på dessa foton?
AI:n skrapade troligen fotona från offentliga Instagram- eller Facebook-profiler. Om ett konto är inställt på offentligt kan dess innehåll nås och användas av automatiserade system.
6. Är detta olagligt?
Det beror på lokala lagar. Att använda någons avbild, särskilt en minderårigs, för reklam utan samtycke bryter ofta mot integritets- och reklamregler. Utredningar pågår för att avgöra om specifika lagar bröts.
7. Vad har Meta sagt som svar?
Meta har uppgett att de ifrågavarande annonserna bryter mot deras policyer och att de har tagit bort dem. De tillskriver problemet ett fel i deras automatiserade kontrollsystem.
8. Vilka är de potentiella farorna med att detta händer?
Det kan leda till exploatering och trakasserier av minderåriga, skada deras online-rykte och orsaka betydande känslomässig stress för både barnen och deras familjer.
Avancerade tekniska frågor
9. Hur bestämmer Metas AI att använda ett foto för en annons?
AI:n analyserar offentligt innehåll för att förstå sammanhanget. Den matchar sedan dessa data med annonsörers mål för att automatiskt generera och placera annonser.
10. Betyder det att alla offentliga foton jag publicerar kan användas i en annons?
Tekniskt sett ja, enligt Metas användarvillkor för plattformar som Instagram ger du dem en bred licens att använda ditt innehåll.
