Un de cada cinc joves afirma haver estat víctima de deepfakes durant la seva infància o adolescència: utilitzar la Intel·ligència Artificial per mostrar els seus cossos nus i difondre les seves imatges sense el seu consentiment

  • Save the Children presenta un informe que analitza les formes d’explotació sexual que afecten la infància i l’adolescència a la xarxa
  • Un 26 % ha estat pressionat per enviar contingut íntim o sexual i un 20 % ha patit amenaces o xantatges per mostrar contingut eròtic o sexual
  • El 2024, a Catalunya, es van registrar 814 denúncies per delictes cibernètics contra infants i adolescents, 72 de les quals eren per delictes sexuals

Informe: https://stces.me/46wN0L9

Material audiovisual: https://stces.me/46oaodK

8 de juliol de 2025. Save the Children ha publicat avui Xarxes que atrapen: l’explotació sexual de la infància i l’adolescència en entorns digitals, un nou informe elaborat en col·laboració amb l’Associació Europea per a la Transició Digital. El document analitza com Internet, les xarxes socials i les tecnologies no només faciliten la captació i l’exposició als riscos relacionats amb l’explotació sexual, sinó que també poden ser el mitjà on es cometen aquestes violències contra nens, nenes i adolescents, i en permeten la perpetuació.

Segons dades que han facilitat els Mossos d’Esquadra a Save the Children, el 2024 es van registrar a Catalunya 814 denúncies per delictes cibernètics contra infants i adolescents, de les quals 72 corresponien a delictes sexuals. «Aquestes xifres representen només la punta de l’iceberg, ja que la majoria dels casos no arriben a conèixer-se, en part per l’absència de denúncia i en part per les dificultats en la detecció, que s’agreugen quan els fets tenen lloc en l’entorn en línia», assenyala Ona Lorda, responsable de polítiques d’infància de Save the Children a Catalunya.

De fet, l’informe —que inclou una enquesta a més de 1.000 joves d’entre 18 i 21 anys arreu de l’Estat sobre les seves percepcions i conductes en línia durant l’adolescència— mostra que pràcticament la totalitat (el 97 %) afirma haver patit algun tipus de violència sexual en entorns digitals quan eren menors.

L’organització assenyala entre les principals formes de violència sexual digital el contacte per part de persones adultes amb finalitats sexuals (grooming); el sèxting sense consentiment o la difusió no autoritzada de contingut íntim; mentre que, d’altra banda, distingeix les formes d’abús i explotació sexual online, incloent el consum, producció i difusió de material d’abús sexual infantil (la mal anomenada “pornografia infantil”); la sextorsió, on infants i adolescents són coaccionats, sotmesos a xantatge o amenaçats per enviar material íntim sexual; l’ús d’eines d’Intel·ligència Artificial per crear aquest tipus de contingut i l’exposició involuntària a continguts sexuals. 

«És un fenomen complex, perquè les diferents formes de violència o explotació no són fenòmens aïllats: sovint estan connectades, formen part d’un mateix procés o es donen alhora, de manera que un mateix menor pot ser víctima de diverses violències al mateix temps», explica Lorda. 

Materials d’abús sexual i explotació infantil 

L’informe assenyala que, el 2024, el NCMEC (l’organització mundial líder en la prevenció i localització de menors víctimes d’explotació sexual digital) va registrar més de 19,8 milions de denúncies relacionades amb material d’abús sexual infantil: material que representa abús o explotació sexual de nens, nenes i adolescents.

Aquests continguts poden generar-se a partir d’abusos en entorns físics o bé directament en l’entorn digital mitjançant manipulació, enganys, amenaces o extorsions que indueixen la víctima a produir imatges de contingut sexual.
D’altra banda, Save the Children adverteix sobre un altre tipus de material d’explotació sexual infantil que inclou representacions sexualitzades d’infants o situacions de nuesa parcial o total que, tot i no mostrar actes sexuals explícits, presenten la infància des d'una mirada sexualitzada. «Aquests materials es troben en zones grises, perquè no arriben als llindars legals per ser considerats delicte en alguns països, però plantegen preocupacions serioses pel potencial de normalitzar o banalitzar la sexualització i l’explotació de nens i nenes», destaca Lorda.

En molts casos, poden ser fotografies de la vida quotidiana sense intenció sexual, com imatges a la platja o en activitats esportives, que són manipulades o recontextualitzades amb finalitats d’explotació o gratificació sexual per part d’adults.

Ús de la Intel·ligència Artificial 

Aquests materials també poden crear-se mitjançant eines digitals a partir d’imatges reals d’infants: són els anomenats deepfakes o ultrafalsificacions. Tot i que constitueixen per si sols una forma de violència —pel dany a la dignitat, al benestar i a la seguretat de la infància afectada—, prop del 70 % dels i les joves no assenyala la manipulació de fotos o vídeos mitjançant IA com un risc percebut durant la seva infància.

A més, un de cada cinc joves afirma que algú va compartir amb tercers imatges creades amb IA que els mostraven nus quan eren menors d’edat i sense el seu consentiment.

Lucía López, educadora de Save the Children a Alacant, va detectar un cas d'aquest tipus en els programes que l'organització desenvolupa a la ciutat: "Una adolescent de 12 anys em va comentar que estava sent amenaçada per una persona que li deia que, si no reenviava a tots els seus contactes un vídeo amb contingut sexual que li havia arribat al seu telèfon, publicaria unes fotos de la nena nua, creades amb Intel·ligència Artificial. La nena assegurava que mai havia enviat fotos seves amb aquest tipus de contingut, però sentia que ella havia propiciat aquesta situació i que era culpa seva".

Material autogenerat

Aquests continguts són produïts pels propis infants i adolescents —de manera voluntària o per coacció/manipulació—, mostrant-se en postures sexualitzades o en conductes més explícites (sèxting). Un 27 % dels enquestats va enviar voluntàriament missatges, fotos o vídeos íntims o sexuals durant la infància o l’adolescència.

«Fins i tot quan són voluntàries, aquestes conductes impliquen riscos: un cop compartit, el contingut escapa al control de qui el genera i obre la porta a múltiples victimitzacions. Pot ser redistribuït sense consentiment, utilitzat per adults amb finalitats sexuals o per sextorsió…», adverteix Lorda.

Així, més del 65 % no percep com a risc reenviar imatges sense consentiment del menor representat. Pel que fa als motius per compartir imatges o vídeos íntims propis, gairebé la meitat no sap que pot ser perillós (48 %); el 46 % ho veu com quelcom normal o sense conseqüències; el 42 % busca atenció o validació; i quatre de cada deu espera obtenir algun benefici a canvi. 

Dinàmiques de captació per a l’explotació sexual a la xarxa

La investigació de Save the Children també analitza les principals formes de captació amb finalitats d’explotació sexual. Entre elles,  i ha el grooming, que, basant-se en la manipulació, l’engany i la coacció, pretén obtenir materials digitals de contingut sexual, generar trobades sexuals en l’àmbit digital o físic, o involucrar el nen o la nena víctima en xarxes d’explotació.
El 2024, els Mossos d'Esquadra va registrar 51 denúncies relacionades amb el grooming, un augment respecte les 41 de l’any anterior. No obstant, això,  i en base a l’enquesta de l’organització, les xifres són molt més preocupants: el 33 % dels joves havia tingut contacte amb una persona adulta amb finalitats sexuals a l’entorn digital. Hi havia més noies (36 %) que nois (26 %) que havien tingut aquest contacte.

L’enquesta també confirma la varietat de vies de contacte que utilitzen els explotadors: xarxes socials com Instagram (68 %) o X (44 %), i aplicacions de missatgeria com WhatsApp (48 %). Cal destacar igualment el contacte a través de jocs en línia i plataformes de streaming (44 %).

La meitat dels i les joves considera que un dels principals riscos en l’entorn digital és el contacte amb persones desconegudes amb possibles males intencions, però només un de cada tres veu arriscat l’enviament consentit d’imatges íntimes a persones adultes. A més, destaca també la falta de coneixement sobre el grooming: només el 24 % de participants coneixia el que era, i tan sols el 17 % identificava correctament totes les conductes associades.

Tot i que en la fase inicial el material pot ser voluntari, sovint deriva en coacció o xantatge. A l’enquesta, un 26 % va ser pressionat per enviar contingut íntim, un 20 % va rebre amenaces o xantatges per mostrar-lo i una proporció similar va ser amenaçada amb difondre material sexual on apareixien. Les noies ho reporten més: 28,5 % vs 18,4 % dels nois.

Les xifres de denúncies dels Mossos d’Esquadra mostren que el 2024 hi va haver 20 denuncies per actes d’explotació sexual infantil a l’entorn digital (venda, difusió i exhibició de material pornogràfic de menors, prostitució, sol·licitud de relacions sexuals a canvi de remuneració), 50 el 2023. 

Pel que fa als perfils dels agressors, Save the Children assenyala que, tot i que no hi ha un perfil únic, sí que es poden identificar patrons comuns: la majoria són homes (el 93,4 % dels detinguts i investigats per delictes de grooming el 2023 arreu de l’Estat, segons dades del Ministeri de l’Interior); la franja d’edat més habitual és dels 18 als 25 anys (amb una mitjana de 28 anys); poden actuar només en l’entorn digital (anàlisis oficials indiquen que només el 34 % busca trobades presencials); no oculten la seva identitat, cosa que pot generar una falsa sensació de confiança; no sempre són desconeguts (el 35 % dels casos pertany a l’entorn proper del nen, nena o adolescent); i la motivació no sempre és sexual, ja que hi ha casos de grooming i extorsió amb finalitats econòmiques.

Mesures per protegir els drets de la infància i l’adolescència a l’entorn digital

Save the Children llança aquest informe en el marc de la seva campanya #DretsSenseConnexió per conscienciar la societat que infants i adolescents també es desenvolupen a internet, per la qual cosa ha de ser un lloc segur per ells, garantint que es compleixin els seus drets. 

Per això, l’organització demana desplegar totes les mesures que recull la Llei orgànica de protecció a la infància i l’adolescència davant la violència (LOPIVI) i reforçar la protecció en línia de tots els drets de la infància i l’adolescència a la futura llei orgànica de protecció de les persones menors d’edat en entorns digitals, actualment en tràmit, per tal de proporcionar entorns digitals segurs per a infants i adolescents.

Save the Children demana també incorporar de manera transversal al currículum educatiu l’educació digital sobre l’ús segur i responsable de les tecnologies, juntament amb l’educació afectiva i sexual integral (regulada, des d’edats primerenques i adaptada a cada fase educativa), així com la formació dels i les professionals del sector educatiu en aquesta matèria.
A més, l’organització considera fonamental la creació de campanyes adreçades als nens, nenes i adolescents (i desenvolupades amb ells mateixos), així com a les famílies, per sensibilitzar sobre els riscos associats a l’explotació en l’entorn digital i actuar davant la normalització de determinats comportaments de risc.

Per a més informació: Mireia Recasens: mireia.recasens@savethechildren.org / 683 651 782