Nuevas formas de poder digital en la red: dimensiones de la política sexual de las Big Tech
Águeda Gómez Suárez, profesora titular de universidad, Departamento de Sociología, Ciencia Política y de la Administración, y Filosofía, Universidad de Vigo. agueda@uvigo.es. ORCID: https://orcid.org/0000-0003-4001-3060
Rosa Mª Verdugo Matés, profesora contratada doctora, Departamento de Economía Aplicada, Universidad de Santiago de Compostela. rosa.verdugo@usc.gal. ORCID: https://orcid.org/0000-0001-9842-3391
Si bien inicialmente parecía que Internet iba a ser un espacio universal, descentralizado, horizontal e igualitario, finalmente se ha convertido en un ecosistema de amplios latifundios gobernados por las grandes empresas tecnológicas. Esta nueva forma de poder digital despliega una «política sexual» concreta que se extiende principalmente por los canales de ocio, cultura, consumo y comunicación virtual, los cuales reproducen y naturalizan las brechas de género, el sexismo y la misoginia. En este contexto, este artículo examina cómo el patriarcado opera en clave de género, a través de la difusión y proliferación de contenidos misóginos y sexistas en la red (ciberviolencia, «pornografía mainstream», industria de la explotación sexual, «proxenetismo digital»), desplegando una estrategia cuyo fin es consolidar su poder, perpetuando la jerarquía sexual y la «monetización de la misoginia» en el marco de un orden sociosexual concreto.
«El mundo se está convirtiendo en una caverna igual a la de Platón: todos mirando imágenes y creyendo que son la realidad».
José Saramago
En la actualidad, la amplia distancia entre el sujeto y el mundo se resuelve scrolleando entre pantallas, en una sucesión de imágenes infinitas exhibidas en un escaparate regido por un régimen de tecnología algorítmica escópica y por la «economía de la atención» (Klein, 2024), donde adquiere importancia «lo más visto» (Zafra, 2021). La lógica propia de la cultura-red nos convierte a todos en «habitantes de la pantalla» dentro de un sistema que se apoya en audiencias y algoritmos. Los grandes poderes de las Big Tech, –ya sea el imperio estadounidense GAFAM (Google, Amazon, Facebook, Apple y Microsoft), o el chino BATX (Baidu, Alibaba, Tencent, Xiaomi)– se mueven por intereses meramente corporativos y pugnan en una lucha competitiva en el ecosistema digital: más likes, más tiempo atrapado en la pantalla y, por tanto, más lucro.
La sociedad contemporánea se encuentra inmersa en un entorno digital donde la interacción se realiza mayormente a través de pantallas, que facilitan la exposición a una sucesión interminable de imágenes dirigidas por la «mano invisible» de los algoritmos. En este escenario, las GAFAM y BATX ejercen una influencia determinante, compitiendo por la obtención de más interacciones y beneficios económicos (UNESCO, 2024; Webb, 2021; Lanier, 2018), sin importarles la veracidad, la calidad o el impacto de sus contenidos, en un proceso que el escritor canadiense Cory Doctorow califica como enshittification1 imparable, un patrón en el que los servicios y productos en línea experimentan con el tiempo una disminución de la calidad (Doctorow, 2024).
La web prosocial, la datificación y la plataformización2 se sostienen mutuamente, creando un ciclo de captura y procesamiento de datos que enmascara lógicas extractivas, justificándose como necesarias para el mercado laboral basado en datos. Las redes sociales, originalmente concebidas como espacios de colaboración creativa global, están actualmente mediadas por un puñado de empresas que se lucran de las interacciones humanas, el extractivismo de datos y el malestar social general, mediatizando las relaciones sociales y las necesidades socioafectivas con fines de lucro y promoviendo la mercantilización de las relaciones humanas. Este ciclo perpetúa un modelo de monopolio y acumulación de poder y recursos, popularizado por científicas como Shoshana Zuboff (2020) como «capitalismo de vigilancia», que fomenta la desigualdad y el colonialismo tecnológico. Efectivamente, vivimos un momento de vigilancia virtual de altísima magnitud. Por ejemplo, la ciudadanía estadounidense es escrutada por Google 747 veces al día, la europea 376 y la española 426 con el fin de obtener información (en muchos casos privada) sobre localización y actividad en Internet (ICCL, 2022). Los datos que generamos al navegar por Internet contienen información de nuestras necesidades, debilidades, malestares, gustos, aficiones, etc., y dicha información se utiliza para ofrecernos productos y control político personalizado. Solo en el año 2021, esta actividad generó unos beneficios de 112.000 millones de euros en Estados Unidos y Europa (ICCL, 2022).
Las milmillonarias corporaciones privadas, lideradas por una especie de «aristocracia masculina» dueña de los titanes tecnológicos, actúan en un ámbito cada vez más determinante a la hora de configurar la actual realidad social, colisionando con conceptos, principios, valores y procedimientos democráticos (UNESCO, 2024; Webb, 2021; Lanier, 2018). Esta digitalización de lo social perpetúa estereotipos de género que limitan tanto a hombres como a mujeres, asignándoles roles y comportamientos específicos basados en normas patriarcales. Internet Health Report señalaba en 2019 que la mitad del planeta estaba conectado a Internet –más de 4.000 millones de personas–, pero que quienes diseñaban el hábitat digital solo representaban el 1% del público hiperconectado. Consecuentemente, quienes programan, idean y lideran la tecnología siguen siendo principalmente hombres, y son ellos, a modo de deus in machine, los que deciden qué es lo correcto, lo válido y lo que se debe hacer. Ellos intervienen, aplicando su «male gaze» (Mulvey, 1975), como activos creadores y gestores de contenidos y relatos en el ágora digital, obviando los intereses y las experiencias de las mujeres; ellas recreando imágenes cosificantes y pasivas para encajar en la mirada masculina: sujetos masculinos que miran objetos femeninos en el ecosistema digital (Zafra, 2021).
Estos colosos digitales extienden sus políticas de género de diversas formas. En primer lugar, a través de políticas de regulación de contenidos de total permisividad y connivencia frente a la magnitud de violencias digitales contra las mujeres3. En segundo lugar, mediante la difusión de contenidos extremos que fortalecen a la misoginia digital organizada o «manosfera», cuyo fin es limitar, silenciar, invisibilizar y disciplinar la vida digital de las mujeres (Kaiser, 2022; Bates, 2020). En tercer lugar, a través del marcado y desproporcionado sesgo de género y sexismo de los contenidos más abundantes que oferta la web, con el predominio de imágenes sexistas sintéticas y no sintéticas (Guilbeault et al., 2024; Hofstra y Maaike, 2024; UNESCO, 2024) que distorsionan la representación, la investigación y el conocimiento de la realidad. Por último, entrando de lleno en el negocio de contenidos relacionados con la industria de la explotación sexual digital (Alario, 2021; Cobo, 2020; Ballester y Orte, 2019). En su expresión más extrema, en este acelerado proceso de enshittification de la misoginia digital, se puede incluso concluir que el «proxenetismo digital», entendido como el lucro a través de la explotación sexual de otras personas –mayoritariamente, mujeres y niñas, con o sin su consentimiento–, se está convirtiendo en la columna vertebral del hábitat virtual, en su afán de fortalecer una gramática sexual misógina y sexista (Gómez-Suárez, 2023).
El ciberespacio se ha transformado en un nuevo dispositivo de dominación, estando el capitalismo de los oligopolios tecnológicos sistémicos, los grandes poderes de este nuevo entorno, en fuerte alianza con el patriarcado digital, con el objetivo principal de apuntalar la jerarquía sexual y «monetizar la misoginia». (Penny, 2017). Las mujeres también experimentan una menor satisfacción con el uso de Internet, según un estudio reciente que revela que las personas con acceso a Internet están un 8% más satisfechas con su vida en comparación con aquellas que no tienen acceso. Sin embargo, esta tendencia no se cumple en las mujeres de entre 15 y 24 años, quienes presentan un nivel de satisfacción inferior al promedio (Vuorre y Przybylski, 2024). Inevitablemente, se debe partir de la hipótesis de que no nos encontramos ante un ecosistema neutro y democrático, sino ante un territorio asimétrico y desigual donde se refuerza un orden sociosexual concreto.
El presente artículo analiza, en clave de género, los intereses de las grandes tecnológicas, a partir del análisis de varias de sus estrategias y gramáticas sexuales. Para ello, el texto se estructura en cuatro epígrafes: en primer lugar, se reflexiona sobre qué entendemos por política sexual; en segundo lugar, se examinan los contenidos sintéticos y no sintéticos del ecosistema digital desde el enfoque de género y sus consecuencias sociales inmediatas; en tercer lugar, se describe la industria de la explotación sexual digital y se reflexiona en torno al fenómeno denominado «proxenetismo digital»; y, por último, se presentan las conclusiones.
¿Política sexual de las Big Tech?
«El patriarcado se halla tan firmemente enraizado en nuestra cultura, que la estructura característica que ha creado en ambos sexos no constituye solamente un sistema político, sino, también, un hábito mental y una forma de vida» (Millett, 1997: 130).
La plataformización social y la inteligencia artificial (IA) mediatizan la integración de la tecnología en las relaciones humanas y, aunque las plataformas digitales parecen accesibles y futuristas, ocultan impactos sociales y ambientales significativos (Mazzucatto, 2024; Van Dijck et al., 2018). Su modelo de negocio basado en la datificación y los algoritmos profundiza la vigilancia y el control social, perpetuando desigualdades y sesgos (Bender et al., 2021; Dencik y Sanchez-Monedero, 2022). El ecosistema virtual actual se caracteriza por una semiótica sexista y misógina que atraviesa la cultura mainstream globalizada (Alario, 2021; Ballester y Orte, 2019; Penny, 2017; Gabriel, 2017). Para entender por qué mandan los que mandan y obedecen las que obedecen, es importante reflexionar sobre cómo operan los aparatos ideológicos del patriarcado que nos proponen una cosmovisión del mundo intelectual y moral que va a rediseñar nuestro «yo social», nuestros deseos, anhelos y valores, repartiendo roles sexistas con un fuerte componente violento.
El análisis hermenéutico del ecosistema digital requiere una integración de la perspectiva de género en sus contenidos, lógicas, dinámicas y patrones. La expansión de Internet transformó nuestra interacción con el mundo, convirtiendo las pantallas en ventanas a un universo regido por la tecnología y la economía de la atención. En este sentido, se recurre a la obra Política Sexual de Kate Millett (1997), quien postula que el patriarcado está arraigado en la cultura como un sistema político, un hábito mental y un modo de vida. La autora sostiene que las relaciones entre los sexos son inherentemente políticas y están impregnadas de poder. En su crítica a la anatomía patriarcal, afirma que la violencia contra las mujeres debe entenderse como una violencia estructural que afecta a los derechos de ciudadanía y a la calidad de la democracia; las mujeres son usurpadas de su estatus absoluto de ciudadanas de pleno derecho y su condición de seres humanos. También argumenta que la violencia sexual expone a las mujeres como «sujetos pasivos, dóciles, dependientes y sumisos» que demandan hombres «activos, inteligentes, fuertes, eficaces y proveedores económicos», y aborda la pornografía y la prostitución como un fenómeno derivado de la influencia del poder masculino (ibídem). Esta situación refleja una histórica «ingeniería de poder» masculina que se ha sofisticado y complejizado a lo largo de la historia de la humanidad (Lerner, 2022) y que en la actualidad se observa con la colonización masculina del cosmos digital, como un exponte más del nacimiento de un nuevo patriarcado 2.0.
La digitalización ha convertido el ecosistema digital en una «casa de hombres», perpetuando la desigualdad de género y afectando a las representaciones de géneros y a la sexualidad en línea4. Este entorno, dominado por grandes empresas tecnológicas, es un escenario significativo de discriminación y violencia de género, moldeando el conocimiento y las representaciones del mundo a través de pantallas que perpetúan la denominada «affordance de género», un dispositivo que utilizan los entornos tecnológicos para ofrecer diferentes oportunidades y limitaciones basadas en el género (Lorca y García Mingo, 2023). La industria patriarcal de la cultura y el ocio centraliza la cosificación del cuerpo femenino como una forma de entretenimiento (Ruiz, 2022), e incluye la radicalización digital misógina, el supremacismo masculino y el odio a las mujeres, permitiendo escenas extremas de violencia contra ellas, mientras se censuran imágenes de pezones femeninos, lactancia materna o manchas menstruales.
Las redes sociales emiten mandatos socializadores sexistas: las mujeres deben «agradar» y los hombres ser «agradados», mediante la hipersexualización y la mercantilización del cuerpo femenino como una forma de empoderamiento, a través del denominado «capital sexual», es decir, del uso del cuerpo femenino como un atractivo para alcanzar el éxito social (Hakim, 2012). Amparándose así en el mito de la libre elección, el discurso neoliberal ha consagrado que la libertad sea el concepto esencial, aunque sea un concepto pervertido en lo referente a las condiciones de vida de las mujeres (De Miguel, 2015; Menéndez, 2013). Esto se traduce, en su operativa digital, en la limitación de las representaciones de las mujeres a nichos definidos por la industria de la explotación sexual. Este fenómeno de dominio sexual (Millet, 1997) se manifiesta en la «pornificación de la cultura», donde la hipersexualización y cosificación de las mujeres se ha convertido en una narrativa digital generalizada. La «monetización de la misoginia digital» opera como un sofisticado aparato ideológico del patriarcado, constituyendo una herramienta eficaz para reforzar el orden jerárquico de los sexos. Esta dinámica representa una amenaza crítica y urgente tanto para la seguridad global de las mujeres como para la estabilidad del orden democrático.
Hoy, la dominación masculina se reproduce en la esfera virtual, perpetuando el orden político patriarcal a través de la violencia en línea, el sexismo virtual y los sesgos de género en los contenidos digitales. Las grandes tecnológicas, a menudo indiferentes o cómplices, facilitan la reproducción de estas desigualdades.
Contenidos sexistas sintéticos y no sintéticos
«Las fantasías sexuales que se pueden observar en la pornografía muestran esta relación entre sexualidad y crueldad. Ahora bien: los papeles de la crueldad vienen repartidos de antemano: el macho es el sádico, el dominante; la hembra es la masoquista, la dominada, la víctima» (Millett, 1997: 103).
El ecosistema digital ha emergido como un nuevo escenario de discriminación y violencia, con profundas implicaciones para la sociedad. En este ámbito, el conocimiento del mundo se moldea a través de pantallas, donde la violencia digital misógina, la subrepresentación documentada de las mujeres y las imágenes digitales que acrecientan el sesgo de género y el sexismo son abundantes.
Los ataques digitales contra las mujeres no son prácticas de violencia aleatorias o casuales, sino que responden a un patrón concreto y duradero. Los resultados de diferentes investigaciones nos proporcionan datos que nos ayudan a dimensionar esta realidad. En un reciente estudio elaborado por la Internet Watch Foundation (IWF) para la Comisión Europea, se alerta sobre el alarmante aumento de casos de ciberacoso sexual a menores (grooming) en la Unión Europea (UE): una de cada cinco niñas son víctimas de abuso sexual, y las imágenes de abuso sexual infantil más graves se han duplicado en solo dos años (IWF, 2023 a y b). A nivel mundial, se estima que aproximadamente el 60% de las niñas y jóvenes en todo el mundo han sido víctimas de diversas formas de ciberacoso (EIGE, 2022; Plan Internacional, 2020; ONU-Mujeres, 2020). En el caso español, el 80% de las jóvenes españolas entre 16 y 24 años han experimentado acoso cibernético en redes sociales (Instituto de las Mujeres, 2022) y tres de cada cuatro niños, niñas y adolescentes (75,4%) se han visto envueltos en una situación de violencia sexual a través de dispositivos electrónicos, siendo una gran parte de las víctimas mujeres y la mayoría de los perpetradores hombres del entorno de la víctima (Fundación Mutua Madrileña, 2024).
Los amos de las Big Tech optan, en múltiples ocasiones, por dejar que circulen libremente estos discursos de odio en su apuesta por el laissez faire, la libertad de expresión y la autorregulación, lo que está convirtiendo el paisaje digital en una «red de la ira» virulenta, en una distopía regresiva e iliberal (UNESCO, 2024; Lovink et al., 2024; Balibar, 2017), en un territorio donde campan a sus anchas los hombres que odian a las mujeres, y donde las mujeres encuentran dificultades para participar y expresarse con total libertad, convirtiéndolas en ciudadanas de segunda, generando con ello un orden político más desigual y una atmósfera digital hostil hacia las mujeres (AEPD, 2022).
En paralelo, la presencia femenina en ámbitos digitales como la investigación y el desarrollo científico es notablemente reducida. A título indicativo, un informe de la UNESCO (2019) evidencia la subrepresentación de las mujeres en campos como la informática, las tecnologías de la información, la ingeniería, las matemáticas y la física: en países como Singapur, Italia y Sudáfrica, las mujeres representan alrededor del 28% de los profesionales en IA, y en Brasil, México, Alemania y Polonia, esta cifra es menor, oscilando entre el 14% y el 16% (Adarsh, 2024). A nivel mundial, las mujeres apenas representan el 29% de los en cargos de investigación y desarrollo científico (UNESCO, 2019), y solo el 22% de los profesionales de IA en todo el mundo son mujeres, por lo que son ellos los que programan, idean y lideran la tecnología, con consecuencias socioculturales y un impacto masivo sobre lo que pensamos y hacemos. En efecto, menos del 20% del contenido de Wikipedia, incluidas las biografías, se centra en mujeres, y solo el 12% de las personas editoras son mujeres, lo que contribuye a perpetuar los sesgos de género y el sexismo (UNESCO, 2024; Tripodi, 2021; Lorente, 2020). Siendo Wikipedia una de las fuentes más empleadas por la IA generativa, ello hace que se estén multiplicando exponencialmente los sesgos de género en las nuevas búsquedas y solicitudes en estos modelos de lenguaje a gran escala (large language models [LLM]) (Kassam, 2024).
Las pocas mujeres creadoras de contenido –streamers, gamers o influencers (solo el 6% de los streamers en Twitch son mujeres)– deben sortear múltiples obstáculos: plataformas altamente masculinizadas, con fuerte componente sexista y misógino, en donde ellas reciben mensajes cosificadores, acosadores y sexistas5 (Jennings, 2023). Al respecto, la protección ante estos ataques no solo debería recaer en las usuarias de forma individual, sino que las plataformas deberían evitar activamente estos ataques misóginos (Aguiar y Pérez, 2021). Asimismo, la existencia de sesgos de género se ve exacerbada por la proliferación de la IA generativa, uno de los sectores tecnológicos de más rápido crecimiento en el mundo, pues se prevé que el tamaño del mercado mundial de IA se expanda con una tasa de crecimiento anual compuesta del 37,3% entre 2023 y 2030, según un informe de Forbes Advisor (Haan y Watts, 2023). En este sentido, la IA se modela de acuerdo con las realidades culturales y estructurales actuales donde dominan varios ideales insostenibles de masculinidad, y no solo reflejando estas desigualdades, sino también reforzándolas. El desarrollo de la IA ha sido impulsado predominantemente por hombres blancos occidentales adinerados, lo que ha llevado a la reproducción del sexismo, los prejuicios de género y el racismo dentro de este ámbito.
En una investigación sobre la presencia de sesgos en modelos de lenguaje avanzados, como GPT-2, GPT-3 y GPT-4 de OpenAI, y Llama 2 de Meta, se revela que, en tareas de asociación de palabras de género, un modelo reciente mostraba sesgos previamente identificados y tendía a asociar nombres de género con roles tradicionales en un 20% de los casos. Además, en la generación de contenido que aborda género, cultura y ocupación, se evidencia un sesgo al asignar a los hombres trabajos más diversos y profesionales (profesor, médico, conductor) en un 70% de los casos, relegando a las mujeres a roles estereotipados y tradicionalmente menos valorados (prostituta, sirvienta doméstica, cocinera) en un 60% de las ocasiones (UNESCO, 2024). Los sesgos de género también son muy habituales en las imágenes, tal y como se indica en un reciente estudio donde se analizaron 349.500 fotografías de Google View (Guilbeault et al., 2024). Desde imágenes sesgadas en buscadores hasta la proliferación de pornografía violenta, estos contenidos contribuyen a la objetivación y cosificación de las mujeres (Crawford y Smith, 2023).
En plataformas como OnlyFans, el 97% de los cuerpos desnudos exhibidos corresponden al sexo femenino, lo que ilustra un ejemplo paradigmático de estas plataformas que operan dentro del sistema porno-prostitucional. Desde junio de 2024, redes sociales como X permiten la pornografía de forma expresa, a pesar de que se estima que el 90% de las víctimas de la pornografía no consentida son mujeres y niñas. En el año 2020, este sistema contaba con una cifra estimada de 120.000 millones de visitas. Empresas emblemáticas como Pornhub atraen 3.500 millones de visitas al mes. Un estudio reciente muestra que Hispasexy –una comunidad masculina digital– posee millones de archivos de imágenes explícitas de desnudos violentos de mujeres a los que acceden diariamente 40.000 usuarios únicos, un ejemplo más de «affordances de género» (Lorca y García Mingo, 2023).
En relación con los contenidos sintéticos, es importante tener en cuenta que la cantidad total de videos deepfake ha experimentado un aumento del 550% entre 2019 y 2023, hasta alcanzar la cifra de 95.820 contenidos audiovisuales ultrafalsos, siendo el 98% de las imágenes deepfake pornográficos (Home Security Heroes, 2023), que se distribuyen en plataformas de pago como Patreon. De hecho, una investigación de 2020 realizada por Sensity AI, encontró que el 96% de las imágenes deepfake tenían clasificación X por naturaleza, y el 99% de ellas eran de mujeres y niñas (Sensity, 2024; Aavik, 2024).
Este fenómeno de creación de contenidos porno-sintéticos, a pesar de no implicar físicamente a ninguna mujer o niña real, perpetúa un imaginario pornográfico misógino y peligroso para todas las mujeres e infancias (Crawford y Smith, 2023). Afirmar que no se está causando daño a nadie porque ningún menor real aparece en ese tipo de imágenes sintéticas ignora el hecho de que su difusión promueve y facilita el abuso sexual de menores fuera de línea. En este sentido, podríamos estar frente a casos de «delitos sin víctima» o de «victimización indirecta», ya que, aunque esas imágenes no afectan directamente a ninguna persona jurídica, pueden diseminar y consolidar un imaginario sexista que atenta contra la infancia, perpetuando un daño real en sus consecuencias. Abordar el impacto social de este hecho a gran escala es fundamental para que las herramientas tecnológicas también puedan imaginar y representar mundos igualitarios, porque el imaginario y la fantasía es también una visión de lo real.
Industria de la explotación sexual digital y «proxenetismo digital»
«El dominio sexual actúa a través de la socialización patriarcal y efectúa una “colonización interior” con el fin de asumir la ideología de la supremacía masculina. Nuestros deseos, fantasías, decisiones, temores e ideales estéticos sobre el propio cuerpo, ¿nos pertenecen o son el producto de un sistema de relaciones con el sexo que nos oprime?» (Millett, 1997: 366-367).
En el actual contexto de neoliberalismo sexual, toda relación humana es susceptible de convertirse en una mercancía: la vida se transforma en objeto (Cobo, 2020; Segato, 2016; De Miguel, 2015). El monopolio cuasi totalitario de los gigantes tecnológicos –una autoridad sin rendición de cuentas–, la economía de la atención, el capitalismo de datos y la uberización de los negocios, están ampliando la distancia entre ricos y pobres, fracturando el contrato social, la justicia y la cohesión social propia del Estado de derecho (ICCL, 2022). En este sentido, estamos siendo testigos de un fenómeno masivo de traslado de la industria de la explotación sexual al ámbito digital. La forma, los lugares, los fines y los modos de acceder a ella están cambiando. Las causas de cómo, dónde, cuándo y por qué ellas «venden cuerpos» y ellos «compran y consumen» requiere profundizar en esta realidad, que está resignificando la feminidad y masculinidad normativa en clave patriarcal 2.0 (Cobo, 2024; Gómez y Verdugo, 2021).
Asistimos a una especie de proceso de «pornificación de la cultura» (Kipnis, 1996), donde la hipersexualización y cosificación del territorio-cuerpo de las mujeres se está convirtiendo en una narrativa social generalizada en todo el mundo. La poderosa industria patriarcal de la cultura y el ocio (De Miguel, 2015) ha centralizado el espectáculo en la cosificación del cuerpo de las mujeres como una diversión más. La masiva «pornosocialización» (Ruiz, 2022) se compone de radicalización digital misógina, supremacismo masculino y odio a las mujeres, donde se borran pezones femeninos, escenas de lactancia materna o manchas menstruales, por un lado, pero se permite representar extremas escenas de violencia contra niñas y mujeres, por el otro, un nuevo imaginario reaccionario en torno a la violencia de género. Así, la denominada «monetización de la misoginia digital» está operando como un sofisticado y novedoso aparato ideológico del patriarcado que refuerza el orden jerárquico de los sexos: ellas a través de la representación pasiva y cosificante; ellos a través de la fabricación activa del mundo virtual y de la metanarrativa digital (Zafra, 2021).
El «capital sexual» (Hakim, 2012) se ha convertido en una mercancía en la que los individuos, principalmente las mujeres, transforman en mercancía su apariencia y sus atributos para integrarse y sobrevivir. La línea divisoria entre pornografía y prostitución se está desvaneciendo con el avance de las nuevas tecnologías y el fácil acceso a Internet. Este sistema porno-prostitucional es un fenómeno social atravesado por el género: la casi totalidad de los demandantes de porno y de sexo comercial son hombres y la inmensa mayoría de las personas que se ofrecen en estos territorios son mujeres. Autoras como la socióloga Saskia Sassen (2003) denominan «feminización de la supervivencia» al hecho de que muchas mujeres con acceso restringido al mercado laboral normalizado se dirijan a actividades de la economía informal. Son numerosas las mujeres, jóvenes y adolescentes, que hacen uso de estas opciones para ganar algo de dinero y después se ven en una espiral de la que resulta difícil salir porque se les chantajea y «sextorsiona» con la difusión de sus vídeos en entornos comprometidos.
La industria de la explotación sexual resulta uno de los negocios globales más lucrativos en términos de alcance y ganancias. En este contexto, asistimos a la uberización de la industria de la explotación sexual en el entorno digital, la cual implica la eliminación de los intermediarios tradicionales, que son sustituidos por plataformas de coincidencia (matching platforms), similares al modelo operativo de empresas como Airbnb, Uber, Glovo, Deliveroo o Amazon. El surgimiento del fenómeno de la uberización de la industria de la explotación sexual comenzó a expandirse a partir de la crisis económica de 2008, especialmente en España, donde se ha encontrado un terreno fértil como destino turístico que opera bajo el «modelo del todo incluido». De acuerdo con datos relevantes, los ingresos mundiales procedentes de la prostitución rondan los 186.000 millones de dólares al año; siendo este fenómeno la segunda fuente de ingresos ilícitos tras el tráfico de drogas, tal como señala el Havocscope 6. El hecho de que algunas plataformas perciban enormes ganancias mediante la venta de pornografía y prostitución en todas sus formas y modalidades se debe a la falta de legislación al respecto, por ejemplo en países como España, donde acaban ubicando sus servidores (Instituto de las Mujeres, 2022).
De esta forma, el consumo combinado de pornografía y prostitución ha experimentado un notable aumento, impulsando la captación de mujeres y niñas para participar en la producción de porno amateur a través de plataformas tan populares como OnlyFans, IsMyGirl, Manyvids, JustForFans, Tinder, IWantFanClub, TikTok y otras similares. Estas plataformas, que sirven como entradas naturales al mundo de la prostitución, son promovidas por el neoliberalismo sexual como una forma empoderante de mercantilizar el cuerpo femenino (Hakim, 2012). Paralelamente, se observa un incremento en el consumo de sexo virtual, con un destacado auge de las webcamers, esto es, mujeres que cumplen los deseos de los clientes en línea, a veces acompañadas por otros intérpretes que actúan como alter ego del cliente (Lozano y Conellie, 2020).
La pornografía mainstream, como universo de sentido, también se ha convertido en un lucrativo negocio en Internet (Horta et al., 2021) y se ha transformado en una fábrica de fantasías de poder masculino, donde las escenas más extremas son las más demandadas. De hecho, los vídeos más vistos en las páginas pornográficas suelen mostrar mujeres y niñas llorando, suplicando y siendo víctimas de violaciones grupales, donde la negativa de la mujer a participar no disuade al hombre u hombres involucrados, con lo que se perpetúa el mensaje de que un «no» es el comienzo de una negociación y se fomenta la «cultura de la violación» (Alario, 2021). OnlyFans ha sido denunciada por numerosos casos de explotación sexual, maltratos, violaciones, tráfico de personas y abuso infantil (Ballester y Orte, 2019). El usuario paga por contenidos específicos mediante suscripciones, propinas o campañas de financiación colectiva, siendo el propio creador quien establece el precio de los contenidos. De la recaudación obtenida, el creador recibe el 80%, mientras que la plataforma retiene el 20% como comisión, lo que plantea consideraciones sobre la naturaleza del proxenetismo digital.
Este sistema se disfraza bajo términos modernos como sugarbabies, escorts, onlyfans o masajistas eróticas, siendo en realidad etiquetas para encubrir este negocio. Es común que los creadores de OnlyFans publiquen anuncios en redes sociales como Twitter, Facebook, TikTok, Telegram, Signal o Instagram para informar sobre las actualizaciones de contenido, redirigiendo luego a los interesados a su plataforma. Así, promueven la hipersexualización y la autoexplotación sexual mediante la producción y distribución de imágenes y vídeos explícitamente sexuales (Ballester y Orte, 2019). Además, la mercantilización de los contenidos por parte de las plataformas digitales no se limita únicamente al momento en que la usuaria los comparte, sino que también pueden obtener beneficios al vender las imágenes de forma permanente. Se ha establecido una suerte de «Amazon de la explotación sexual», donde el cliente puede seleccionar a través de una página web a la mujer deseada, el lugar y la modalidad del encuentro, y recibir el servicio de manera casi inmediata. Este modelo de negocio, caracterizado por la utilización de la tecnología con fines de ofrecer servicios sexuales, implica condiciones laborales extenuantes para las mujeres en situación de prostitución, incluyendo jornadas laborales interminables, trabajo temporal, rotaciones constantes y una geolocalización activa.
Las grandes plataformas operan de esta forma como nuevos proxenetas digitales, beneficiándose de la porno-prostitución de niñas, adolescentes y jóvenes para generar contenido sexual a la carta como una nueva forma de explotación sexual. La aparición de una oferta organizada de anuncios de prostitución en línea ha propiciado que la interacción entre los consumidores de sexo comercial y las mujeres en situación de prostitución se traslade al entorno virtual, brindando una mayor accesibilidad con el formato 24/7. Esta migración ha favorecido tanto la interacción síncrona como asíncrona, la diversidad en la negociación de condiciones, límites y precios, así como la proliferación de prácticas sexuales, pero también ha incrementado la vulnerabilidad de las mujeres prostituidas en cuanto a la protección de sus datos.
La Real Academia Española define el proxenetismo como un «delito que consiste en obtener beneficios de la prostitución a costa de otra persona». En el año 2003, la Ley Orgánica 15/2003 introdujo en el Código Penal español el tipo conocido como «proxenetismo no coercitivo», esto es, la actividad consistente en lucrarse explotando la prostitución de otra persona, aún con su consentimiento. En el artículo 187.1.ii de la mencionada ley, se indica que ejerce proxenetismo «el que engañe/use violencia o intimidación/ se valga de su superioridad/ se valga de la situación de necesidad de la víctima, con objetivo de obligarla a ejercer la prostitución, por lo que será castigado con prisión de dos a cuatro años y multa de doce a veinticuatro mil euros». La misma pena se impone a aquel que obtenga beneficio de la prostitución de la víctima, aunque esta lo hubiera «consentido». La reciente Ley Orgánica 10/2022, de 6 de septiembre, de garantía integral de la libertad sexual, penaliza el proxenetismo no coactivo (no violento) y también a quien se lucre con el alquiler de locales destinados a favorecer la explotación de la prostitución (la tercería locativa). Esta ley también señala que publicitar la prostitución, o contenidos directamente relacionados con ella, como servicios de escort, acompañante o masajista, es una práctica prohibida.
En este sentido, las grandes élites tecnológicas actúan como proxenetas digitales mediante el cobro de alquileres de espacios en sus plataformas para colgar contenidos, la publicidad propia de los sites visitados de la web y la venta de la «minería de datos» a partir de los scrolls, likes y clicks del usuario que navega por las redes (ICCL, 2022). Las plataformas digitales se están revistiendo progresivamente de una sofisticada ingeniería jurídica para maximizar sus beneficios económicos combinando la falta de inversión material y la explotación de la mano de obra hasta la extenuación. Por ejemplo, Pornhub acumula y vende datos; captura la atención de las personas fabricando escenas cada vez más extremas para que la gente pique, buscando clics para poder comercializar esta minería de datos. Cuando el usuario hace el check out online, los llamados keyloggers registran incidentalmente y recopilan datos de todo lo que teclea un objetivo, pulsación a pulsación, con fines de marketing y análisis de terceros. La nueva moneda virtual son las miradas de las personas que escrollean por las pantallas, deteniéndose ante aquellos contenidos más sexuales, más explícitos, más burdos y pornográficos. Cuantos más likes, más publicidad, más «minería de datos» para subastar en los mercados, más tasa de pago por el alquiler de esa parcela de la esfera virtual.
No hay duda de que el sistema porno-prostitucional offline-online funciona como una forma totalitaria de disciplinamiento y de resignificación de la normatividad masculina y femenina (Cobo, 2024), mediante la organización de universos digitales de pornografía y prostitución, y a través de redes criminales de trata de mujeres y niñas con fines de explotación sexual (Gómez y Verdugo, 2021; Gómez et al., 2015). En el contexto de las redes sociales, se observa una dinámica sexista en la que las mujeres son objeto de explotación de su imagen, mientras que los hombres son vistos como consumidores y selectores. Esta violencia virtual contra las mujeres está rearmando al patriarcado, mediante una nueva propuesta de feminidad normativa, que refuerza los canónicos estereotipos de género, la supremacía masculina, las normas sociales patriarcales y el dominio masculino. Es un fenómeno que cobra una gravedad creciente debido a la progresiva omnipresencia del mundo digital en nuestras vidas y en la esfera pública global, lo que podría influir en la forma en que las mujeres participan en esta nueva plaza pública.
Conclusiones
«Las mujeres son usurpadas de su estatus absoluto de ciudadanas de pleno derecho y de seres humanos» (Millett, 1997: 367).
A principios del siglo xxi se esperaba que el acceso a Internet promovería la integración y el acceso universal al conocimiento. Sin embargo, esta visión optimista se ha desmoronado. En lugar de empoderar, Internet ha generado una forma de esclavitud moderna en la que todo el mundo colabora con el entorno digital, sin recibir remuneración, aportando tiempo, creatividad y energía a los imperios tecnológicos. Como resultado, hemos llegado a ser predecibles, controlables y manipulables a través de algoritmos que funcionan como el flujo sanguíneo de Internet, presentes en aplicaciones móviles, servicios públicos y empresas comerciales. Estos algoritmos influyen en nuestras decisiones diarias y permanecen opacos para los usuarios (Ávila, 2018). Al respecto, los estudios en clave de género señalan que lo que subyace a este problema son, en gran medida, las masculinidades y las relaciones de poder desiguales entre sexos, sobre todo en las culturas laborales de algunas organizaciones tecnológicas transnacionales, que poseen un poder desproporcionado en todas las sociedades (Hearn et al., 2023).
La ancestral dominación masculina (Lerner, 2022) ha operado a modo de «ingeniería de poder» sofisticada y compleja a lo largo de la historia de la humanidad de un modo transcultural. En la actualidad, asistimos a la reproducción de ese orden político en la esfera virtual, cada vez más omnipresente en todas las esferas de nuestra vida (Franco, 2024; Proyecto Una, 2019). La violencia en línea contra las mujeres y las hostilidades en el ciberespacio se sitúan dentro del guion sociocultural patriarcal que, junto a los sesgos de género de los contenidos más consultados, ha ocasionado la reproducción de desigualdades de género, con la connivencia e indiferencia de las grandes tecnológicas. El entorno digital se ha transformado en un territorio que relega a las mujeres a nuevas formas de opresión sexual, cosificándolas y deshumanizándolas, restringidas por las expectativas masculinas. En este contexto, la representación femenina se ve limitada al nicho asignado por la industria de la explotación sexual, configurando un nuevo modelo hegemónico de normatividad femenina extremadamente misógino y sexista (Cobo, 2024).
Es crucial integrar perspectivas feministas en el entrenamiento de las IA. Es fundamental reconocer y apoyar el tecnofeminismo (technofeminism), término acuñado por Judy Wajcman (2006), que destaca la intersección entre el feminismo y los avances tecnológicos (Ananya, 2024; Marín, 2023; Smith y Rustagi, 2021; D’Ignazio y Klein, 2020). El fomento de una soberanía digital que promueva una tecnología equitativa es fundamental (Gutiérrez, 2018; Penny, 2017). Sin embargo, a pesar de los esfuerzos por impulsar políticas de protección de los derechos humanos en la revolución tecnológica, como los realizados por la UE (Ryan-Mosley, 2024; Unión Europea, 2022), las Big Tech a menudo optan por la autorregulación y la libertad de expresión, permitiendo la circulación de discursos de odio y creando un «paisaje digital tóxico» (UNESCO, 2024; Lovink et al., 2024; Balibar, 2017). Este entorno digital limita la participación y la libertad de expresión de las mujeres, reforzando la desigualdad de género. Por todo ello, se debe politizar la violencia sexual digital e identificar su operativa y sus perpetradores. Tenemos la responsabilidad de exigir que el mundo virtual no perpetúe la infrarrepresentación femenina, los sesgos sexistas, el arma letal de la misoginia en línea y la violencia machista, a fin de evitar que se convierta en un entorno machista en el que se promueva y permita la violencia contra las mujeres o el «proxenetismo digital».
Los esfuerzos de algunos organismos gubernamentales nacionales e internacionales, tanto en materia de protección de datos, como en la elaboración de cartas o declaraciones de protección de los derechos digitales, deben intensificarse y cambiar de escala7. La única esperanza para redefinir el actual imperialismo tecnológico reside en que Europa asuma el liderazgo que le corresponde y que ofrezca opciones que respeten los derechos humanos y modelos de negocio alternativos, no basados en el extractivismo de datos. En este sentido, la UE está siendo pionera mundial en la protección de los derechos humanos en medio de la revolución tecnológica en la que estamos inmersos, a través de los grandes acuerdos a los que está llegando para garantizar el compromiso de las empresas, la biodiversidad tecnológica y de la administración en el uso de la ética en el desarrollo y la aplicación de estas herramientas.
Para terminar con el abismo existente entre la promesa democrática y nuestro mundo real, es necesario acabar con la violencia machista en línea, con la subrepresentación documentada de la mujer y con las imágenes digitales que exacerban el sesgo de género y el sexismo para conseguir un hábitat digital más democrático, horizontal y justo. Por ello, es preciso impulsar, desde los lugares de responsabilidad pública, un marco normativo y categorial digital que garantice un orden democrático horizontal y transparente en esta nueva plaza pública digital, iniciando procesos de «desprivatización» o de expropiación pública de las herramientas de dominio público (Lovink et al., 2024; Tarnoff, 2022), ya que son el producto de una fuerte inversión pública (Mazzucatto, 2022).
Redistribución, justicia social y políticas públicas feministas son necesarias para reescribir de forma integral el contrato democrático y garantizar la justicia social, la igualdad y la emancipación de todas. La gobernanza algorítmica debe corregir el proceso de desdemocratización, la falta de rendición de cuentas, el incumplimiento de los derechos humanos y el Estado de derecho, con el fin de reparar las disfunciones existentes en los contenidos digitales, allí donde ocurre la desigualdad de género como formas de disputar el mundo a los amos, a fin de socavar los cimientos del andamiaje patriarcal, creando un nuevo ecosistema digital público, igualitario, accesible y libre de violencias machistas.
Referencias bibliográficas
Aavik, Kadri; Collinson, David L.; Hall, Mattthew; Hearn, Jeff y Thym, Anika. «The Impact of Men’s Domination of AI and Deepfake Technology». Routlegde blog, (27 de febrero de 2024) (en línea) [Fecha de consulta: 09.05.2024] https://www.routledge.com/blog/article/open-ai-another-case-of-men-masculinities-gendered-organizing
Adarsh. «Bridging the Gender Gap in AI-Based Roles». Syfy.com, (4 de abril de 2024) (en línea) [Fecha de consulta: 04.04.2024] https://www.sify.com/ai-analytics/bridging-the-gender-gap-in-ai-based-roles/
AEPD-Agencia Española de Protección de Datos. «Datos correspondientes a 2022 del Canal prioritario para solicitar la retirada de contenido sexual o violento publicado en Internet sin consentimiento». AEPD, (7 de marzo de 2022) (en línea) [Fecha de consulta: 17.11.2023] https://www.aepd.es/es/prensa-y-comunicacion/notas-de-prensa/violencia-digital-contra-mujeres-y-ninas-aglutina-70-casos-canal-prioritario
Aguiar, Alberto y Pérez, Víctor. «Los datos revelan el machismo de Twitch: solo un 6% de los streamers más seguidos en España son mujeres, y generan un euro por cada 20 que ingresan los hombres». Business Insider. Epub (10 de noviembre de 2021) (en línea) [Fecha de consulta: 17.03.2023] https://Www.Businessinsider.Es/Machismo-Twitch-Datos-Ganan-Streamers-Seguidas-959977
Alario Gavilán, Mónica. Política sexual de la pornografía. Sexo, desigualdad, violencia. Valencia: Ediciones Cátedra, 2021.
Ananya. «AI image generators often give racist and sexist results: can they be fixed?». Nature, News Feature, (19 de marzo 2024) (en línea) [Fecha de consulta: 09.04.2024] https://www.nature.com/articles/d41586-024-00674-9
Ávila Pinto, Renata. «¿Soberanía digital o colonialismo digital?». SUR, vol.15, n.º 27 (2018), p. 15-28 (en línea) https://sur.conectas.org/wp-content/uploads/2018/07/sur-27-espanhol-renata-avila-pinto.pdf
Balibar, Étienne. La igualibertad. Ensayos políticos 1989-2009. Barcelona: Herder Editorial, 2017.
Ballester Brage, Lluis. y Orte Socías, Carmen. Nueva pornografía y cambios en las relaciones personales. Barcelona: Editorial Octaedro, 2019.
Bates, Laura. Men Who Hate Women. Londres: Simon & Schuster Ltd., 2020.
Bender, Emily; Gebru, Timnit; McMillan-Major, Angelina y Shmitchell, Shmargaret. «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?», en: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21). Nueva York: Association for Computing Machinery, 2021, p. 610-623. DOI: https://doi.org/10.1145/3442188.3445922
Cobo Bedía, Rosa. Pornografía: el placer del poder. Barcelona: Ediciones B, 2020.
Cobo Bedía, Rosa. La ficción del consentimiento sexual. Madrid: Catarata, 2024.
Crawford, Angus y Smith, Tony. «Investigación BBC: el comercio ilegal de imágenes de abuso sexual infantil generadas por Inteligencia Artificial». BBC, (29 de junio de 2023) (en línea) [Fecha de consulta: 01.07.2023] https://www.bbc.com/mundo/articles/c1vzyevl0nro?at_medium=RSS&at_campaign=KARANGA
De Miguel, Ana. Neoliberalismo sexual. Valencia: Cátedra, 2015.
Dencik, Lina y Sanchez-Monedero, Javier. «Data justice». Internet Policy Review, vol. 11, n.º 1 (2022) (en línea) https://doi.org/10.14763/2022.1.1615
D'Ignazio, Catherine y Klein, Lauren F. Data Feminism (Strong Ideas). Cambridge: MIT Press, 2020.
Doctorow, Cory. 2024. «'Enshittification' is coming for absolutely everything».Financial Times, (8 de febrero de 2024) (en línea) [Fecha de consulta: 17.02.2024] https://www.ft.com/content/6fb1602d-a08b-4a8c-bac0-047b7d64aba5
EIGE-European Institute For Gender Equality. «Cyber violence against women and girls: Keys terms and concepts». EIGE, (20 de octubre de 2022) (en línea) [Fecha de consulta: 10.02.2023] https://eige.europa.eu/publications-resources/publications/cyber-violence-against-women-and-girls-key-terms-and-concepts
Franco G., Marta. Las redes son nuestras. Una historia popular de Internet y un mapa para volver a habitarla. Madrid: Consonni, 2024.
Fundación Mutua Madrileña. «Violencia sexual contra la infancia y la adolescencia en el ámbito digital». Fundación Mutua Madrileña, (24 de junio de 2024) (en línea) [Fecha de consulta: 30.06.2024] https://www.fundacionmutua.es/actualidad/noticias/estudio-violencia-sexual-digital-en-la-infancia/
Gabriel, Karen. «Power of Porn Cultures». The Transnational Institute, (diciembre de 2017) (en línea) [Fecha de consulta: 09.05.2022] https://www.tni.org/files/publication-downloads/stateofpower2017-porn-cultures.pdf
García Mingo, Elisa; Fernández-Díaz, Silvia y Tomás-Forte, Sergio. «(Re)configurando el imaginario sobre la violencia sexual desde el antifeminismo: el trabajo ideológico de la manosfera española». Política y sociedad, vol. 59, n.º 1 (2022), p. e80369. DOI: https://doi.org/10.5209/POSO.80369
Ghodsee, Kristen. Utopías Cotidianas. Madrid: Traficantes de sueños, 2024.
Gillespie, Tarleton. «The politics of ‘platforms’», in New Media & Society, May 201012(3):347-364. DOI:10.1177/1461444809342738
Gómez Suárez, Águeda; Pérez Freire, Silvia y Verdugo Matés, Rosa. El putero español: quienes son y qué buscan los clientes de prostitución. Madrid: La Catarata, 2015.
Gómez-Suárez, Águeda y Verdugo Matés, Rosa. «Prostitución y confinamiento: El Putero 2.0». Ex aequo, n.º 43 (2021), p. 101-112 (en línea) https://exaequo.apem-estudos.org/artigo/prostitucion-y-confinamiento
Gómez-Suárez, Águeda. «Dimensiones del proxenetismo digital: una aproximación al fenómeno de la misoginia monetarizada», en: Aranguez Sanchez, Tasia y Olariu, Ozana (coord.). Ensayos ciberfeministas. Madrid: Dykinson Libros, 2023 (en línea) https://dialnet.unirioja.es/servlet/articulo?codigo=9338847
Guilbeault, Douglas; Delecourt, Soléne, Hull; Tasker; Desikan, Bhargav Srinivasa; Chu, Mark y Nadler, Ethan. «Online images amplify gender bias». Nature, vol. 626, (2024), p. 1.049-1.055. DOI: https://doi.org/10.1038/s41586-024-07068-x
Gutiérrez, Miren. Data Activism and Social Change. Palgrave Pivot, 2018. https://doi.org/10.1007/978-3-319-78319-2
Haan, Katherine y Watts, Rob. «How Businesses Are Using Artificial Intelligence In 2024». Forbes Advisor, (24 de abril de 2023) (en línea) https://www.forbes.com/advisor/business/software/ai-in-business/
Hakim, Catherine. Capital erótico. El poder de fascinar a los demás. Barcelona: Debate, 2012.
Hearn, Jeff; Aavik, Kadri Icon; Collinson, David L. y Thym, Anika. Routledge Handbook on Men, Masculinities and Organizations. Theories, Practices and Futures of Organizing. Londres: Routledge, 2023.
Hofstra, Bas y Maaike, Anne Mulders. «Gender bias is more exaggerated in online images than in text». Nature News and views, (14 de febrero de 2024) (en línea) [Fecha de consulta: 22.02.2024] https://www.nature.com/articles/d41586-024-00291-6
Home Security Heroes. «2023 State of deepfakes». Security Hero, (2023) (en línea) [Fecha de consulta: 04.02.2024] https://www.securityhero.io/state-of-deepfakes/
Horta Ribeiro, Manoel; Blackburn, Jeremy; Bradlyn, Barry; De Cristofaro, Emiliano; Stringhini, Gianluca; Long, Summer; Greenberg, Stephanie y Zannettou, Savvas. «The Evolution Of The Manosphere Across The Web». Proceedings of the Fifteenth International AAAI Conference on Web and Social Media, vol. 15, (2021), p. 196-207 (en línea) [Fecha de consulta: 09.05.2022] https://ojs.aaai.org/index.php/ICWSM/article/view/18053/17856
Instituto de las Mujeres. «Mujeres jóvenes y acoso en redes sociales». Instituto de las Mujeres, (diciembre de 2022) (en línea) [Fecha de consulta: 19.05.2022] https://www.inmujeres.gob.es/areasTematicas/AreaEstudiosInvestigacion/docs/Estudios/Mujeres_jovenes_y_acoso_en_redes_sociales.pdf
IWF-Internet Watch Foundation. «How AI is being abused to create child sexual abuse imagery. Prompt: from fantasy to photo-realistic reality». IWF, (octubre de 2023a) (en línea) https://www.iwf.org.uk/media/q4zll2ya/iwf-ai-csam-report_public-oct23v1.pdf
IWF-Internet Watch Foundation. «Informe de la fundación Internet Watch de 2023». IWF, (2023b) (en línea) [Fecha de consulta: 02.01.2024] https://www.iwf.org.uk/annual-report-2023/
ICCL-Irish Council For Civil Liberties. «ICCL demanda a DPC por no actuar en violación masiva de datos de Google». iccl.ie, (15 de marzo de 2022) (en línea) [Fecha de consulta: 22.02.2024] https://www.iccl.ie/news/iccl-sues-dpc-over-failure-to-act-on-massive-google-data-breach/
Jennings, Rebecca. «The Girl Internet and the Boy Internet how my bf got Instagram Reels-pilled». Beccacore, (9 de febrero de 2023) (en línea)https://beccacore.substack.com/p/the-girl-internet-and-the-boy-internet
Kaiser, Susane. Odio a las mujeres. Inceles, malfollaos y machistas modernos. Pamplona: Katakrak, 2022.
Kassam, Ashyfa. «We’re writing history’: Spanish women tackle Wikipedia’s gender gap Wikiesfera is one of a handful of groups around world trying to ‘make women visible’ on user-edited site». The Guardian. (12 de junio de 2024) (en línea) https://www.theguardian.com/technology/article/2024/jun/12/spain-women-tackle-wikipedia-gender-gap-wikiesfera?
Klein, Naomi. Dopelganger. Un viaje al mundo del espejo. Madrid: Paidós, 2024.
Lanier, Jaron. Diez razones para borrar tus redes de inmediato. Madrid: Debate, 2018.
Lerner, Gerda. La creación del patriarcado. Pamplona: Katrakak, 2022.
Kipnis, Laura. Bound and Gagged: Pornography and the Politics of Fantasy in America. Durham: Duke University Press, 1996.
Lorente, Patricio. El conocimiento hereje. Una historia de Wikipedia. Buenos Aires: Paidós, 2020.
Lovink, Geert; Scolari, Carlos A. y Pérez-Altable, Laura. «La extinción de internet: política, redes y Plataformas». Communication Reports, (septiembre de 2024) (en línea) [Fecha de consulta: 18.02.2024] https://doi.org/10.31009/cr.2024.09
Lorca, G. Jacinto y García-Mingo, Elisa. «Busca, busca, perrita: comunidades digitales misóginas de difusión de imágenes sexuales sin consentimiento». Ex æquo, n.º 48 (2023), p. 15-32 (em línea) https://exaequo.apem-estudos.org/revista/revista-ex-aequo-numero-48-2023
Lozano, Mabel y Conelli, Pablo J. PornoXplotación. Madrid: Alrevés, 2020.
Luminita, Patras y Todolí; Alejandro. «Ser influencer hoy: Posibilidades y obstáculos de una nueva fuente de empleo». Càtedra d’Economia Colaborativa i Transformació Digital, paper n.º 4 (2022) (en línea) [Fecha de consulta: 18.05.2022] https://www.uv.es/ceconomiacol/descarregues/Serinfluencerhoy-informe.pdf
Marín, Kalinda. «Inteligencias Artificiales y Feminismo». Medium, (12 de febrero de 2023) (en línea) [Fecha de consulta: 18.05.2023] https://kalindalamar.medium.com/inteligencia-artificial-y-feminismo-f1d5c25abcbb
Mazzucato, Mariana. El estado emprendedor. La oposición público-privado y sus mitos. Madrid: Taurus, 2022.
Mazzucato, Mariana. «The ugly truth behind ChatGPT: AI is guzzling resources at planet-eating rates». The Guardian, (30 de mayo de 2024) (en línea) [Fecha de consulta: 11.06.2024] https://www.theguardian.com/commentisfree/article/2024/may/30/ugly-truth-ai-chatgpt-guzzling-resources-environment
Menéndez Menéndez, Isabel. «Biopoder y postfeminismo: la cirugía estética en la prensa de masas». Revista Teknokultura, vol. 10, n.º 3 (2013), p. 615-642.
Millett, Kate. Política sexual. Valencia: Cátedra feminismos, 1997.
Mulvey, Laura. «Visual Pleasure and Narrative Cinema», en: Merck, Mandy (ed.) The Sexual Subject. A Screen Reader in Sexuality. Londres y Nueva York: Routledge, 1975.
ONU Mujeres. «Odio a las mujeres. Inceles, malfollaos y machistas modernos Online and ICT facilitated violence against women and girls during COVID-19». ONU-Mujeres, (diciembre de 2020) (en línea) [Fecha de consulta: 19.12.2021] https://www.unwomen.org/en/digital-library/publications/2020/04/brief-online-and-ict-facilitated-violence-against-women-and-girls-during-covid-19
Penny, Laurie. Cibersexismo. Sexo, poder y género en internet. Valencia: ContintaMeTienes, 2017.
Plan Internacional. «(In)Seguras Online. Experiencias de niñas, adolescentes y jóvenes en torno al acoso online». Plan Internacional, (diciembre de 2020) (en línea) [Fecha de consulta: 17.04.2022] https://plan-international.es/inseguras-online
Proyecto Una. Leia, Rihanna & Trump: De cómo el feminismo ha transformado la cultura pop y de cómo el machismo reacciona con terror. Barcelona: Descontrol, 2019.
Ruiz Repullo, Carmen. Nuestros cuerpos, nuestras vidas. Un acercamiento a la violencia sexual en la juventud. Baleares: Ediciones UIB, 2022.
Ryan-Mosley, Tate. «Inteligencia Artificial. Vuelta al mundo por las regulaciones de la IA en 2024». MIT Technology Review, (23 de enero de 2024) (en línea) [Fecha de consulta: 12.02.2024] https://www.technologyreview.es//s/16069/vuelta-al-mundo-por-las-regulaciones-de-la-ia-en-2024
Sassen, Saskia. Contrageografías de la globalización. Género y ciudadanía en los circuitos fronterizos. Madrid: Traficantes de Sueños, 2003.
Segato, Rita. La guerra contra las mujeres. Madrid: Traficantes de Sueños, 2016.
Sensity. «The State Of Deepfakes 2024». Sensity, (2024) (en línea) https://5865987.fs1.hubspotusercontent-na1.net/hubfs/5865987/SODF%202024.pdf
Smith, Genevieve y Rustagi Mar, Ishita. «When Good Algorithms Go Sexist: Why and How to Advance AI Gender Equity». Stanford Social Innovation Review Logo, (31 de marzo de 2021) (en línea) https://ssir.org/articles/entry/when_good_algorithms_go_sexist_why_and_how_to_advance_ai_gender_equity#
Tarnoft, Ben, Internet for the people. The fight for our digital future. EEUU: Verso Books, 2022.
Thill, Magaly y Giménez Armentia, Pilar. «El enfoque de género: un requisito necesario para el abordaje de la trata de seres humanos con fines de explotación sexual». Revista europea de derechos fundamentales, n.º 27 (2016), p. 439-459.
Tripodi, Francesca. «Categorized: Gender, notability, and inequality on Wikipedia». New Media & Society, vol. 25, n.º 7 (2021), p. 1.687-1.707. DOI: https://doi.org/10.1177/14614448211023772
UNESCO. «Reporting on violence against women and girls», (19 de junio de 2019) (en línea) https://www.unesco.org/en/articles/reporting-violence-against-women-and-girls
UNESCO-Centro Internacional de Investigación sobre Inteligencia Artificial. «Challenging systematic prejudices: an investigation into bias against women and girls in large language models», CI/DIT/2024/GP/01, (marzo de 2024) (en línea) [Fecha de consulta: 17.03.2024] https://unesdoc.unesco.org/ark:/48223/pf0000388971
Unión Europea. «Ley de servicios digitales. Bruselas: Comisión Europea», (diciembre de 2022) (en línea) [Fecha de consulta: 06.08.2023] https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/digital-services-act-ensuring-safe-and-accountable-online-environment_es
Van Dijck, Jose; Poell; Thomas y De Waal, Martijn. The Platform Society. Public Values in a Connective World. Oxford: Oxford University Press, 2018.
Vuorre, Matti y Przybylski Andrew K. «A Multiverse Analysis of the Associations Between Internet Use and Well-Being». Technology, Mind, and Behavior, vol. 5, n.º 2 (2024) (en línea) [Fecha de consulta: 17.05.2024] https://tmb.apaopen.org/pub/a2exdqgg/release/1
Wajcman, Judy. El tecnofeminismo. Madrid: Cátedra, 2006.
Webb, Amy. Los nuevos gigantes. Madrid: Península, 2021.
Web Foundation. «Closing the Digital Gender Gap: Reflections and Actions on International Women’s Day». World Wide Web Foundation, (8 de marzo de 2017) (en línea) [Fecha de consulta: 05.12.2021] https://webfoundation.org/2017/03/the-digital-gender-gap-access-is-empowerment/
Zafra, Remedios. Frágiles: Cartas sobre la ansiedad y la esperanza en la nueva cultura. Madrid: Anagrama, 2021.
Zuboff, Shoshana. La era del capitalismo de la vigilancia: La lucha por un futuro humano frente a las nuevas fronteras del poder (Estado y Sociedad). Madrid: Paidós Ibérica, 2020.
Notas:
1- El proceso de enshittification o «mierdificación» o «enmerdamiento» se refiere a las diferentes etapas que sufren las plataformas: inicialmente ofrecen servicios de alta calidad para atraer usuarios, luego cambian para favorecer a los clientes comerciales a fin de aumentar la rentabilidad y, finalmente, se enfocan en maximizar las ganancias para los accionistas a expensas tanto de los usuarios como de los clientes comerciales. Esto puede desembocar en IA generativas que recomienden «comer piedras» a diario, avaladas por expertos, o tergiversar el holocausto, negando ciertas realidades históricas demostradas: proliferación de «basura digital» (Doctorow, 2024).
2- La web prosocial hace referencia a aquellas redes sociales y/o plataformas que favorecen los comportamientos desinteresados de las personas que tienen consecuencias sociales positivas, tales como la caridad, el altruismo, la cooperación o el auxilio. Por su parte, la datificación es el proceso de transformar aspectos de la vida y fenómenos sociales en datos digitales que pueden ser recopilados, almacenados y analizados, todo ello impulsado por el auge de las tecnologías digitales. Aunque ofrece oportunidades como la optimización de procesos, también plantea desafíos éticos sobre privacidad, control de datos y posibles sesgos. Por último, la plataformización, surgida en la era de la «web 2.0», combina desarrollos tecnológicos, empresariales, legales y culturales para configurar un modelo organizativo conocido como «plataforma», y promueve la participación de usuarios no especializados como prosumidores, es decir, consumidores y generadores de contenido a la vez(Gillespie, 2010).
3- Según la World Wide Web Foundation (2017), en el 74% de los países del Web Index, los órganos encargados de hacer cumplir la ley y los tribunales no adoptan medidas adecuadas cuando las Tecnologías de la Información y Comunicación (TIC) se utilizan para cometer actos de violencia en contra de las mujeres.
4- El proto-Facebook (Facemash) nace como respuesta despechada a un desamor de Mark Zuckerberg, quien crea esta red para criticar a su ex y cotillear las caras de sus compañeras de Harvard, con fotos robadas del anuario: origen misógino y producto de la inmadurez emocional propia del patrón machista (Franco, 2024; Ghodsee, 2024).
5- Según un informe de la Universidad de Valencia, las mujeres influencers sufren más el acoso sistemático de las redes sociales, reciben comentarios fuera de lugar o subidos de tono (Luminita y Todolí, 2022).
6- Havocscope - Global Black Markets: Information and Statistics on the Black Market (en línia) https://www.havocscope.com/
7- En el marco normativo que empieza a intentar regular la IA destaca Europa, que aboga por una IA confiable y ética, al servicio de las personas: Ley de Inteligencia Artificial de 2023; las Directrices Éticas para la IA Confiable que la Comisión Europea presentó en abril de 2019 o el Reglamento General de Protección de Datos (GDPR, por sus siglas en inglés), entre otros. En Estados Unidos, la Guidance for Regulation of Artificial Intelligence Applications (2020) y la National Artificial Intelligence Initiative Act (2020), junto con la Carta Iberoamericana (2023) son otras normativas de referencia. Existen iniciativas privadas como el reciente Manifiesto OFF (2024), entre otras (Ryan-Mosley, 2024).
Palabras claves: Big Tech, sexismo digital, misoginia digital, proxenetismo digital, industria sexual
Cómo citar este artículo: Gómez Suárez, Águeda y Verdugo Matés, Rosa Mª. «Nuevas formas de poder digital en la red: dimensiones de la política sexual de las Big Tech ». Revista CIDOB d’Afers Internacionals, n.º 138 (diciembre de 2024), p. 97-100. DOI: doi.org/10.24241/rcai.2024.138.3.97
Revista CIDOB d’Afers Internacionals, nº 138, pp. 97-120
Cuatrimestral (septiembre-diciembre 2024)
ISSN:1133-6595 | E-ISSN:2013-035X
DOI: https://doi.org/10.24241/rcai.2024.138.3.97
Fecha de recepción: 20.03.24 ; Fecha de aceptación: 05.08.24