El organismo de control de Internet del Reino Unido endurece su postura frente a la pornografía deepfake
Ofcom, el regulador de seguridad en Internet del Reino Unido, ha publicado otro nuevo borrador de guía mientras continúa implementando la Ley de Seguridad en Línea (OSA): el último conjunto de recomendaciones tiene como objetivo ayudar a las empresas dentro del ámbito de aplicación a cumplir con las obligaciones legales de proteger a las mujeres y niñas de amenazas en línea como el acoso y la intimidación, la misoginia y el abuso de la imagen íntima.
El gobierno ha dicho que la protección de las mujeres y las niñas es una prioridad para la implementación de la OSA. Ciertas formas de abuso (predominantemente) misóginas, como compartir imágenes íntimas sin consentimiento o usar herramientas de inteligencia artificial para crear pornografía deepfake dirigida a individuos, están explícitamente establecidas en la ley como prioridades de aplicación .
La regulación de seguridad en línea, que fue aprobada por el parlamento del Reino Unido en septiembre de 2023 , ha enfrentado críticas de que no está a la altura de la tarea de reformar a los gigantes de las plataformas, a pesar de contener sanciones sustanciales por incumplimiento, hasta el 10% de la facturación anual global.
Los activistas en defensa de la seguridad infantil también han expresado su frustración por el tiempo que está tomando implementar la ley, además de dudar de si tendrá el efecto deseado.
En una entrevista con la BBC en enero, incluso el ministro de Tecnología, Peter Kyle (que heredó la legislación del gobierno anterior), la calificó de “muy desigual” e “insatisfactoria”. Pero el gobierno sigue con el enfoque. Parte del descontento en torno a la OSA se puede remontar al largo plazo que los ministros concedieron para implementar el régimen, que requiere que el Parlamento apruebe las directrices de cumplimiento de Ofcom.
Sin embargo, se espera que la aplicación de la ley comience pronto en relación con los requisitos básicos sobre la lucha contra el contenido ilegal y la protección de los niños. Otros aspectos del cumplimiento de la OSA tardarán más en implementarse. Y Ofcom admite que este último paquete de recomendaciones prácticas no será plenamente aplicable hasta 2027 o más tarde.
“Las primeras obligaciones de la Ley de Seguridad en Internet entrarán en vigor el mes que viene”, dijo a TechCrunch en una entrevista Jessica Smith, de Ofcom, que dirigió el desarrollo de la guía centrada en la seguridad femenina. “Por lo tanto, haremos cumplir algunas de las obligaciones básicas de la Ley de Seguridad en Internet antes de que esta guía [se vuelva aplicable]”.
El nuevo proyecto de orientación para mantener seguras a las mujeres y niñas en línea tiene como objetivo complementar una orientación anterior más amplia de Ofcom sobre contenido ilegal, que también, por ejemplo, proporciona recomendaciones para proteger a los menores de ver contenido para adultos en línea.
En diciembre, el regulador publicó su guía final sobre cómo las plataformas y los servicios deberían reducir los riesgos relacionados con el contenido ilegal , un área en la que la protección infantil es una clara prioridad.
También ha elaborado anteriormente un Código de seguridad infantil , que recomienda que los servicios en línea activen controles de edad y filtren contenido para garantizar que los niños no estén expuestos a contenido inapropiado, como pornografía. Y mientras trabajaba para implementar el régimen de seguridad en línea, también desarrolló recomendaciones para tecnologías de control de edad para sitios web de contenido para adultos , con el objetivo de presionar a los sitios pornográficos para que tomen medidas efectivas para evitar que los menores accedan a contenido inapropiado para su edad.
El último conjunto de directrices se desarrolló con la ayuda de víctimas, sobrevivientes, grupos de defensa de las mujeres y expertos en seguridad, según Ofcom. Abarca cuatro áreas principales en las que, según el regulador, las mujeres se ven afectadas desproporcionadamente por el daño en línea, a saber: misoginia en línea; acoso y hostigamiento en línea; abuso doméstico en línea; y abuso de imágenes íntimas.
La recomendación principal de Ofcom insta a los servicios y plataformas incluidos en el ámbito de aplicación a adoptar un enfoque de “seguridad desde el diseño”. Smith nos dijo que el regulador quiere alentar a las empresas tecnológicas a “dar un paso atrás” y “pensar en la experiencia de sus usuarios en conjunto”. Si bien reconoció que algunos servicios han implementado algunas medidas que son útiles para reducir los riesgos en línea en esta área, argumentó que todavía falta un pensamiento holístico cuando se trata de priorizar la seguridad de las mujeres y las niñas.
"Lo que realmente estamos pidiendo es una especie de cambio radical en el modo en que funcionan los procesos de diseño", nos dijo, añadiendo que el objetivo es garantizar que las consideraciones de seguridad estén incorporadas en el diseño del producto.
Destacó el auge de los servicios de inteligencia artificial para la generación de imágenes, que señaló que han llevado a un crecimiento "masivo" del abuso de imágenes íntimas deepfake como un ejemplo de dónde los tecnólogos podrían haber tomado medidas proactivas para reducir los riesgos de que sus herramientas se utilizaran como armas para atacar a mujeres y niñas, pero no lo hicieron.
“Creemos que hay cosas sensatas que los servicios podrían hacer en la fase de diseño que ayudarían a abordar el riesgo de algunos de esos daños”, sugirió.
Entre los ejemplos de “buenas” prácticas industriales que Ofcom destaca en la guía se incluyen los servicios en línea que toman medidas como:
- Eliminar la geolocalización de forma predeterminada (para reducir los riesgos de privacidad y acoso);
- Realizar pruebas de "capacidad de abuso" para identificar cómo un servicio podría ser utilizado como arma o mal utilizado;
- Tomar medidas para mejorar la seguridad de las cuentas;
- Diseñar mensajes que inviten a los usuarios a pensar dos veces antes de publicar contenido abusivo;
- Y ofrecer herramientas de informes accesibles que permitan a los usuarios informar problemas.
Como sucede con todas las directrices de la OSA de Ofcom, no todas las medidas serán relevantes para todos los tipos o tamaños de servicios, ya que la ley se aplica a servicios en línea grandes y pequeños y abarca varios ámbitos, desde las redes sociales hasta las citas en línea, los juegos, los foros y las aplicaciones de mensajería, por nombrar algunos. Por lo tanto, una gran parte del trabajo para las empresas incluidas en el ámbito de aplicación consistirá en comprender qué significa el cumplimiento en el contexto de su producto.
Cuando se le preguntó si Ofcom había identificado algún servicio que actualmente cumpliera con los estándares de la guía, Smith respondió que no. “Todavía hay mucho trabajo por hacer en toda la industria”, dijo.
También reconoció tácitamente que puede haber desafíos crecientes debido a algunos de los pasos retrógrados que han dado algunos actores importantes de la industria en materia de confianza y seguridad. Por ejemplo, desde que se hizo cargo de Twitter y cambió el nombre de la red social a X, Elon Musk ha desmantelado su plantilla de personal en materia de confianza y seguridad, a favor de seguir lo que él ha definido como un enfoque maximalista de la libertad de expresión.
En los últimos meses, Meta —propietaria de Facebook e Instagram— parece haber tomado algunas medidas similares, diciendo que está poniendo fin a los contratos de verificación de datos entre treinta partes a favor de implementar un sistema de “notas comunitarias” de estilo X de etiquetado colaborativo en disputas de contenido, por ejemplo.
Smith sugirió que la respuesta de Ofcom a esos cambios de alto nivel (donde las acciones de los operadores podrían correr el riesgo de aumentar, en lugar de reducir, los daños en línea) se centrará en utilizar la transparencia y los poderes de recopilación de información que ejerce bajo la OSA para ilustrar los impactos e impulsar la concienciación de los usuarios.
En resumen, la táctica aquí parece ser la de "nombrar y avergonzar", al menos en primera instancia.
“Una vez que finalicemos la guía, elaboraremos un informe [de mercado]… sobre quién está usando la guía, quién está siguiendo qué pasos, qué tipo de resultados están logrando para sus usuarios que son mujeres y niñas, y realmente arrojaremos luz sobre qué protecciones están vigentes en diferentes plataformas para que los usuarios puedan tomar decisiones informadas sobre dónde pasan su tiempo en línea”, nos dijo.
Smith sugirió que las empresas que quieran evitar el riesgo de ser avergonzadas públicamente por su mal desempeño en materia de seguridad de las mujeres podrán recurrir a la guía de Ofcom para obtener "medidas prácticas" sobre cómo mejorar la situación de sus usuarios y abordar también el riesgo de daño a la reputación.
“Las plataformas que operan en el Reino Unido tendrán que cumplir con la ley británica”, añadió en el contexto del debate sobre la pérdida de importancia de las principales plataformas en materia de confianza y seguridad. “Eso significa cumplir con las obligaciones de protección de los niños y de daños ilegales previstas en la Ley de Seguridad en Internet”.
“Creo que aquí es donde también entran en juego nuestros poderes de transparencia: si la industria está cambiando de dirección y los daños están aumentando, aquí es donde podremos arrojar luz y compartir información relevante con los usuarios del Reino Unido, con los medios de comunicación y con los parlamentarios”.
Un tipo de daño en línea en el que Ofcom está reforzando explícitamente sus recomendaciones incluso antes de comenzar activamente a aplicar la OSA es el abuso de imágenes íntimas, ya que el último borrador de orientación sugiere el uso de coincidencias de hash para detectar y eliminar dichas imágenes abusivas, mientras que las recomendaciones anteriores de Ofcom no iban tan lejos.
“Hemos incluido pasos adicionales en esta guía que van más allá de lo que ya hemos establecido en nuestros códigos”, señaló Smith, confirmando que Ofcom planea actualizar sus códigos anteriores para incorporar este cambio “en un futuro cercano”.
“Esta es una manera de decirles a las plataformas que pueden adelantarse a ese requisito exigible siguiendo los pasos que se establecen en esta guía”, agregó.
Ofcom recomendó el uso de tecnología de comparación de hash para contrarrestar el abuso de imágenes íntimas debido a un aumento sustancial de este riesgo, según Smith, especialmente en relación con el abuso de imágenes deepfake generadas por IA.
“En 2023 se denunciaron más casos de abuso de imágenes íntimas mediante deepfake que en todos los años anteriores juntos”, señaló, y agregó que Ofcom también ha reunido más evidencia sobre la eficacia de la comparación de hash para abordar este daño.
El borrador de la guía en su conjunto ahora será sometido a consulta (Ofcom invitará a enviar comentarios hasta el 23 de mayo de 2025), después de lo cual producirá la guía final a fines de este año.
Dieciocho meses después, Ofcom elaborará su primer informe en el que revisará las prácticas de la industria en esta área.
“Estamos a punto de llegar a 2027 antes de que podamos producir nuestro primer informe sobre quién está haciendo qué [para proteger a las mujeres y niñas en línea], pero no hay nada que impida que las plataformas actúen ahora”, añadió.
En respuesta a las críticas de que Ofcom está tardando demasiado en implementar la OSA, dijo que es correcto que el regulador consulte sobre las medidas de cumplimiento. Sin embargo, dado que la medida final entrará en vigor el próximo mes, señaló que Ofcom también prevé un cambio en la conversación en torno a este tema.
“Eso realmente comenzará a cambiar la conversación con las plataformas, en particular”, predijo, y agregó que también estará en condiciones de comenzar a demostrar avances en lo que respecta a reducir los daños en línea.
techcrunch
