Buenos días, estimados y estimadas colegas. Buenos días también al equipo de intérpretes que nos van a ayudar en nuestra labor todo el día. Doy inicio a la sesión. Primero, declaración del Consejo de la Comisión en relación con la lucha contra los ultrafalsos de inteligencia artificial y la explotación sexual en las redes sociales mediante un uso pleno de las normas digitales de la Unión. Tiene la palabra Marilena Rauna, en nombre del Consejo, quien es ministra adjunta de Asuntos Europeos. Adelante.
Presidente, señorías, comisario o comisaria, es un auténtico honor comparecer ante esta Cámara en el hemiciclo justo al inicio de la presidencia chipriota del Consejo de la UE. Nuestra presidencia está muy comprometida en trabajar de forma estrecha y constructiva, y con transparencia con el Parlamento Europeo, nuestro colegislador, siempre respetando plenamente los papeles institucionales. Gracias por invitarnos a este debate tan importante.
Los recientes acontecimientos hacen urgente este debate, ya que los ultrafalsos de inteligencia artificial se extienden rápidamente y la explotación sexual en línea crece. Nuestros hijos están en especial riesgo. El Consejo considera que debemos actuar de forma decisiva y utilizar la normativa digital a nuestra disposición. Esto incluye la Ley sobre Inteligencia Artificial, la Ley de Servicios Digitales y el Marco Europeo para la lucha contra el abuso y la explotación sexual de menores.
La Ley de Inteligencia Artificial es una poderosa herramienta que nos ayudará, sin duda, a luchar contra la divulgación de deepfakes. En particular, su artículo 50 establece obligaciones de transparencia que se aplican a proveedores y desplegadores de ciertos sistemas de inteligencia artificial, incluidos aquellos que se emplean para crear y generar estos deepfakes. La nueva normativa reduce la sustitución de identidad cuando se utiliza inteligencia artificial y establece qué contenido está generado.
Además, los proveedores de contenido manipulado o generado por inteligencia artificial, incluidos los ultrafalsos, deberán facilitar la identificación y el marcado de dicho contenido. Sin embargo, sabemos que por sí sola esta ley no bastará para abordar este problema. En ese sentido, una aplicación contundente de la Ley de Servicios Digitales es de igual importancia. Teniendo en cuenta su papel central y los servicios a su disposición, los proveedores de servicios en línea, y en particular las redes sociales, tienen una responsabilidad especial y deben contribuir activamente a evitar la propagación de contenido ilegal.
La Ley de Servicios Digitales ha fijado las normas más estrictas para los principales actores de mercado, plataformas como Facebook, Instagram, TikTok o X. Estas plataformas deberán supervisar cómo se emplean sus servicios y, cuando surja contenido ilegal, deben intervenir con celeridad. Si las autoridades o los usuarios notifican contenido ilegal, deberán responder sin dilación. Y si las plataformas no cumplen, las autoridades nacionales relevantes o la Comisión intervendrán. El Consejo apoya plenamente que la Comisión supervise en este ámbito.
En lo que respecta a la protección de nuestros hijos o menores en línea, el objetivo es la plena protección tanto en el entorno digital como en el mundo físico. La Unión Europea está actualizando su normativa sobre abuso y explotación sexual de menores. La directiva se halla en fase de negociaciones en trílogo y, durante nuestra presidencia, las negociaciones con la Eurocámara se han reanudado. Para nuestra presidencia, este es un expediente prioritario y nuestro objetivo es alcanzar un acuerdo político durante este semestre. El texto actualizará la definición de material de abuso sexual de menores e incluirá todo tipo de imágenes realistas, incluido también el contenido generado mediante inteligencia artificial, y será un instrumento neutral desde el punto de vista tecnológico.
Asimismo, pretendemos que sea un delito europeo el producir, ofrecer, poseer o distribuir instrucciones relacionadas con dicho material, lo cual es fundamental, ya que este material ya circula en línea. El texto también incluirá nuevos delitos, como los abusos retransmitidos en línea y la captación de menores en línea. Estamos trabajando con el Parlamento sobre el reglamento de abuso sexual, cuyo objetivo es evitar el abuso sexual de menores en línea. El propósito es avanzar todo lo posible, pero el marco no se podrá adoptar a tiempo. Por ello, será necesario prorrogar la exención temporal de las reglas sobre privacidad, permitiendo que los operadores sigan detectando voluntariamente el contenido de abuso sexual. Se ha propuesto una prórroga de dos años a este régimen provisional. Ahora es fundamental que el Consejo y el Parlamento actúen para evitar una laguna jurídica.
Antes de concluir, quisiera centrarme en la protección de menores en línea, que será una de nuestras prioridades. Consideramos que Europa cuenta con un marco sólido para proteger a los menores en el entorno digital y podemos y debemos hacer más. En este contexto, aplaudimos una serie de iniciativas de la Comisión, como el anuncio de un panel de expertos sobre esta materia en curso y las orientaciones publicadas sobre el artículo 28 de la Ley de Servicios Digitales, así como la propuesta de verificación de edad. En el pasado semestre, el Consejo habló a fondo con ministros de telecomunicaciones sobre estas cuestiones.
Centrándose en el asunto de la verificación de la edad y la protección de menores en redes sociales, vamos a seguir creando los cimientos para los futuros trabajos en la protección de los menores en línea a escala europea. Pueden ustedes contar con la Presidencia chipriota y todo su compromiso en este sentido. Muchas gracias por su atención.
Muchas gracias, ministra. Y ahora tiene la palabra la vicepresidenta ejecutiva, Henna Virkkunen. Adelante.
Señora presidenta, señorías, compartir imágenes íntimas sin el consentimiento es algo horrible y viola los derechos fundamentales, incluida la dignidad humana, la privacidad y los derechos de los menores. Estas terribles prácticas no son algo nuevo, pero lo que sí es nuevo es la magnitud y la velocidad a la que la inteligencia artificial (IA) ahora las amplifica. Con la IA, cualquiera con conocimientos técnicos mínimos puede generar imágenes sexuales y vídeos muy realistas sin el consentimiento de las personas. Una vez generado, este material puede ser compartido instantáneamente en línea sin el conocimiento ni el control de la víctima, dando lugar a una sexualización sin consentimiento, violencia sexual, acoso y daño reputacional y psicológico. Es un daño muy real y muy personal.
A escala europea, podemos responder a estos riesgos con nuestro manual digital, la protección de datos, la ley de IA y con el derecho penal. La Ley de Servicios Digitales aborda la divulgación de contenido sexual generado por IA y exige a las grandes plataformas identificar, evaluar y mitigar los riesgos sistemáticos vinculados a la amplificación de contenido ilegal y a la violencia de género, así como la difusión de material de abuso sexual de menores. Las plataformas deberán evaluar los riesgos generados por nuevas características como la IA generativa y poner a disposición medidas de mitigación.
La creación y divulgación de imágenes sexuales sin el consentimiento de mujeres y niños en X con la herramienta Grok de IA es algo totalmente inaceptable. Nos tomamos muy en serio este asunto en nuestra labor de aplicación de este acto. En diciembre, tomamos la primera decisión de no conformidad y consideramos que X incumplía tres disposiciones: sobre datos, pautas oscuras y una tercera. Impusimos una sanción de 120 millones de euros. Además, hemos seguido muy de cerca la evolución en Grok. Hemos solicitado información a X sobre Grok y le hemos ordenado a la plataforma que conserve todos los documentos internos en relación con este asunto hasta finales de año. En la Comisión hemos insistido en que esa característica es del todo inaceptable y debe ser eliminada urgentemente. En consecuencia, X ha tomado medidas para limitar la posibilidad de generar este tipo de contenido.
Ahora estamos examinando en qué medida X puede estar vulnerando la Ley de Servicios Digitales (DSA). En cualquier caso, no dudaremos en intervenir si las evidencias así lo sugieren.
Paso ahora a la ley de IA. Esta ley es clave en la lucha contra los ultrafalsos generados por IA. La aplicación de esta ley se iniciará en agosto de este año, pero ya puede tener un impacto ahora de distintas formas. Primero, la prohibición de prácticas dañinas puede ser relevante a la hora de abordar los ultrafalsos sexuales sin consentimiento y el material de abuso sexual de menores, dependiendo del daño que causen. Y cuando los deepfakes no se consideren prácticas prohibidas, las reglas de transparencia también intervienen aquí. Estamos preparando un código de prácticas sobre marcado y etiquetado de contenido generado por IA. Es una herramienta voluntaria para proveedores de sistemas de IA generativa para demostrar que cumplen con las obligaciones de la ley de IA, también incluido el etiquetado de los ultrafalsos.
Con riesgos sistemáticos, se exige a los proveedores que evalúen y mitiguen esos riesgos que plantean sus modelos. Pueden ser riesgos vinculados a la difusión de contenido discriminatorio o ilícito. Además, contamos con otras herramientas: la Directiva sobre Abuso Sexual de Menores establece como delito la difusión de material de abuso sexual de menores y exige a los proveedores que impidan y combatan dicha difusión. Esta directiva se encuentra en sus últimas fases de negociación. Asimismo, en la lucha contra la violencia hacia las mujeres, los Estados miembros deberán garantizar que generar y difundir deepfakes sexuales sea considerado un delito penal. Por último, el plan de acción futuro sobre ciberacoso mejorará la prevención, la concienciación y las medidas de apoyo para proteger a los usuarios ante este tipo de abuso en línea emergente. Quiero recalcar que estamos plenamente comprometidos con la eficaz aplicación de nuestra normativa para proteger a los ciudadanos europeos, en particular a nuestros menores.
Gracias, comisaria. Pasemos ya a la primera ronda de intervenciones de los grupos políticos. Primero, Jeroen Lenaers. Les pido que se ciñan al tiempo, ya que debemos terminar a las diez y media en punto para las prioridades de la presidencia. Por lo tanto, por favor, respeten el tiempo asignado. Adelante, Jeroen.
Muchas gracias, señora presidenta, estimada comisaria, querida presidencia. Desnudar o sexualizar imágenes no es una innovación, es explotación y abuso, sobre todo dirigido contra mujeres y menores. Esto no puede ser legal. Los testimonios de las víctimas son terribles. Olivia, por ejemplo, fue abusada como menor y rescatada hace unos años. Sin embargo, en 2024 surgieron nuevas imágenes suyas, fotos y creaciones generadas con inteligencia artificial, difundidas sin su consentimiento. Para víctimas como Olivia, los abusos no terminan con el delito, y esto no es un caso aislado. Este año, la fundación ha generado 100.000 vídeos de abuso sexual, en comparación con 13 del año anterior, y cada número representa a un niño que está siendo abusado o sexualizado. Restringir imágenes sexuales de personas reales y el abuso generado por inteligencia artificial nunca es inocuo; normaliza la violencia y aumenta el riesgo en el mundo real. Esta Cámara ya ha pedido más seguridad para los menores en línea. Ahora necesitamos una prohibición europea para el material de abuso sexual de menores generado por inteligencia artificial y los sistemas que los elaboran. Las plataformas deben anteponer la seguridad a los beneficios. Retirar material una vez producido el abuso no es suficiente. Europa debe estar a la vanguardia; no podemos permitir que la tecnología o quienes se benefician de ella decidan si y cómo hay que proteger a nuestros hijos.
Muchas gracias. Ya hay más peticiones de palabra para el turno catch the eye, así que cierro ahora el turno. Tiene ahora la palabra Alex Agius Saliba, del grupo S&D.
Muchas gracias. Los retratos de nuestros niños ya no gozan de su gracia. Imagínense ver a su hijo o hija y que se utilicen sus fotografías para crear material pornográfico. Francamente, es algo horroroso, pero es una realidad que cada día los padres y las madres deben enfrentar. Hay un ambiente tóxico, hay un amedrentamiento en la red, y se utilizan esas fotografías de forma negativa para generar material pornográfico. Esto debe ser prohibido por nuestra ley, y el señor Musk no puede seguir campando a sus anchas. Debemos aplicar todas las leyes que tenemos en esta materia para luchar contra las intenciones de los oligarcas. Hoy, la Comisión Europea está realizando investigaciones acerca de Grok, pero ¿cuánto tiempo debemos esperar?
Esperar para que esta investigación llegue a algo concreto no es algo que podamos estar esperando años y años para que al final se tomen algunas medidas. Debemos salvaguardar nuestra legislación existente y aplicarla. No debemos ir hacia un desarme reglamentario que reduzca la protección. Es fundamental tener mucho cuidado a la hora de simplificar la legislación europea.
Gracias, señora presidenta. En nombre de Patriotas para Europa, las imágenes pornográficas sin consentimiento generadas por la inteligencia artificial, así como el abuso y la explotación sexual, son plagas que afectan a las mujeres y a los menores. Los tribunales deben tomar cartas en el asunto y ser firmes en la lucha contra estas plataformas. Se hace un llamamiento a prohibir X o incluso a cerrar la red X tras la difusión de imágenes. Estas plataformas reciben financiamiento tanto privado como público, y es necesario mantener un debate sereno al respecto.
Es importante ser claros: la pornografía y la difusión de imágenes sin consentimiento son intolerables y deben ser reprimidas. Sin embargo, prohibir herramientas globalmente porque se utilizan abusivamente sería un error. No hemos eliminado el dibujo y la fotografía por su posible uso indebido. Hay prácticas que no suscitan indignación, pero cuando se trata de nuevas tecnologías, la voz se alza rápidamente. Las plataformas deben ser señaladas cuando se abusa de ellas. La ley debe aplicarse con rigor, pero sin actitudes hipócritas. La lucha contra la pornografía es una responsabilidad individual; no debemos combatir ciegamente la tecnología en sí misma.
La inteligencia artificial sin resguardos es una fuente de abuso, generando imágenes y vídeos falsos. Las personas cuyas fotografías se publican son inocentes, y con un par de clics se puede generar pornografía. Esto representa una violencia real y las consecuencias son gravísimas. Es un material que escapa a todo control y normaliza culturalmente los abusos y las explotaciones. La tecnología, especialmente la inteligencia artificial, puede ser un instrumento positivo, siempre y cuando sea utilizada de manera responsable. No basta con una ley; también debemos basarnos en valores éticos compartidos.
¿Cuál es el modelo cultural que queremos defender? Si la respuesta es una sociedad sin límites morales, la inteligencia artificial se volvería incontrolable. Debemos fundamentar nuestras leyes en nuestra cultura con una profunda raigambre.
Estimados colegas, cuando empecé a hacer política, se compartió un ultrafalso mío vestido de bikini, como un intento de atacarme. Esta imagen sigue en línea. Soy adulta y estoy capacitada para luchar contra esta situación, pero imaginen que fuera una adolescente. La apariencia física es muy importante, y si se publica la fotografía de una niña de 12 años sin su consentimiento, no se puede borrar. Grok es el responsable, más que otros. No se pueden publicar fotografías de personas desnudas; eso no puede aceptarse. Existen miles de maneras de generar ingresos, ¿por qué tienen que publicar fotografías de niños en bikini?
Se corta el micrófono a la señora diputada.
Por favor, ¿puede alguien comprobar si funciona bien el micrófono en la tribuna? Vamos a empezar de nuevo. Resumiendo, no se trata de un problema con una sola compañía. Debemos ir más allá y centrarnos en hacérselo totalmente imposible. No se pueden aceptar estas prácticas; debemos tomar cartas en el asunto. Muchas gracias.
Siguiente orador, Alexandra Guez, en nombre de Los Verdes. Estas palabras que acabo de pronunciar no deberían ser pronunciadas, pero son palabras que le hacen la vida imposible a las mujeres. ¿Dónde están las investigaciones para condenar este comportamiento? Ayer, la prensa alemana informó que el gabinete de la presidenta de la Comisión detuvo la investigación. Es una vergüenza, señora presidenta, y las cosas empeoran. Se habla de más casos y siguen en línea estas fotografías. Si no se hace nada, se está ayudando a la explotación de los niños. Mis héroes están conmigo, Valentina Lena Vondenberg, de una organización alemana, que están aquí con nosotros en la galería. Ellos defienden a las víctimas, levantan la voz sin temor y se enfrentan a estos abusadores. Espero que todos tomen ejemplo de su valor.
Ahora tiene la palabra la señora Salis, en nombre de The Left. Por favor, respeten al siguiente orador. Gracias. Internet es un instrumento extraordinario, pero puede tener aspectos muy negativos, y con la inteligencia artificial se llega a cotas insospechadas. Es francamente algo horrendo: mujeres y niños virtualmente desnudos a través de Grok, la IA de la plataforma X. La responsabilidad recae en esa mentalidad sexista y patriarcal. Una red social que favorece estos ultrafalsos es como echar leña al fuego. Es una infraestructura importante en nuestra vida diaria y debe estar sujeta a normas de responsabilidad y salvaguardia. No podemos dejar esto en manos de Elon Musk y otros capitalistas. ¿Qué estamos esperando para liberarnos de estas plataformas privadas norteamericanas? ¿Por qué no hacemos una red pública? La IA no es neutral; debe someterse a las reglas democráticas y estar sujeta a principios claros. Muchas gracias.
Por favor, respeten el tiempo impartido. Cristina Anderson, un minuto. Muchas gracias. Los ultrafalsos sexuales son algo horroroso para las mujeres y los niños. El daño es permanente; es una violación de la privacidad y de la decencia. Hay que luchar y poner coto a esto, punto. No seamos hipócritas; sabemos que hay problemas con estas plataformas, sobre todo cuando se trata de una persona que todos conocemos. Elon Musk es quien administra X y creo que se ha comportado de forma irresponsable. Sin embargo, no debemos caer en la histeria; debemos aplicar la ley, y el derecho penal debe ser cumplido por los Estados miembros cuando se persiguen estos delitos.
Cambian los comportamientos, por lo tanto, tranquilidad, apliquemos la ley y protejamos a las víctimas. Pero tengo una solicitud: por favor, saquen a la presidenta de la comisión de sus funciones. El señor Zarzalejos tiene la palabra.
Muchas gracias, señora vicepresidenta, señora embajadora. Creo que el desafío es muy claro. Debemos evitar que la inteligencia artificial se convierta en una máquina de pornografía y pedopornografía. Se han identificado más de 3.400 vídeos, cuando en el año anterior eran solo 13. A nivel político, necesitamos intervenir ya para poner coto a la proliferación de estas imágenes. Seamos claros: debemos hablar con una sola voz, tiene que haber un consenso y debemos promulgar una ley, además de aplicar las leyes ya existentes, para que las empresas cuenten con herramientas claramente diseñadas desde el principio para luchar contra esta problemática. Está totalmente prohibido utilizar los materiales que emplean estos modelos de inteligencia artificial, y debemos poner a prueba este sistema de IA para que no pueda generar este tipo de fotografías. No se pueden utilizar imágenes, ni fotografías generadas por IA, sin el consentimiento de las personas.
Muchas gracias. La señora Birgit Sippel, un minuto.
Muchas gracias. Inteligencia artificial, ¿acaso libertad gracias a la innovación? Lo cierto es que observamos innovación sin responsabilidad, poder sin rendir cuentas. Los chatbots de IA, como Grok, representan una vulneración sistemática de la dignidad y los derechos fundamentales. Se les entrena para desnudar y sexualizar las imágenes de personas reales, obligándolas a adoptar posturas a las que nunca habrían accedido, degradándolas como objetos. Son víctimas digitales, a millares. Esto es el resultado de una cultura empresarial que antepone el beneficio a la protección. No podemos aceptar que los beneficios sean más importantes que la dignidad y que este sea el modelo de negocio digital. Necesitamos una prohibición clara de la sexualización y un impuesto digital, así como la responsabilidad personal de los proveedores. Impongamos las reglas que nos protegen en Europa.
Sebastián Crois tiene la palabra.
Muchas gracias. En la red circulan discursos de odio, así como imágenes generadas por inteligencia artificial. Sabemos que lo que hacemos está limitado; no podemos decidirlo todo. Se habla mucho, se discute, se debate, pero no protegemos absolutamente nada, y lo único que circula es la censura o la mentira en la que algunos se escudan. Aquí se está diciendo que algunos tienen derecho a hablar y otros no. No se trata, por lo visto, de luchar contra los criminales. Lo que estamos viendo es un intento de censurar a los políticos. Sabemos que la izquierda pierde elecciones de manera constante, y lo que intenta es someter a estas plataformas. Así es como se pierde la libertad de opinión y todos se someten a Bruselas. El Partido de la Libertad jamás lo aceptará.
Silenciar justamente estas ideas. Ya están pidiendo la palabra en el turno libre de preguntas. Voy a dar la palabra a dos. Muy buenos días. La dictadura digital. Todo lo que ustedes están contando, y decir que esto es una censura que se impone sobre las personas, francamente, está muy traído por los pelos. Esto está desconectado de la realidad. Tenemos la oportunidad de establecer normas. Está definiendo únicamente a los raperos holandeses. Lo que tengo que decir es que las instituciones europeas deben controlar a X y deben anular las cuentas de X. ¿Qué condiciones impondría usted? Muchas gracias. Pero, ¿de qué reglas se trata? ¿Qué reglas quieren imponer? La situación es muy alarmante porque las reglas europeas están aquí, se han diseñado para que se apliquen también las reglas nacionales. Bruselas no tiene por qué regularlo todo. Lo que se puede sancionar fuera de línea, se puede sancionar también en línea. Una pregunta más. Aquí hablamos de otra cosa, hablamos de los ultrafalsos de niños, niños que sufren daños de por vida. Lo que necesitamos es una red segura, y que las niñas, los niños y las mujeres puedan utilizar estas redes de forma segura. Respuesta: Muchas gracias. Si creen en el proyecto europeo, esto forma parte del mismo. Pero está usted hablando de otra cosa. Aquí lo importante es que hay personas que tratan de utilizar los resquicios para sortear la ley. Nosotros lo que queremos es reforzar las normas, y es lo que hacemos en Holanda, y debemos seguir marcando nuestro propio rumbo en casa, en nuestro país. Muchas gracias. ¿Acepta otra tarjeta? Luego tengo que poner fin al debate. Ha dicho, y le cito, que este debate se centra sobre todo en aquello que no le gusta a la izquierda. Eso significa que usted, que es de la derecha, le gusta este debate. Hago la siguiente pregunta: ¿le gustan los ultrafalsos pedopornográficos y que se publiquen fotografías de mujeres sin su consentimiento? Usted va a decir que no. Entonces, otra pregunta: ¿le parece que presentar las cosas así es algo que respeta la dignidad de esta casa? Muchas gracias. Sí. Cuando tuvo un problema un diputado húngaro, usted no habló con tanta vehemencia. Y así es como funciona este parlamento. Además, cada vez que hay un debate sobre redes sociales, aquí lo que se opta siempre es por aplicar una mayor censura. No puede ser. Ustedes no pueden prohibir lo que les dé la gana. Otra pregunta: de nuevo, ¿cree que la pedopornografía de IA no es un motivo para reglamentar?
¿No es motivo suficiente para aprobar nueva normativa el caso de mujeres cuya imagen se utiliza sin consentimiento? ¿Cree que eso no es suficiente para tomar medidas desde aquí o niega que la tecnología sea capaz de ello? Gracias. Claro que estoy en contra. Ya hay prohibiciones en los Países Bajos en este ámbito. Creo que ese es un tema que deben tratar los Estados miembros. Este tipo de pornografía ya está regulada en los Países Bajos. Es ilegal. Repito, es algo que tienen que abordar los Países Bajos. No creo que burócratas anónimos sean los que deban sermonearnos desde aquí, desde el Parlamento Europeo. Gracias. Les ruego una vez más, esta Cámara ha sido electa directamente por la ciudadanía europea y no es una Cámara postiza. Pido que mantengamos el respeto por nuestra ciudadanía. Gracias.
La tecnología digital avanza a un ritmo vertiginoso. Las ultrafalsificaciones crecen a velocidad exponencial y muchas tienen un trasfondo sexual que se utiliza para chantajear, humillar y atacar la reputación de mujeres y menores. Contamos con medidas que deben aplicarse con contundencia, pero no son suficientes ante la evolución digital. Italia, en su Código Penal, ha incluido este tipo de difusión ilícita. Es una nueva forma de violencia digital, pionera en Europa y un modelo en consonancia con la normativa europea. La lucha contra este fenómeno es una batalla de civilización digital por un uso ético y responsable de la tecnología. Todos tenemos el deber de dar respuestas equilibradas a través de la normativa para aprovechar la innovación y el ingenio, asegurando que el núcleo de todo esto sea la persona y no los algoritmos. Italia es un ejemplo de que eso es posible. Gracias.
En las últimas semanas, plataformas como Grok han celebrado millones de visitas gracias a estas ultrafalsificaciones. Esto me dejó helado. Como diputado electo y no como burócrata anónimo, no puedo quedarme callado ante la impunidad de un multimillonario que se dedica a crear estas cosas. Proteger la libertad de expresión no puede significar permitir que Elon Musk y otros diseminen pedopornografía. Eso no tiene ningún sentido. No tiene sentido venir aquí y afirmar que Elon Musk es un defensor de la libertad de expresión. Esto es explotación al máximo nivel, porque se trata de ganar dinero a costa de estas víctimas. Fíjense en lo que dijo Elon Musk cuando se le llamó la atención en Navidad; puso un emoticono sonriendo, riéndose de todas estas víctimas y de esta Cámara también. Gracias.
Rabus, con catorce años, se convirtió en una víctima de chantaje a través de Snapchat. Con una ultrafalsificación se le amenazó y no pagó al chantajeador. Por lo tanto, vemos que este fenómeno es terrible, sobre todo para las chicas y las jóvenes. Herramientas como Grok, integradas en otros sistemas, hacen que este tipo de delitos sean muy fáciles de cometer. ¿Cuántas mujeres más se encontrarán en Internet en escenas asquerosas, solo para intimidarlas, para chantajearlas o para silenciarlas?
Gracias. La semana pasada, más de cincuenta diputadas apoyaron la prohibición de este tipo de tecnología. Comisaria, le pregunto de nuevo, ¿garantizará que las mujeres y los menores viven con seguridad en Europa, tanto fuera como en línea? ¿Va a prohibir este tipo de inteligencia artificial que genera violencia? Gracias.
Con un clic podemos robar la identidad de una persona. Con las ultrafalsificaciones se pueden crear falsos audios y vídeos para humillar, chantajear y destruir una vida. A la vez, en muchas plataformas de redes sociales hay contenidos pornográficos que se difunden en cuestión de segundos, y los jóvenes son los más perjudicados, porque lo que se genera en línea no se queda solo en línea, sino que afecta sus vidas. Hay normas en Europa, pero no se aplican adecuadamente; son papel mojado, y las plataformas siguen fingiendo que se autocontrolan mientras generan beneficios a expensas de los más débiles.
Por lo tanto, nos enfrentamos a una disyuntiva: o decide una oligarquía tecnológica o defendemos a los ciudadanos y la democracia. Lo virtual y lo real no están separados. Debemos tener cuidado con lo que decimos y hacemos en Internet, y asegurar que las redes sociales sean un lugar democrático, sin pornografía ni ultrafalsificaciones. Este Parlamento tiene que enviar una señal clara. Necesitamos enseñarles a los grandes colosos de la tecnología lo que es la democracia.
Deepfakes y pornografía infantil no son temas banales, sino brutalidades que destruyen la reputación, la dignidad y, a veces, la vida de los afectados. Hay que perseguir a los perpetradores, proteger a las víctimas y retirar el contenido ilegal. Sin embargo, ¿qué hace la web? Utiliza este pretexto para obtener aún más control sobre el debate, y la Ley de Servicios Digitales se convierte en un mero instrumento de poder que presiona a las plataformas y genera censura y arbitrariedad política. No necesitamos un ministerio de la verdad europea, ni control de chats ni control de masas. Así como existe un secreto epistolar, también hay que proteger la privacidad en Internet. Solo se puede proteger a las víctimas mediante la actuación nacional, y esa persecución debe ser rápida. No se puede sacrificar la libertad en Internet.
Señora Bostorf, hay una tarjeta azul de la señora Grapini. ¿La acepta? Sí, con mucho gusto. Adelante. Querida señora, usted se contradice a sí misma. Por un lado, dice que debemos proteger ante esta explotación sexual y los ultrafalsos, y por otro, afirma que la DSA es censura. Estamos aquí legislando para proteger. Es una vergüenza oír que hay eurodiputados que permiten la explotación sexual de niñas de cuatro, cinco o doce años mediante ese tipo de deepfakes. Y usted va y dice que la DSA es censura o una herramienta de poder. ¿Cómo se explica esta contradicción?
No, yo nunca dije que la DSA siempre sea censura, pero quiero dejar claro que la protección de las víctimas ya se realiza a nivel nacional desde hace tiempo. Si se actúa aquí de forma consecuente, no necesitamos limitaciones europeas, y menos aún de la libertad de expresión, porque esto no es más que un pretexto para reducirla.
Colegas, estas ultrafalsificaciones suponen violencia organizada. Los clics se convierten en beneficios, y hay personas a las que se les quita la personalidad y se les humilla. Todo esto es muy jugoso para atacar la dignidad humana de forma viral y anónima. Hay normas para sancionar a las plataformas, pero esto no bastará si no afrontamos el tema principal: la impunidad. Hay que elegir.