En nombre de Dios y la Patria, se abre la sesión. El acta de la sesión 119 se declara aprobada. El acta de la sesión 120 se encuentra a disposición de las señoras y señores diputados. Se han recibido los siguientes documentos.
Comunicación del jefe de la bancada de diputados UDI, por la que informan que el diputado Daniel Ilayú será reemplazado en esta sesión por el diputado Felipe Donoso. También se ha recibido una solicitud de audiencia derivada por el diputado Daniel Ilayú, realizada a través del sistema de ley de lobby de la Cámara de Diputados, por la que la señora Luciana Lima, de la Corporación de Actores de Chile, se refiere al proyecto de ley sobre réplicas digitales de imagen, cuerpo y voz.
Asimismo, se ha recibido un correo electrónico del asesor jurídico de IFPI Chile AG, señor Fernando Silva, en relación con el proyecto de ley que regula la creación y difusión de imitaciones digitales realistas de la imagen, cuerpo o voz de las personas generadas mediante inteligencia artificial. En su comunicación, señala que ven con profunda preocupación una serie de indicaciones, algunas de ellas ya aprobadas, que debilitan de manera sustantiva la protección que merecen todas las personas sobre su imagen, cuerpo o voz. Hace un llamado a la Comisión a fin de revisar y analizar con profundidad las modificaciones realizadas al proyecto que puedan llevar a disminuir el ámbito de protección que merecen todas las personas.
Esto es la cuenta de la Presidenta. Muchas gracias, secretaria. Esperaremos a que lleguen otros integrantes para poder continuar con la votación del proyecto en tabla. Suspendemos, por lo tanto, por un par de minutos.
Puntos varios no tenemos, o sobre la cuenta nadie. Entrando en el orden del día, esta sesión ordinaria ha sido citada con el objeto de ocuparnos de la siguiente tabla. Continuar con la votación en particular del proyecto de ley de origen en moción de los diputados y diputadas Gael Yeomans, Lorena Fries, Andrés Giordano, Javiera Morales, Ericka Ñanco, Camila Rojas, Patricio Rosas, Jaime Sáez, Emilia Schneider y Carolina Tello, que regula la creación y difusión de imitaciones digitales realistas de la imagen, cuerpo o voz de las personas generadas mediante inteligencia artificial, en primer trámite constitucional, con urgencia calificada de simple.
La Secretaría del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación ha excusado la inasistencia del ministro Aldo Valle Acevedo por tope de horario. En su representación se encuentran presentes los asesores legislativos Camila Aguayo y Sebastián Galás. En representación del Ministerio Secretaría General de Gobierno se encuentran presentes los asesores legislativos Matías Rojas y Lorena González Pérez.
Estimados colegas, vamos a estar votando este proyecto hasta las 16:30 horas, porque después de eso continuaremos con el segundo punto de la tabla, que es el trámite de audiencia respecto al proyecto de ley originado en moción de los diputados Johannes Kaiser, Tomás Lagomarsino y Cristóbal Urruticoechea, que establece límites al desarrollo de la inteligencia artificial en resguardo de los derechos humanos fundamentales, en primer trámite constitucional. Para esto, escucharemos al doctor en ciencias, vicerrector de investigación y doctorados de la Universidad Autónoma de Chile, señor Claudio Suazo Galdames.
Vamos a continuar con la votación. Le pedimos a nuestra secretaria abogada que nos ponga en conocimiento de cómo continuamos. Presidenta, ha llegado una nueva indicación de la diputada Yeomans, que está en el comparado, es para agregar un nuevo artículo 3 bis. Este artículo establece que, de conformidad con lo dispuesto en el literal a) del artículo 3, no constituirá una representación verosímil pero falsa aquel contenido generado y/o alterado mediante inteligencia artificial u otra tecnología que sea claramente identificable como sátira, parodia, crítica o expresión artística respecto a la persona representada digitalmente, siempre que no genere los efectos enunciados en el párrafo primero del referido literal y que se encuentre correcta y claramente identificado como contenido generado y/o alterado mediante inteligencia artificial u otra tecnología.
Eso es, presidenta. Tiene la palabra. Bueno, lo primero es que no puedo ver el comparador. Ah, ahí me cargó, disculpe. Lo otro, sobre el contenido de la indicación, en realidad tenía que ver porque en el proyecto original se planteaba esto como una opción, y ahora con las indicaciones del Ejecutivo se ha eliminado esa opción de poder excluir el contenido que sea, siempre con un objetivo más bien de sátira, más artístico. Para que el objetivo se cumpla, el tener que decir explícitamente que es realizado con inteligencia artificial es una manera de no alterar la intencionalidad que buscaba este tipo de deepfakes, que tiene que ver con alterar la realidad.
Entonces, demostrar un contenido que no es consentido alterando la realidad. Mi intención es abrir esta discusión, porque creo que es necesario debatirlo. Si la comisión estima que de todas formas queda excluido, está bien, pero creo que es importante que lo podamos conversar. Muchas gracias, diputada Yeomans.
Abro la palabra a los integrantes, diputadas y diputados. Respecto a esta indicación, ¿hay comentarios? No. ¿Sí? El Ejecutivo, ok. Buenas tardes a la comisión, diputadas y diputados. En términos generales, si bien en un comienzo la propuesta de indicaciones del Ejecutivo no incluía un contenido exento...
Consideramos, y recogiendo también lo que se conversó en la sesión anterior, lo que plantearon los parlamentarios y las parlamentarias, que es relevante establecer en el proyecto de ley un contenido exento que integre la definición ya aprobada en este cuerpo legal y que, además, permita identificar claramente cuando el contenido ha sido generado mediante esta nueva tecnología. En términos generales, creemos que el texto recoge lo discutido en la sesión anterior y lo planteado en la Comisión. Eso por parte del Ejecutivo.
Muchas gracias, Camila. Ofrezco la palabra. ¿Diputada Laura?
Gracias, presidenta. Me queda la duda de que ahora se estén incluyendo excepciones, considerando que, tras revisar toda la indicación del Ejecutivo, esto podría resultar contradictorio. Habría que modificar las indicaciones que vienen hacia adelante, comenzando por la próxima, que es el derecho a la integridad digital. Por lo tanto, no sé cómo lo evalúa el Ejecutivo, ya que habría que modificar las indicaciones. Considerando que, por reglamento, se deben votar primeramente las indicaciones del Ejecutivo.
Muchas gracias, diputada Laura. Camila, por favor.
Sí, después le daré el pase a Sebastián. En primer lugar, respecto al reglamento, puede responder la Secretaría, pero se está votando un artículo 3 bis que remite al artículo 3, por lo que se está votando antes que la indicación que viene después del Ejecutivo. Respecto a la indicación que viene después, la revisaremos en más detalle. Esta busca reconocer un derecho respecto a toda persona. Al haber quedado definida la representación digital como definida pero falsa, lo que se está generando ahora es una excepción a la definición ya aprobada anteriormente. Por ende, es completamente coherente con el cuerpo legal que se discutirá posteriormente, y no vemos contradicción alguna con lo que se va a discutir más adelante.
Gracias, presidenta. Complementando lo que señalaba Camila, la semana pasada pudimos ver la definición de representación verosímil pero falsa. Entendimos sus conceptos, los aprobamos en ambos párrafos y se sostuvo una discusión sobre si se iban a incluir excepciones. Como es una definición que se utiliza para delimitar una prohibición y generar un ilícito civil, esa excepción podría considerarse no tan imprescindible como antes. Sin embargo, entendemos y recogemos la observación, y creemos que la indicación de la diputada Gael ayuda a delimitar lo que se entiende o no por representación, sin cambiar el hecho de que esta sigue definida en el artículo 3.
En ese sentido, esta definición o contradefinición complementa lo ya establecido. En términos de literalidad, lo que es sátira, parodia, crítica o expresión artística queda excluido de lo que entenderemos por representación verosímil pero falsa. Esto es porque, en su naturaleza, no busca el error ni el engaño, sino que tiene finalidades opuestas, y por lo tanto, no se encontrarán prohibidas su generación y difusión en los términos del artículo que sigue, que es el artículo 5. No hay contradicción, sino que esto coopera en su complementación.
Gracias, Sebastián. Diputado Yeomans.
En esa misma línea, viendo que el contenido no es incoherente con el resto del proyecto de ley, creo que lo importante es centrarse en el fondo, si estamos de acuerdo o no en establecerlo explícitamente, ya que se puede descender del resto del proyecto de ley respecto a las definiciones en concreto. En ese sentido, me parece que dejar de manera...
En el fondo, con una excepción, este tipo de situaciones que son más artísticas, además de la obligación de establecer explícitamente que se utilizó inteligencia artificial para su realización, creo que también se subsana la situación que estamos tratando de evitar, que es que alguien utilice el consentimiento de una persona para presentar una opinión que no está dando como algo que realmente está haciendo. En ese sentido, se logra establecer con la excepción a cabalidad que el objetivo de la norma se respete, pero también se establece una situación que actualmente vemos en redes. Se utilizan, incluso, parodias artísticas y culturales que no necesariamente buscan obligar o mermar el consentimiento de una persona, sino que más bien se enfocan en hacer ese tipo de arte y expresiones culturales que son propias de la libertad de expresión de nuestro país.
Gracias, diputada. Ofrezco la palabra.
A mi parecer, estoy totalmente de acuerdo en que hay que tener excepciones. De hecho, el contenido exento lo tengo considerado en una de mis indicaciones que está más adelante, y ese será uno de los motivos por los cuales me abstendré, porque tengo una indicación respecto a las excepciones con la que estoy completamente de acuerdo. A mi juicio, esto sigue teniendo incongruencias con lo que continúa en el proyecto, que no quiero adentrarme en este momento, por ejemplo, lo que viene con la exigencia de etiquetado por parte de quienes difunden, que son las plataformas intermediarias, las cuales creo que no tienen la capacidad para identificarlo. Pero ese es otro punto.
Me gustaría consultar al Ejecutivo, entiendo que la discusión se entendió, pero defendieron muy férreamente que no era necesario y que no tenían que tener este contenido exento. Entonces, me gustaría entender por qué el cambio de foco tan abrupto en el proyecto, considerando que este contenido exento estaba desde el inicio y por las indicaciones del Ejecutivo fue completamente eliminado.
Gracias, presidente.
Muchas gracias por su intermedio, presidente. Para responder la duda de la diputada Laura, creo que el foco aquí es lo que tenemos que conversar, bien lo señalaba la diputada Gael. Es una decisión sobre si efectivamente se va a discutir este tema y si el proyecto se va a abrir a dejar de manera expresa qué es lo que vamos a entender por contenido exento. Cuando uno revisa la definición de lo ya aprobado, se construye un concepto, una definición, y por ende, una noción de lo que para este proyecto se entiende por representación verosímil pero falsa, lo cual posteriormente estará prohibido en su generación o difusión. Es decir, contenido generado por inteligencia artificial que recrea, sintetiza la apariencia, voz, gestualidad y atribución de una persona con el fin de inducir a error, confusión o engaño respecto a su identidad, acción o declaración, afectando su honra.
Contamos con elementos que permiten delimitar de manera precisa. Si uno entiende esta definición y la lleva a la práctica, podría concluir que aquellas creaciones destinadas a la información, a la sátira o a la expresión artística no entran dentro de esta categoría. Por eso es importante lo que señala la diputada Gael: quizás tomemos un tiempo, conversemos y dejémoslo de manera expresa. Esto no quita, por cierto, que por intermedio de la definición ya establecida y el marco normativo propuesto por el Ejecutivo, de ninguna manera se está prohibiendo la generación o difusión de sátiras, parodias o expresiones artísticas; esta norma lo refuerza.
Esa es la discusión que creo que hay que dar, y muy bien lo dijo la diputada Gael. No se trata de posturas contradictorias, sino de cómo hacemos la ley más clara en este sentido.
Muchas gracias, Sebastián. Si no hay más palabras, diputada Laura.
Sí, la última. En el entendimiento de lo que manifestaba, creo que hay algunas inconsistencias aún en las indicaciones que vienen más adelante y que el Ejecutivo ya ha expresado que no, particularmente cuando hablamos del etiquetado que se exige como responsabilidad a las plataformas. Aquí no se especifica que solamente el etiquetado tiene que ser para las representaciones digitales verosímiles, lo que falta, por lo tanto, lo exige para todo el contenido generado, manipulado y la difusión en la responsabilidad de las plataformas. Por lo tanto, para entender, es necesario ver la consistencia y tener claridad.
Todo aquel contenido que está exento, ¿también tiene que tener la responsabilidad y la obligación de las plataformas de hacer el etiquetado? Nuevamente, por su intermedio, presidenta, lo que se exenta en el fondo es de la noción de representación digital verosímil pero falsa, y el artículo 7, de hecho, parte de entender y comprender que esto se crea para efectos de cautelar el derecho a la integridad digital. Por cierto, entonces no importa si estamos frente a una representación digital, pero sí me refiero a falsa, sino que es respecto a toda imagen, audio o video que haya sido generado o manipulado mediante ella. Esto tiene un alcance más amplio. Fue una decisión, obviamente, y aquí la decisión también es soberana de poder decidir y conversar sobre aquello. Pero el artículo 7 tiene una noción más amplia que lo que se define en el literal 3 del artículo 3.
Entonces, ponemos en votación la indicación de la diputada Gael Yeomans. ¿Votación? Por la afirmativa, cuatro votos, uno en contra, dos abstenciones. Aprobada, entonces. Vamos al título siguiente, artículo 4. La indicación 13 del Ejecutivo propone reemplazar el artículo 4, que ha pasado a ser 5, por el siguiente: Artículo 5. Derecho a la integridad digital. Toda persona tiene el derecho a que su imagen, cuerpo o voz no sean utilizados para efectos de generar representaciones digitales verosímiles pero falsas mediante inteligencia artificial u otras tecnologías. Toda generación o difusión de representaciones digitales verosímiles pero falsas, en los términos descritos en esta ley, se encontrará prohibida.
La indicación 14 del diputado Lilia Liyú también busca reemplazar este artículo por el siguiente: Derecho exclusivo. Toda persona o su representante, cesionario o mandatario, quien esté autorizado para estos efectos, tiene el derecho exclusivo de autorizar o prohibir la reproducción digital de la imagen, cuerpo o voz de dicha persona mediante inteligencia artificial. El uso no autorizado constituye una infracción a la integridad digital. Y la indicación 15 de la diputada Laura propone sustituir también el artículo 4. Toda persona tiene el derecho a consentir la imitación digital realista de su imagen, cuerpo o voz mediante inteligencia artificial, salvo las excepciones previstas en el artículo siguiente.
Le damos la palabra, entonces, primero al Ejecutivo y después a los señores y señoras parlamentarias. Antes de explicar más específicamente el detalle normativo de la indicación del Ejecutivo, es importante comprender cuál es el reconocimiento que está haciendo esta indicación, que es el reconocimiento, justamente, al derecho a la integridad digital. Esto responde a un cambio profundo en la forma en que hoy se construye y se expone la identidad de las personas, comprendiendo también la discusión que dimos en el debate general de este proyecto de ley. Hoy día, la imagen, la voz y el cuerpo de una persona ya no solo circulan en los espacios físicos o mediáticos, sino también en entornos digitales. Esto es un cambio inédito e importante que no solo representa un desafío tecnológico, sino también un desafío social y democrático que tenemos, y por eso estamos dando esta discusión.
Finalmente, lo que buscamos con esta indicación y de dónde surge el derecho a la integridad digital es precisamente una forma de actualizar la protección de la identidad personal en el entorno digital, sin frenar la expresión que tienen estos medios digitales ni tampoco la innovación que producen. Por una parte, busca establecer un estándar de resguardo frente a los usos engañosos o dañinos de la tecnología de generación digital, alineándose con bienes jurídicos ya consagrados en nuestro ordenamiento jurídico, así como en la definición de la honra. En términos normativos, la indicación consagra el derecho a la integridad digital como un derecho vinculado a la protección de la honra y la identidad.
A la luz de la definición de representaciones digitales verosímiles pero falsas que quedó contenida en el artículo 3, lo que viene a hacer esta indicación es focalizar en aquellos supuestos en que la generación o difusión de contenidos digitales puede incurrir en error, confusión o engaño respecto a una persona real, produciendo una afectación jurídicamente relevante. Es muy relevante el artículo 5 que introduce la indicación, no solamente por lo que se señalaba del contexto social, sino porque delimita el ámbito de aplicación de la norma. Así se entrega un ámbito de certeza y proporcionalidad, asegurando que la intervención regulatoria se active frente a ciertos daños en concreto y no frente a cualquier uso legítimo de las tecnologías digitales.
Finalmente, el principio de integridad digital orienta y es un principio ordenador del proyecto de ley. Es un hecho relevante que hoy día pueda quedar establecido en el ordenamiento jurídico chileno el derecho a la integridad digital.
Es importante considerar que, previo a la indicación de la diputada Yeomans, este artículo dejaba todo prohibido. Esto hay que dejarlo bastante claro. Los temas pueden ser complejos, y uno de ellos tiene que ver con la definición de las representaciones digitales verosímiles pero falsas, que quedan totalmente prohibidas. De acuerdo a lo que se acaba de aprobar, con la excepción que incluyó la diputada Yeomans, queda totalmente fuera la sátira. Sin embargo, esto genera una pregunta: si alguien de quien hacen una sátira siente que se ha afectado su honra, ¿queda dentro o queda fuera de las representaciones digitales verosímiles pero falsas? Espero que se entienda la pregunta, porque esto va a ser clave y es a lo que me refería con la consistencia de esa indicación con el resto del proyecto.
Por otro lado, todas las representaciones digitales verosímiles pero falsas están prohibidas. Cuando nos referimos al artículo 7, que exige etiquetado a las plataformas digitales, les estamos pidiendo que, en primer lugar, interpreten qué puede ser manipulado, lo cual es bastante complejo, ya que la responsabilidad recae en quienes generan ese contenido. En segundo lugar, no tiene sentido que las plataformas etiqueten algo que ya es ilícito. Por lo tanto, a mi parecer, es una inconsistencia y una incongruencia muy grande. ¿Cómo vamos a estar pidiendo a plataformas que, en primer lugar, insisto, la responsabilidad primaria no recae en ellos, etiqueten algo que ya está considerado ilícito?
Esas son mis preguntas por ahora. Es importante recalcar que, no obstante la indicación de la diputada Yeomans, el modelo que propuso el Ejecutivo, en especial este artículo, no dejaba todo prohibido. Siempre ha tenido presente, en primer lugar, la libertad de expresión, para resguardar también los derechos de las personas, su integridad, dignidad y honra.
¿Por qué es importante la honra? La pregunta que hacía la diputada respecto a si se considera dentro o fuera la sátira es relevante. Cuando uno ve la definición de la representación digital verosímil pero falsa, hay condiciones que deben cumplirse para estar frente a un contenido de ese tipo, que sea susceptible de inducir al error, engaño o confusión. A través de la gestualidad o la recreación o modificación de la voz, se lleva a entender que esa persona se apropia de su identidad para hablar sobre acciones o declaraciones que, en otro sentido, no hubiese dicho. En ese sentido, la honra tiene un papel crucial, ya que es un derecho que siempre ha colisionado con la libertad de expresión. Esto es un tema que hemos visto durante muchos años.
Esto se batalla en los tribunales de justicia, y justamente el Ejecutivo ha optado por referir a la honra, porque de esta manera se sigue una construcción que no solo se ha dado en la jurisprudencia de los tribunales de justicia, en especial los superiores, sino que también construye y permite entender de qué manera estaremos frente a una representación verosímil pero falsa. Esta representación debe inducir a error o engaño, haciendo propia la identidad, acciones o declaraciones de una persona, alterando o causando confusión respecto de lo que diría. Por ende, debe haber un afectamiento a la honra, es decir, cómo los terceros perciben a una persona, otorgando elementos objetivos para efectos de esa construcción y no subjetivos, que es lo que se podría considerar del honor.
En ese sentido, cuando hablamos de las excepciones, el artículo recién aprobado parte haciendo referencia a lo que entendemos por representación digital verosímil pero falsa, y hace referencia literal al artículo 3. En este contexto, el artículo 5, inciso segundo, que ahora estamos discutiendo, también establece que toda generación y difusión de representaciones digitales verosímiles pero falsas, en los términos descritos en esta ley, se encontrará prohibida. Es decir, ¿cuál contenido? Aquel que modifica, recrea o sintetiza la apariencia, voz o atributos de una persona real, susceptible de inducir a error, confusión o engaño respecto a su identidad, acciones o declaraciones, afectando su honra.
La pregunta de la diputada es: ¿qué pasa si en algún momento alguien considera que un contenido es una representación digital verosímil pero falsa? Tendrá que demandar. Esto ocurre hoy en día, y las herramientas que otorga esta ley permiten considerar dicho contenido como prohibido, lo que ayuda a que se configure el ilícito civil. Además, el Ejecutivo ha construido un marco normativo en razón del artículo de responsabilidad y sanciones, que refuerza el estatuto civil para efectos de las posteriores demandas y entrega herramientas a las plataformas para establecer un canal de denuncia, donde también habrá una etapa previa, no solo jurisdiccional, para efectos del retiro a través de medidas cautelares.
Al observar esta serie de normas, se puede apreciar una congruencia y un marco normativo que define, plantea excepciones y prohíbe. Esta prohibición del contenido ilícito está inmersa en un ámbito civil, sin perjuicio de las responsabilidades penales que correspondan, que también se encuentran en uno de los artículos que el Ejecutivo está indicando. Esto es relevante, ya que el proyecto de violencia digital, que se está discutiendo, sanciona por la vía penal este tipo de conductas, incluyendo un agravante con connotación sexual cuando se realizan reproducciones de este tipo.
En este sentido, hay un marco normativo fortalecido y creemos que no representa contradicciones. Con esto, he respondido algunas de las dudas. Muchas gracias, Sebastián.
Diputada Yeomans, mire, yo quería reforzar un punto, porque efectivamente el artículo inicial establecía, sobre todo, el derecho al consentimiento. Ahí se atribuía la capacidad de establecer si era una utilización autorizada o no. En este caso, dado la definición de representación digital verosímil pero falsa, el acento está en la honra, en cómo afecta la honra. Yo creo que, pensando en los efectos que tiene este tipo de utilización de inteligencia artificial, es necesario establecer un marco normativo más prohibitivo que simplemente afirmar que existe el derecho a consentir. Debe haber un marco normativo que establezca cómo se puede hacer efectivo el derecho a la integridad digital.
Por ejemplo, en el caso de la indicación de la diputada Labra, se establece el derecho a consentir, pero no aclara cómo se hace valer el derecho a la integridad digital si es que este se ve vulnerado. Por tanto, en este sentido, me parece adecuada la indicación que presenta el Ejecutivo, ya que resalta la importancia de la integridad digital en esta materia.
Gracias, presidenta. Refiriéndome al último punto de la diputada Yomans, mi indicación que ella menciona no incluye el derecho a la integridad digital porque no estaba en el proyecto anteriormente. Solo quiero aclarar eso.
En segundo lugar, no me quedó claro si efectivamente las excepciones quedaban fuera de la definición de representaciones digitales. Yo creo que el gran problema aquí está en la honra, ya que es algo completamente subjetivo. Me queda esa confusión, pero hay un punto que no hemos aclarado, que tiene que ver con el etiquetado. Cuando hablamos de la exigencia de etiquetar por parte de las plataformas, esto se contradice con el derecho a la integridad digital. Me gustaría que me aclaren si efectivamente estamos pidiéndole a las plataformas que sean parte de un ilícito, porque están etiquetando algo que es previamente ilícito, de acuerdo a lo que aquí está definido. Tienen que etiquetar lo que tiene que ser una representación digital verosímil, pero falsa. Por lo tanto, eso implica que tienen que ser parte de un ilícito.
Solo para responder la última consulta, por su intermedio, presidenta, de la diputada Labra, el artículo 7, que luego vamos a discutir en la indicación número 15, establece explícitamente que el etiquetado de uso de inteligencia artificial es para todo tipo de contenido generado mediante inteligencia artificial, y el incumplimiento de esa obligación constituye una infracción. En ese sentido, no es que esté abriendo la posibilidad a que la plataforma genere una infracción o vulnere lo ya consagrado en el proyecto de ley, sino que busca reforzar un entorno digital más libre.
Es relevante que todos los artículos y las indicaciones que estamos discutiendo ahora se lean a la luz de la definición ya aprobada en el artículo 3. Si ustedes leen el inciso segundo del artículo quinto, dice que toda generación o difusión de representaciones digitales, verosímiles pero falsas, se rige por los términos descritos en esta ley. Esto es importante porque hace referencia a cómo está definida la representación digital verosímil pero falsa. Además, considerando la excepción que quedó establecida por la indicación presentada por la diputada Yomans, se encontrará prohibida. Es decir, no cualquier tipo de imagen digital generada mediante inteligencia artificial, sino en los términos descritos en esta ley. Por eso creo que es fundamental que todos y todas tengamos presente en la comisión la necesidad de leer los artículos con la definición ya aprobada en la sesión anterior.
Eso, presidenta, y pido disculpas porque me tengo que retirar e ir a la Comisión de Hacienda, donde vamos a votar el ingreso de Chile al CERN. Muchas gracias, Camila, que les vaya muy bien en el Senado.
Ok, Sebastián, entonces se queda en nombre del Ejecutivo. Diputada Labra, perdón que insista en esto, pero creo que esto es la sustancia del proyecto de ley cuando partimos con esta definición de derecho a la integridad digital. Respecto a lo que nos comentaba Camila, efectivamente el artículo 7 sobre la etiqueta establece que las plataformas deben etiquetar toda imagen o audio que haya sido generado o manipulado mediante inteligencia artificial. Cuando hablamos de las representaciones digitales verosímiles pero falsas, son un subconjunto de todas. Al estar incluidas, le estamos exigiendo que pongan etiqueta a algo que está totalmente prohibido. Aquí no tenemos nada que mezclar con las excepciones. Estamos pidiendo que se etiquete todo lo que tiene que ver con la manipulación mediante inteligencia artificial, incluyendo la definición de representaciones verosímiles pero falsas que están prohibidas. Por lo tanto, esto viene a etiquetar un ilícito.
Es importante recalcar que esta norma, al igual que aquella que fue aprobada en su momento en el proyecto de ley de inteligencia artificial, busca transparentar y establecer que la generación o no de un contenido que se encontrará prohibido tiene consecuencias civiles, y la persona afectada tendrá la tutela y la decisión de actuar en consecuencia.
Iniciar una acción civil o no. Evidentemente, también se pide transparencia. En el fondo, lo que hace esta norma es cautelar que aquellas imágenes, videos o audios que hayan sido generados por inteligencia artificial, independiente de su naturaleza, cuenten con una marca de agua. Esto se alinea con lo que ya fue aprobado, pero respecto a otro universo y otros actores. Esta disposición está delimitada a las plataformas digitales de redes sociales. Insistimos en que esta es una identificación que debe ser informada al público.
Hoy en día, este proyecto se encuentra en discusión, estamos en primer trámite y aún queda trámite legislativo por realizar. Sin embargo, vemos que esto es posible. Aunque no somos técnicos informáticos, hemos observado que existen plataformas que ya cuentan con etiquetas que indican la utilización de inteligencia artificial. Por lo tanto, estamos solicitando que se discuta sobre esta etiqueta, que se instaure y que se imponga a las plataformas el deber de informar cuándo estamos frente a contenido generado por inteligencia artificial, sin perjuicio de que, ante contenido prohibido, la persona afectada por sus derechos pueda ejercer una acción civil.
Diputada Yeomans, no veo contradictorio establecer la obligación de etiquetar y, a la vez, contar con un procedimiento para alegar en caso de que se considere que se está incumpliendo la normativa. Se está haciendo explícito para reconocer qué tipo de contenido ha sido generado por inteligencia artificial y cuál no. Esto permite identificar si una representación está prohibida o no.
Diputada Labra, gracias, presidenta. Solo un punto, ya que lo mencionó la diputada Yeomans. Cuando hablamos de que el etiquetado es para que el usuario final pueda identificar que algo ha sido manipulado con inteligencia artificial, mi gran duda es cómo una plataforma intermediaria podrá identificar que un contenido ha sido manipulado, cuando el que manipula es el generador de contenido. Esa es mi inquietud. La responsabilidad que se plantea en las indicaciones del Ejecutivo en cuanto al etiquetado recae en la identificación por parte de las plataformas digitales. Quienes difunden, como se expresa en varios puntos, son quienes generan o difunden el contenido. ¿Cómo va a tener claridad el que difunde que eso fue manipulado o generado con inteligencia artificial? Eso me gustaría entender.
Actualmente, hay plataformas donde uno puede ver el porcentaje de utilización de inteligencia artificial, por ejemplo, en imágenes. Recientemente, una imagen que era totalmente falsa, realizada con inteligencia artificial, fue analizada en una de estas plataformas y efectivamente mostró el porcentaje de manipulación. Por lo tanto, no creo que sea difícil para las plataformas que utilizan redes sociales verificar si un contenido es falso o no, especialmente cuando se trata de una réplica de otra persona.
Muchas gracias, diputada Yeomans. Ahora, pasamos a votación sobre esta indicación. Ponemos en votación la indicación número trece. El resultado de la votación es: cuatro votos a favor, dos en contra y una abstención. Se declaran incompatibles las indicaciones.
Gracias, Presidenta. En primer lugar, no hay indicación del Ejecutivo respecto al artículo 5, que se refiere a la prohibición y menciona excepciones que estaban en el origen del proyecto. Previo a la indicación de la diputada Llamas, este artículo era inconsistente con lo que había presentado el Ejecutivo. Creo que fue un error no haber presentado una indicación para eliminarlo. En mi caso, planteaba eliminarlo porque buscaba la coherencia entre una indicación anterior que había presentado y una que continúa. La indicación anterior ya se cayó, pero eso era lo que buscaba mi indicación.
Gracias, Presidenta. Le ofrezco la palabra a Sebastián, antes de pasar a votación.
Sí, por su intermedio, Presidenta. Nosotros efectivamente nos encargamos de que los artículos queden ordenados, pero según el oficio que presentamos ante esta comisión, el artículo 5 ha pasado a ser el 6, porque incorporamos uno. Este artículo de prohibición se reemplaza por el artículo 6, que se denomina protección post-mortem y que está más adelante en el comparado. Entonces, evidentemente, nosotros sí presentamos indicación, pero es para mantener el orden del proyecto de ley.
Gracias, Sebastián. Diputado Kaiser.
Gracias, señora Presidenta. En primer lugar, el artículo 5 dice: "Se prohíbe generar, difundir o almacenar imitaciones digitales realistas". Respecto al almacenamiento, la mitad de las cosas que tengo en mi computador nunca las bajé yo. Se almacenan solas, especialmente en el teléfono. Es un poco complejo desde el punto de vista técnico, y sé que se están almacenando cosas que tengo que borrar cada cierto tiempo, ya que me consumen la memoria. Por lo tanto, el almacenamiento ya genera un problema.
Respecto de la difusión, ¿qué significa difusión explícitamente? ¿Solamente compartir o dar "me gusta"? Porque dar "me gusta" en una red social, por ejemplo, genera que el algoritmo muestre esto a otras personas. El retweet es lo mismo. Entonces, la difusión puede transformarse en un tema de miles de personas que compartieron y estarían sometidas a una prohibición. Podríamos terminar con una norma como la que hay en Inglaterra, donde el año pasado hubo 13.000 detenciones por tuits. En Gran Bretaña, tienen 12 veces más detenciones que China en este momento, porque la norma, así como se está aplicando, mete en un saco a todo el mundo. Yo trataría de ser mucho más restrictivo en el fraseo, porque de otra manera, y así como funcionan las redes sociales, podría convertirse en un problema masivo. Podríamos tener 10.000, 12.000 o 15.000 personas que hubiesen cometido un delito, lo que ya no tendría mucho sentido.
Gracias.
Gracias, diputado Kaiser. Diputada Labra.
Muchas gracias, Presidenta. No sé si hay un error en el comparado, pero estaba revisando la indicación número 18 del Ejecutivo, que tiene que ver con lo post-mortem. Sebastián nos decía que eso reemplazó el 5, pero dice que se reemplaza el artículo 7. Es decir, se reemplazó post-mortem por post-mortem, pero no veo indicación del artículo.