Sesión ordinaria citada con objeto de iniciar la votación en particular del proyecto de ley, de origen en moción de los diputados y diputadas Gael Yeomans (A), Lorena Fries, Andrés Giordano, Javiera Morales, Ericka Ñanco, Camila Rojas, Patricio Rosas, Jaime Sáez, Emilia Schneider y Carolina Tello, que regula la creación y difusión de imitaciones digitales realistas de la imagen, cuerpo o voz de las personas, generadas mediante inteligencia artificial (boletín N° 17795-19), en primer trámite constitucional, con urgencia calificada de “simple”.La Comisión ha invitado esta sesión al Ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Aldo Valle Acevedo.
Invitados: * Ministro de Ciencia.
Lugar: Sala N° 310
tercer nivel (Sesión presencial)
Vista pública limitada
Esta es una vista pública que muestra solo la primera mitad de la transcripción. Para acceder al contenido completo, regístrate en nuestra plataforma.
0:00
En nombre de Dios y la Patria, se abre la sesión. El acta de la sesión 118 se declara aprobada. El acta de la sesión 119 se encuentra a disposición de las señoras y señores diputados. La señora secretaria dará lectura a la cuenta.
Gracias, Presidenta. Se han recibido los siguientes documentos: Oficio de Su Excelencia el Presidente de la República, mediante el cual hace presente la urgencia calificada de "simple" para el despacho del proyecto de ley que regula la creación y difusión de imitaciones digitales realistas de la imagen, cuerpo o voz de las personas generadas mediante inteligencia artificial. Este oficio también formula indicaciones al proyecto de ley, con su correspondiente informe financiero.
Comunicación del Jefe de Bancada de Diputados UDI, por la que informa que el diputado Daniel Layú será reemplazado en esta sesión por el diputado Fernando Bórquez.
Correo electrónico de la diputada Paula Labra, a través del cual solicita invitar para la próxima sesión a los fundadores de la startup WiseMed o a los representantes que ellos determinen, para exponer sobre su plataforma tecnológica, cuyo principal objetivo es optimizar la gestión hospitalaria, especialmente en el sector público, en ámbitos como la reducción de listas de espera, entre otros.
Oficio 7 de la directora del Centro de Ciencia del Clima y la Resiliencia, señora Pilar Moraga, mediante la cual remite una carta abierta en la que se exponen las consideraciones vinculadas a la no adjudicación de fondos para el CR2 en el concurso de centros de interés nacional de la Agencia Nacional de Investigación y Desarrollo, lo que consideran perjudica el desarrollo de la ciencia de excelencia y su contribución a la toma de decisiones públicas en materia de cambio climático.
Esto es toda la cuenta, Presidenta. Muchísimas gracias. Le damos la bienvenida al Ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Aldo Valle Acevedo, y a todas las personas que lo acompañan. Vamos a suspender porque tenemos que ir a la sala y una vez que comience la sala, retomamos. A las 3:15 de la tarde más o menos estará bien para retomar.
15:00
Andrés Giordano, Javiera Morales, Erika Ñanco, Camila Rojas, Patricio Rosas, Jaime Sáez, Emilia Schneider y Carolina Tello presentan el proyecto de ley que regula la creación y difusión de imitaciones digitales realistas de la imagen, cuerpo o voz de las personas generadas mediante inteligencia artificial. Este se encuentra en primer trámite constitucional, con urgencia calificada de simple.
Para esta sesión hemos invitado al señor Ministro de Ciencia, Tecnología, Conocimiento e Innovación, Aldo Valle Acevedo. Lo acompañan los asesores legislativos Camila Aguayo y Sebastián Galaz. La secretaria general de Gobierno ha excusado la inasistencia de la ministra Camila Vallejo a esta sesión debido a actividades laborales previamente agendadas. En su representación se encuentran presentes los asesores legislativos Matías Rojas y Loreto González Pérez. Bienvenidos todos.
Vamos a dar unos minutos para que pueda llegar el ministro. Mientras tanto, podemos ir revisando lo que tenemos.
Ministro, le vamos a dar la palabra de inmediato para que usted pueda exponer.
Muchas gracias, presidenta. Hemos hecho un conjunto de indicaciones que, sin apartarse de los objetivos normativos fundamentales del proyecto, logra, a nuestro juicio, algunas mejoras desde el punto de vista de la regulación que se busca. Me atrevería a decir que la totalidad de los artículos, si bien no se trata de una indicación sustitutiva, sino que va artículo por artículo, se logran evitar, me parece a mí, riesgos de colisiones con otros textos legales.
Se precisan bastante bien los supuestos normativos, es decir, las conductas que se busca regular a partir de un principio normativo fundamental, que es la protección de la honra de las personas. Esto fue consecuencia, por una parte, de la discusión ya habida en la comisión, y por otra, acogiendo las recomendaciones que distintos expertos hicieron precisamente en una sesión en que se escucharon esas recomendaciones y análisis.
Tiene por lo mismo el propósito de establecer de una manera muy explícita reglas interpretativas que contribuyen, desde luego, al principio de legalidad, tratándose de materias que establecen prohibiciones y restricciones a la conducta, y que, a partir de la infracción de esas mismas, se siguen consecuencias sancionatorias. Se precisa muy bien conceptos que hasta ahora en el proyecto original era posible que hubieran quedado ambiguos.
20:00
A discusiones que finalmente impidieran una discusión y su aprobación en los términos que se persiguen. Entonces, desde luego, hay indicaciones en el primer artículo sobre el objeto normativo de la ley.
Respecto del ámbito de aplicación de la ley, se considera tanto desde el punto de vista personal como desde el punto de vista espacial, con las determinaciones normativas que aparecen en estas indicaciones. También se ocupan de precisar conceptos que se incorporan al texto, a mi juicio, de una manera necesaria e imprescindible. Por ejemplo, cuando se habla de imágenes realistas, es más preciso referirse a ellas como representaciones digitales verosímiles pero falsas, puesto que la expresión anterior daba lugar a interpretaciones que pudieran no conducir al objeto de regulación.
Cuando se emplea la expresión "plataformas digitales de redes sociales", se precisa a qué se refiere y qué se exceptúa, como los servicios de mensajería, de modo de acotar bien el objetivo al que se dirige este proyecto de ley.
Como una condición para garantizar la eficacia jurídica, se establece la necesidad de que las plataformas que operen en el territorio nacional, pero que no tengan domicilio ni representación legal, cumplan con esta obligación. Se especifica cuándo operarán en el territorio nacional y de qué manera se entiende que tienen operación en el mismo. Esta es una condición necesaria para dar eficacia a la norma legal, ya que, de lo contrario, quedarían situaciones al margen de la jurisdicción del Estado de Chile.
Asimismo, se establece de manera explícita el derecho a la integridad digital, entendiendo que es un derecho fundamental de la persona. En torno a este derecho, se establece una norma de protección que prohíbe la producción de representaciones digitales verosímiles pero falsas. Esto incluye tanto la inteligencia artificial generativa como contenidos sintéticos que produzcan los mismos efectos que se señalan en la disposición que establece el concepto de representación digital verosímil pero falsa.
Se garantiza también la extensión de esa protección más allá de la vida de la persona afectada, otorgando derechos a sus herederos o representantes legales. Además, se establece una obligación de etiquetado visible del uso de inteligencia artificial, lo cual no perjudica la producción de quienes son los desarrolladores u operadores de esas imágenes, pero garantiza el derecho de las personas a saber si están ante representaciones digitales falsas o producidas por inteligencia artificial, o auténticamente reales.
Finalmente, se regula la responsabilidad civil y las medidas cautelares que la jurisdicción civil pudiera adoptar bajo ciertas condiciones. También se establece la obligación de un canal de denuncias, que se incorpora a la discusión.
25:00
No, ese canal de denuncia en la propia página web de la plataforma de que se trate permitiría, desde luego, una solución entre las personas de carácter privado y las plataformas. Esto también es un anticipo que no hace necesariamente concurrir de inmediato a la autoridad, sino que deja ese espacio para que sea el propio afectado quien, a través de ese canal de denuncia, notifique la afectación de un derecho. Se deja, entonces, a la plataforma o red de que se trate la posibilidad de restablecer las condiciones que impidan el daño o el perjuicio a la integridad digital de la persona afectada.
Luego, se establece una potestad sancionadora administrativa y unos criterios de aplicación que permiten distinguir, dado que no todas las plataformas o empresas que puedan estar detrás de esas plataformas tienen el mismo tamaño o la misma responsabilidad. Esto permite graduar esa responsabilidad, alejándose de una pura responsabilidad administrativa de carácter objetivo. Además, se establecen infracciones y criterios de ponderación para la aplicación de esas sanciones.
Es un texto, Presidenta, que contribuye a darle una estructura más comprensible, tanto desde el punto de vista jurídico como en cuanto a evitar riesgos de colisiones con otros textos legales. Se busca evitar la superposición que siempre da lugar a interpretaciones y que, en muchos casos, pone en tela de juicio los alcances de la norma que se busca establecer. Esto es crucial para que quienes tengan que hacer valer el ejercicio de derechos frente a estas regulaciones no vayan más allá de lo que el legislador puede establecer en términos de prohibiciones y restricciones, especialmente en interacciones donde claramente hay un sujeto vulnerable frente a instituciones u organizaciones que disponen de mucho más poder. Solo la ley y el derecho pueden garantizar ese equilibrio necesario en la relación entre los ciudadanos y las grandes plataformas digitales.
Este último comentario también lo hago en el contexto de que ya no solo se habla aquí de inteligencia artificial, sino que pueden ser otras tecnologías muy próximas o afines que también den lugar a conductas que merecen regulaciones normativas para proteger la honra de las personas.
Eso es, Presidenta. Muchas gracias, Ministro. Abro la palabra al resto de los invitados, si tienen algo más que agregar. No. Señores diputados y diputadas, ¿tienen preguntas o comentarios? No. Ok, ya tenemos el comparador. Diputada Laura, tiene la palabra.
Muchas gracias, Presidenta. Aprovecho de saludar al Ministro y a sus asesores. Solo quiero hacer un comentario: las indicaciones del Ejecutivo son bastante profundas y modifican sustancialmente muchas cosas del proyecto de ley. Lamento haber tenido tan poco tiempo para revisar esto antes de la votación, ya que las indicaciones presentadas se basan en el proyecto original, siendo que esto reemplaza considerablemente la sustancia del proyecto de ley. Solo quería hacer ese comentario, que es lamentable no haber tenido más tiempo para revisarlo previamente en la discusión.
30:00
Vamos entonces, entendiendo el punto de la diputada Labra. Siempre es bueno tener acceso a la revisión de las indicaciones con tiempo. Sin embargo, podemos en este caso ir revisando de a una y avanzar en las indicaciones que podamos, como lo hemos hecho en otros proyectos discutidos en esta comisión, para darle tramitación a estas indicaciones que son particulares.
Comencemos con la primera indicación. Pedimos el apoyo a nuestra secretaria para que nos guíe en esta discusión. Presidenta, la primera indicación es del Ejecutivo y consiste en reemplazar el encabezado del Título Primero por el siguiente: Título Primero: Disposiciones Generales.
Vamos entonces a colocar en votación la primera indicación. Lo que veo es que esta indicación solo reemplaza el encabezado. Procedemos a votar. Resultado de la votación: cinco votos a favor. Muy bien, aprobado.
Pasemos a la indicación número dos. Esta es del Ejecutivo y propone reemplazar el artículo 1 por el siguiente: Artículo 1º: Objeto de la ley. La presente ley tiene por objeto proteger la identidad e integridad de las personas frente al uso de inteligencia artificial, en adelante IA, u otras tecnologías, en la generación, modificación o difusión de representaciones digitales verosímiles pero falsas de su imagen, cuerpo o voz.
Ahora, damos la palabra frente a esta indicación. ¿Algún diputado? Ministro, por favor, sobre la indicación número dos. Sebastián Galaz, puede hacer esa aclaración.
Muchas gracias, Presidenta. Para explicar brevemente el objeto de esta indicación, durante el debate en general de esta ley se evidenció que estamos ante un problema que debemos abordar y sobre el cual hay que debatir. En esas instancias, se destacó la importancia de no solo hablar de IA, sino también de considerar otras tecnologías que en el futuro podrían realizar funciones similares a la IA, es decir, generar y modificar imágenes mediante sus propios programas.
Además, introducimos por primera vez el concepto de representaciones digitales verosímiles pero falsas de la imagen de una persona, su cuerpo o voz, lo cual también se aborda más adelante en la siguiente indicación del Ejecutivo. En particular, esta indicación toma en cuenta las opiniones y observaciones surgidas durante el debate general, aclara el objeto y permite continuar con la aplicación y definición de este nuevo concepto, tanto en el ámbito de aplicación como en el artículo de definición.
Muchas gracias, Sebastián. Ofrezco la palabra a la diputada Labra. Gracias, Presidenta. En este punto, tengo varios comentarios porque dado que estamos...
35:00
Hablando del objeto de la ley, me voy a referir a todo lo que tiene que ver con el mismo, así que, por supuesto, es tangencial a los artículos que están planteados. En primer lugar, considero, y también lo plantearon distintos expositores aquí, que esta ley, que busca proteger la identidad e integridad de las personas, es algo que ya sabemos que está regulado por distintas legislaciones vigentes y otras que están por entrar en vigencia.
Quiero dar un ejemplo particular. Cuando hablamos de proteger la integridad de las personas frente a los deepfakes, en este nuevo concepto que se incorpora de representación digital verosímil pero falsa, podríamos especificar que en la ley de inteligencia artificial que actualmente se discute en el Senado, esto podría ser considerado un uso de alto riesgo, y ahí ya quedaría protegido, resguardado e inclusive con sanciones. No podríamos llegar a crear una ley particular para cada uno de los sistemas de inteligencia artificial, ya que hay usos que están definidos taxativamente, como los riesgos inaceptables de la manipulación subliminal. Podríamos establecer una ley específica para sancionar y proteger así la integridad de las personas.
Me parece que esto va en esa línea. ¿Y por qué? Hay estudios, y también lo manifestaron aquí en la comisión, que indican que al menos el 90% de los problemas relacionados con los deepfakes son para casos de pornografía. En estos casos, hay un modelo de negocio detrás que incluso implica lavado de activos, conocido como "deepfake as a service", y hay toda una red criminal que representa el gran problema de los deepfakes. Este proyecto de ley parece abordar el 10% restante, y al analizar las indicaciones y lo que se ha planteado, se hace cargo de este porcentaje, que podría interpretarse como desinformación hacia los políticos, especialmente en lo que respecta a las figuras públicas, para evitar que se tergiverse su voz, entre otros aspectos.
Sin embargo, creo que este es un problema estructural del proyecto de ley. Considerando las indicaciones que he revisado, se censura a priori la libertad de expresión, ya que al eliminar estas excepciones, estamos dejando fuera todo lo relacionado con la información pública y el discurso público. Teníamos excepciones que podrían haberse perfeccionado, pero que evitaban esta censura.
Por otro lado, también lo comentó el ministro al referirse a las distintas indicaciones. Al exigir a las empresas internacionales que tengan un representante legal en Chile, estamos violando distintos tratados internacionales, como el Tratado de Libre Comercio con Estados Unidos, que facilita y no exige dicha representación. Al contrario, lo hace de manera flexible para que no sea una exigencia, y con estas indicaciones estaríamos violando ese tratado, entre otros.
Por lo tanto, me he extendido un poco en este tema y después podremos ver en detalle cada punto, porque creo que el objeto de la ley, a mi juicio, es algo que ya está regulado y que no estamos abordando el problema real. Muchas gracias. Vamos a tener que suspender nuevamente, porque nos están llamando a votar en la sala. Una vez que votemos, volveremos a retomar.
1:00:00
Retomamos entonces. Se reanuda la sesión. Quedamos en las observaciones que hizo la diputada Labra. Voy a ofrecer la palabra antes de pasar a votar. Ministro.
Muchas gracias, presidenta. Tenemos algunos comentarios. Le quiero pedir autorización para que Sebastián pueda hacer el primer comentario y luego haré uno yo. Muchas gracias, ministro, por su intermedio, presidenta. Creo que, antes de pasar a la explicación, es importante ordenar un poco la discusión, porque efectivamente lo que estamos abordando es el artículo 1, que se refiere al objeto de la ley. La diputada Labra mencionó algo muy importante respecto a qué es lo que estamos regulando. Gran parte del debate ha dejado claro que las representaciones digitales que afectan a las personas son reales. Por lo tanto, el Ejecutivo, más allá de referirse a la imitación digital realista como concepto, enfoca todos sus esfuerzos en aquellas representaciones digitales que son verosímiles, es decir, que se acercan a la realidad, pero son falsas.
Es por ello que más adelante se define aquella representación digital verosímil pero falsa como el contenido que se crea, modifica o sintetiza la apariencia o la voz de una persona, utilizando atributos reales de una persona real, con el fin de inducir al engaño, a la confusión y, en última instancia, afectando la honra de la persona. Esto tiene sentido en relación a las representaciones que refieren a la pornografía y al tipo de negocio que hay detrás de estos deepfakes. Por ello, el Ejecutivo se enfoca en este concepto, abandonando el término de imitación digital realista para centrarse en aquellas representaciones que causan daño a las personas.
Además, es importante aclarar que esta comisión ha visto y analizado el proyecto de ley sobre inteligencia artificial. Este proyecto establece un marco que se refiere a los sistemas como algoritmos y a los proveedores y sus operadores, desde el punto de vista de lo que se desarrolla, se construye y se verifica en el último minuto, antes de su puesta en servicio en el mercado. Esto es muy distinto a lo que este proyecto de ley intenta hacer, que se enfoca en el uso privado o personal que cada persona hace de la inteligencia artificial.
1:05:00
Que es otro punto que tiene la indicación del Ejecutivo, sino que también otras tecnologías que refieran o recaigan en una conducta precisa, que consiste en la generación de representación digital verosímil pero falsa, o bien su difusión. Entonces, abandona en el fondo la discusión de qué es lo que estamos regulando. Acá no estamos regulando a los proveedores, ¿cierto? O como lo hace el proyecto de inteligencia artificial, que refiere a algoritmos y a usos inaceptables, como la categorización biométrica para obtener datos basados en la raza de la persona, etcétera. Más bien, se trata de un uso privado, de lo que hacen las personas con estas tecnologías, no solo de la inteligencia artificial, sino de cualquier otra tecnología que tenga como fin crear una representación digital de una persona para inducir engaño o error, o, en última instancia, afectar su honra. Es por ello que este artículo es tan importante en el objeto de ley que construye la Ejecutiva a raíz del resto de normas, y por lo mismo esperamos la aprobación por parte de la comisión.
Muchas gracias, presidenta. Quería insistir en la diferencia que es muy importante en el derecho entre lo general y lo particular. El proyecto de ley de inteligencia artificial regula, como dijo Sebastián hace un momento, los usos de los sistemas de inteligencia artificial y no determinadas conductas asociadas a efectos en la honra de las personas u otro bien jurídico. ¿Y por qué es necesario hacer esta diferencia? Es necesario por nuestro propio sistema jurídico, en el sentido de que, si se siguen sanciones, el tipo de conducta debe ser descrita de manera muy específica. El bien jurídico protegido debe estar concretamente determinado, porque es eso lo que garantiza la certeza jurídica. Esto asegura que el sistema jurisdiccional, la administración del Estado y el Poder Ejecutivo no extenderán los efectos de determinadas normas jurídicas más allá de los límites que el legislador ha determinado de manera expresa y acotada.
Por lo tanto, hay un principio de seguridad jurídica que proviene de la sanción ante un acto determinado, no ante una conducta que se pueda interpretar de manera extensiva, ni por analogía, porque de aquí se sigue una sanción. No veo que al determinar el objeto de la ley se esté generando una superposición o redundando en una regulación que, por lo demás, todavía no sería tal, dado que es un proyecto de ley que está en tramitación.
Gracias, ministra. También quiero saludar al ministerio, a los trabajadores del ministerio y al ministro, por cierto. Respecto a lo que señalaba por su intermedio la diputada Paula, quiero recoger algunas de las intervenciones que realizaron los expertos dentro de la comisión. Una de ellas enfatizaba la necesidad de tener una perspectiva de integridad y no del derecho a propiedad intelectual, para poder hacer una diferenciación respecto a otras legislaciones que se han mencionado.
Por otro lado, cuando se habla de la legislación que hemos discutido aquí, del proyecto de ley de inteligencia artificial, lo que se regulaba era la acción de los operadores y no de los usuarios finales. Eso es lo que nosotros estamos regulando en esta ocasión. Por lo tanto, hay dos diferencias que considero importantes y que también dan una razón de ser al objeto de este proyecto de ley.
Pasamos entonces a votar la indicación número 12 del Ejecutivo.
1:10:00
Come. ¿Y no lo vamos a agregar ahora? Vamos de nuevo en votación. Resultado de la votación: cuatro votos a favor, uno en contra, una abstención. Aprobada la indicación número 2. La indicación número 3 es del Ejecutivo para reemplazar el artículo 2 por el siguiente:
Artículo 2. Ámbito de aplicación. Las disposiciones de esta ley serán aplicables a todas las personas naturales y jurídicas. En particular, se aplicará a las plataformas digitales de redes sociales que ofrezcan sus servicios en el territorio nacional. Para efectos de lo anterior, se entenderá que estas ofrecen sus servicios en el territorio nacional cuando se verifique alguno de los siguientes criterios:
a) Utilicen alguno de los medios de pago autorizados por la Comisión para el Mercado Financiero o faciliten transferencias o depósitos bancarios nacionales como medio de pago de suscripciones o membresía a la plataforma.
b) Utilicen medios de comunicación para publicitar o promocionar sus servicios en territorio nacional, así como operar bajo un nombre que utilice referencia al país, su territorio, personajes de público conocimiento o históricos.
c) Auspicien, patrocinen o tengan contratos similares con personas, entidades o eventos que se ejecuten en el territorio nacional.
d) Operen a través de una sociedad constituida en el país, sin perjuicio de lo señalado en el artículo 4 de la presente ley.
e) Ofrezcan sus servicios a través de un dominio web que termine en .cl.
También hay una indicación de la diputada Laura para reemplazar este artículo. Quedarán sujetos a las disposiciones de esta ley:
a) Toda persona natural, nacional o extranjera que utilice la imagen, cuerpo o voz de otra mediante tecnologías de inteligencia artificial para crear contenidos audiovisuales o sonoros realistas sin su consentimiento.
b) Toda plataforma digital que difunda, reproduzca o mantenga disponible dicho contenido en territorio nacional con infracción a esta ley.
Eso es, presidenta. Muchas gracias, secretaria. Vamos entonces, le damos la palabra al Ejecutivo y luego a la diputada Labra.
Muchas gracias, presidenta. Lo que hace esta indicación es establecer el ámbito de validez de las disposiciones de esta ley, tanto desde el punto de vista personal como desde el punto de vista espacial, porque son, desde luego, una condición de posibilidad para lograr la validez del ordenamiento jurídico nacional. Se precisa bajo qué condiciones se entiende que, en el caso de plataformas digitales de personas jurídicas, ofrecen su servicio en territorio nacional cuando se verifiquen y se precisa, digamos. En todas esas hipótesis y criterios, no hay ninguno que represente una restricción al libre tránsito de los servicios o productos de empresas, en definitiva limitaciones a la libertad de comercio internacional. Se trata simplemente de condiciones de procedimiento que harán posible la aplicación de normas legítimamente establecidas por el Estado de Chile. Ese es el propósito y se trata simplemente de criterios que dan cuenta efectivamente de actividades económicas que se realizan en el país, que se podrán realizar con toda libertad, solo que bajo determinados supuestos puede darse la condición de tener que notificarles un procedimiento.
1:15:00
Contenido restringido
Contenido premium
Este fragmento pertenece a la segunda mitad de la transcripción. Para acceder al contenido completo, regístrate en la plataforma.