Las actas de las sesiones 107 y 108 se ponen a disposición de las y los integrantes de la Comisión. Cuenta. La señora secretaria dará lectura a la cuenta. Gracias, Presidenta.
Se han recibido los siguientes documentos. Comunicación del Jefe de Bancada, Diputada Judy, por la que informa que la Diputada Marta Bravo será reemplazada temporalmente en esta sesión por el Diputado Sergio Bobadilla. Comunicación del Jefe de Bancada, Diputada Judy, por la que informa que el Diputado Daniel Lillayú será reemplazado en esta sesión por el Diputado Cristian Moreira. También se ha recibido un pareo el Diputado Cristian Moreira con la Diputada Gael Lloas. Oficio 6.855 de la ministra de Defensa, mediante el cual da respuesta a oficio 112 de esta comisión, por el que se solicitó informar acerca de las reglas de uso de la fuerza que se han entregado a las unidades destinadas a la protección de los centros nucleares del país. Comunicación suscrita por el director gerente de la Asociación de Productores Fonográficos y Videográficos de Chile, a IFPI Chile, la directora general de la Entidad de Gestión Colectiva de Derechos de Productores Audiovisuales, la presidenta de la Industria Independiente de Música de Chile y la presidenta de la Academia de Cine de Chile, por medio del cual manifiestan su precondición. Disculpación respecto al proyecto de ley que regula los sistemas de inteligencia artificial, que actualmente conoce la Comisión de Futuros Ciencias, Tecnología, Enrolo y Innovación, y solicitan dar lectura en sesión a su contenido. Esto a la cuenta presente.
Se ofrece la palabra sobre la cuenta. El diputado Álvaro Marcino tiene la palabra sobre la cuenta. Muchas gracias, Presidenta. ¿Se podrá hacer lectura de la carta de la Asociación de Productores Fonográficos y Videográficos? ¿Y Videográficos? Estoy de acuerdo, señor diputado. Denle lectura a la carta, por favor.
Muchísimas gracias, señora secretaria. Presidente, la carta señala de mi consideración, junto con saludarlos y representación de las asociaciones de productores fonográficos y videográficos de Chile, la Entidad de Gestión Colectiva de Derechos de Productores Audiovisuales, la Industria Independiente de Música de Chile y la Academia de Cine de Chile, nos dirigimos con el fin de manifestar nuestra preocupación respecto al proyecto de ley que regula los sistemas de inteligencia artificial. Como es de su conocimiento, las organizaciones que suscribimos esta carta hemos seguido muy atentamente el debate que se ha dado en la comisión respecto de la forma en que corresponde respetar los derechos de autor y conexos en el entorno de la inteligencia artificial, lo que se ha traducido en presentaciones realizadas directamente ante la comisión, aporte de antecedentes, reuniones con parlamentarios, etc. Motivados por la nula consideración que tuvo el proyecto de ley original respecto de la protección de los derechos de autor y la propiedad intelectual. Por ello, celebramos la aprobación de importantes indicaciones que han perfeccionado sustancialmente la regulación. Entre ellas, se destaca un principio de obligación de transparencia aplicable a los sistemas de IA cuando utilizan para su desarrollo contenidos protegidos por derechos de autor y conexos y la regulación de una excepción para permitir el aprovechamiento de contenido protegido mediante la minería de datos y textos.
para fines investigativos, sin perjuicio de la posibilidad de perfeccionarse esta excepción para hacerla aplicable únicamente a organizaciones sin fines de lucro. El motivo de nuestra preocupación radica en nuevas propuestas que deberá resolver prontamente la Comisión y que simplemente apuntan a debilitar o derechamente eliminar estas mínimas garantías de protección a la creación e innovación que luego de tanto esfuerzo y tiempo de dedicación fueron posibles de ser consideradas en el proyecto de ley. Sin estas garantías mínimas vinculadas a la transparencia y el fomento de la investigación y al desarrollo ajeno a la exploración comercial, se condena a toda la industria de la creatividad, la cultura y el arte a simplemente subsidiar forzosamente el desarrollo de sistemas de IA por parte de grandes compañías multinacionales que reportan enormes utilidades a nivel mundial. Creemos que el respeto irrestricto por la creatividad de todos nuestros creadores y artistas debe ser una de las piedras angulares de una adecuada regulación de la inteligencia artificial en nuestro país. Así se estableció, por ejemplo, la Declaración sobre Inteligencia Artificial Inclusiva y Sostenible para las Personas y el Planeta, conocida como Declaración de París 2025, la que consignó en su punto 4 lo siguiente. Subrayamos la necesidad de una reflexión global que integre, entre otras cosas, cuestiones de seguridad, desarrollo sostenible, innovación, respeto del derecho internacional, incluido el derecho humanitario y el derecho de los derechos humanos, y la protección de los derechos humanos, la igualdad de género, la diversidad lingüística, la protección de los consumidores y de los derechos de propiedad intelectual. En el mismo sentido, en una reciente entrevista de Paul McCartney a la BBC, en relación con eventuales nuevas regulaciones sobre la materia, el artista señaló que podrían permitir una tecnología de estafa, que podría ser imposible que los músicos y artistas se ganen la vida. Esta preocupación es sumamente justificada, lo que se demuestra por las recientes posturas de la empresa Meta, para la cual las obras protegidas no merecen ningún tipo de resguardo para ser utilizados por sistemas de IA, negándoles todo valor económico precisamente... para desarrollar negocios por miles de millones de dólares. No nos oponemos al desarrollo de la inteligencia artificial, por el contrario. Dicho desarrollo contribuye enormemente a fomentar, colaborar, difundir y analizar la creación de obras artísticas y culturales. Sin embargo, no por ello podemos quedar a merced de la IA, para que utilizando contenidos protegidos por el derecho a autor y derechos conexos, de manera opaca y poco transparente, generen nuevos desarrollos y se comercialicen a expensas de los titulares. Es por lo anterior que solicitamos que esta carta pueda ser leída en la comisión y permita contribuir a alcanzar una regulación que propueba la IA, pero basada en la transparencia y en el respeto a los derechos de propiedad intelectual.
Agradecemos de antemano su atención. Eso es, Presidenta. Muchas gracias, Secretaria. Hola, ¿cómo está? Mucho, queridos colegas, ¿cómo están? ¿Sigues en la cuenta o...? Ya terminé la cuenta. Terminada la cuenta. Muy bien. Muchas gracias.
Antes de entrar al orden del día, ¿algo que el colega quiere plantear algún punto?
Presidente, buenas tardes. Saludar a los colegas, al ministro y a su equipo. Presidente, quería insistir, ¿para cuándo estarían confirmadas las invitaciones de las dos personas que yo había solicitado? Una de ellas era el médico del centro del río de robótica. ¿Qué están pendientes? Gracias.
Secretaria, ¿tiene usted alguna...?
Presidente, no fijamos fecha para esas audiencias. Yo entiendo que una vez que terminemos de votar este proyecto, que esta conciencia, que viéramos a abocarnos a ello.
Muchas gracias, señor presidente. Dos puntos. Uno, nosotros teníamos, como todavía un proyecto de mentoría que pudimos revisar. Pero el segundo creo que es más interesante, no sé si más interesante, pero tiene que ver con el tema del derecho a autor. No hemos tenido a algún especialista que se haga cargo de cómo se hace en Estados Unidos, de cómo se ha resuelto en Estados Unidos, que probablemente se haya resuelto de la mano de fallos judiciales, no necesariamente de la mano de una legislación. Y esos fallos judiciales podrían servir para... Si tienen un sistema distinto que el nuestro, podrían servir de alguna manera de inspiración, dado que allá sí se protege de todas maneras el derecho de propiedad. Muchas gracias.
Gracias, diputado Geiser. Como estamos en este segundo trámite constitucional, en relación a ver las indicaciones, probablemente pudiésemos conversarlo y tomar algún acuerdo si hay alguna indicación en este punto que ameritase escuchar a algún especialista, yo les pido que lo conversemos y lo concordemos en el minuto que lleguemos probablemente a este punto, si es que hay indicaciones en esta área. Creo que sí hay, me dice la...
La Secretaría, así que les pediría que lo toque abordarlo, podamos tener una discusión, una exposición muy precisa. Muy bien. En el orden del día, esta sesión ha sido citada con el objeto de continuar con la discusión y votación en segundo trámite reglamentario al proyecto de ley que regula los sistemas de inteligencia artificial. Boletines 15.8.69-19, 16.8.21-19 respondidos en primer trámite constitucional con urgencia calificada de suma. Nos acompaña el ministro de Ciencia, Tecnología, Conocimiento e Innovación, el señor Aldo Valle, y además están acompañados de la asesora legislativa Camila Aguayo, Sebastián Galás e Ignacia Vázquez.
Ministro, antes de iniciar la discusión nuevamente, ¿quiere hacer uso de la palabra? ¿Quiere indicar algo? Estamos de lleno al proyecto.
Muchas gracias, presidente, pero la verdad es que nos parece más práctico iniciar el análisis de cada una de las indicaciones.
Perfecto. ¿Secretaria?
Presidente, nos corresponde la indicación 32. Es una indicación del diputado Daniel Lillayú y es para agregar un nuevo artículo 5 en el articulado, en el del título primero.
Artículo 5. Obligaciones de transparencia en determinados sistemas de IA. Todo proveedor de sistema de IA, entre los que se incluyen los sistemas de IA sin recurridente, que generen contenido sintético de audio, imagen, video o texto, velarán porque los resultados de salida del sistema de IA están marcados en un formato elegible por máquina y que sea posible detectar que han sido generados o manipulados de manera artificial. Los proveedores velarán por que sus soluciones técnicas sean eficaces e interoperables, teniendo en cuenta las particularidades y limitaciones de los diversos tipos de contenidos, los costos de aplicación y el estado actual de la técnica generalmente reconocido. Queda prohibida la generación, utilización o distribución de imágenes, producciones sonoras, visuales o audiovisuales de cualquier tipo o mensajes generados mediante el uso de sistemas de inteligencia artificial generativa y que utilicen la voz o imagen de una persona sin autorización previa y expresa.
Eso ha parecido. Se ofrece la palabra. Procedemos a votar la indicación. ¿O ministro?
Por su intermedio, Presidente, nos parece que se trata de una restricción que no tiene el grado de determinación necesario a efectos de establecer las condiciones básicas para la innovación. El desarrollo finalmente de la inteligencia artificial en el país, obviamente se funda en una buena intención, pero es muy amplia como restricción, porque compromete a toda práctica, a todo sistema de inteligencia artificial. Ese es el análisis que hemos hecho como Poder Ejecutivo.
Sí, estamos en la indicación 32 del diputado Daniel Lillayú. ¿Alguien más quiere agregar algo? ¿Sí a la palabra?
Muchas gracias, presidente. Yo creo que este es un elemento que ha estado permanentemente en la discusión respecto a los derechos de autor y conexo, respecto al uso de esto. Me llama la atención que el autor sea el diputado de la U y está en la línea de otras indicaciones que yo mismo he presentado. En ese sentido, yo creo que es importante transparentar la discusión en este segundo trámite reglamentario, sobre todo en la medida que nos avanzamos al meollo del asunto, que es el artículo 33, ¿sí? Me parece que sí, el de que modifica la ley de propiedad intelectual, para en definitiva decidir si es que vamos o no a involucrarnos, a continuar involucrándonos en esta discusión.
Yo creo que hay distintas posiciones que se han transparentado en distintos momentos. El Ejecutivo en su momento decidió abrir la discusión de propiedad intelectual, si es que sigue abierta, por supuesto que seguirá esta tensión que trasciende a esa materia, si bien tratamos de que inicialmente fuera una ley marco y no se involucraran en cada una de las temáticas, porque son claramente muchas, muchas áreas. Yo sé que hay distintas posiciones, todas legítimas. Yo voy a aprobar esta indicación porque va en la línea de otras que yo mismo he presentado. Pero creo que en algún momento vamos a tener que decidir si es que seguimos en esta pugna sobre los derechos de autor y conexos o vamos a justamente retraernos de esta materia que ha generado diferencia importante y que, a mi juicio, también ha tendido a ensuciar un poco el proyecto en esta discusión. En vez de llevarlo al foco, que era el inicial que tuvo la iniciativa, hasta que se ingresó la indicación que traía en materia de propiedad intelectual en su momento. Muchas gracias, presidente.
Sí, entretanto, en principio, de acuerdo con los productos... de inteligencia artificial puedan ser reconocidos como tales. ¿De acuerdo? Pero el segundo inciso de la indicación número 32 plantea que queda prohibida la generación, utilización o distribución de imágenes, producciones sonoras, visuales o audiovisuales, cualquier tipo de mensaje generado mediante el uso del sistema de inteligencia artificial generativa que utilicen la voz o imagen de una persona sin autorización previa y expresa. En primer lugar, la persona está viva o muerta. En segundo lugar, si la persona está viva, entonces no puedo hacer un meme de un político a través de una inteligencia artificial. No puedo agarrar un segmento de una película y hacer un chiste con la misma a través de inteligencia artificial. El punto es que esto va mucho más allá. Esto simplemente prohíbe que se utilice para hacer inábil el sistema para lo que lo usan millones de personas en este momento. Yo entendería o entiendo la necesidad de que la gente de inmediato pueda identificar si algo fue generado por inteligencia artificial o no. Porque, por ejemplo, si aparece un video de nuestro señor presidente llamando a la privatización de Codelco, eso podría generar cierta confusión. Pero en otras materias me parece que estaría yendo demasiado lejos porque impediría la comedia, la sátira y cuantas otras cosas que son perfectamente válidas desde el punto de vista de la utilización de imagen o de voz, incluso. Muchas gracias.
Ahí está. Muchas gracias, presidente, por su intermedio y tratando de responder un poco a lo que plantea el diputado Kaiser, presidente. Yo no tengo ningún problema en que excluyamos las figuras públicas del inciso segundo de esta indicación. Al contrario, somos figuras permanentes de sátira y de otro... y de otra humorada. Ahora bien, creo yo que el foco no es ese de la indicación necesariamente, sino que justamente prevenir situaciones complejas que se han dado, como por ejemplo en un colegio de la región metropolitana, donde un grupo de alumnos hizo con un sistema, un uso de inteligencia artificial, reproducciones de compañeras del mismo colegio en el cual reemplazaba el cuerpo de la alumna manteniendo sus rostros por mujeres desnudas. Creo que allí pudiera estar, creo que ese es parte del trasfondo que tiene esta indicación, que insisto, no es de mi autoría, es del diputado Lilayú, pero que yo comparto justamente esa visión de resguardo de la identidad de personas que no sean figuras públicas. Muchas gracias, presidente.
Señor Presidente, yo creo y estoy de acuerdo con el diputado Lacomarsino, que es un uso inaceptable de la...
tecnología, la que acaba de describir. Pero lo mismo sería, por ejemplo, el uso de un cuchillo para atacar a una persona. Y nosotros no por eso vamos a tener un cuchillo que no tenga filo, que no serviría para aquello para lo que fue originalmente diseñado. El punto es que, en mi opinión, la violación de ciertos derechos de la personalidad de terceros tiene que ser perseguido de manera penal y civil. Pero no necesariamente en lo que es el diseño del mismo sistema de inteligencia artificial, porque de otra manera lo que puede hacer es inhabilitar su funcionamiento completo. Ese es mi temor. Mi temor es que de la mano de esto nosotros hagamos que la inteligencia artificial no funcione. Yo prefiero perseguir el mal uso y efectivamente sancionar penalmente, civilmente. Civilmente se puede perseguir incluso a los padres de compañeros que hacen algo así por el daño, en nuestro código civil, gracias a Dios. Pero si nosotros quisiésemos impedir que la herramienta se use para esto, en la práctica estaríamos haciendo inviable el funcionamiento de la herramienta. Muchas gracias.
Sí, presidente. Le quería pedir su autorización para que Camila Guayo agregara una observación para enriquecer la discusión.
Muchas gracias, ministro y presidente. Quiero comentar que efectivamente la parte final de la indicación complejizaría la aplicación de sistemas de inteligencia artificial generativa en términos generales. Pero además, estando de acuerdo con el espíritu de lo que comentaba el diputado Lago Marcino, respecto a la protección, por ejemplo, de niños, niñas y adolescentes, comentar para su conocimiento que el Ejecutivo hace un par de semanas, a través del Ministerio de Seguridad y el Ministerio de la Mujer, ingresaron indicaciones al proyecto de ley de violencia digital, que justamente apuntan efectivamente a eso, y que prohíbe explícitamente la generación de imágenes o registros audiovisuales, ya sea por inteligencia artificial o no, pero que sabemos que en su mayoría se está haciendo de esa manera, que involucren acciones sexuales, genitales u otra parte íntima del cuerpo de otra persona, ya sea haya sido obtenido con su consentimiento o no, pero que esté siendo difundido. Entonces, solamente comentar que el Ejecutivo está haciéndose cargo de esa preocupación, entendiendo el mismo caso que comentaba el diputado por su intermedio presidente, y por otra parte, respecto por ejemplo al ejemplo que da el diputado Kaiser por su intermedio de una figura Chao. pública o una autoridad, que un video sea generado por inteligencia artificial y llame a un mensaje, que hemos visto algunos ejemplos en otros países, etc., eso también queda contemplado dentro de la manipulación subliminal en los riesgos de uso inaceptable del proyecto de ley.
Sí, presidente, simplemente complementar respecto de algunos temas que comparto sobre todo lo que la opinión que expresa la asesora con tanta claridad ahora, ¿verdad? Sobre esta materia, porque si nos vamos a preocupar sobre eventuales caricaturas o cosas que pueden ser el producto de la inteligencia artificial, primero nos estamos yendo al objeto de la ley que es la producción y no el resultado. Esto está protegido, además no nos olvidemos que el Código Penal ya sanciona delitos como la injuria y la calumnia. Específicamente el 421 dice, se comete el delito de calumnia o injuria no solo manifiestamente, sino por medio de alegorías, caricaturas, emblemas o alusiones. Por lo tanto aquí existe una protección a aquello, una protección penal a aquello ya en nuestra normativa. Por lo tanto yo creo que esta indicación en este sentido podría ser un poco confusa. Allí vas incluso, ¿cuál es el objeto de la acción, público o privado? ¿Quién va a ser el sujeto activo? Yo, en principio, esa es mi opinión. Muchas gracias.
Gracias, presidente. Voy a recoger un punto de lo que menciona la diputada Riquelme y el diputado Johannes Kaiser. Efectivamente, no solo este punto en particular de esta indicación ya está normado a través de otras leyes. De hecho, muchos más que ya están incluidos en esta ley que puede generar cierta duplicidad. Pero más allá de eso, me quiero referir a la última línea de la indicación donde se plantea que los proveedores deben velar porque sus soluciones sean eficientes e interoperables. Y esto habla de todos los usos de sistemas de IA, incluso los que no tienen riesgo evidente. Por lo tanto, que todos los sistemas de IA, ¿a qué nos referimos en primer lugar? Que sus soluciones...
sean eficaces. Y, en tercer lugar, que sean interoperables. Y eso es algo que sabemos que es técnicamente enviable, que todos los sistemas de inteligencia artificial sean interoperables. Por lo tanto, creo que también esta indicación mezcla un par de cosas que no tienen relación una con la otra.
Gracias, señor presidente. No sé si el micrófono o los parlantes están demasiado fuertes. Como una copia. Bueno, hay gente que dice que soy un hombre fuerte, pero la verdad es que es puro cariño.
Ya, ok. Mire, claro, el punto es el siguiente, señor presidente. Yo quería, en primer lugar, hacerme cargo de lo que planteó la diputada Riquelme, que me hace absoluto sentido. Quería consultar entonces si efectivamente estamos... A ver, si tenemos la identificación... Lo que nosotros queremos es que un producto de inteligencia artificial sea identificable como tal. En ese sentido, eso sí puede ser perfectamente viable que las empresas y las compañías que están haciendo la producción de inteligencia artificial generativa puedan identificar... el producto es una especie de sello de que es efectivamente de generación de inteligencia artificial. Y no creo que eso impida de ninguna manera su funcionamiento. Por otro lado, hacer presente que efectivamente eso sería o se extendería al tema de violencia digital, que lo que plantea la diputada Riquelme tiene toda la razón, que entrar a generar o a producir figuras penales, alternativas, o que versan sobre un mismo hecho, podría generar entonces un problema serio para determinar en tribunales qué figura se aplica. Entonces, quizás como una indicación hacia la Comisión de Seguridad por el tema de violencia digital y que nosotros no lo consideremos aquí.
No sé si la indicación la podemos votar por parte, señor presidente, o si es la indicación completa la que tendríamos que votar. ¿Se puede votar por parte? Me indica la secretaria. ¿Se puede? ¿Me indica que sí? Se puede dividir la votación y la indicación. No sé qué efecto va a tener sobre el resto de lo articulado.
¿Cuál es tu propuesta de votar separada? ¿Qué parte? Mi propuesta, señor presidente, sería votar el primer inciso de la indicación del diputado Daniel Ilayú, y después el segundo. Yo estaría a favor del primer inciso, pero no del segundo. Etaria, el último.
¿Qué nos propone? Presidente, ¿es posible dividir una votación? No hay problema en eso, lo que sí hay un tema informático que tenemos que dividir al título en dos votaciones distintas para poder hacerlo. Así que nos tendrían que dar unos momentos. Sí, sí, sí.
La técnica no siempre ayuda. Es que la verdad es que la diputada Galabra tiene razón en su punto, que era el tema de la interoperabilidad de los sistemas. En el sentido... teniendo presente que la indicación al artículo número 5, la obligación de transparencia y de informar que es un producto de inteligencia artificial, está mezclado con el tema de la interoperabilidad. Efectivamente, el artículo, o sea, la indicación completa no la podría respaldar. Quiero agradecer a la diputada Labra que ha hecho ver la luz al diputado Keiser, así que retira su indicación. Así es.
Bueno. Vamos a proceder a votar la indicación. La vamos a poner en votación. Sí, completa, porque... ¿En votación? Estamos en votación. ¿Quién falta votar? ¿Han votado todos los diputados y diputadas? ¿Falta alguien? Diputado Palma, falta tu voto. ¿Resultado de la votación?
Por la afirmativa, un voto, cinco en contra, una abstención.
Vamos a ver. Vamos a la indicación 33 de la diputada Paula Labra. Es para votar separadamente el artículo 6. Pero igual tenemos que votarlo por número el artículo 6 porque hay indicaciones de distintos numerales. Entonces, ¿no podríamos votar por separado el...? Ah, perfecto. Eso es lo que venía de la… Ya, entonces tiene razón.
La indicación de la diputada Lávera, la 33, es para reemplazar el artículo 6 por el siguiente. Artículo 6, usos de riesgo inaceptable de sistemas de IA. Serán usos de… y la 33 no. Ya, ya, sacarla. Sí.
Solo una pregunta para entender bien. Entonces, la indicación 33 estaría separada porque hay un acuerdo con el Ejecutivo en la 34, solo para entenderlo bien, para no equivocarnos, diputada.
Ah, le doy la palabra a ella.
Sí, lo que pasa es que la diputada había presentado esta indicación en sala para votar por separado en el artículo 6, pero ahora presentó otra que es para reemplazar una parte, entonces no quiere la votación separada. Eso es.
Sí, por favor, diputada.
Claro, como esa es la indicación que dio presentada en sala, habría que retirar la votación separada y en el fondo habría que discutir la que yo presenté para reemplazar el artículo, para sustituir. Decación 34 del Ejecutivo para reemplazar el numeral 1 del inciso primero del artículo 6 de la siguiente manera. 1. Manipulación subliminal. Sistemas de IA que emplean técnicas imperceptibles para las personas y que tienen como objeto la inducción de acciones que causan daños a la salud física y o mental. En particular, quedarán prohibidos los usos de sistemas de IA que, mediante manipulación o engaño, tengan por finalidad o efecto alterar el comportamiento de una o más personas, menoscabando su capacidad de decisión informada y conduciéndolas a adoptar decisiones que razonablemente no habrían tomado en ausencia de ellas. Esta prohibición no se aplicará a los sistemas de IA destinados a fines terapéuticos siempre que sea realizado conforme a la ley. En estos casos, se requerirá el consentimiento informado y específico y expreso de la persona.
También hay una indicación de la diputada Labra, la 35, para reemplazar el inciso primero del artículo 6. Usos de riesgo inaceptable de sistemas de IA. Serán usos de sistemas de IA de riesgo inaceptable aquellos establecidos en el literal A del artículo 5. La identificación de estos corresponderá a la mesa intersectorial participativa público-privada. En adelante, mesa intersectorial a la que se refiere el artículo XX. Eso es lo que se hace.
¿Qué deberíamos votar primero? ¿La ejecutiva, no? ¿Sí? Diputado Blanco Marcino.
Muchas gracias, presidente. Una de las cosas que más se nos reiteró en la discusión en general eran los cuidados respecto a los fines publicitarios, que yo creo que en cómo quedó el proyecto originalmente, cuando se fue a sala y volvió a esta comisión, estaba bien cautelado al indicar que no aplica esta... a esta prohibición para los impulsos de riesgo inaceptable a aquellos que se han destinado a fines publicitarios. para convencer al consumidor de, valga la redundancia, consumir dichos productos.
Entonces me genera esa preocupación que uno de los elementos que sí se fue reiterativo desde la industria del sistema de inteligencia artificial respecto a esa cautela en esta materia, que de hecho en la ley de inteligencia artificial de la Unión Europea está explícitamente también cautelado los fines publicitarios en aquellos usos de riesgo inaceptables. Muchas gracias, presidente.
Ministro, muchas gracias, presidente, por su intermedio. Efectivamente ha habido aquí un cambio respecto del texto originalmente aprobado en general, porque se está refiriendo específicamente a acciones que se expresan como manipulación o engaño. Y la publicidad no necesariamente debe recurrir a la manipulación o al engaño. Y por lo mismo, dejar esa acción publicitaria recurriendo a manipulación o engaño en el mismo estatus que la excepción refiere a fines terapéuticos nos parecía que no era un buen criterio y que, efectivamente, de lo que se trata es de evitar que en definitiva mediante estas acciones se impida decisiones informadas. Las decisiones informadas forman parte de un bien valorativo fundamental en una sociedad respetuosa de la autonomía, de la dignidad de las personas. Y no nos parece que ello sea contrario a que se pueda utilizar, desde luego, perseguir fines publicitarios, llevar a cabo actividad publicitaria mediante inteligencia artificial. Lo que se prohíbe es que medie allí la manipulación o el engaño con el propósito de alterar el comportamiento de las personas. Ese es uno de los riesgos que una sociedad plural, que una sociedad libre, que una sociedad democrática debe siempre salvaguardar. Y en eso consiste, en definitiva, este cambio, que es eliminar la excepción de cara, digamos, a la publicidad, pero en el bien entendido, como se dice expresamente ahí, los usos de sistemas de inteligencia artificial que mediante manipulación o engaño. Entonces, el fundamento es que hay un bien jurídico y moral fundamental, como es, en definitiva, la garantía que debe dar el derecho de que las personas no pueden ser objeto de manipulación o engaño o desinformación, aunque ello se haga con el propósito de convencer, porque la publicidad tiene también muchos otros recursos, ciertamente el lenguaje sintomático, esa función del lenguaje que es, en definitiva, interpelar, convocar, persuadir, sin recurrir a la manipulación o al engaño. Eso es, presidente. Muchas gracias, ministro.
¿No se hace alguien más o procedemos a votar?
Ah, perdón. Diputado, hablamos con Marcelo. Muchas gracias, presidente.
Disculpe que insista en el punto. E incluso me voy a contradecir con mis propios principios, pero como uno fue testigo de la discusión en general en dos momentos, tanto con la iniciativa parlamentaria como la… Como una vez fueron respondidas, uno de los planteamientos que se nos hizo era respecto a cuál es el alcance de causar daños en la salud física y o mental. No voy a poner el ejemplo que me contradeciría más con mis propios principios, pero voy a poner uno intermedio. Por ejemplo, un producto alimenticio que no es de lo más saludable. Un paquete de papas fritas, no sé. Alguien podría reclamar que genera daño a la salud física, ciertos alimentos. No voy a poner otro ejemplo que…
que probablemente la diputada Molina sabe muy bien aquí a mi lado y que hemos tratado de regular pero en otra instancia como es la Comisión de Salud. Entonces, justamente por ese alcance de productos que a veces en esta definición no están tan claramente ahondados y que pudieran generar ciertos daños a la salud física, sobre todo para los que venimos del área de la salud, es que se planteó en estos términos.
Entonces, por mí mejor que se retire. Por mí mejor que se retire, pero en honor a la discusión que dimos y que yo, en función de esa discusión y las concesiones que hicimos en su momento en distintas materias, una de ellas fue justamente esta, para que el proyecto caminara y avanzara, lo planteo aquí abiertamente.
Muchas gracias, presidente. Gracias, diputado Lago Marcino.
Diputado Alhambra. Lo que pasa es que me sorprendió un poco la redacción leyéndola una vez más, porque dice manipulación subliminal, sistema de inteligencia artificial que emplean técnicas imperceptibles por las personas, bla, bla. Esta prohibición no se aplicará a los sistemas de inteligencia artificial destinados a fines publicitarios ni terapéuticos, siempre que sea realizado conforme a la ley. Es decir, en el caso de que sean sistemas de IA destinados a fines publicitarios o terapéuticos, se podría entonces manipular subliminalmente para causar daño a la salud física o mental. Es decir, en el enganche gramatical queda muy feo el artículo, señor presidente. El artículo y también la indicación para poder hacer daño mental o físicamente en el caso de que sea para la farmacéutica o para la propaganda de la venta de otro tipo de productos. Me parece que no debiese quedar así. Gracias.
¿Laura?
Gracias, presidente. Yo quiero explicar mi indicación que tiene que ver con esto mismo, por supuesto, porque entiendo que si vota la del Ejecutivo, la mía se caería. Entonces, quiero explicarla brevemente. Dado este mismo debate que se está dando ahora, que tiene que ver con lo particular de cada uno de estos listados taxativos de los usos de inteligencia artificial que quedarían prohibidos por ser de alto riesgo, yo hago una indicación que es bastante innovadora, que modifica esto en primer lugar porque vengo a eliminar esta definición, estos listados taxativos, que en algunos casos pueden ser un poco amplios y cuestionables. Por ejemplo, que a mi juicio no me parece bien que quede prohibido que no se pueda utilizar inteligencia artificial en temas de seguridad. Por ejemplo, aquí está expreso que no se puede usar inteligencia artificial en evaluación de estados emocionales en la frontera, que podría ayudar mucho en el control de inmigración ilegal.
Más allá de eso, hay un cambio importante que yo propongo, que este listado, que efectivamente habría que considerar cuáles son los usos de riesgo inaceptables, quede a la definición de una mesa intersectorial participativa, público-privada, considerando la academia y la sociedad civil, que más adelante incorpora un artículo que viene a crear esta mesa, porque considero que con la inteligencia artificial y los malos usos, tenemos que preocuparnos para ocuparnos, pero comprendiendo la inteligencia artificial en nuestro país, de acuerdo a nuestra idiosincrasia, de acuerdo a nuestras convicciones.
Y les quiero dar un pequeño ejemplo. Estuve el otro día en un almuerzo donde una señora me dijo, yo uso demasiado inteligencia artificial, estoy muy involucrada. Yo dije, sí, qué bueno. Sí, porque uso ChatGPT todos los días. O sea, para nosotros no nos puede sonar tan raro, pero la inteligencia artificial es mucho más allá que ChatGPT. Por lo tanto, el conocimiento es muy bajo en nuestro país.
Por eso yo propongo que la definición de estos usos de riesgo inaceptables, que recordemos que según este listado quedarían prohibidos, con definiciones como esta de manipulación subliminal que dan mucha interpretación, es un poco restrictivo y puede generar incertezas jurídicas y, por supuesto, bastantes complicaciones en el uso, desarrollo e innovación en la inteligencia artificial. Por eso mi indicación viene a sustituir este artículo, dejando la definición de los usos de riesgo inaceptables a lo que ya está aprobado en el artículo 5 y quedando en manos de esta mesa intersectorial, que es público-privada, que va a ser dirigida a través de la división de tecnologías emergentes del Ministerio de Ciencia, que van a ser personas expertas.
que vienen a reemplazar el Consejo Asesor Técnico, que recordemos tiene un 53% de sus componentes de funcionarios de Estado, para que puedan definir cuáles van a ser estos usos de inteligencia artificial. Y más adelante puedo hablar más en detalle de la mesa, pero esa es mi propuesta para sustituir este artículo.
Antes de ofrecer la siguiente palabra, me ha pedido la secretaria hacer un alcance jurídico a la indicación.
Sí, estaba buscando la mesa intersectorial para ver la coherencia del proyecto y la verdad es que la creación por parte de un parlamentario de una mesa intersectorial participativa público-privada es inadmisible. Es algo que debiera crear el Ejecutivo.
Claro, pero obliga a participar a distintas personas, está el fondo dándole nuevas facultades a esos integrantes. Ay, sí, gracias, secretaria.
Pero, considerando lo que esto estaría, y como está definido más adelante en el título de gobernanza, estaría dirigido y a cargo de la División de Tecnología Emergente del Ministerio de Ciencias, que ya existe, donde, si me permite, para defender la admisibilidad, le voy a leer cuál es la función que está establecida en la creación de esta división, donde indica que va a estar a cargo de políticas relacionadas con la industria del futuro, basada en inteligencia artificial, biotecnología y tecnologías cuánticas. Además, fomentará la interacción con empresas, sector público y academia. Por lo que me parece bastante pertinente esta mesa, que estaría de acuerdo a las funciones que ya tiene la División de Tecnología Emergente a la que hago referencia cuando incorporo el artículo de gobernanza y la creación de esta mesa a cargo de esta división. En ese sentido, defendiendo la admisibilidad, no estaría creando ninguna nueva atribución.
Gracias, secretaria. Gracias, presidente.
Yo nuevamente quiero levantar el tema de la redacción del artículo 6, número 1. Efectivamente, dejamos o hacemos una excepción, es decir, permitimos el uso de la manipulación subliminal en el caso de que sea utilizada para fines terapéuticos o con fines publicitarios. Porque lo que se entiende aquí es lo siguiente. Manipulación subliminal, es el uno, ¿no? Uso de riesgo inaceptable. Manipulación subliminal, sistemas de inteligencia artificial que emplean técnicas imperceptibles para las personas y que tienen como objeto la inducción de acciones que causan daños a la salud física o mental. Y ahora se crea la excepción, es decir, se podría hacer lo antes descrito si es que los sistemas de IA que manipulan subliminalmente y emplean técnicas imperceptibles para las personas y que tienen como objeto la inducción de acciones que causan daño a la salud física o mental están dedicados a fines publicitarios o terapéuticos. No puede ser. O sea, por favor, si estamos de acuerdo con eso, entonces yo creo que no me puedo imaginar que estemos de acuerdo con que eso se... Es muy importante que nos detengamos en esta redacción y por lo mismo, con la mayor serenidad, es bien importante distinguir entre el texto original y el texto modificado en esta indicación por el Ejecutivo, porque efectivamente se saca lo relativo a los fines publicitarios. Ahora, bien podría entenderse, desde un punto de vista sintáctico, si se quiere, que se produce lo que está señalando el diputado Kaiser. O sea, que aquellas acciones que causan daño a la salud física o mental quedarían, pero claro, después dice fines terapéuticos. Entonces uno puede perfectamente entender y hacer sentido más bien en la interpretación de que cuando se trata de fines terapéuticos no hay daño a la salud.