Cámara de Diputados - Comisión de Ciencias - 15 de enero de 2025

¿Agregar algo antes de partir la votación? Buenos días, señor presidente, buenos días a los diputados y diputadas. Estuvimos, primero, el... lo conversé con el presidente, está sesionando en paralelo la Comisión de Cultura, donde hay un proyecto en el que tengo que estar en paralelo y como todavía no me clono, voy a estar al principio de la sesión acá y luego voy a estar en la sesión de allá, y va a quedar el equipo y luego vuelvo, les pido disculpas, pero era una sesión en la que estábamos citados también y lo conversamos con el presidente. Lo segundo es que el equipo técnico trabajó intensamente hasta ayer al final del día. A propósito de la discusión que tuvimos en la última sesión con relación a la incorporación de los usos y sus definiciones, se llegó a un acuerdo con una indicación que entiendo está presentando la diputada, que entendemos recoge muchas de las preocupaciones de fondo que existían respecto a la consistencia con el proyecto, incorpora una definición de uso que nos permitiría redondear muchas de las discusiones que hubo en la última sesión. Eso, señor. Perfecto. Esto es la indicación que van a incorporar en relación al artículo 5, ¿no es cierto? La vamos a incorporar y le vamos a dar lectura para... Sí, perdón, ¿qué me pidió la palabra la diputada Laura? Diputada, por favor. Gracias, presidente. Antes de empezar con la votación, me quedé pensando cómo la mejor propuesta de trabajo para que podamos avanzar de manera más expedita. Y lo que estaba pensando, para que lo discutamos aquí, la mesa de asesores funciona. Funciona, yo creo que está bien el horario que ya está definido para que puedan acomodarse y, idealmente, estar todos. Que se realice el debate. Luego los asesores lo conversan con sus diputados y yo creo que lo más sano es que en la comisión lo discutamos cuando...

La discusión se entrampa mucho, quizás podemos suspender 10-15 minutos, presentar una propuesta de indicación y si no se llega a consenso, se vota nomás. Creo que es lo pertinente, porque la semana pasada la ministra propuso en su momento hacer una definición de uso que hace bastante sentido, entonces si se hubiese presentado quizás en el momento, lo podríamos haber sanjado. Ah, y lo otro, que podamos citar expertos, pero quizás los diputados también incorporar otros, porque la semana pasada consultamos a expertos y no respondieron. Entonces también creo que podría ser bueno como un comodín. ¿Diputado Kayser? ¿Qué piensa el candidato, diputado Kayser? Sin excepción. Como cambian las cosas. No, señor presidente, yo quería solicitar que dado que la indicación fue consensuada entre los equipos técnicos y todos los parlamentarios, si podemos también firmarla. Muchas gracias. Bienvenido, ¿no? Por cierto, ¿le damos lectura a la indicación? La indicación es para sustituir el artículo 5 por el siguiente. Artículo 5. Clasificación de los usos de sistemas de IA. Los usos de los sistemas de IA se clasifican de acuerdo con sus riesgos en las siguientes categorías: A. Usos de riesgo inaceptables. Agrupa sistemas de IA incompatibles con el respeto y garantía de los derechos fundamentales de las personas, establecido en el artículo 6, por lo que su distribución, introducción en el mercado o puesta en servicio se encuentra prohibida. B. Usos de alto riesgo. Agrupa sistemas de IA autónomos o componentes de seguridad de productos cuya utilización puede afectar negativamente los derechos fundamentales de las personas, especialmente si estos sistemas fallan o se utilizan de forma impropia. C. Uso de riesgo limitado. Agrupa sistemas de IA cuyo uso presenta riesgos no significativos de manipulación, engaño o error, producto de desinteracción con personas. D. Uso sin riesgo evidente. Agrupa a todos los demás sistemas de IA cuyos usos no entran en las categorías mencionadas en los literales precedentes. Para los efectos de esta ley se entenderá, por uso, el desarrollo, prueba y validación de los sistemas de IA, así como su distribución, introducción en el mercado o puesta en servicio, o cualquier actividad realizada por un operador. También reemplaza un literal A en el literal A del artículo 24, pero no es el momento. Bueno, quienes quieran suscribir la indicación, lo podemos hacer en este instante. Si yo la quiero suscribir, no tengo que firmar. Estamos haciendo circular la indicación para que quienes quieran suscribirla, obviamente puedan firmar y luego la sometemos a votación. Muy bien, hemos ya tomado, recabado las firmas y vamos a someter a votación. Esta indicación, se entiende que si se aprueba la indicación, el resto está caído. Entonces, ¿la votamos?

Separado, ya para que no haya problemas. ¿Les parece? Gracias. Ya, vamos a la votación. ¿Podríamos votar la letra B por separado, por favor, de la indicación del ejecutivo? Sí, sí. No hay problema, vamos a votar por separado. Vamos a votar por separado la letra B y el 24, ¿ok? Así que usted nos inicia la votación. Vamos en votación. Sí, no hay problema. ¿Diputada de nada? No, solo quería mencionar que en su momento a mí me hacía harto sentido considerar aplicación en vez de uso, porque es un concepto que se utiliza bastante; uso también es algo que se utiliza bastante en la regulación que existe internacionalmente, y yo pensaba que uso se podía malentender como usuario final, pero yo creo que la definición viene a dejarlo claro. Entonces eso quería reforzar que era una buena propuesta tener la definición de uso. Así que por eso lo voy a votar a favor. Perfecto. ¿Alguien quiere agregar algo más en la votación? Ok. ¿Estamos en votación? Sí, claro. Estamos en la letra A, ¿no? ¿Votando? ¿O es completo? ¿Metro la letra B? Sí, perfecto. B. ¿Ya? ¿Concluida la votación? ¿Todos han votado? ¿Resultado de la votación? Sí, por la afirmativa, nueve votos. Aprobado. Ahora vamos a votar por separado la letra B del artículo, ¿no es cierto? Sí. Perfecto. ¿Sí? ¿Diputado Lagomarsino? Muchas gracias, Presidenta. Hay dos cosas que me hacen ruido. La primera de ellas que plantea afectar negativamente los derechos fundamentales. No entiendo muy bien a qué se refiere como afectar negativamente, como parcialmente. Yo creo que los derechos fundamentales se transgreden o no se transgreden. No existe una afectación negativa en esos términos. Y lo segundo es que habla de derechos fundamentales y los derechos de autor y conexos no son considerados en el derecho a derechos fundamentales. Y por tanto estaríamos excluyendo esta definición, todos los derechos de autor y conexos, que obviamente es una de las cuestiones que hemos buscado, al menos yo he buscado cautelar de forma importante. Diputado Caiza, yo comparto con el diputado Lagomarsino el punto de la transgresión; quizás podríamos cambiar la redacción de ese punto. Respecto de los derechos accesorios, por ejemplo, el derecho de autor ya está protegido por la ley de derechos de autor. En el sentido, se puede perseguir de la mano de esa legislación. Pero si la inteligencia artificial, a ver, digamos de esta manera. La inteligencia artificial, en el uso de la inteligencia artificial, si transgrede el derecho de autor o el derecho de propiedad, efectivamente va a tener que hacerse cargo quien está usando la inteligencia artificial para dichos fines. Y se le podrá perseguir entonces de la mano de la legislación ya existente. Yo creo que hay una discusión que entiendo que en derecho no está resuelta, producto de que los derechos fundamentales son los consignados en el artículo 19 de la Constitución Política de la República, y hay una discusión respecto a los derechos de autor y conexos, y todos ellos están tutelados por el artículo 19 de la Constitución. Entonces, cuando habla de derechos fundamentales, yo entiendo que uno se remite al artículo 19 de la Constitución. Sí, diputado Caiza, y luego le quiero ofrecer la palabra a la diputada Yomas para que aclare ese punto que nuestra abogada. Muchas gracias, efectivamente los derechos fundamentales.

Todo el derecho de propiedad está protegido y son derechos fundamentales también reconocidos en la Carta de Derechos Humanos de las Naciones Unidas. En ese sentido, estaría cubierto. Muchísimas gracias. Sí, bueno, efectivamente, el derecho de propiedad sí, pero entiendo el punto que hace el diputado Lago Marcino respecto a los derechos de autor, que igual en estricto rigor tienen una calificación más específica, ¿cierto? Entonces, a ver, no sé, creo que se tendría que discutir si es que los consideramos dentro de la salvaguarda de riesgos de alta connotación que estamos considerando en esta oportunidad, en la clasificación o no, y ver si es que los consideramos también para poder incorporarlo o no. Yo creo que se abre una discusión, presidente, que la verdad sería bueno también saber si es que la reunión que se tuvo con los distintos expertos y también los asesores nuestros se dio ese debate. Diputado Kaiser, me gustaría tener una opinión del Ejecutivo para este punto. Diputado Kaiser, ¿también me dio la palabra? Sí, muchas gracias, señor presidente. Efectivamente, el derecho... ¿Qué es lo que pasa? ¿Qué es lo que consideramos de alto riesgo? En mi opinión, de alto riesgo es algo que puede afectar la libertad de los ciudadanos, que puede afectar evidentemente su indemnidad física, o sea, su integridad física o psicológica. Me parece razonable entrar en ese punto, pero considerar el derecho de propiedad, a menos que sea brutalmente violentado a través de la destrucción de todos los registros en el Conservador de Bienes Raíces, por ejemplo, no necesariamente podría ser considerado de altísimo riesgo. Se puede perseguir entonces con la normativa del derecho civil que ya existe, la violación del mismo. Existe también normativa penal en la materia, en el caso de violaciones del derecho de propiedad, y existe el derecho de autor. Yo creo que en esa materia, bueno, será el usuario el que utilice el medio el que tenga que responder. Pero el mismo sistema en sí, en su aplicación, es complejo pensar que tengamos que definirlo o restringirlo de tal manera que no pueda hacer estas cosas. ¿Por qué? Porque si una inteligencia artificial va a hacer lo que le diga el programador, vamos a tener un problema después en lo que es la ejecución o el funcionamiento de los sistemas. Si los hacemos, a ver, todo sistema que esté conectado, por ejemplo, al internet en este momento, puede recoger, y tenemos ese tema en Europa, lo tuvimos con el tema de los diarios que ahora tienen que pagarle a los buscadores, o no, al revés, los buscadores le tienen que pagar a los diarios por colocar los titulares de sus artículos, una cosa bien especial. Si nosotros introducimos eso para la inteligencia artificial, evidentemente que no va a poder operar interconectada. Es decir, efectivamente, si nosotros queremos que esto funcione interconectado a nivel internet, con acceso a lo que es la información que está en el mundo de la web, tenemos que partir de la premisa de que se tengan que sancionar las conductas que sean lesivas para el derecho de propiedad, pero no podemos impedir el funcionamiento del sistema en sí, porque siempre va a existir la posibilidad de que transgreda algún derecho de propiedad. Incluso nosotros mismos, cuando, por ejemplo, compartimos algo en Twitter, un video, o incluso de repente una cita de un texto que no haya sido publicado sin resguardar el derecho a autor, podemos estar violentando el derecho a propiedad o el derecho a autoría sin estar conscientes de ello. Normalmente uno recibe lo que se llama una admonestación. YouTube funciona sobre la base de desmonetizar parcial o totalmente esos contenidos, o desplazar la monetización, entregar la monetización al propietario del derecho a autor. Pero nuevamente, eso no significa que nos pudiesen... Para garantizar que ningún ser humano pudiese violentar el derecho de propiedad en el internet, los seres humanos no podrían participar del internet. Ese es el punto.

Entonces, ese era mi aprecio. Diputada Laura, me pidió la palabra y luego el diputado Lago Marcino y le damos la palabra al Ejecutivo. Gracias, presidente. Yo estoy en la misma postura que el diputado Kaiser. Creo que cuando hablamos de derechos fundamentales está considerado el tema de la propiedad de datos intelectuales. Y por otro lado, yo creo que aquí nos falta un poquito profundizar y especificar, porque cuando tenemos ciertas transgresiones a los derechos de autor que pueden ser más complejas, yo creo que ahí se incorpora un nuevo concepto que viene a ser la inteligencia artificial generativa, que es un campo específico de la inteligencia artificial que crea contenido nuevo a partir de texto, imágenes, video, audio, de distintos autores, escritores, músicos, etc. Este es un tema que se ha discutido bastante en el mundo, con algunas excepciones. Y esto también tiene que ver mucho con el TDM, Test and Data Mining, que si eso lo tenemos muy estricto, como se está incorporando, se está proponiendo en este artículo, no se podrían entrenar los sistemas de inteligencia artificial y los algoritmos. Por lo tanto, creo que dejarlo tan estrictamente regulado en este punto limita un poco los entrenamientos de los sistemas de inteligencia artificial y ahí esto no tiene que ser tan genérico, sino que deberíamos especificar quizá más adelante, no sé, conceptos como la inteligencia artificial generativa o transformativa. Voy a ser más específico a uno. Los derechos de autor efectivamente son considerados derechos fundamentales, pero los derechos conexos dentro del ámbito de los derechos de autor en general no han sido aplicados como derechos fundamentales. Por eso siempre, por lo menos en mi indicación, he hablado de derechos de autor y conexos. Ahora bien, obviamente aquí no estamos hablando en general de publicaciones, por ejemplo, periodísticas o ampliamente difundidas en la red. Los derechos de autor protegen una obra artística y esa obra artística no solamente se tiene una propiedad sobre la obra particular, sino sobre una serie de elementos que no necesariamente están explicitados. El estilo, por ejemplo, de un artista es parte del derecho conexo de ese artista. Entonces, efectivamente, si es que, por ejemplo, un pintor de Valparaíso que ha publicado toda su obra en Instagram y tenemos un sistema generativo que está recopilando datos abiertamente en la red, una persona X podría decir, realízame una obra utilizando el estilo de este artista. Y eso también es aplicable a la música, es aplicable a otras áreas artísticas particulares. Y en ese contexto, creo que sí efectivamente tenemos que tener una cautela con respecto a esos derechos de autor y conexos. Ahora bien, respecto a lo que planteaba el diputado Kaiser por su intermedio, yo creo que incluso ChatGPT, por dar un ejemplo, ha ido marcando la pauta, porque en las últimas versiones de esta aplicación web, incluso en la medida que va generando el contenido, la respuesta va linkeando automáticamente de dónde va apareciendo esa información. De hecho, si uno le pregunta actualmente quién es uno, al menos de los integrantes de esta comisión, referencia las citas de la Biblioteca del Congreso Nacional, donde está la biografía de cada uno de nosotros. Entonces, se ha ido buscando una transparentación de la forma de los contenidos en casos de escritura, pero en el caso de la inteligencia artificial en cuanto a generativa y respecto a derechos de autor y conexos de artista, efectivamente creo que queda muy escueto. Quiero decirlo. Ministra, es que me pidió la palabra la diputada Yomas, que es la autora de las indicaciones, entonces permítanme darle la palabra a la diputada Yomas, a la ministra y diputado Cáceres le entrego la palabra. Diputada Yomas. Presidente, entendiendo la solicitud y me parece bien que le demos una vuelta más a cómo estamos regulando en este proyecto de ley lo que tiene que ver con los derechos de autor, que eso tiene una especialidad, cierto que sería bueno que nos detuviéramos, pero al menos yo no creo que sea este el momento.

de atención, que es la clasificación de los riesgos, porque sería como tratar un tema que tiene una especificidad, cierto, que quizá incluso quede maltratado si tratamos de incorporarlo a alguna de las clasificaciones ya establecidas presentes. Entonces, mi propuesta en realidad es que lo discutamos a lo largo de lo que queda del proyecto. Perfecto. Ministra, la palabra, luego el diputado Kaiser y luego vamos a someter a votación el punto en específico. Gracias, señor presidente. Y en la misma línea de lo que señala la diputada Yoman, bueno, varios de los que hablaron, nosotros entendemos que derechos de autor está comprendido dentro de derechos fundamentales, el número veinticinco, el artículo diecinueve de la Constitución, y efectivamente, y esta es una discusión que hemos tenido cada vez que aparece el tema de derechos de autor, es una discusión que es compleja, que está abierta a nivel internacional, y al menos lo que hicimos en la primera parte del proyecto, y luego cuando volvamos al artículo cuatro en los principios, fue referirnos a la regulación vigente en materia de derechos autor y conexos, entendiendo que esta es una discusión abierta también a nivel internacional, y por lo tanto adelantarse en una posición puede tener impactos negativos o positivos tanto para los generadores de contenido como para quienes están desarrollando inteligencia artificial. En ese sentido, claro, nosotros consideramos que dejarlo en derechos fundamentales lo que hace es referirse a un marco jurídico ya existente, no altera el estándar de protección que hoy día tienen esos derechos, sino que simplemente pone una alerta de cuidado, porque la clasificación de riesgo, finalmente, el impacto que tiene es en la adopción de medidas para aminorar el riesgo, en el fondo, no tiene otra consecuencia jurídica, y lo que nos permite de esa forma es mantener el régimen vigente de protección de derechos de autor y de todas las otras materias, pero agregar un elemento de protección adicional al asociarlo a usos de alto riesgo, sin meternos en el detalle de cuál es el estándar específico de protección de cada uno de esos derechos, que es lo que creo queríamos evitar, así que por nuestro lado lo entendemos de esa forma, gracias. Diputado Kaiser, y vamos luego a someter a votación la letra numeral. Muchas gracias, señor presidente, estoy de acuerdo con lo ya expuesto, ahora sí volvería a la palabra trasgredir de los derechos en la redacción, si la colega Yoman está de acuerdo, puesto que es más estricto en su formulación, le solicitaría quizá a la secretaría si la diputada está de acuerdo para modificar la redacción, y que así, respecto del tema de los derechos de autor, ahí entran muchas, muchas lógicas, entre otras las de fair use, la del uso justificado, transformativo, siempre va a haber ahí un elemento de tensión, y la verdad es que todos nosotros construimos también aquellas cosas que son nuevas sobre aquello que ya está construido, en el sentido, va a ser una interesante discusión más adelante en este proyecto, muchísimas gracias. Incorporamos el cambio en trasgredir, ya lo hemos incorporado, así que vamos a someter a votación, para que tengamos todos claridad, la letra B, vamos a votar en la letra B, ¿no? Solo la letra B, estamos en votación, en votación, han votado todos y todas, ¿sí? La diputada Riquelme salió, tengo la impresión. ¿Concluyó la votación? Sí. ¿Resultado de la votación? Presidente, por la afirmativa, ocho votos, dos abstenciones. ¿Aprobado? Vamos bien, algo está pasando. Sigamos. No, la diputada Yoman. ¿Qué es para el previsitar este fin de año? Entonces, por eso nos tenemos que reír. ¿Cumplía su tarea encomendada, Ministro? Vamos a la próxima, ¿artículo? ¿Tenemos que volver al cuarto?

Vamos al artículo 4. Vamos al artículo 4 para que no se nos vayan quedando mejor atrás. Ya, como mi presidente disidente, continúo. Vamos a continuar con el artículo 4, que son los principios aplicables a los sistemas de inteligencia artificial. ¿El acápice está aprobado? Sí. Solamente faltan las letras, entonces. Faltan las letras. Vamos a abrir. Y se había acordado votar letra por letra. Vamos a abrir la discusión sobre la letra A, que no tiene ninguna indicación, entiendo, señora secretaria. O sea, hay muchas, en realidad. Lo que pasa es que hay varias indicaciones que son sustitutivas. Hay indicaciones sustitutivas. O sea, una sola indicación sustitutiva. ¿Completa? Completa. ¿Y de quién es? Del diputado Palma. ¿Diputado Palma? Sí. Le voy a leer solamente la letra A. Ya, ¿podríamos ir votando la, no sé si se puede reglamentariamente, de la indicación sustitutiva del diputado Palma, exclusivamente la letra? Sí. ¿Para irla comparando con la letra que tenemos? Exacto. Ese fue el acuerdo precisamente para poder ir avanzando más. Perfecto. Entonces, solamente tenemos una indicación en la letra A, que es del diputado Palma, que le va a dar la lectura a la secretaria. La indicación del diputado Palma reemplaza la letra A por la siguiente: intervención y supervisión humana. Los sistemas de IA se desarrollarán y utilizarán como una herramienta al servicio del ser humano que respete la dignidad humana y la autonomía personal y que funcione de manera que pueda ser controlada y vigilada adecuadamente por seres humanos. La letra está idéntica a la original. ¿Alguna palabra de alguien respecto a esta letra? Sí, en votación la letra A, tengo que votar aquí, ¿cierto? En votación la letra A. ¿Estamos votando las indicaciones o no? Le pasa que la indicación es igual a la original, en la letra A. Ya. ¿Han votado todos? ¿Todas? Finalizado. ¿Resultado de la votación? Por la afirmativa, 10 votos presentes. Vamos con la siguiente. ¿Votaste? Sí. La letra B también tiene una indicación del diputado Palma: solidez y seguridad técnica. Los sistemas de IA se desarrollarán y utilizarán de manera que se minimicen los daños previsibles, siendo resistentes técnicamente frente a fallas imprevistas, como frente a intentos de modificación del uso o rendimiento del sistema de IA con fines ilícitos por parte de terceros. También está en los mismos términos que la letra B original. ¿En votación? Estamos en votación. Finalizada la votación. Por la afirmativa, 10 votos presentes. Aprobado. En la letra C tenemos más indicaciones. Voy a dar lectura a todas. La del diputado Palma es la siguiente: privacidad y gobernanza de datos. Los sistemas de IA se desarrollarán y utilizarán de conformidad con las normas vigentes en materia de privacidad y protección de datos, y solo tratarán datos que cumplan con la normativa en términos de calidad e integridad. Del mismo modo, se procurará que los datos que utilicen sean interoperables.