Cámara de Diputados - Comisión de Ciencias - 9 de abril de 2025

En nombre de Dios y la patria se abre la sesión. El acta de la sesión 89 queda reglamentariamente aprobada. La señora secretaria dará lectura a la cuenta. Gracias, presidenta. Se han recibido los siguientes documentos: Oficio de su excelencia el presidente de la República, mediante el cual es presente la urgencia calificada de suma para el despacho del proyecto de ley que regula los sistemas de inteligencia artificial (boletines 15.869-19 y 16.821-19 respondidas). Comunicación de la jefa bancada, diputada FPD, a través de la cual informa que la diputada Elia Molina será reemplazada en esta sesión por la diputada Camila Musano.

Comunicación suscrita por la diputada Elia Molina y el diputado Daniel Lillay, por la que informan que han acordado el pareo para la presente sesión. Oficio N°7812 del Director General del Consejo para la Transparencia, mediante el cual se remiten propuestas de perfeccionamiento normativo de ese consejo para su consideración en el marco de la tramitación legislativa del proyecto de ley que regula los sistemas de inteligencia artificial, las que asimismo han sido remitidas a la Ministra de Ciencia, Tecnología, Conocimiento e Innovación. Correo electrónico de la oficina del diputado Rubén Ollarzo, a través del cual se justifica la inexistencia del diputado en esta sesión, por invitación de la Presidencia de la República. Esto es la cuenta, presidente. Muchas gracias, secretaria. ¿Ofrezco la palabra sobre la cuenta? ¿Nadie? Ok. ¿Juntos varios? Tampoco. Vamos, entonces, a entrar a la orden del día. Esta sesión especial ha sido citada con el objeto de continuar con la votación en particular del proyecto de ley que regula los sistemas de inteligencia artificial en primer trámite constitucional, con urgencia calificada de “suma”. Por el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación se encuentran presentes las asesoras legislativas Camila Aguayo y Paloma Herrera. Bienvenida, entonces, vamos a dar comienzo. Vamos a seguir revisando el texto; ¿nos pueden recordar en qué página quedamos o qué artículo corresponde iniciar? Se indica que corresponde iniciar la interpretación del artículo 12, que pasó a ser 11. Ok, página 35. ¿36? Sí. ¿El de 42A del Ejecutivo? Sí. La primera indicación es la 42A del Ejecutivo para reemplazar su inciso primero por el siguiente: "Obligaciones de transparencia y explicabilidad en el uso de sistemas de IA de riesgo limitado. Los operadores procurarán que los sistemas de IA de riesgo limitado informen de manera clara, inteligible y oportuna a las personas que están interactuando con dichos sistemas, excepto en las situaciones en que ello resulte evidente debido a las circunstancias y al contexto de utilización." También hay una indicación de la diputada Laura para eliminar el artículo y una del diputado Kaiser para sustituir, igualmente, este inciso primero por el siguiente: "Obligaciones de transparencia en el uso de sistemas de IA de riesgo limitado. Los proveedores e implementadores procurarán que los sistemas de IA de riesgo limitado estén diseñados y desarrollados de forma que el sistema, el propio proveedor o el usuario informen de manera clara, inteligible y oportuna a las personas naturales expuestas al sistema, excepto en las situaciones en que ello resulte evidente debido a las circunstancias y al contexto de utilización o, en virtud de la finalidad de su uso, cuando la persona prefiera no saberlo, por ejemplo, en el caso de un diagnóstico médico." Eso, presidente. Muchas gracias. Le voy a dar la palabra al diputado Kaiser para que se refiera a su indicación y, después, le doy la palabra al Ejecutivo, al representante del Ejecutivo. Ok, suspendemos cinco minutos.

La primera, yo retiraría mi indicación. Y la segunda, yo propondría que votemos de inmediato el artículo. Si el artículo —porque creo que estamos de acuerdo en que el artículo está sobrando— entonces se caen también todo el resto de las indicaciones. Si lo ponemos en votación, le doy la palabra al Ejecutivo primero para que puedan referirse también a este artículo. Muchas gracias, Presidenta. Aprovecho para saludar a todas y a todos acá presentes. Efectivamente, en razón de la aprobación de la indicación 40B del Ejecutivo anterior, que ya quedó plasmada en el artículo anterior que habla sobre transparencia y explicabilidad, el artículo 12 sería redundante. Por lo tanto, como ya están establecidas las obligaciones de transparencia en el artículo anterior, estamos de la idea de que se puede prescindir de este artículo. Ok, entonces, retirada la indicación, procederemos a votar el artículo. Estamos en votación. Sí, diputada Labra, aquí estamos en votación en este momento. ¿Pueden darme su voto? ¿Se puede? No sé, es que ya entramos en votación. Ok. Yo tengo entendido que se hace antes, pero no hay problema. Se cuenta con el acuerdo de la Comisión de Estudios Naturales, que permite proceder. Solo me parece pertinente y coherente el manejo de la discusión, pero quiero hacer una apreciación: el segundo párrafo es muy importante, ya que establece que lo que quedó en el artículo anterior, el artículo 11, no aplicará a los sistemas de inteligencia artificial autorizados por ley para fines de detección y prevención, es decir, para temas de seguridad. Esto me parece fundamental, dado lo complicado que resulta el tema de la transparencia y la explicabilidad en cuestiones de seguridad. Solo quiero hacer esa apreciación para fundamentar mi posición. Ya vamos a tener que votar de nuevo, estimados colegas. No, ahora no le aparece a nadie. Ahora sí, ¿en votación entonces? Ahora sí.

Resultado de la votación, ningún voto a favor; 5 en contra y una abstención rechazada. Entonces, vamos a la página 37. Claro, eso entiendo, se crea un nuevo artículo. Yo tengo una duda, porque la indicación del diputado Aedo y de la diputada González crea un nuevo artículo 12b; entonces, recién votamos el artículo 12. Este es un nuevo artículo que ellos colocaron como indicación, ¿qué habla de lo mismo finalmente? Pero, como dice, crea un nuevo artículo. Sí, ese tiene algo de distinto, el de la diputada González. Sí, igual, ¿no? Sí, diputada Laura. Sí, sí, sí. Gracias, presidenta. Solo hago la precisión que me llama la atención: la indicación del diputado Aedo y la indicación de la diputada González Castillo y Ramírez son exactamente idénticas. Me llama la atención que estén iguales, así que las votamos en conjunto. Es el mismo contenido del anterior, por lo que ya la colocamos en votación, por favor. Resultado de la votación: un voto por la afirmativa, cuatro en contra, una abstención. Muchas gracias, presidenta. En el artículo 8, producto de una situación en la cual no se precavió que, para aprobar la indicación del Ejecutivo, no se incorporara una de las indicaciones que era de autoría, quisiera incorporar una indicación ahora, del mismo tenor de la que, en teoría, no se debió haber rechazado por aprobarse el texto del Ejecutivo, ya que agregaba un párrafo final en el artículo 8. Entonces, quiero…

Reingrésela como indicación justamente a este artículo 12 que estamos aprobando. Estoy mandando al WhatsApp colaborativo. Sí, diputado Keiser. A ocho. Es que yo entendí que usted había mencionado el artículo 12, por eso dije: “No, lo estoy agregando al artículo 12, pero estaba en el artículo 8”. Sí, pero estamos recién en el artículo 12. No, no, pero 12 bis. Entonces, pongo para incorporar un inciso final en el artículo 12 bis o la numeración que lo reemplace. Ah, ok, ok. Sí, lo que pasa es que acabamos de rechazar el 12. El 12 y el 12 bis los rechazamos. Entonces, para incorporar un nuevo artículo. Eso, sí. Usted, entonces, va a incorporar un nuevo artículo 12. Claro. En el 12, estamos en el 12 bis. Le doy lectura, Presidenta, para incorporar un nuevo artículo: "Tratándose de sistemas de IA que utilicen contenidos protegidos por derechos de autor y conexos, deberán elaborar y poner a disposición de sus titulares o de terceros con intereses legítimos todos los datos que se hayan utilizado para entrenar el sistema de IA, en un formato asequible y de forma gratuita, clara y precisa, teniendo en cuenta las particularidades y limitaciones de los diversos tipos de contenido, los costos de aplicación y el estado actual de la técnica generalmente reconocido." Eso es, Presidenta. Ok, abro la palabra, diputado Kay, diputado Lago Marcín y después diputado Kay. Vamos a aguantar su labor. Muchas gracias, Presidenta. Efectivamente, yo creo que en la última semana distrital todos fuimos testigos de lo que se pasó en torno al GPT y el estilo GIPLI, en el cual, bueno, aquí parece que varios hicieron su monito y gastaron un montón de agua, pero no es el tema de esta indicación. Y justamente lo que busco plantear con esta indicación es resguardar los derechos de autor que eventualmente se pueden ver comprometidos con este tipo de inteligencia y que, para que los propietarios de derechos de autor y conexos puedan recurrir a la instancia respectiva, necesitan acceder a información que lamentablemente no pueden obtener fácilmente por quienes desarrollan estos sistemas. Entonces, lo que busca esta indicación es poner en manos de quienes tienen estos derechos –doctor– y conexos, estos datos que se utilizaron para entrenar la inteligencia artificial. En este caso, por ejemplo, para ChatGPT debió haberse utilizado un montón de imágenes de Ghibli para poder elaborar un modelo que replicara ese estilo, de modo que todos pudiéramos utilizarlo en la última semana. Esa es la indicación, Presidente. Muchas gracias, diputado López-Martino. Diputado Keiser: Muchas gracias, señora Presidenta. Yo creo que es técnicamente inviable lo que se está solicitando. Lo voy a explicar: en primer lugar, la inteligencia artificial funciona de manera automatizada, es decir, en la práctica tendría que estar generando, al mismo tiempo que funciona, un sistema de respaldo con este tipo de material. Lo siguiente es el siguiente punto: tienen que presentar estos datos, cuando hay derechos de autor involucrados, de forma accesible, gratuita, clara y precisa, ¿a quiénes? A los titulares de los derechos de autor, que primero deben ser identificados –pues no se sabe quién es el titular de muchos derechos, ya que el resto debe estar excluido naturalmente– y, en segundo lugar, a terceros con intereses legítimos. ¿Quién es un tercero con intereses legítimos en acceder a contenidos protegidos por derechos de autor? Es decir, se pone a la inteligencia artificial o a la compañía que generó dicha inteligencia en la situación de tener que poner a disposición de terceros contenidos protegidos por derechos de autor, y no sabemos quiénes son esos terceros legítimos, con intereses genuinos, que no sean los mismos.

Propietarios de los derechos de autor. O sea, esta norma creo que no cierra, señora Presidenta. Muchas gracias. Muchas gracias, diputado Kaiser. Diputada Dabra. Solamente preguntarle al diputado Lagomarsino: ¿cómo se vincula esto con la Ley de Protección de Derechos de Autores? Gracias, diputado Lagomarsino. Se vincula en cuanto ambos están protegidos, porque son contenidos protegidos por derechos de autor. La ley actual de derechos de autor propone un registro nacional en el cual los propietarios tienen que inscribir la propiedad de sus derechos sobre cada una de sus obras. Ahora bien, ello no limita, evidentemente, que todos los autores puedan efectivamente desarrollar el proceso de registro; no todos los pintores ni todos los artistas visuales registran finalmente, en el Registro Nacional de Derechos de Autor, la información y los datos que por ellos están protegidos. Esta indicación busca que el propietario de un derecho de autor, o terceros que tengan derechos legítimos, pueda requerir a los desarrolladores y operadores del sistema de inteligencia artificial que, al utilizar estos contenidos, lo hagan con aquellos datos con los cuales fueron entrenados. Evidentemente, es un requerimiento que se realiza y que debe estar debidamente justificado por quienes son propietarios de dichos derechos. No es una cuestión azarosa, ni baladí, y ciertamente no es una situación infinita, como plantea por su intermedio el diputado Kaiser. Es cuando, efectivamente, un propietario de derecho de autor ve transgredido su derecho y puede interponer las acciones que le permitan recuperar el control sobre su obra. El punto es el siguiente. Creo que el 99,5% de todos los derechos de autor involucrados en esta materia no son de autores chilenos; es decir, no estarán inscritos en el Registro de Propiedad Intelectual en Chile a menos que se haya realizado ese proceso, lo cual sucederá en una mínima cantidad de casos. En segundo lugar, nosotros tenemos muchos tratados de libre comercio en los cuales reconocemos los derechos de autor inscritos en otras jurisdicciones. Esto nos coloca en una situación en la cual los sistemas de inteligencia artificial o sus operadores deberán decidir, en base a qué criterios, quién tiene acceso a esos datos, que se supone están protegidos. Dichos datos no deben ser puestos a disposición de nadie que no sea el propietario del derecho de autor. Adicionalmente, se destaca el caso de conflictos, como los que se han suscitado en YouTube en razón de derechos de autor, y el uso del principio del fair use –o uso justo–, que permite utilizar, por ejemplo, una obra determinada transformándola hasta convertirla en algo nuevo. Por ejemplo, cuando se usa un clip de 20 o 25 segundos de un noticiero para respaldar un comentario político. Si bien eso se entiende como fair use, no todas las jurisdicciones lo interpretan de la misma manera. Por último, los conflictos entre los supuestos propietarios de derechos de autor y los transformadores son un tema, pero aún más interesante es el de aquellos que se arrogan y entran al sistema afirmando ser propietarios de derechos de autor sin serlo, lo cual genera problemas en el mundo de los creadores y lleva a que exijan remuneración. Es un tema que no ha sido solucionado, ni siquiera en las grandes jurisdicciones o por las compañías más importantes. Introducir esto en la normativa, a mi juicio, colocará un impedimento mayor y difícil de cumplir para quienes deseen trabajar en nuestro país con este tipo de material. Yo esperaría, en esta materia específica, que se resuelva el tema en jurisdicciones que se relacionen más estrechamente con la ley.