Las actas de las sesiones 83 y 84, que eran reglamentariamente aprobadas, y el acta de la sesión 85, se ponen a disposición de los señores y señoras diputadas integrantes de la Comisión. La señora Secretaria dará lectura a la cuenta. Gracias, presidenta. Se han recibido los siguientes documentos:
Oficio de Su Excelencia el Presidente de la República, en el cual se presenta la urgencia calificada de "suma" para el despacho del proyecto de ley que regula los sistemas de inteligencia artificial.
Oficio de Su Excelencia el Presidente de la República, en el cual se formulan indicaciones del proyecto de ley que regula los sistemas de inteligencia artificial, acompañado del correspondiente informe financiero.
Comunicación del Jefe de Banca, Diputado Judí, por la que se informa que la diputada Marta Bravo cerró la impasada en esta sesión por el diputado Felipe Donós.
Oficio 501 de la Subsecretaria de Desarrollo Regional y Administrativo, por el que, de acuerdo con lo establecido en la Ley de Presupuestos del Sector Público del año 2025, el Ministerio del Interior y Seguridad Pública informa respecto de la Glosa 05 correspondiente al periodo de enero de 2025.
Ordinario 39 del Subsecretario de Ciencias, Tecnología, Conocimiento e Innovación, el cual, conforme a lo establecido en la Ley de Presupuestos del Sector Público del año 2024, informa respecto a la Glosa 14, la partida 30, capítulo 02, programa 01 del Ministerio de Ciencias.
Ordinario 203 de la Subsecretaria de Hacienda, mediante el cual, en el marco de lo dispuesto en la Ley de Presupuestos del año 2024, se remiten en anexo los reportes correspondientes al cuarto trimestre y al segundo semestre de 2024.
Ordinario 6731 de la Sociedad de Educación Superior, mediante el cual, conforme a la Ley de Presupuestos del año 2024, se informa respecto a las glosas de la partida 09 del capítulo 90 del Ministerio de Educación.
Oficio ordinario número 75 de la Directora Nacional de Senda, mediante el cual se informa sobre las glosas comunes 5, 6 y 7 a reportar en el mes de enero de 2025.
Oficio ordinario 77 de la Directora de Senda, mediante el cual, de acuerdo con lo estipulado en la Ley de Presupuestos, se informa sobre las glosas presupuestarias que se indiquen respecto al articulado 14, correspondiente al cuarto trimestre y al segundo trimestre de 2021.
A través del sistema de ley de lobby, se ha recibido una solicitud bien serigada por la diputada Marta Bravo, requerida por el señor Jorge Gómez, con el propósito de referirse a la posibilidad de desarrollar una estrategia nacional de semiconductores para fortalecer la pequeña industria de microelectrónica local y retener talento nacional. Según señalan Estados Unidos, Europa y otros países, los semiconductores han sido definidos como estratégicos por su rol en IA, Defensa y otras áreas.
Oficio 5 del representante de la Organización Europea para la Investigación Astronómica en el Hemisferio Austral, en Chile, por el que se manifiesta la preocupación de la ESO ante la situación crítica que enfrentan los cielos del norte de Chile, específicamente en la región donde se ubican los principales observatorios astronómicos. Se destaca que la creciente amenaza de contaminación lumínica y el desarrollo de proyectos industriales de gran escala en esta zona presentan un serio riesgo para la preservación de la calidad excepcional de los cielos oscuros, recurso invaluable no solo para Chile, sino para el mundo.
sino para toda la humanidad. Hace presente que la ESO ha sido un socio estratégico de Chile por décadas, trabajando conjuntamente en la promoción del liderazgo del país en el ámbito de la investigación astronómica y la observación del universo. En este contexto, considero fundamental dar a conocer a la Comisión los riesgos que esta situación implica, así como las medidas que estiman necesarias para garantizar la protección de un patrimonio que es parte integral de la identidad y el desarrollo científico de Chile. Por ello, solicito una audiencia con la Comisión para exponer con mayor detalle este problema.
Nuevo correo electrónico del señor Daniel Enríquez, quien en su calidad de realizador cinematográfico y especialista de TV digital terrestre, solicita audiencia con la Comisión, con el propósito de exponer acerca de Televisión Abierta 2.5. Sostiene que el corte de luz masivo ocurrido a nivel nacional, con la caída de los servicios de internet, demuestra que es fundamental contar con un sistema robusto de TV digital de libre recepción, lo que enlaza con el sistema de alerta temprana y los sistemas de radio AM y FM en la banda VHF.
Correo electrónico del doctor en Políticas Públicas por la Universidad de Maryland, en Estados Unidos, y del director del Departamento de Estudios Políticos de la Universidad de Santiago, José Mauricio Lavarría, quien ha sido permanentemente invitado como experto a las sesiones de esta Comisión desde el 27 de noviembre de 2024. Agradece la oportunidad de aportar en la discusión del proyecto de ley, y explica que se le hace difícil asistir a todas las reuniones por su agenda de trabajo, intensa tanto en su rol de director como en sus obligaciones de investigación científica y docencia. Sugiero repensar el rol o modo en cómo pueden colaborar en este importante proyecto de ley y poner a disposición de los señores diputados una carpeta con los trabajos, análisis del proyecto y los comentarios que, en la Mesa de Inteligencia Artificial y Políticas Públicas de la Comisión Futuro del Senado, han ido produciendo con el propósito de colaborar y apoyar la elaboración de esta importante ley.
Esto la cuenta presenta. Muchas gracias. Ofrezco la palabra a la cuenta.
— Sí, diputada Návara. Gracias, Presidenta. Respecto a lo que mencionó en la cuenta, me gustaría preguntarle al Ejecutivo, por su intermedio, cuál es la premura o la necesidad de despachar este proyecto el 17 de marzo. ¿Cuál es el apuro? Muchas gracias, diputada. ¿Alguien más sobre la cuenta?
Bien. Os ofrezco la palabra a los representantes del Ejecutivo. Más arriba, más arriba. Ahí sí. Muchas gracias. Estamos acá en representación del Ministerio de Ciencia y de la Ministra que asistió en la mañana. En cuanto a la premura de poder despachar este proyecto, tiene relación con que este proyecto está vinculado a otras leyes que ya van a entrar en vigencia. Esto también tenemos, por un lado, la ley de datos personales y, por otro, la ley marco en ciberseguridad. Entonces, por un tema de gobernanza de datos, en el que ya está integrada la triada de datos personales, ciberseguridad y uso de sistemas de inteligencia artificial, es importante para poder seguir avanzando en Chile y tener una gobernanza completa contar también con este proyecto de ley, en el sentido de que quien estará a cargo será la Agencia de Protección de Datos Personales. Esto, a su vez, le dará un mayor contexto para que inicie sus funciones, considerando un uso ético y responsable de los sistemas de inteligencia artificial.
Muchas gracias al Ejecutivo.
Le doy la palabra, primero, al diputado Alago Marcino, al diputado Kaiser y, después, a la diputada Labra nuevamente.
— Muchas gracias, Presidenta. Saludo a todos por su intermedio. Yo creo que el valor de la urgencia nos da una señal de la relevancia que el Ejecutivo otorga a este proyecto de ley, pero sin lugar a duda no tiene ningún realismo en cuanto al plazo legal de 14 días, dada su naturaleza y calibre, porque es evidente que nosotros no vamos a despacharlo en dos semanas. Estamos sesionando una vez a la semana; algunas semanas hemos sesionado dos veces, avanzando medio artículo por semana. Entonces, yo creo que no vamos a ir más rápido que eso, probablemente. Yo interpreto la urgencia del Ejecutivo más como una señal que como fundamento para que nosotros despachemos el proyecto en dos semanas. Seguiremos probablemente al mismo ritmo; aunque si pudiéramos avanzar un poquito más rápido, estaríamos bien contentos, pero, finalmente, este proyecto de ley seguirá su curso al ritmo establecido. Por ello, creo que la preocupación de la diputada Labra, en cuanto a que si tuviésemos que despacharlo en dos semanas, se podría despejar rápidamente, no es suficiente motivo para apresurarlo.
— Gracias, Presidenta.
Muchas gracias, diputado Lago Martínez, diputado Kaiser, después diputada Labra y, posteriormente, diputado Palma.
Muchas gracias, señora Presidenta.
Yo ya lo representé en la Cámara al principio de una sesión.
Pero fue ayer cuando planteé que era absolutamente inviable que el Ejecutivo nos mandara 24 o 25 proyectos con suma urgencia, porque más allá de que existan señales, no puede ser que estén obligando a este Congreso a no cumplir con la normativa constitucional, por imposibilidad de cumplir. Entonces, es como: suma urgencia es para un proyecto después de una catástrofe, suma urgencia es para un proyecto donde se requiere una reacción inmediata. Con las urgencias ustedes pueden determinar lo que se pone en tabla; es perfectamente viable hacerlo. Yo no tengo ningún reparo con ello, pero las sumas urgencias, que por lo demás llegan varias a la misma comisión, hacen inviable que nosotros podamos cumplir con la ley como parlamentarios. Y en ese sentido demuestra – y de alguna manera, me van a disculpar – una falta de respeto por la institución del Congreso. Porque nosotros no trabajamos, no trabajamos, o sea, tratamos de responderle al Ejecutivo, a diferencia de otros congresos antes de nosotros. Nosotros no ignoramos las urgencias; tratamos de responderle al Ejecutivo, pero el Ejecutivo no puede hacer inviable la respuesta, colocando condiciones que no podemos cumplir. Y nadie está obligado a lo imposible. Entonces, sí, puede ser una señal política de lo importante que es un proyecto. Pero tienen que tener presente que no fue para eso que se crearon las sumas urgencias.
Muchísimas gracias, señora presidenta.
Diputada Labra:
Gracias, presidenta. Comparto lo que acaba de mencionar el diputado Kaiser y, más allá de lo administrativo, de lo que es procedimiento, algo que tiene que ver con el fondo y la sustancia. Bueno, en primer lugar, sabemos que aquí llevamos cinco artículos aprobados de 30, es decir, no tenemos ni un cuarto del proyecto aprobado. Entonces, es ilógico creer que vamos a poder hacerlo como corresponde en dos semanas. Pero aquí lo relevante es que me gustó mucho escuchar de parte del Ejecutivo que están considerando lo importante que es hacer coincidir esto con la ley de datos personales y la ley de ciberseguridad. Porque, claro, en este proyecto las indicaciones, etcétera, se consideran y también están consideradas atribuciones a ambas agencias, cada una respectiva de las leyes, respecto al tema sancionatorio. Pero yo creo que el Ejecutivo está en conocimiento de que ni en la ley de datos personales ni en la ley de ciberseguridad se hace mención a la inteligencia artificial. Es decir, ninguna de las dos leyes menciona inteligencia artificial. Por lo tanto, quisiera preguntarle al Ejecutivo y a los colegas: ¿no les parece más congruente y eficiente, dado que ese es el objetivo de la suma urgencia – que se entiende perfectamente –, hacer la actualización y modificaciones directamente en esa ley e incluir ahí todo lo que corresponde con el resguardo del uso de la inteligencia artificial? Creo que eso sería bastante más lógico y eficiente que apresurar la modificación de las otras leyes, las cuales pueden ser actualizadas, considerando que una ley tan importante en materia de ciberseguridad, de datos y de protección personal no hace mención en ninguna parte a la inteligencia artificial. Esa sería, en mi opinión, la lógica a considerar.
Diputado Palma:
Gracias, presidenta. Yo solamente quería hacer hincapié en que, en el mes de enero, se rechazó esta discusión, no se detuvo la discusión, y hoy en la mañana escuchamos, hecho oficialmente por la ministra – puesto que no se rechazó la reunión – que se recogieron todas las observaciones, que se trabajó en horario extra intensamente, y que nos dejaron un pacto de indicaciones acá. Creo que eso muestra que hay una discusión a trabajar, incluso en un período estival. Y yo creo que nosotros acá estamos convocados a trabajar, presidenta, y que la discusión debería estar orientada a sacar este tema, así como otras materias, con la mayor urgencia posible. Si algo reclama la ciudadanía allá afuera es que los procesos acá se lentesan y se gestionan mediante distintas fórmulas, lo que se ha convertido en un hábito dentro del Congreso. A mí me ha tocado personalmente dos o tres proyectos que se traban por situaciones que el público no entiende y que son realmente inexcusables. Solamente quería acotar eso, presidenta.
Muchas gracias, diputada Riquelme, diputada Duarte y después diputada Villegas. Muchas gracias, presidenta.
iba a buscar una frase del emperador Marco Aurelio, pero me acordé de algo mucho más simple, no dejes para mañana lo que puedes hacer hoy.
Cada sesión, con todo el cariño que me merecen los colegas que están presentes, que creo que esta es una comisión muy afable y constructiva, donde hay mucho trabajo en grupo, entramos a esta discusión de cuál es la urgencia, por qué es urgente, ¿por qué tenemos que votar? ¿Por qué no lo dejamos para después? ¿Por qué no analizamos bien este artículo? ¿Por qué no se van con nuestras observaciones y traen otras indicaciones? Creo que ha existido tal voluntad por parte del Ejecutivo y de todos los parlamentarios y equipos, que cada una de las observaciones planteadas y las indicaciones ha sido recogida sesión a sesión.
Es la primera vez que veo un proyecto tan constructivo y tan construido con distintas voces y miradas de una manera tan ejemplar. La discusión ha sido lenta, Presidenta, y es porque ha recogido las sensibilidades de cada uno. Creo que, en lugar de pensar en cómo nos vamos, como dicen, de volver a analizar si esto es urgente, si vamos a discutir esto o no, hagámoslo. Lo que tenemos hoy, a lo que estamos convocados, es una clara muestra de voluntad para discutir y reformular alguna indicación, partiendo por el Ejecutivo.
Creo que la discusión, con todo el respeto del mundo, es infructuosa. Debemos convocarnos simplemente a la discusión de cada uno de los artículos de la votación en particular, tal como lo estábamos haciendo. Gracias, Presidenta.
Yo creo que nosotros podemos tener un proyecto de ley, si no me equivoco, con urgencia y lo podemos discutir hasta que se dé la discusión y podamos terminar en septiembre, incluso. Ahora, yo creo que este proyecto de ley es tan importante, tan relevante para el país y no solamente para el país, sino para el continente, siendo el primer proyecto de ley que se está trabajando en inteligencia artificial, que tenemos que tomarnos el tiempo que corresponde para debatir y plantear, de forma democrática, este proyecto tan —insisto— tan importante para el continente.
Así que lo que quería proponer es que, si el proyecto de ley tiene una urgencia, podríamos incluso citarnos los días martes o miércoles en paralelo a la sala, pero sin dejar de discutir y sin rebajar el trámite legislativo que corresponde, llegando a sacarlo adelante. Nosotros, la urgencia, si es bien ordenada, no puede apurar el tranco cuando hay artículos con los que no estamos de acuerdo y a los que queremos poner indicaciones, y eso es el ejercicio democrático que hacemos en esta comisión y en todas las comisiones de este Congreso de Chile.
Entonces, si bien tiene una fecha de urgencia, yo creo que deberíamos tomarnos el tiempo que corresponde para discutir y trabajar este proyecto de ley, que es pionero a nivel sudamericano y en el que estamos demostrando lo que somos capaces de hacer con algo que avanza a una velocidad tremenda día a día, y es muy probable que, cuando salga este proyecto, enfrentemos otras dificultades a través de la inteligencia artificial. Así que propongo que, si bien tengamos esa urgencia, la sintamos de forma simple y podamos sesionar los martes y miércoles en paralelo a la sala, obviamente sin topes de horario con otras comisiones y acordando como comisión avanzar, pero sin limitar la discusión legislativa que bien corresponde.
Gracias, diputado Yarsso. Diputado Milayú, yo quería opinar en relación al mismo tenor y concuerdo plenamente en que esto, como dice el diputado Yarsso, es una ley súper importante para el país, por lo que creo que, en la premura de hacer una ley para el país, debemos darnos el tiempo.
Necesario. La gente, cuando dice que nos está viendo, claro, no quiere, pero que seamos correctos y hagamos esta ley que es pionera. Yo creo que hay dos términos importantes y pioneras que dijo el diputado Yarsen, así que estoy de acuerdo. Yo quiero, aquí, como se han citado palabras de la diputada Riquelme, italiana, de Placet, decir que, modestamente, nosotros los cirujanos, cuando estamos en pabellón y somos cirujanos chilenos, decimos que una máxima es que hay que apurarse lentamente. Yo creo que sí que tenemos que apurarnos, pero lentamente. Creo que esa es una máxima, una cosa que siempre nos ha resultado: tenemos que apurarnos en la vía, en algunas cosas, pero lentamente. Hagamos las cosas bien hechas. Eso no va a dar la opinión, así que concuerdo plenamente con lo que dice la diputada Labra. Es sobre el mismo punto, diputado Kaiser: sin prisa y sin pausa.
Sí, solamente... No, voy a tratar de hacerlo muy rápido. Solamente hago presente lo siguiente, algo que me comentó la diputada Labra, porque también es un tema que debemos tener presente: por ejemplo, los últimos sistemas de inteligencia artificial de Meta y otras empresas no están siendo implementados en Europa en razón de la legislación. Ahora, eso significa que Europa va a tener que modificar su legislación. Estados Unidos probablemente esté ahora formalizando su legislación, haciéndose cargo de una serie de cuestiones. Y solamente esta duda la dejo planteada, sin ánimo alguno de dejar de seguir tramitando este proyecto.
Si nosotros hacemos un proyecto de ley que sea inviable en su aplicación, en razón de la legislación que se introduzca en otros países, vamos a quedar igual de colgados. Y el ser los primeros no necesariamente, en el sentido, va a ser especialmente útil. Lo planteo desde el punto de vista absolutamente práctico. Yo creo que los que están generando hoy en día la inteligencia artificial son China, Japón, Europa, Estados Unidos y otros países más pequeños; nosotros, Israel, y, de alguna manera, no tenemos mucha experiencia comparada como para formalizar. Entonces, estamos siendo, sí, pioneros, pero con herramientas muy limitadas. Y en ese sentido podemos terminar teniendo una legislación que impida el uso de la inteligencia artificial en nuestro país. ¿Se acuerdan? Había una parte del proyecto que obligaba a las inteligencias artificiales a desarrollar ciertas funciones, que eran, por ejemplo, una máquina soltadora de manzanas, lo que habría prohibido su uso en nuestro país. Son temas que hay que tener presente, porque no vaya a ser que, al final, por querer ser los primeros, terminemos siendo los primeros en hacer una ley que se ha enviado. Gracias. Muchas gracias.
— Entonces, antes de ver cómo vamos a llevar esto hacia adelante, le pido a la secretaria abogada que nos pueda clarificar: ¿cómo podemos seguir con esta discusión? Porque entiendo que hubo algunos cambios o acuerdos de comité respecto de la suma. Por favor.
— Presidenta, efectivamente, el reglamento autoriza a las comisiones con proyectos de consumo, urgencia o discusión de metas a sesionar en paralelo con la sala, pero hace poco se hizo un acuerdo de comités para limitar esa facultad. El 31 de julio de 2024, en el punto 6, se señala limitar la utilización que establece el artículo 230, inciso primero, número 2, en relación con el artículo 188 y 159 del reglamento de la Corporación para la celebración de sesiones de comisiones de manera simultánea con la sala. En razón de lo anterior, las comisiones solo podrán sesionar en paralelo en la sala cuando sean citadas para votar proyectos de ley con eficiencia calificada de discusión inmediata, siempre que se encuentren en los dos últimos días del plazo o en el día final del mencionado plazo, tratándose de proyectos con eficiencia calificada de suma. Este acuerdo requerirá vigencia desde esta fecha hasta el término de este periodo legislativo.
— Sí, diputado Caiz. ¿Modifica el entendimiento del reglamento? No puede. Ese acuerdo del comité no es legítimo. Limita la utilización que otorga el reglamento. Hay muchos acuerdos de comité que modifican temporalmente el reglamento; no lo modifican de forma permanente, porque no podrían. Lo que ocurre es que el reglamento es autorizado y aprobado por la sala en una votación. Los comités no pueden...
Modificar algo que fue autorizado por la sala, en el sentido, yo creo que esa resolución no es legal y no debe poder ser aplicada. Me van a disculpar porque es un problema de la pirámide de Kelsen. Vamos entonces a solicitar un pronunciamiento de la mesa, en este caso del secretario, para que nos pueda aclarar, porque es bien claro lo que dice ahí, que es hasta el final del periodo legislativo. Entonces, a lo mejor hay excepciones, el diputado Cáceres, yo no lo sé tampoco, pero lo mejor es consultar. Mientras tanto, tenemos que seguir avanzando en el proyecto. Exacto, pero fue un acuerdo de comité, entonces tienen que hacerlo ellos, si se hizo desde ahí. Bueno, cerrado ese punto, vamos a seguir avanzando en lo que nosotros podamos.
Volviendo a la cuenta, hay dos solicitudes de audiencia a esta Comisión: una está en el punto 11 y la otra en el punto 12. Lo que quiero es que acordemos recibir a ambas personas que están solicitando ser recibidas. No voy a colocar fecha, porque, obviamente, si estamos con un proyecto que tiene suma urgencia, lo lógico es que sigamos avanzando. Por lo tanto, voy a dejar tomado el acuerdo para revisar fechas y pedir, o sea, recibir a estas personas dentro de las próximas semanas. ¿Hay acuerdo? Sí. Ok, le vamos a pedir a no sé a quién que baje un poquito el aire, porque estamos con un poco de frío aquí en la sala. Ok, puntos varios, no, nadie.
Vamos a pasar entonces a la orden del día. Esta sesión ordinaria ha sido citada con el objeto de continuar con la votación en particular del proyecto de ley, originado en mensaje, que regula los sistemas de inteligencia artificial y una moción que regula los sistemas de inteligencia artificial, la robótica y las tecnologías conexas en sus distintos ámbitos de aplicación, refundidos en primer trámite constitucional con urgencia calificada de suma. Contamos con la presencia de las asesoras legislativas de la Ministra de Ciencia, Tecnología, Conocimiento e Innovación, señoras Camila Guayo y Paloma Herrera. Además, hemos invitado para participar en la sesión en calidad de expertos a personas que están… ¿No hay nadie? Ok, hoy no se encuentra nadie conectado. Entonces, vamos a pedir a María Soledad si nos puede poner en contexto de cómo quedó esta discusión y votación para poder seguir avanzando.
Presidenta, había quedado pendiente en el artículo cuarto una definición que era sobre explicabilidad, para lo cual se había dejado también pendiente el inciso final de este artículo. Y aquí se ingresaron indicaciones del Ejecutivo, que, en la mañana, no hubo sesión, pero la ministra explicó brevemente a los diputados presentes el sentido de las indicaciones. Exacto. Le voy a dar lectura a esta nueva indicación que se presentó sobre este tema. Todas las indicaciones nuevas del Ejecutivo se numeraron con letra A. Por lo tanto, esta nueva indicación es 9A. Del Ejecutivo para modificar el artículo cuarto en el siguiente sentido:
A. Agrégase a continuación del literal J el siguiente literal K9.
K9. Explicabilidad. Los sistemas de IA se crearán, desarrollarán, innovarán, implementarán y usarán de manera que sus resultados o salidas sean comprensibles e inteligibles para las personas a las que impacten, promoviendo la transparencia y la trazabilidad en todas sus operaciones.
B. Reemplázase el inciso final por el siguiente: El Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, la Agencia de Protección de Datos Personales, en adelante APDP, y la Agencia Nacional de Ciberseguridad, en adelante ANSI, incorporarán estos principios en las distintas orientaciones destinadas a prestar asistencia al operador en cuanto al modo de desarrollar y utilizar sistemas de IA, así como al momento de regular y fiscalizar dentro de sus esferas de competencia. Lo anterior se entenderá sin perjuicio de las directrices y lineamientos sobre esta materia que la Secretaría de Gobierno Digital del Ministerio de Hacienda pueda dictar en el ámbito de sus protecciones legales.
Eso es lo que se trata. Ok, le voy a dar la palabra al Ejecutivo para que pueda exponer sobre esta indicación.
Muchas gracias. Sobre la primera indicación que tiene que ver con incorporar el principio de explicabilidad, esto tiene por objetivo, considerando que en la letra D se consagró el principio de transparencia e identificación, pero se dejó afuera el principio de explicabilidad, todo esto en razón del debate legislativo. La explicabilidad es fundamental porque exige que los operadores de los sistemas de inteligencia artificial proporcionen información adecuada según el destinatario. No es lo mismo entregar información a un desarrollador técnico, que requiere detalles sobre algoritmos y funcionamientos de un sistema, que a un ciudadano o usuario final, que necesita una explicación clara y comprensible con términos no técnicos y ejemplos prácticos. Es decir, este principio de explicabilidad es totalmente distinto y desde otra perspectiva al aprobado en la letra D del principio de transparencia e identificación. Por eso lo proponemos como indicación, y en su momento también fue conversado y consensuado con los asesores y varios expertos.
En cuanto a la siguiente modificación, que es del inciso final, se hace en el sentido de vincular las instituciones relacionadas con el uso del sistema de inteligencia artificial. Se especifica la labor de colaboración y los lineamientos que deben seguir, por una parte, la Agencia de Protección de Datos Personales y, por otra, la Agencia Nacional de Ciberseguridad. Esos son los dos cambios que se presentaron a través de estas indicaciones. Gracias.
Muchas gracias, Paloma. Diputada Laura. Quiero reiterar una pregunta que tiene precisamente relación con la letra B, que se propone en la indicación del Ejecutivo, ya que anteriormente no se me dio respuesta. Me gustaría preguntarle, por medio de su intermedio presidencial ejecutivo, porque en la letra B se hace referencia a la agencia que tiene relación con la Ley de Datos Personales y la ley de seguridad. Me gustaría preguntarle al Ejecutivo si le hace sentido que se actualicen ambas leyes, insisto, ya que ninguna de las dos menciona la inteligencia artificial. Entonces, me gustaría saber si le parece pertinente actualizar ambas leyes y debatirlo aquí, en tantas ocasiones como sean necesarias, trabajando para todos aquellos que dicen que no queremos trabajar, cuando en realidad queremos hacer las cosas bien. A mí, eso me parece gravísimo.
En este contexto, un poco de historia: como muchas y muchos saben, la Ley de Datos Personales tuvo una tramitación muy larga, al igual que la Ley Marco de Ciberseguridad. Este proyecto de inteligencia artificial no es una discusión que haya surgido ahora; se habían presentado otros proyectos. Entonces, ¿por qué la Ley de Datos Personales y la Ley Marco de Ciberseguridad no abordaron temas de inteligencia artificial? Es porque en esas leyes no se estaban considerando dichos temas. También, considerando que la Ley Marco, que se busca regular con el uso de sistemas de inteligencia artificial, es transversal, la Ley de Datos Personales se enfoca en proteger el bien jurídico de la protección de datos y el acceso a la información de las personas, mientras que la Ley Marco de Ciberseguridad busca asegurar la infraestructura crítica y la seguridad de la información. Lo que busca esta ley es complementar otro tema, que si bien está relacionado, es distinto; tiene que ver con el uso responsable y ético de los sistemas de inteligencia artificial, imponiendo ciertas responsabilidades a los operadores y, al mismo tiempo, fomentando el uso de estos sistemas. Esto, como ya han señalado varios parlamentarios, es fundamental para el país, ya que fortalece nuestras capacidades y habilidades para seguir desarrollando inteligencia artificial. Entonces, para el Ejecutivo es muy importante este proyecto y merece tener una tramitación propia.
Muchas gracias, Presidenta. Yo entiendo que el conjunto de las leyes de nuestro país es aplicable como un todo. En ese sentido, efectivamente, separamos las leyes porque se tramitan por separado.
El cuerpo legislativo completo en su conjunto regula al país en cada una de sus materias, evidentemente, alguna abocada, alguna otra. Yo solamente quiero parafrasear algunas normativas que son las que más conozco, las de salud. Por ejemplo, en la ley del GES, la 19.966, nunca se menciona al médico, que viene definido en el Código Sanitario, pero no por eso la ley GES no considera que es parte de la respuesta del GES al médico. Es decir, todas las leyes de un sector determinado se articulan. Claro, está, por ejemplo, en el sector salud: está el Código Sanitario, está la ley del GES, está el DFL-1 y así sucesivamente.
Entonces, en el área de la tecnología, nosotros estamos creando cuerpos legislativos que son complementarios y que no necesariamente tienen que citarse lo uno al otro o estar perfectamente referenciados en cada norma; es el conjunto de normas lo que establece un marco regulatorio en ese sentido. Yo creo que el Ejecutivo está buscando articular estas leyes para que, evidentemente, la discusión de la Ley de Protección de Datos Personales demoró mucho tiempo y, cuando sus autores partieron con esto, la inteligencia artificial no era tema, no era ningún tema. Entonces, yo creo que estamos a tiempo, porque estamos en primer trámite constitucional, discutiendo ir haciendo ciertas perfecciones, probablemente no las hagamos todas, y el Senado, en buena hora, hará otras perfecciones que probablemente nosotros no alcancemos a ver. Por eso también las leyes tienen distintos trámites legislativos que permiten ir perfeccionándolas a lo largo del tiempo. Muchas gracias, Presidenta.
Muchas gracias, Diputado, diputada Labra. Sí, estaba revisando la Ley del Régimen de Garantía Explícita en Salud, la ley 19.966, y en ella se menciona —tengo el número—, muchas veces, la palabra “médico”. A lo que me refiero es que estas leyes, tan importantes, se formulaban en un momento en que quizás no se visualizaba el concepto de inteligencia artificial y no se consideró; pero es así, y por eso es importante, porque lo estamos incluyendo acá. De hecho, le estamos dando atribuciones a ambas agencias, correspondientes a cada una de esas leyes, respecto al proceso sancionatorio y a las infracciones de la Ley de Inteligencia Artificial. Por lo tanto, creo que es tan importante y complejo que no se omita ningún tipo de referencia a la inteligencia artificial. Porque, cuando se hace un mal uso de la inteligencia artificial, por ejemplo, se utilizan fotos personales para modificarlas y usarlas, por ejemplo, con contenido sexual, estamos vulnerando la protección de datos personales, entre otra información. Por lo tanto, es importante que se considere eso o, simplemente, que si el Ejecutivo cree que no es necesario actualizar esas leyes, no lo exprese de esa manera. Pero, volvamos al origen: la razón expresada acá, de la suma urgencia, es que estas leyes van a entrar en vigencia. Por lo tanto, se enreda un poco el cuento. Solo eso era mi apreciación: considero que es necesario, y hago la recomendación al Ejecutivo de que considere actualizar ambas leyes; de todas maneras, nosotros, los parlamentarios, también lo podemos hacer. Mientras tengamos suma urgencia, no vamos a poder ver otro proyecto de ley, pero creo que es bueno que se analice al menos para ejercer presión. Ok, muchas gracias, diputada Laura, diputado Kaiser, y pasamos a la votación.
Muchas gracias, Presidenta. Solamente hacer presente lo siguiente: normalmente, lo que hacemos en el derecho, cuando queremos impedir que se produzca una conducta, es sancionar una conducta específica o un daño derivado de la falta de cuidado, ya sea de una persona, de un operador, de un sistema o de su dueño. Las sanciones y la forma de retribuir a la persona afectada ya están establecidas en nuestra legislación. ¿Qué estamos haciendo ahora, en la práctica? Con este proyecto de ley estamos, en efecto, duplicando muchas cosas que ya tenemos. Lo que se está generando es una institucionalidad para controlar la inteligencia artificial; una institucionalidad que, en realidad, todavía no entiende necesariamente qué es la inteligencia artificial. La pregunta es: ¿para qué? ¿Para que no se aplique? ¿Para que se aplique solamente de una manera determinada, o determinada por el Estado? Esa es solo una reflexión, abstraiéndome del artículo mismo: ¿qué es lo que queremos alcanzar?
Pedir un resultado específico de lo que puede hacer la inteligencia artificial, tenemos que sancionar. Si queremos, entonces, que la inteligencia artificial funcione de una manera determinada, entonces este proyecto tiene más sentido. Pero no es necesariamente lo que queremos. Que la inteligencia artificial funcione de acuerdo con lo que le dice el Estado que tiene que funcionar.
Muchas gracias. Gracias, diputado Kaiser.
Ponemos entonces en votación lo que se leyó: la letra K y la letra E, que es lo que se leyó en principio. Sí, vamos a votar primero la letra K y la letra E. Sí, diputado, ya se entregó el panel. Estamos en votación. Resultado de la votación por la afirmativa: seis votos, dos en contra. Aprobado.
Ahora, el inciso final. Ponemos en votación el inciso final de este proyecto, donde se indica lo relativo al Ministerio de Ciencia, Tecnología, Conocimiento e Innovación de INN. Resultado de la votación por la afirmativa: seis votos, dos abstenciones. Aprobado.
Con eso queda terminado el artículo 4; el artículo 5 ya estaba aprobado, así que vamos al artículo 6.
Artículo 6. ¿En qué página del papel tenemos el artículo 6? En la página 8. Está separado. La primera indicación del Ejecutivo de la 22A es para reemplazar el epígrafe del título segundo por el siguiente: El Título Segundo, Uso de riesgo inaceptable de sistemas de inteligencia artificial. Y la indicación 22B, también del Ejecutivo, es para reemplazar el artículo 6 por el siguiente:
Artículo 6. Usos de riesgo inaceptable de sistemas de IA. Serán usos de sistemas de IA de riesgo inaceptable aquellos comprendidos en alguna de las siguientes categorías:
a. Manipulación subliminal. Sistemas de IA que emplean técnicas imperceptibles para las personas y que tienen como objeto o efecto directo la inducción de acciones que causan daños a la salud física y/o mental. Esta prohibición no se aplicará a los sistemas de IA destinados a ser utilizados para fines terapéuticos o utilizados sobre la base de un consentimiento informado específico y expreso de las personas expuestas a ellos o, en su caso, de su representante legal o judicial, además de la utilización sanitaria respectiva.
b. Explotación de características de las personas para generar comportamientos dañinos. Sistemas de IA que aprovechan o explotan características conocidas de las personas, como rasgos de personalidad, situación social o económica, rango etario, información relativa a la vida sexual, orientación sexual, identidad de género, la capacidad física o mental, entre otros, que tengan por objeto alterar de manera sustancial su comportamiento o limitar su voluntad, vulnerando los derechos fundamentales y/o provocando perjuicio a las personas. Asimismo, se entenderán incluidos dentro de esta categoría aquellos usos de sistemas de IA que sean dañinos y/o afecten la honra, la integridad y el libre desarrollo de la sexualidad de las personas, en particular aquellos cuyos usos puedan significar una vulneración de los derechos de niños, niñas y adolescentes, de acuerdo con lo dispuesto en la Ley 21.430.
c. Categorización de personas basadas en datos personales sensibles. Sistemas de categorización biométrica u otras técnicas de tratamiento de datos que clasifiquen e identifiquen a personas.
naturales con arreglo de datos personales sensibles o que partan de la base de una inferencia respecto a dichos atributos o características, de modo tal que dicha categorización provoque una discriminación ilegal o arbitraria. Esta prohibición no se aplicará a los sistemas de IA destinados a ser utilizados para fines terapéuticos autorizados sobre la base de un consentimiento informado, específico y expreso de las personas naturales expuestas a ellos o, en su caso, de su representante legal o judicial, además de la autorización sanitaria respectiva.
D. Calificación social genérica. Sistemas de IA que tienen por finalidad evaluar o clasificar a personas o grupos de personas naturales en función de su comportamiento social, su nivel socioeconómico, sus características personales o personalidades conocidas o inferidas, de modo tal que su calificación resultante provoque una discriminación ilegal o arbitraria sobre dichas personas o grupos.
E. Identificación biométrica remota en espacios de acceso público en tiempo real. Sistemas de IA utilizados para el análisis de imágenes divididas en espacios de acceso público que emplean sistemas de identificación biométrica remota en tiempo real. Esta prohibición no será aplicable en caso de que el sistema de IA sea utilizado estrictamente por las autoridades y órganos encargados de la seguridad pública y organismos de persecución penal, con el objetivo de prevenir, investigar, detectar y eventualmente ejecutar sanciones penales, incluidas la protección y prevención frente a amenazas para la seguridad pública de conformidad con la ley.
F. Extracción no selectiva de imágenes faciales. Sistemas de IA que crean o amplían bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales a partir de internet o de imágenes de circuitos cerrados de televisión.
Q. Evaluación de los estados emocionales de una persona. Sistemas de IA que pretenden inferir las emociones de una persona natural en los ámbitos de la aplicación de la ley penal, procesal penal y las distintas fronteras en lugares de trabajo y en centros educativos.
Muchas gracias, Victoria. Diputada Lagomaricino. Muchas gracias, Presidenta.
Primero que todo, una propuesta de que vayamos discutiéndolo y votándolo por separado, porque cada uno de ellos es un mundo en sí mismo. Respecto al primero de ellos, que es manipulación subliminal, yo creo que aquí, y no es porque esté con una posición determinada, sino que es importante hacer presente una discusión que se abrió en la Unión Europea respecto a esto, que es, por ejemplo, el concepto de publicidad. Cuando uno hace publicidad de productos, no necesariamente esos productos hacen muy bien para la salud. De hecho, varios diputados fuman y, antiguamente, existía publicidad para el cigarro. Ya ahora está mucho más restringida, pero, por ejemplo, sigue bastante abierta, por ejemplo, para el alcohol. Y pueden haber otras sustancias que también, en mayor o menor medida, podrían considerarse dañinas para la salud, que quizás no son tan evidentes como el cigarro lo es o, en segundo lugar, el alcohol, como por ejemplo, bebidas azucaradas o con excesivos ácidos grasos, incluso podríamos decir.
Entonces, aquí se dio una discusión en torno a los límites de la publicidad, que en sí misma es manipulación subliminal, pues el comerciante, el que vende un producto, quiere, a través de la publicidad, convencer y manipular a quien está siendo objeto de esa publicidad para que compre dicho producto. Claro, entonces, como dice la diputada Molina Entre Dientes, ahí al frente mío, se hace necesaria una discusión en torno al uso de inteligencia artificial en el ámbito de la publicidad en productos que pudieran estar asociados y que, de alguna forma, podrían provocar daño a la salud física y/o mental. No sé, por ejemplo, si quizás se publicita un videojuego y, finalmente, las personas pasan todo un día y todos los días jugando esos videojuegos, lo que obviamente genera un daño a la salud mental.
Entonces, en esto se dio una discusión muy enriquecedora en la Unión Europea y se buscó excluir de esta restricción el uso de inteligencia artificial en los procesos publicitarios que estén realizados conforme a la ley.