Cámara de Diputados - Comisión de Ciencias - 12 de marzo de 2025

La señora secretaria dará lectura a la cuenta. Gracias, presidenta. Se recibió el siguiente documento. Oficios o excelencias presentes en la República, mediante el cual se hace presente la urgencia calificada de suma para el despacho del proyecto de ley que regula los sistemas de inteligencia artificial. En toda la cuenta, señora presidenta. Muchas gracias, María Soledad. ¿Ofrezco la palabra sobre la cuenta? No. Ok. Acá no tenemos puntos varios, parece. No. Ok. Vamos entonces a la orden del día. Saludamos a la ministra y a quienes la acompañan. Entrando en orden del día, esta sesión especial ha sido citada con el objeto de continuar con la votación en particular del proyecto de ley originado en mensaje que regula los sistemas de inteligencia artificial y una moción que regula los sistemas de inteligencia artificial, la robótica y las tecnologías conexas en sus distintos ámbitos de aplicación, refundidos en primer trámite constitucional y primero reglamentario con urgencia calificada de suma. Hemos invitado a la ministra de Ciencia, Tecnología, Conocimiento e Innovación, señora Aysén Echeverry Escudero. La acompañan las asesoras legislativas, Paloma Herrera, Camila Guayo y Gladys Pierola. Muy bienvenida, entonces, y vamos a darle de inmediato la palabra a nuestra secretaria abogada para que nos pueda colocar en orden para continuar con la votación de este proyecto. Presidenta, la sesión pasada votamos hasta la letra D del artículo 6, por lo tanto nos corresponde la letra E. Le voy a dar lectura. Identificación biométrica remota en espacios de acceso público en tiempo real. Sistemas de IA utilizados para el análisis de imágenes de video en espacios de acceso público que emplean sistemas de identificación biométrica remota en tiempo real. Esta prohibición no será aplicable en caso de que el sistema de IA sea utilizado estrictamente por las autoridades y órganos encargados de la seguridad pública y organismos de persecución penal con el objetivo de prevenir, investigar, detectar y eventualmente ejecutar acciones penales, incluidas la protección y prevención frente a amenazas para la seguridad pública de conformidad con la ley. Hay una indicación de la diputada Labra para agregar al inciso segundo del artículo 6, letra E, a continuación del punto final, lo siguiente: asimismo, esta prohibición no será aplicable cuando el sistema de IA sea utilizado por organismos privados para prestar apoyo a las autoridades y órganos encargados de la seguridad pública, velando siempre por el resguardo de los datos personales de conformidad a las leyes aplicables. Sí, también había una indicación del diputado Lagomarsino que se presentó en la sesión pasada, que era para reemplazar la frase “espacios de acceso público” por “bienes nacionales de uso público”. Eso es precioso. Ok, voy a ofrecer la palabra al Ejecutivo para que se refiera a la letra y a las indicaciones y, después, la palabra a los señores diputados y diputadas. Gracias, señora presidenta. Muy buenos días a los diputados y diputadas. Efectivamente, esto es en la categoría de sistemas de uso prohibido, donde la identificación biométrica en tiempo real es un riesgo que evidentemente es muy alto, tiene desafíos a nivel global, pero que en materia de seguridad, a propósito de la agenda de seguridad que se está impulsando y la importancia de las nuevas tecnologías en esta materia, se establece esta excepción que es precisamente respecto de la identificación en espacios públicos, pero con la limitación de que sea a los encargados de seguridad pública y organismos de persecución penal, y con un objetivo específico que es aquel que se refiere a la aplicación de sanciones penales o a la prevención en temas de seguridad pública y, por supuesto, con el marco legal. Esta aplicación hoy día se está llevando adelante en formato piloto a través del proyecto CITIA, que es un proyecto que lleva el Ministerio del Interior, y que ya se está utilizando, por ejemplo, para placas patentes, pero que puede tener aplicaciones también en identificación de personas. Eso, señora presidenta. Muchas gracias, ministra. Diputado Kaiser, después diputada Labra. Muchas gracias, señora presidenta. Mire, el uso de esta tecnología en manos de privados ya es complicado, ¿no es cierto?, porque un privado puede hacer uso de todo tipo en esta materia. Pero en manos del Estado es distópico. El hecho de que el Estado pueda controlar o saber en todo momento y en todo lugar qué persona está circulando.

En primer lugar, no es ninguna respuesta a los problemas de seguridad que tenemos, porque los problemas de seguridad que tenemos no los teníamos antes de que existieran las cámaras de video, ni antes de que aparecieran multiplicidades de tecnologías que permiten o que supuestamente permiten la persecución del crimen, es decir, con sistemas a la antigua que respetaban los derechos a la privacidad de los ciudadanos se podía mantener perfectamente controlada la criminalidad de nuestro país. Ahora nos están diciendo que, en razón de la criminalidad, tenemos que entregarle al Estado un instrumento que le permita a éste y a sus órganos saber en todo momento dónde está, no el criminal, sino que cada uno de los ciudadanos de este país pasa a ser un sujeto de control por parte del Estado. Yo quiero apelar a los colegas para que no voten a favor de una norma que abre espacio para un control de tipo chino sobre la sociedad. Eso es lo que se votaría de la mano de este inciso. Yo creo que el Estado no tiene derecho a saber en todo momento y en todo lugar, tampoco en el espacio público, dónde están sus ciudadanos o qué están haciendo, en tanto que no estén cometiendo delitos. No me parece que lo que estamos avanzando aquí sea un tema que pueda tomarse a la ligera, porque estamos creando la infraestructura para un control total y absoluto de la población. Y ustedes me dirán: tenemos un gobierno democrático, pero un gobierno democrático no tiene por qué mantenerse democrático de manera permanente, e incluso puede derivar en autoritarismo de mayoría. Entonces, hay que tener mucho cuidado con lo que se está planteando aquí. Creo que el Estado es el que tiene que ser transparente; los funcionarios públicos deben serlo, y las cuentas públicas tienen que ser transparentes, no el ciudadano. El ciudadano es el patrón; a él no le pedimos cuenta de manera permanente, lo perseguimos si comete un delito, pero no lo tenemos controlado en todo momento, no es ganado, es el señor en nuestra sociedad. Por ello, personalmente, no estoy dispuesto a votar a favor de esto. El Estado no puede tener derecho a hacer lo que se está planteando. Muchas gracias. Muchas gracias, diputado Kayser. Diputada Labra. Gracias, Presidenta. Comparto la apreciación del diputado Kayser, pero lo recojo desde otra arista. Entiendo que el uso del sistema de inteligencia artificial para identificación biométrica en espacios de acceso público es extremadamente complejo, pues requiere que el uso de los datos personales esté debidamente resguardado, y eso lo podemos lograr a través de las leyes que ya existen o de la próxima ley de protección de datos personales. Me parece complejo que únicamente el Estado tenga acceso a estos datos; si bien puede ser pertinente en el combate a la delincuencia y al narcotráfico, no considero adecuado que se excluya la participación de los privados, ya que ellos también pueden colaborar junto con las autoridades y órganos del Estado para enfrentar la delincuencia y el narcotráfico, siempre que ello se realice bajo la misma regulación que gobierna el acceso estatal a los datos de la ciudadanía. Por lo tanto, esa regulación que debe tener el Estado también debe aplicarse a los privados en colaboración con los organismos y autoridades competentes para combatir estos delitos. Por ello he presentado esta indicación que incluye la excepción de los privados dentro de este rol de seguridad y combate contra la delincuencia, regulado, por supuesto, a través de las leyes que tenemos, como la ley de protección de datos personales, por ejemplo. Gracias, diputada Navarra. Diputado Lagomachino, después diputada Riquelme y después diputado Kayser. Muchas gracias, Presidenta. Yo creo que, con la diputada Labra, tanto su indicación como la mía van en la misma línea, pero en ámbitos diferentes, en el sentido de que hay espacios públicos, de uso de todos los chilenos, donde considero que no debe existir identificación.

... biométrica en tiempo real, de forma remota, y a la vez creo sí que los elementos comprendidos en el segundo párrafo no son suficientes para garantizar, a mi juicio, lo que estamos buscando cautelar. Creo que debería al menos tener una autorización desde un juzgado de garantía para los fines que se plantean acá, al menos en los bienes nacionales de uso público, pero efectivamente hay espacios públicos que son privados. Que un mall tenga identificación biométrica no me parece distópico. Una persona accede a un mall voluntariamente, a un espacio público que, obviamente, es de un privado, y que también aquello genera cierta garantía en materia de seguridad dependiendo de quiénes acceden. Uno de repente ve en algunos espacios privados que hoy día tienen guardias que ya no parecen de las antiguas guardias, ahora parecen casi tortugas ninja, parecen SWAT, algunos de ellos. Entonces, en ese contexto, esto también se transforma en una manera en la cual combatir hechos delictivos en espacios públicos, pero de orden privado. Por eso, la especificación de mi indicación a los bienes nacionales de uso público, es decir, que no sea en la calle, en las plazas, en las cámaras que están dispuestas en cada uno de los lugares por donde transitamos, que son de todos los chilenos. Gracias, Presidenta. Gracias, Diputado. Diputada Riquelme: Muchas gracias, Presidenta. Yo espero que no haya mucha gente escuchando porque estoy de acuerdo con el diputado Kayser. No, no, no, en el sentido… No se preocupe, diputada, que hoy día no nos están escuchando. Muy bien, muchas gracias. Por eso lo dije, por eso aproveché la ocasión. Bueno, lo que pasa es que para que haya una identificación biométrica tiene que haber una base de datos biométrica. Eso significa que tiene que haber habido ciudadanos que hubiesen consentido en que sus datos pasen a una base de datos, valga la redundancia. Yo trabajé durante muchos años para diversas empresas agrícolas y me acuerdo que fuimos la primera en la región en implementar la identificación biométrica para efectos del acceso de los trabajadores, que fue la planta Tuniche, en Granero. Y fue, obviamente, muy bullado, muy eficiente y muy rápido el ingreso de los trabajadores, pero ellos debían registrarse previamente, autorizar esta identificación biométrica para efectos de la entrada y la salida a su lugar de trabajo. Entonces me imagino en un mall, eso estoy pensando, en un mall donde, tal vez, la finalidad es la persecución criminal, ¿verdad? Poder identificar a los mecheros que ya están identificados por los propios malls, ellos también tienen estos datos, pero para poder acceder a una base de datos biométrica creo que es fundamental la autorización; creo que es fundamental la autorización. Ahora, ante una situación de riesgo o de peligro de seguridad pública, creo que escapa al resorte de esta comisión; creo que eso pertenece a una política de seguridad pública, tal vez, que escapa al resorte de lo que compete a una comisión de ciencias. En la comisión de ciencias lo que nosotros vemos es el uso y la aplicación de las tecnologías, pero no una aplicación que pueda darse con fines de seguridad ciudadana. Por eso creo que esto escapa al resorte de esta discusión y debiéramos, incluso, escuchar, si queremos abordar esto, opiniones de la policía, por ejemplo. Pero me parece que, así como está redactado, en mi caso yo no lo aprobaría. Gracias, Presidenta. Gracias, Diputada Riquelme. Diputado Kayser: Sí, hago presente lo siguiente, señora Presidenta, y al respecto de lo que dijo la diputada Riquelme por su intermedio. La base de datos se está creando. Se está creando a través del Registro Civil y es obligatoria. Es decir, no es una base de datos que sea alimentada solamente, por ejemplo, con las fotos o las imágenes o los datos.

biométricos de personas que hayan cometido delito y por lo tanto tienen que ser seguidas durante un tiempo de probation, o sea, en el tiempo en que todavía están en situación de poder recaer, se me olvidan las palabras en este momento. No, este sistema lo que va a poder hacer es establecer, en tiempo real, en los espacios públicos que estén controlados por el sistema –estamos hablando del Estado, que hace a todo ciudadano, no solamente al delincuente–, que en todo momento, en el espacio público, que es del ciudadano y no del Estado. A un mall, si yo entro a un mall, el mall va a tener un problema para tener esta base de datos si no se la presta el Estado, a menos que uno, efectivamente y de forma voluntaria, se inscriba en el tema biométrico del mall, y entonces pueda decidir si lo hace o no al entrar, lo que probablemente haga que un mall que trate de implementar esta política tenga caídas importantes en sus ventas. Lo que se está haciendo aquí es forzar un sistema –un sistema que va con otras aristas que ya están avanzadas–, como es el tema del control biométrico en los estadios y en los aeropuertos, que están avanzando con el empadronamiento biométrico de todas las personas a través del Registro Civil; y usted no hace eso si no es porque quiere el control total de la sociedad. Y a mí me parece que el control total de la sociedad, ayudado por la inteligencia artificial –porque esta cuestión no es solamente que haya una persona mirando una cámara de video sin saber quién se está moviendo y pudiendo identificar un delito cuando se comete–, es que la inteligencia artificial me identifica no solamente si hay un delito, sino que me identifica todas las actividades de todas las personas que están en esa calle haciendo cosas perfectamente legales, aunque quizá moralmente no tan aceptables, como sería salir a pasear con la amante o alguna cosa por el estilo. Pero lo va a identificar todo, lo va a saber todo en el espacio público. Y a mí me parece –y esa pelea la dimos también en deporte en algún momento– que es un riesgo tremendo para la libertad de los ciudadanos tener en manos, incluso es más peligroso en manos del Estado que en manos de privados, porque el Estado tiene la fuerza coercitiva a su disposición, cosa que los privados no tienen. Yo honestamente diría que, exceptuando al Estado, este debe estar prohibido de utilizar este tipo de medios de manera masiva para controlar a los ciudadanos honestos. Y repito: el tema de la seguridad no pasa por controlar a los ciudadanos honestos, sino por tener a los deshonestos presos. Muchas gracias. Gracias, diputado Kaiser, ojalá no lo haya escuchado su señora cuando habla de la amante. Sí se entiende, diputada Laura. Bueno, hoy me parece que es un día de mucho consenso, porque estoy de acuerdo con lo que dijo Riquelme, pero también reconozco que esto tiene un debate extenso y profundo en materia de seguridad, tema sobre el que quizás nosotros no somos los más expertos para debatir. Y quiero llegar más allá, por algo yo decía que esta ley necesita un análisis mucho más profundo, mesas de trabajo, ajustes en otras leyes, porque no solo nos estamos metiendo de lleno en materia de seguridad, sino también en salud, economía, empleo, educación y así suma y sigue. Por lo tanto, no quiero que perdamos el foco: lo que se habla ahora son literalidades de sistemas de uso de inteligencia artificial que quedan prohibidos en nuestro país, es decir, no se pueden utilizar y con multas altísimas. Por lo tanto, nos estamos metiendo en un montón de materias que se regulan nosotros mismos a través de esta ley de inteligencia artificial, y me gustaría recordarles que ayer, casi por unanimidad absoluta, se aprobó en el Congreso un proyecto de ley para usar tecnología de identificación biométrica en aeropuertos, que iría en la línea de esto, donde yo creo que no podemos permitir que, nuevamente, se aplique a los privados el uso de esta herramienta en coordinación con el Estado sin la regulación necesaria que también debe aplicarse al propio Estado. Gracias.

Muchas gracias, presidenta. Yo solamente quiero clarificar que lo que aprobamos el día de ayer no es ni escasamente similar a lo que estamos votando. Es identificación biométrica en un punto, es decir, que la persona pueda ponerse voluntariamente frente a una cámara y que la identifiquen biométricamente, como nosotros lo hacemos en la sala. Esto es, en el fondo, conectar muchas cámaras en muchos lugares a un servidor con una inteligencia artificial que va identificando a las personas en cada una de esas cámaras y va almacenando, efectivamente, por dónde pasó, en qué horario pasó. Es decir, creo que ahí hay que guardar la envergadura. Ahora, sí comparto con la diputada Labra: usted, presidenta, tiene la potestad absoluta, pero, como recomendación, yo creo que podríamos eventualmente dejar sin votar esta letra y, reglamentariamente, generar algunas invitaciones para darle una breve y mayor discusión de al menos una sesión. Quizás podríamos invitar a la policía, a la fiscalía, etcétera, cosa de poder dotarlo de algunas opiniones; si usted lo tiene bien, y si no, votaremos. Pero yo sé que podemos, una letra, generar invitaciones en la discusión en particular. Muchas gracias, diputado Lago Marcino. Diputado Kayser: Sí, señora presidenta. Yo propondría que la votación del punto E la hagamos entonces de dos incisos: desidentificación biométrica remota en espacios de acceso público en tiempo real –sistemas ya utilizados por el sistema de imágenes y videos en espacios de acceso público– y empleo de sistemas de identificación biométrica remota en tiempo real. Esa es la prohibición, ¿de acuerdo? Y después viene la excepción: que votemos la prohibición y votemos la excepción. Es decir, pues, yo soy partidario de votar la prohibición a favor y soy partidario de votar la excepción en contra, o sea, que esté prohibida la implementación de estos sistemas, no importa para quién. Muchas gracias, diputado Kayser. Ya, miren, el diputado Lago Marcino propuso invitar a la policía para solo tratar este punto de la letra E, que es algo que tiene que definir la Comisión completa. Y, por otro lado, voy a tener que suspender unos minutos porque llegó el sistema. Entonces, van a activar para que podamos legislar y, mientras tanto, conversamos sobre este punto. ¿Les parece a todos? Suspendo, entonces, un par de minutos. Ok. Entonces, voy a volver a consultar respecto de si hay acuerdo o no para invitar a la policía, ¿no?, a ministerios. ¿Se retira la sugerencia? Ok. Muchas gracias, diputado Lago Marcino. Vamos a pasar, entonces, a votar. Le voy a pedir nuevamente a nuestra secretaria abogada que lea la indicación del diputado Lago Marcino primero, porque me dice que hay que votar primero las indicaciones. La indicación del diputado Lago Marcino, que está en el WhatsApp del grupo, es para reemplazar espacios de acceso público o bienes nacionales de uso público, salvo que una ley especial la autorice, e incorporar “entre no será aplicable” y, en caso de que, la expresión “siempre que medie una precesión de un juzgado de garantía”. Siempre que medie una precesión de un juzgado de garantía. ¿Puede explicar la indicación? Sí. Le voy a dar la palabra al diputado Lago Marcino para que explique su indicación. (Abro nuevamente la palabra, diputado.) Está en el WhatsApp. Ahí sí. Muchas gracias. Primero, podríamos… El numeral 1: la indicación tiene dos partes. ¿Votarlas por separado? Porque yo creo que el diputado Kayser va a estar de acuerdo en la segunda y en contra de la primera. Bueno, pero igual, Marqués.

La gracia es justamente que se cambie espacios de acceso público por solo bien nacional de uso público en la calle, de modo que pueda existir la posibilidad de que una ley especial lo autorice, por ejemplo, para no inhabilitar la discusión que se está dando en materia de Estado de Seguro, y la segunda es para que exista una autorización de un juzgado de garantía, entendiendo que el objetivo de esto no es utilizarlo de forma permanente, sino solo en casos en que realmente se justifique. Gracias, Presidente. Gracias, Diputado. Diputado Kaiser, usted solicitó la palabra. Sí, una consulta respecto de la indicación del Diputado Lacomarcino. Entonces, para entenderlo bien, quedaría prohibida la identificación biométrica remota en bienes nacionales de uso público en tiempo real. Sistemas de inteligencia artificial utilizados para el análisis de imagen y vídeo en espacios de acceso público, que emplean el sistema de identificación biométrica remota en tiempo real, a menos que cuenten con una autorización del Tribunal de Garantía para la búsqueda. Yo me estoy remitiendo también a algunos conceptos de la Ley de Inteligencia Artificial de la Unión Europea. La Unión Europea es incluso más categórica en cuanto a los objetivos para los cuales está autorizada: de hecho, plantea riesgos para la seguridad interior del Estado, como el terrorismo, ubicando estos casos en un aspecto mucho más crítico o grave, por lo que debe verificarse que efectivamente existe un riesgo de un acto terrorista para que, en un determinado lugar, se pueda autorizar su uso. Por ejemplo, en los Juegos Olímpicos –por ejemplo, en París– podría existir un alto riesgo de un acto terrorista; en tal situación, un Juzgado de Garantía podría autorizar excepcionalmente, en la Villa Olímpica o en el lugar donde se realicen los Juegos Olímpicos, la identificación biométrica remota en tiempo real. Obviamente, en esos casos las autoridades deben exponer los antecedentes que demuestren que existe fundamento para ello. Estoy poniendo este ejemplo en el marco de la Ley de Inteligencia Artificial Europea, la cual plantea más específicamente los casos en los cuales se puede emplear esta tecnología. Muchas gracias, diputado Lacomarcino. Diputado Kaiser. Y después le abro la palabra al Ejecutivo y pasamos a votación, por favor. Gracias, señora Presidenta. Hecha la ley, hecha la trampa. Yo debo recordar que tenemos ya cuatro o cinco años de estado de excepción en la Araucanía. El punto es que, una vez creada la infraestructura y la base de datos biométrica, la tentación de utilizarla tanto para fines positivos como para fines nefarios será muy difícil de controlar. Una vez que se ha instalado la posibilidad, es decir, cuando se han creado estos sistemas y están instalados físicamente, se van a utilizar para lo que fueron diseñados. Y la expansión de estos sistemas llegará al punto de que, en algún momento, tendremos exactamente lo que no queremos: una sociedad controlada con un sistema de crédito social, porque, de la mano de las incivilidades, todo el mundo siempre exige más control. El control se está dando hoy en día de la mano de máquinas, de la mano de la inteligencia artificial.