Las actas de las sesiones 86 y 87 quedan reglamentariamente aprobadas. La señora secretaria dará lectura a la cuenta. Gracias, presidenta. Se han recibido los siguientes documentos. Comunicación de la jefa de la bancada del Partido por la Democracia, por la que informa que la diputada Maldina será reemplazada en esta sesión por la diputada Humo Santos. También, una comunicación del jefe de la bancada de la UDI, por la que informa que el diputado Felipe Donoso reemplazará en esta sesión a la diputada Marta Bravo. Correo del equipo Boletín Legislativo Mujeres y Género de la Biblioteca del Congreso Nacional, a través del cual se remite la edición 61 del Boletín Legislativo Mujeres y Género de la BCN, correspondiente a marzo de 2025. En esta oportunidad, en el marco de la conmemoración del Día Internacional de la Mujer, se aborda el tema de los desafíos para disminuir la brecha de género en la ciencia, tecnología, ingeniería y matemáticas. En la línea de la publicación realizada por la BCN, tabla periódica de las mujeres científicas chilenas, disponible en el sitio web, que invita a conocer la contribución que se hace para visibilizar la experiencia y aporte de mujeres chilenas a la ciencia.
Hasta la cuenta, presidenta. Muchas gracias. ¿Se ofrece la palabra sobre la cuenta? ¿Puntos varios tampoco? ¿No? Ok. Pasamos entonces a la orden del día.
Entrando en el orden del día, esta sesión ordinaria ha sido citada con el objeto de continuar con la votación en particular del proyecto de ley originado en mensaje que regula los sistemas de inteligencia artificial y de la moción que regula los sistemas de inteligencia artificial, la robótica y las tecnologías conexas en sus distintos ámbitos de aplicación, tramitados en primer trámite constitucional y primer trámite reglamentario, con urgencia calificada de “suma”. Por el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación se encuentran presentes las asesoras legislativas Paloma Herrera, Camila Guayo y Gladys Pierola. Bienvenidas, Paloma, Camila y Gladys, que se encuentran.
Vamos a comenzar de inmediato entonces con el video. Sí, hay un video, me dicen. Pero para entender, diputada Álvarez, usted tiene un video, una vez que... Ok, o sea, ahora vamos a ir al siguiente literal y ahí colocamos el video. Ok.
Vamos entonces a pedirle a nuestra secretaria abogada que lea la letra F. Presenta la letra F del artículo 6, la cual dice: “F. Extracción no selectiva de imágenes faciales. Sistemas de IA que crean o amplían bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales a partir de Internet o de imágenes de circuitos cerrados de televisión.”
Vamos entonces con el video. Presidenta, no; primero, es que es parte de la discusión de este literal, entonces me gustaría que el Ejecutivo nos pudiese explicar antes de ver el video. Muchas gracias.
Ok, entonces le vamos a dar la palabra al Ejecutivo para que pueda comentar sobre esta letra. Muchas gracias, presidenta, y aprovecho de saludarlos a todas y a todos. Simplemente señalar de que la…
El uso inaceptable como extracción no selectiva de imágenes sociales, faciales, perdón, tiene que ver con que estas bases de datos, que son creadas o son ampliadas a través de un reconocimiento facial —a través de extracción no selectiva, es decir, sin criterios de filtrado o selección— pueden afectar los derechos fundamentales. No solamente los derechos que tienen que ver con la protección de datos, sino también otros, como la libertad de expresión, porque además esta extracción se efectúa sin el consentimiento. ¿Ya? En razón de esto se establece que es un uso inaceptable. Eso sería. Muchas gracias.
Diputada, sí, Camila y después diputada Laura.
Sí, bueno, buenas tardes a todas y todos. Comentar también que este literal se ejemplifica en elementos concretos que han sucedido a nivel internacional. Particularmente en Europa, una empresa de tecnología de reconocimiento facial recolectó millones de imágenes de personas sin su autorización, extrayéndolas de redes sociales y sitios web públicos con base de datos. La empresa vendió su tecnología a agencias gubernamentales y cuerpos de seguridad. Dado que en esta comisión se ha señalado y se ha puesto de manifiesto la necesidad de comprender de manera práctica las implicancias que tiene este proyecto de ley, nos pareció importante traer como ejemplo un evento sucedido, que no solamente fue un evento, sino que recibió una sanción efectiva en otro país. Eso, presidenta. Muchas gracias, Camila.
Diputada Laura: Gracias, presidenta.
Respecto a la explicación de parte del Ejecutivo, en ninguna parte en el literal se dice que es cuando no hay criterio en la selección, solamente se señala que se trata de una extracción no selectiva, cuyo significado es aleatorio, y en ninguna parte tampoco se hace mención a la vulneración de derechos fundamentales, que creo que es algo fundamental y debiese estar explícito en este literal. Y bueno, para fundamentar un poco más la discusión de este literal, porque ya saben, a mí me gusta bastante ejemplificar lo que estamos discutiendo –ya que ninguno de nosotros acá es experto en inteligencia artificial– he traído un video de una noticia del año pasado que me gustaría, por favor, que lo pudiésemos compartir para luego darles mi apreciación y fundamentación. Gracias.
Gracias, secretaria, por mostrar el video. Yo traigo esto a colación porque me gustaría que el Ejecutivo nos pudiera aclarar. Este video a propósito es de agosto del año pasado, en el 2020. Lo que vimos ahí, donde dice literal la periodista que se logró identificar a un conocido lanza, y lo que pudimos ver en extenso, ¿es un sistema de identificación biométrica en espacios de acceso público? Esa es la pregunta número uno, porque no sé cómo se puede identificar a un reconocido lanza, si no es de esa manera. Y es un sistema de inteligencia artificial. Esa es mi pregunta número uno, que quizás se podría haber transparentado en la mañana como un buen ejemplo de algo que quedó prohibido según la votación de hoy, o es un sistema de extracción no selectiva, es decir, aleatoria, de imágenes faciales, con uso de inteligencia artificial, que es el literal que estamos discutiendo ahora, que crea bases de datos, porque en la nota que aparece en Metro, el ministro dice explícitamente, a partir del comportamiento de las personas, que con este sistema de inteligencia artificial crean además bases de datos. Entonces, concretamente, mi pregunta al Ejecutivo es: ¿eso qué ocurre ahí? ¿Es un sistema de identificación biométrica? Porque recordemos que la propuesta que presentó el Ejecutivo quedaba exceptuada de prohibición de estos sistemas los órganos del Estado. ¿O es un sistema de extracción no selectiva de imágenes faciales, que es lo que se está prohibiendo en el próximo literal? Me gustaría que nos aclaren cuál de los dos es, porque, sí o sí, encaja en uno de esos dos literales.
Diputado Keiser. Muchas gracias, Presidenta.
Los seres humanos tenemos capacidad de memoria, es decir, cuando una persona ha sido reconocida o ha sido detenida más de una vez, normalmente ya existe la posibilidad de identificarla también a través de las cámaras. Los guardias de seguridad y también aquellos que están detrás de las cámaras, normalmente conocen a su clientela. Una cosa muy distinta, y por lo demás es importante hacer presente que este sistema que está implementado en el Metro no ha sido suficiente para impedir homicidios, ni para impedir que siga el comercio ilegal, que sigan, me van a disculpar, orinando y defecando en el propio Metro. Y eso, a pesar de tener 6.000 cámaras. ¿Cuál es el problema que se tiene efectivamente? No es que uno no vea lo que está pasando, sino que uno no puede impedir lo que pasa porque no tiene la fuerza para hacerlo. Es decir, el sistema, como tal, la pregunta es si efectivamente tiene ya una base de datos de personas que han incurrido repetidamente en este tipo de infracciones. Por lo demás, Metro es una empresa privada, o sea, tiene capitales del Estado, es propiedad del Estado, pero se rige por las normas de la empresa privada, siendo incluso una parte concesionada. Entonces, señora Presidenta, lo que nosotros estamos viendo aquí, en mi opinión, no es necesariamente lo que prohibimos en la primera sesión de hoy, porque estamos viendo un sistema de control donde hay agentes humanos identificando a personas que ya son conocidas.
El tema es que, por favor, diputada, pida la palabra cuando... Para que no entremos en diálogo. Para que la gente que no nos acompaña entienda que este es un sistema que extrae imágenes para crear una base de datos. No creo que la segunda parte—¿extrae imágenes?—sino que crea una base de datos, como lo dice el propio ministro. En ese caso habría que ver si efectivamente quedaría cubierto por esta normatividad. Nuevamente, recordarles que este sistema operando es un sistema que está en marcha blanca, supuestamente, y que, con este sistema en funcionamiento, no se ha reducido la delincuencia ni la comisión de todo tipo de tropelías en el Metro. Y antes, no teníamos tropelías en el Metro y no teníamos cámaras. Entonces, ¿cuál es realmente el problema? El problema es que usted no tiene un carabinero a 10 cuadras del Metro, y cuando sucede algo que es denunciable, no hay nadie que pueda ir y poner el orden. Ese era mi punto hoy en la mañana y lo he...
Gracias, diputado Cáceres, diputado Lago Martino, y después diputada Yoman, y después diputada Labra. Muchas gracias, Presidenta. Efectivamente, lo que ha demostrado de forma didáctica la diputada, a través de su intermedio Labra, es un sistema de identificación biométrica en tiempo real, de forma remota, producto de que existe una inteligencia artificial que detecta a las personas mediante patrones faciales y que está siendo utilizado en tiempo real y de forma remota.
Ahora bien, justamente cuando planteé la indicación de especificarlo para bienes nacionales de uso público, era precisamente para que se pudiera utilizar en espacios como, por ejemplo, el metro, estadio o áreas que no son bienes nacionales de uso público, es decir, para excluirlos únicamente de las calles, las plazas, etc.
Lo importante a señalar respecto a la extracción no selectiva de imágenes faciales es que, a diferencia de un proceso selectivo –por ejemplo, cuando mediante una cámara se busca a un delincuente X en el metro, y se toman selectivamente sus datos faciales para incorporarlos a un sistema– lo que se está prohibiendo es la extracción masiva y sin criterio de imágenes faciales. Es decir, que las cámaras del metro recopilen de forma masiva las imágenes faciales de todos los que pasan, asignándoles quizás un ID (por ejemplo, que a una persona se le extraiga su imagen y se le asigne el ID 123, de modo que siempre que pase por algún lugar se registre “aquí pasó 123”), sin necesariamente asociarlo a una identificación personal, ya que para ello se requeriría el Registro Civil y otros antecedentes. En esa línea, lo que se prohíbe no es la extracción selectiva, sino la extracción no selectiva utilizada de forma masiva.
Muchas gracias, Presidenta.
Diputada Yoman: Presidenta, sí, un poco para poder ir viendo en qué quedamos respecto a la discusión, porque esta fue una letra que ya votamos en la mañana. ¿La letra es? No, no, no, la que estamos viendo ahora no la hemos votado; estamos en el debate. Ah, ok, ya, entonces no se trata de la letra. Ok, gracias.
Diputada Laura, y después le doy la palabra al Ejecutivo. Muchas gracias, Presidenta.
Yo quiero aclarar que acá no estoy discutiendo si esto es efectivo en materia de seguridad o no. Aquí quiero hacer el punto de lo que he planteado desde el inicio, y aunque cuando lo expongo algunos se miran y dicen “¿otra vez?”, estas son prohibiciones de uso de inteligencia artificial que, si alguien llegara a utilizarlas, podría enfrentarse a una multa de hasta 20.000 UF. El punto es que, si esto no queda bien definido, estamos elaborando un proyecto de ley restrictivo que puede generar confusiones y sancionar desarrollos que pueden aportar, producto de definiciones deficientes.
En ese sentido, no estoy discutiendo la efectividad en seguridad, sino que quiero que el Ejecutivo aclare esto. Lo que observamos es que el gobierno, anunciado por el ministro de Transporte –y que se menciona expresamente en una nota publicada el año pasado– está generando una base de datos. No sé, diputado, si será específicamente una base de datos de delincuentes, ya que se utiliza para distintos fines. Entonces, no sé si con 6.000 cámaras podrían estar haciendo una base de datos seleccionando cada rostro de forma individual. ¿“Este delincuente te tomó tu cara?” No lo sé; yo creo que no, ya que esto no concuerda con la cantidad de personas que pasan en una estación de metro al día o por hora. Difícilmente se tratará de una extracción no selectiva.
o sea, selectiva de imágenes faciales. Por lo tanto, a mí me calza perfectamente que esto es un sistema de extracción no selectiva de imágenes faciales, que es lo que el Ejecutivo está prohibiendo en este literal que estamos discutiendo. Por eso, me gustaría, por la buena definición y la claridad en lo que estamos haciendo en una ley que estamos prohibiendo, con multas incluso de 20.000 UTM, que este tipo de cosas se puedan aclarar. Por lo tanto, me gustaría escuchar la opinión del Ejecutivo, por favor.
Muchas gracias, diputada Labra. Diputado Kaiser.
Sí, muchas gracias, presidenta. Aparte de que el numeral tiene un problema: utiliza la misma palabra con que se titula el fenómeno, es decir, dice extracción no selectiva de imágenes faciales. Un sistema de IA que crea una amplia base de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales. Sería bueno que le pegaran una bajada para que se entienda cómo se entiende la extracción no selectiva de imágenes faciales. Entonces, podríamos quizás conversar también sobre lo mismo. Muchas gracias.
Gracias, diputado Kaiser.
Bueno, es un poco la pregunta también que tenía yo para el Ejecutivo, si nos pueden explicar a qué se refieren con extracción no selectiva para tener más claridad.
Claro, ningún problema. Muchas gracias. Primero, aclarar que las sanciones son en UTM, no en UF, y en cuanto al ejemplo que se dio, obviamente desde el Ejecutivo no podemos responder por el uso que está haciendo por Metro de Santiago, pero sí también podemos señalar que, en el caso de la noticia, ese sistema no realiza identificación biométrica, sino que utiliza bioanalítica con inteligencia artificial para detectar patrones de comportamiento en las estaciones. No hace un reconocimiento facial, que es lo que está establecido como uso inaceptable. Y el segundo punto, que claro, lo que está prohibido es la extracción no selectiva, es decir, sin criterio de filtrado, sin criterio de selección. Eso. Muchas gracias.
Gracias, Paloma.
¿Alguien más?
Diputada Labra.
Gracias, presidenta. Yo no sé si la definición de "no selectivo" es sin criterio, con vulneración de derechos, etcétera, porque para mí algo no selectivo significa aleatorio. Por lo tanto, insisto: la redacción de los literales debe quedar con lo que realmente se quiere expresar, que me parece perfecto que tenga que ser algo que quede prohibido, que viene a vulnerar derechos fundamentales de las personas. Está perfecto, pero no lo dice cuando decimos sistema de extracción no selectiva. Simplemente, con esa palabra no se entiende que es algo que va a generar discriminación, que va a vulnerar derechos de las personas. Por lo tanto, me encanta el fundamento, pero no está descrito aquí en este literal. Y, por lo tanto, también sería bueno saber, cuando hablamos de que son imágenes faciales extraídas a partir de internet o de imágenes de circuito cerrado de televisión, si yo hago esto mismo, pero extraigo las imágenes faciales de otro tipo de fuente, ¿se puede hacer?
Diputado Kaiser.
Sí, presidenta. Creo que un sinónimo para esto sería recopilación indiscriminada de imágenes faciales. El punto es que cuando usted prohíbe, o sea, se puede prohibir perfectamente bien la recopilación indiscriminada de imágenes faciales, a recordar que eso lo hacen hoy día las redes sociales; por ejemplo, las redes sociales que funcionan con inteligencia artificial recopilan imágenes faciales, específicamente, por ejemplo, Instagram o Facebook. La pregunta entonces es: ¿qué haríamos en ese caso, si eso se prohíbe? ¿Cómo podría, por ejemplo, archivar Facebook los perfiles de sus usuarios? No están todas las fotos. Es una recopilación indiscriminada de imágenes faciales. Creo que le podríamos dar todavía una vuelta a esto, a ver si se puede definir un poco de manera...
un poco más exacta el objeto o la conducta que efectivamente queremos impedir. Me parece absolutamente razonable que se coloquen limitaciones, pero aquí no se refiere a la voluntariedad, por ejemplo, en la entrega de datos, lo que podría generar complicaciones de otro tipo. Muchas gracias, señor presidente. Muchas gracias, diputado Kayser.
Le voy a dar la palabra a la diputada Yomans, pero yo coincido con lo que dice el diputado Kayser. No es raro que coincidamos en algunas cosas, pero en el fondo también me pasa que es como poco explicativo lo que se define en esta, o lo que se intenta definir en esta letra.
Diputada Yomans. Presidenta, quería, a propósito de eso, proponer una indicación que, quizás, permita dar una mejor definición. Se refiere a que, en el momento en que se realiza la definición, es decir, cuando se dice que sean sistemas de inteligencia artificial que crean o amplían bases de datos de reconocimiento facial mediante la extracción no selectiva —entendiéndose por tal discriminación arbitraria— de imágenes faciales a partir de Internet o de imágenes de circuitos cerrados de televisión, con ello queda acogido lo planteado por los parlamentarios.
Diputado Kayser. Me ha encantado revisar de nuevo la redacción, pero, así como yo la escuché, me parece que incluso complica aún más la comprensión del fenómeno. Si, por ejemplo, usted utiliza un sistema de extracción no selectiva de imágenes faciales, es decir, sistemas de inteligencia artificial que crean o amplían bases de datos de reconocimiento facial mediante la extracción indiscriminada —ya que “no selectivo” es justo lo contrario de “discriminatorio”, refiriéndose a una extracción indiscriminada e involuntaria por parte de las personas—, obteniendo imágenes faciales a partir de Internet o de imágenes de circuitos cerrados de televisión, probablemente estaríamos describiendo mejor la conducta que se quiere impedir.
Pero si usted quiere entregar voluntariamente su imagen facial, por ejemplo, en un sistema como sería Twitter, TikTok o lo que fuere, bueno, usted lo está haciendo de manera voluntaria. ¿Le podemos impedir eso? Esto sucede en redes sociales, y no solamente en redes sociales; por ejemplo, en grupos de WhatsApp, ya que WhatsApp funciona con ese mecanismo, y puede producirse un sistema de inteligencia artificial que amplíe bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes a partir de Internet. Muchos archivos de periódicos, por ejemplo, funcionan de esa manera, es decir, van y buscan imágenes que están, por ejemplo, liberadas o que se encuentran dentro de un programa en el que uno paga para tener acceso a ellas.
Sí, diputada Yomans, y después le voy a dar la palabra a la diputada Labra, que será súper breve, para interlocutar un poco respecto al punto. Es que estamos hablando, primero, de que no se trata de lo que utilizan redes sociales como Instagram o Twitter, porque estamos hablando de la extracción de esos datos, que pueden tener las características que plantea el diputado, y no es que, al dar su consentimiento para armar una página de Instagram, se autorice a otra empresa a extraer los datos que dicha plataforma podría ofrecer para otro efecto. No tiene que ver con eso. Acá estamos hablando de la extracción de las imágenes, y no de cualquier imagen, porque se trata de reconocimiento facial, y no, por ejemplo, de recortes de diario, de lo que se planteaba, diputado.
Eso, señor presidente. Gracias, diputada Labra, y después le doy la palabra al Ejecutivo.
Gracias, presidenta. En primer lugar, reconozco mi error. Yo dije que la multa era de 20.000 UF, lo que equivale a 780 millones de pesos, y correctamente, Paloma, la asesora del Ejecutivo, me corrigió.
1.000 UTM, o sea, 1.400 millones de pesos, o sea, mucho más. Reconozco mi error. Y en segundo lugar, yo creo que es muy importante que el Ejecutivo pueda aquí explicarnos lo que realmente quieren que se prohíba con esto y que ellos nos propongan, porque está claro acá que hay un error tremendo en la redacción, que no se entiende, que queda a la interpretación, y lo vemos acá en la discusión con los parlamentarios, y es necesario definirlo como corresponde. Por ejemplo, voy a dar un ejemplo: estadio en un estadio, política de estadio seguro. Si tenemos una extracción de reconocimiento de imágenes faciales aleatoria, es decir, no selectivo, a través de las cámaras, como dice aquí esto, a través de las cámaras de circuito cerrado o televisión, para crear base de datos. Pero, ¿para qué? Para crear base de datos, quizás estadística. ¿Cuántos hombres y cuántas mujeres asistieron? ¿Estaría prohibido según esto o sería permitido? Creo que sería muy bueno que el Ejecutivo nos pueda explicar. Gracias, diputada. Diputado Kaiser, ¿va a hacer uso de la palabra o le doy la palabra al Ejecutivo? Sí, Presidenta, yo me sumo probablemente con otras inquietudes respecto a la solicitud. El Estado debiese describir exactamente la conducta que quiere impedir. La descripción de la prohibición tiene que ser exacta en materia de qué es lo que se hace y probablemente el para qué se hace, para que nosotros podamos formarnos una opinión respecto de la conducta que ellos creen que es nociva. Yo personalmente tengo mi propia opinión en esta materia, pero aquí me cuesta formarme una opinión porque no alcanzo a comprender el alcance de la normativa así como está planteada. Muchas gracias. Gracias, diputado. Le voy a dar la palabra a Camila o Paloma para que puedan profundizar. Sí, diputado, en un momento Camila le voy a dar la palabra al diputado Lago Martínez. Muchas gracias, Presidenta. Yo creo que, sobre todo en la parte de las prohibiciones, estamos haciendo algo que debió haberse hecho con anterioridad, porque tuvimos un artículo de definiciones. Y yo creo que en prohibiciones estamos definiendo, lo cual hace que se pueda enredar un poco esto, porque las definiciones no las colocamos nosotros, sino que las coloca la tecnología que estamos regulando o la academia, de hecho, que se entiende por cada una de estas tecnologías. En ese sentido, yo creo que esto, obviamente, todos tenemos que tener claridad de lo que estamos prohibiendo cuando lo estamos prohibiendo al votarlo, pero creo que se debería repensar, quizá el Ejecutivo podría analizarlo, la forma en la cual, por ejemplo, estas tecnologías que son bien particulares, podemos incorporarlas como definición en el apartado de definiciones. Yo sé que puede ser volver un poco, pero creo que sería mucho más ordenado. Respecto a aquello, habiendo dicho aquello, porque de hecho la identificación biométrica remota, la definimos, están definiciones. Obviamente, nosotros aquí le agregamos en espacios públicos que se podría ampliar, pero creo que eso es un problema que estamos teniendo porque estamos confundiendo la discusión de la definición con la discusión de la prohibición. Me queda claro lo que ha dicho el Ejecutivo, que el Metro no hace identificación facial, sino más bien de comportamiento, que creo que es un hecho, al menos no sabe quién es quién, pero finalmente, igual, ahí el operador dice, “es un conocido”, lanza, porque probablemente lo identifica, porque siempre se topa con él. Ahora, eso ya está resuelto. Ahora, respecto a la extracción no selectiva de imágenes faciales, evidentemente...
Aquí hay una tecnología que de por sí genera una base de datos. Por ejemplo, por su interminable presencia, la diputada Laura decía: “una tecnología que cuenta personas”. Pero ya al colocarle un ID a esa identificación biométrica, salvo que no almacenen los datos biométricos, está realizando extracción no selectiva de imágenes. Porque aquí, en un conjunto de personas, sin una dirección para identificar a un específico, se toman esos datos, se almacenan y se les asigna un ID. Eso es extracción no selectiva de imágenes faciales, para también resolver aquellos puntos. Ahora, yo creo que la definición está en lo correcto. Obviamente, sería ideal que estuviera posicionado en el lugar correspondiente para que tengamos un proyecto de ley, con una buena estructura dada la complejidad de la materia. Pero creo que, si todos estamos de acuerdo y estamos claros en lo que estamos prohibiendo, y si nadie tiene ninguna otra duda, procederemos a votarlo finalmente. Gracias, diputado.
Diputado Keiser: Muchas gracias, señora presidenta. Mire, la lógica nos indica que si la extracción no selectiva de imágenes faciales está prohibida, entonces la extracción selectiva de imágenes faciales no está prohibida. Eso significaría que sistemas de inteligencia artificial que creen o amplíen bases de datos o realicen reconocimiento facial, mediante la extracción selectiva de imágenes a partir de internet o de imágenes de circuitos cerrados o de televisión, estarían autorizados. En la práctica, entonces, yo le pongo dos parámetros: por ejemplo, que sea más grande de 1,80 m y, posiblemente, más liviano que 84, y ya tienes un parámetro de selección. ¿Me explico? O sea, si es más chico que 3 m, ya tienes un parámetro de selección; en ese caso, ya estaría autorizado. Exactamente, no estaría prohibido. Entonces, la misma redacción nos dice que lo que está prohibido es la extracción no selectiva; por el contrario, está permitida la extracción selectiva.
Diputada Musante, y ahí sí le doy la palabra a Camilo.
Diputado Camilo: Gracias, presidenta. Yo me vengo incorporando hasta la discusión de este proyecto, pero me surge la siguiente inquietud, que comparto también: ¿cómo podría tener, en un alcance, a diferencia de Censu, la redacción de que sí estaría permitida la extracción selectiva, pero además, creo, y me gustaría que el Ejecutivo me aclarara, si se hace una distinción en la redacción de este proyecto de ley entre el almacenamiento y la extracción, que es distinto? Porque, por ejemplo, en el caso de cámaras de seguridad en el transporte se estipuló claramente que una cosa va a ser permitir el almacenamiento de esas imágenes y otra, muy distinta, la extracción de, por ejemplo, imágenes que permitan el reconocimiento facial en las plataformas de redes sociales. Ahora, también me surge otra pregunta, a propósito, de que algunas plataformas y aplicaciones han ido más allá y han exigido, para instalar o recuperar una cuenta, generar un reconocimiento facial, como, por ejemplo, lo hace la plataforma Mercadolibre, y también la plataforma de Match. Y eso me parece que deja un espacio de vacío, del que no sé de qué manera podría estar protegido en este proyecto de ley, pero quisiera, al menos, manifestar la inquietud de que es importante que se regule, por una parte, el almacenamiento y, por otra, la extracción, como un verbo distinto; y luego ir a definir si es que se va a permitir la extracción bajo ciertos criterios y cuáles serán, más que de selección, ya que también coincido en que el alcance de la selección puede entenderse como algo aleatorio y no como la discriminación que mencionó el Ejecutivo, lo cual me parece correcto. Muchas gracias a los parlamentarios y parlamentarias por los comentarios. Primero, partir señalando, como comentario general, que para nosotras, como Ejecutivo…
Creemos que hemos presentado un mensaje robusto, completo, armónico, pero que eso no obsta que en este espacio es justamente donde se da la discusión democrática y legislativa, y aquello no quita que los diputados y diputadas puedan manifestar sus dudas razonables o querer hacer modificaciones, ya que eso es justamente lo que implica el poder legislativo. Eso como primer punto.
Como segundo punto, para ir ya en la materia, se preguntó respecto al término no selectiva, el cual se refiere a la captura y procesamiento de imágenes faciales sin un criterio de selección y, además, sin el consentimiento. Y acá quiero poner un ejemplo bien concreto, porque la diputada Labra, por su intermedio, presidenta, se refirió al uso en los estadios. Todas y todos quienes hemos ido al estadio a ver a nuestro equipo de fútbol tuvimos que registrarnos en el Registro Nacional de Hinchas y, al hacerlo, dimos nuestro consentimiento para la utilización de nuestra imagen. Quienes estuvieron en la Comisión de Deporte pudieron aprobar eso, el diputado Cáizas y la diputada Olivera.
Entonces, por poner un ejemplo, nosotros dimos, y nosotras dimos, yo, cuando voy al estadio, di mi consentimiento para que utilicen mi imagen y yo no puedo entrar al estadio si es que no me registro en el registro. Por poner solamente un ejemplo bien concreto.
Dicho eso, sí creemos y estamos abiertas, como Ejecutivo, a que, de todas formas, si los parlamentarios y las parlamentarias estiman conveniente, en este momento se ingrese una indicación consensuada. Paloma, si quieres complementar.
Sí, muchas gracias, Camila. También, en razón de lo mismo que señaló Camila, por ejemplo, el caso de redes sociales o el uso de estas plataformas tampoco aplicaría, porque también se requiere el consentimiento. Entonces, lo que busca este literal, como bien señalamos y llegamos a las reflexiones, es dejar en claro que en aquellos casos donde no hay consentimiento se debe regular ese aspecto.
Gracias.
¿Sobre el punto, diputada?
Ahí sí, no me van a invitar más a esta comisión. Es sobre el punto presidencial. Es que, precisamente a propósito del ejemplo que daba Camila, a lo que se aprobó respecto de los estadios, se trata de un consentimiento para el almacenamiento de esa imagen, para que luego se pueda producir un reconocimiento facial al volver a ingresar; pero eso es distinto a la extracción, y ese era mi punto de lo que decía: creo que aspectos como esos tienen que quedar regulados y tratarse de manera distinta en este proyecto de ley.
Diputada Labra, gracias. Solo que fui aludida: yo quiero manifestar que el ejemplo que di no es un ejemplo real. Dije, por ejemplo, que en un estadio sucediera esto, para que pudiéramos entender y clarificar la redacción del Ejecutivo. No estoy diciendo que se trate de un ejemplo real que suceda en el día de hoy, y parece que en la realidad no es así, porque yo no voy al estadio, la verdad. Eso sucede solamente cuando hay que registrarse, cuando es el Registro Nacional de Hinchas o cuando se limitan las entradas. Pero aclaro que mi ejemplo no es de la realidad, sino que lo puse para poder explicar el fondo de lo que quiere transmitirse con su literal.
Muchas gracias, diputada Labra.
Bueno, le pregunto al Ejecutivo, entonces: ¿tienen alguna indicación para, un poco, ir en la línea de lo que proponen los diputados? Entonces, ¿sí? Ok, vamos a suspender dos minutos para que el Ejecutivo pueda armar la indicación y así entremos en votación.
Una, una indicación de la diputada Yomans, que hemos suscrito a algunos parlamentarios, así que le voy a pedir que le dé lectura. La indicación nueva es para reemplazar la letra F por la siguiente: extracción no selectiva de imágenes faciales; sistemas de IA que crean o amplían bases de datos de reconocimiento facial mediante la extracción indiscriminada, masiva y sin el consentimiento de las personas de imágenes faciales a partir de internet o de imágenes de circuitos cerrados de televisión. Eso es.
Diputado Kaysen: ¿Por qué no lo ponen simplemente como extracción de datos biométricos sin consentimiento de la persona? O sea, sin consentimiento. No sé, diputado, si el Ejecutivo a lo mejor nos puede comentar qué diferencia hay entre registro biométrico e imágenes faciales. ¿Cuál es la diferencia entre ambas? La imagen facial es un marker biométrico.
No, yo no veo mucha diferencia, pero sería bueno que nos puedan aclarar cuál será la diferencia entre —es que no pondrían ni selectiva ni no selectiva—. O sea, además, si usted no tiene el consentimiento, no puede tomar.
Diputada Laura: Bueno, y solamente, tratando de imaginar cuál es el objetivo de fondo de parte del Ejecutivo, no solo la cara permite identificar a las personas. No sé, en mi caso particular tengo una cicatriz; no necesita la cara, me identifican al tiro. Otras personas, en tatuajes, también lo identifican al tiro. Entonces, solamente estoy tratando de comprender cuál es el fondo de esto, y yo creo que, teniendo claro el fondo, es más fácil tener claro la redacción de lo que tiene que quedar en la ley.
Ok, le voy a dar la última palabra al Ejecutivo para que nos vea si nos pueden aclarar esas dudas y entramos en votación. Camila, por favor, o Paloma. Muchas gracias.
Este literal, y también lo que tiene relación con todo el proyecto de ley que regula los usos de los sistemas de inteligencia artificial, tiene que ver con que el entrenamiento de estos sistemas se hace a través de datos. En este caso, está la letra F, que establece que es inaceptable la extracción no selectiva de imágenes faciales, en el sentido de que, por ejemplo, si llega una empresa e indiscriminadamente agarra toda la información que está en internet sin el consentimiento de las personas o sin los derechos, puede causar después ciertas discriminaciones, por ejemplo, cuando no existen filtros para el tipo de entrenamiento; es decir, vamos a entrenar un sistema de IA para que reconozca a tal tipo de persona, lo cual es distinto a que se haga un uso indiscriminado. Esto tiene más que nada que ver con evitar la opacidad del sistema.