Antes de pedirle a la secretaria de la comisión que lea, no acepto la cuenta, y bueno, dar el acta de la sesión 106 queda lamentablemente aprobada, y antes que lea la cuenta, le quiero pedir al diputado Lagomarsino que quede presidiendo porque tengo que ir a iniciar la reunión con las express en la mesa para unificar las tablas.
Entonces, les quiero explicar eso, voy a estar por lo menos unos 30 minutos fuera. Y regreso a mi nicho, pero quiero dar la explicación de por qué tengo que salir.
¿Ya? Querido Tomás, ¿qué es tu proyecto?
Muchas gracias. Bienvenido, ministro. Gracias por estar aquí. Hagamos lectura a la cuenta, señora secretaria. Gracias, presidente. Se han recibido los siguientes documentos.
Oficio de su excelencia el presidente de la República, mediante el cual retira y se presenta la urgencia calificada de suma para el despacho del proyecto de ley que regula los sistemas de inteligencia artificial, la robótica y las tecnologías conexas. Boletín respondido 17... 15.869 y 16.821, 19 ambos. Oficio de Sociales del Presidente de la República, ante el cual formula indicaciones al proyecto de ley que regula los sistemas de inteligencia artificial, anexando el correspondiente informe financiero. Comunicación del jefe de bancada, diputado Judipula, que informa que el diputado Daniel Lallú será repasado en la presente sesión por el diputado Marco Antonio Zulantay. Ordinario A22. dos mil ciento once de la Ministra de Salud, mediante el cual el cumplimiento de lo dispuesto a la ley de presupuesto sector público año dos mil veinticinco, glosa número dieciséis, remite reporte trimestral de Ciberseguridad del Ministerio de Salud correspondiente al segundo trimestre de dos mil veinticinco, el cual da cuenta de la ocurrencia de incidentes registrados a la fecha y del estado de los respaldos de los activos ministeriales. Oficio setén, número tres, del director ejecutivo de la Comisión Chilena de Energía y Nuclear, señor Luis Huerta, por el que solicita audiencia con la Comisión a fin de compartir los principales lineamientos, avances y compromisos de la Comisión Chilena de Energía y Nuclear, institución pública pendiente del Ministerio de Energía, que este año conmemora 61 años de trayectoria al servicio del país. Finalmente, correo electrónico por la profesión proveniente del Hub Ambiental de la Universidad de Playa Ancha, tras el cual se da a conocer que han obtenido la acreditación internacional ISO a nivel de laboratorio que los convierte en el único centro de investigación asociado a una universidad pública y estatal que consigue esta relevante validación técnica en la región de Valparaíso.
Esto es la cuenta presente. Muchas gracias. ¿Alguna palabra sobre la cuenta? ¿Puntos varios?
Si no hay puntos varios, yo quería aprovechar... no está presente aquí, pero de felicitar al diputado Chalper, quizás podríamos mandar una notita al respecto, producto de la jornada, sesión del día del Startup, que estuvo muy buena, a mí me tocó moderar una mesa, que era la mesa de Big Tech, y por supuesto que una muy buena iniciativa y que habla de un trabajo bien conciencioso, y que es una materia que... Le ha dado harta continuidad al diputado Chalper, así que no sé si me acuerdo para mandarme una notita, diputado Chalper.
Perfecto. Entonces, entramos a la orden del día, que tiene como objeto discutir y votar en segundo trámite reglamentario el proyecto de ley que regula el sistema de inteligencia artificial, luego le tiene respectivo en primer trámite constitucional y con urgencia calificada de 100. No sé si podemos votar porque somos tres. Ya. Ah, acaba de llegar la diputada Gael Llamas. Pero, no, ahora somos cuatro. Escuchemos primero la presentación del ministro, mientras tanto a ver si es que llega algún otro integrante.
Ministro.
Presidente, vamos a hacer en primer lugar una síntesis de los objetivos y las razones por las que hemos incorporado a la discusión un total de 17 indicaciones, con el propósito de fortalecer el proyecto a partir de lo aprendido, de lo incorporado en el debate parlamentario ha habido hasta la fecha. Incorporar desde luego la experiencia y preocupaciones de actores claves para esta regulación normativa. Desde luego procurar dar la mayor claridad, certeza a las normas y a los preceptos regulatorios, y ciertamente reafirmar nuestra búsqueda del equilibrio entre protección de derechos e impulso a la innovación. Un esfuerzo que...
No es, creo yo, fácil de dar por terminado. Y con ese propósito hemos propuesto estas indicaciones.
Por su parte, o por nuestra parte, digo, el Ministerio ha continuado con mesas de trabajo y encuentros con la industria tecnológica, las organizaciones gremiales asociadas a la misma, la actividad académica, los centros de investigación, expertos internacionales, organismos públicos y sociedad civil.
Recoger desde luego miradas diversas para perfeccionar la propuesta legislativa tendido que, sin duda, la inteligencia artificial tendrá efectos transversales en distintos ámbitos de la vida social y por lo mismo no debemos escatimar ningún esfuerzo en escuchar las distintas voces, miradas, perspectivas y desde luego conocimientos que deben aportar estas distintas organizaciones.
Queremos por lo mismo... Hemos querido dar como objetivo a nuestras indicaciones perfeccionar el texto ya aprobado en la sala, manteniendo desde luego los conceptos matrices que forman parte de ese texto ya aprobado en general.
Ciertamente lograr los mayores y posibles niveles de certeza desde el punto de vista jurídico, desde el punto de vista técnico, porque se trata de regulaciones jurídicas, incorporar aprendizajes y desde luego aportes que han surgido en el debate, reforzar el enfoque en derechos fundamentales y en la promoción de la innovación.
Y claramente en torno a esto no hay dos puntos de vista, me parece que no hay disputa en el sentido de que los derechos fundamentales representan un límite al que todos debiéramos respetar y desde luego la promoción de la innovación porque a su vez ninguna buena regulación pudiera descuidar la promoción de la innovación en materia de inteligencia artificial.
En síntesis, buscamos en varias de nuestras indicaciones mayor claridad en el objeto y definiciones. Desde luego, en las indicaciones del artículo 1... al artículo 5, al artículo 7, tienen ese propósito.
Del mismo modo, buscamos una protección nítida, reforzada de los derechos humanos, a modo de ejemplo, una indicación al artículo 6, en que se amplía la prohibición cuando haya manipulaciones subliminales también en sistemas de inteligencia artificial destinados a fines publicitarios. Es un cambio en relación al texto aprobado hasta ahora.
Buscamos también mayor transparencia y participación ciudadana en la gobernanza de la inteligencia artificial, en el artículo 18, por ejemplo, al elevar el nivel de transparencia del Consejo Asesor, de modo que sus actas se les dé publicidad, de modo que la ciudadanía tenga acceso, y en una materia tan sensible, nadie pueda finalmente no tener acceso a la información que surja del trabajo del Consejo Asesor.
En el artículo 4º se ratifica el criterio de remitir a la ley de...
acceso a la información pública, de modo que también la ciudadanía tenga la mayor garantía de transparencia y participación. Se busca también una mayor proporcionalidad regulatoria, obligaciones ajustadas al nivel de riesgo y considerando también el tamaño de las empresas. Se perfecciona el artículo 32 atendiendo precisamente al distinto tamaño porque en esta actividad es obvio que no participan en empresas que desde el punto de vista de su tamaño o relevancia tengan la misma presencia y por lo mismo los efectos de lo que hagan son distintos y por eso es que se requiere de una mayor proporcionalidad regulatoria. Y desde luego se busca también en las indicaciones una innovación responsable, apoyar de manera más explícita a las pymes y centros de investigación en entornos seguros. Se amplía a organizaciones de la sociedad civil, ya no solo a empresas, en el acceso a los espacios controlados de prueba.
Estas indicaciones... y desde luego también quieren ser una señal de que necesitamos de un proceso de construcción colectiva que son fruto también del diálogo con la industria, con la academia y la sociedad civil. Nuestro objetivo es contar con una ley con los equilibrios suficientes y necesarios, moderna, perfectible, que proteja derechos y potencie la innovación.
Eso es, presidente, en síntesis, de cuáles son los objetivos de las 17 indicaciones que hemos incorporado en el día de ayer. Muchas gracias, presidente. Muchas gracias, ministro.
No quiero dar una señal igual de fair play, porque evidentemente se ingresaron las indicaciones del Ejecutivo. Y ya vemos una cantidad importante de diputados que probablemente vamos a votar a favor de esto y hay una cantidad importante de diputados que eventualmente uno tendría que pensar que votarían en contra, que no han venido, entonces, o sea, más allá de, lo digo en el sentido quizás de conversar un poco sobre esa realidad, o no sé, diputada. Diputada Labra, sobre quizás sus colegas, porque, sí, porque, o sea, no es la intención nuestra, sí.
Gracias, presidente. En primer lugar, decir que todos los diputados presentes son colegas míos, independiente de su partido político. Y en segundo lugar, también me extraña un poco el presidente que me pida mi explicación, y yo no puedo dar explicaciones por ningún parlamentario, independiente sea mi partido, no sea mi partido, sea oficialismo o oposición, por lo tanto me parece raro su pregunta.
Perfecto, entonces procedemos en votación. Perfecto, entonces, secretaria.
¿Qué es la primera indicación? Demos lectura a la primera indicación. Presidente, en el artículo primero hay tres indicaciones. La primera es del Ejecutivo para reemplazar el inciso primero por el siguiente. Objeto de la ley. La presente ley tiene por objeto regular los usos de los sistemas de inteligencia artificial en adelante IA, promoviendo su creación, desarrollo, innovación e implementación, proporcionando un marco normativo que vele por el desarrollo sostenible y ético de la IA al servicio de las personas, respetuoso de los principios democráticos y del Estado de Derecho.
También la diputada Labra tiene una indicación para reemplazar este mismo inciso primero por el siguiente. La presente ley tiene por objeto promover la creación, desarrollo, innovación e implementación de sistemas de inteligencia artificial, en adelante IA, para el progreso económico y social de Chile al servicio de las personas y regular de manera respetuosa de los principios democráticos y del Estado de Derecho. Eso es al inciso primero, presidente.
Abro la palabra al Ejecutivo.
El propósito, presidente, de esta indicación es hacer muy explícito que el objetivo de esta ley es regular los usos de los sistemas de inteligencia artificial, más no las tecnologías; en el bien entendido que al regular los usos y hacerlo explícito en el artículo primero de la ley, queda muy claro que se trata de conductas, de comportamientos que puedan ser regulados, sancionados y no impedir el desarrollo de la tecnología, la innovación, la creación, que es un objetivo, nos parece, compartido por todos. Muchas gracias.
¿Alguna otra integrante de la comisión quiere hacer uso de la palabra? Diputada Laura.
Gracias, presidente. El foco de mi indicación es hacer un poco equilibrado lo que tiene que ver con resguardar los derechos fundamentales y también el objeto de que el Estado sea un socio estratégico del desarrollo tecnológico y por eso modifico el orden de lo que está ahí planteado y dice que tiene por objeto promover el uso y desarrollo de inteligencia artificial, por el bien de Chile, porque sabemos que la inteligencia artificial tiene muchos beneficios para la sociedad, pero a la vez siendo respetuoso con los principios democráticos y el Estado de Derecho, buscando un poco que esta ley no se enfoque o no sea enmarcada e interpretada como un marco regulatorio, como es la ley de ciberseguridad o la ley de protección de datos personales, que buscan evitar vulnerabilidades. El objeto de esta ley, como yo lo entiendo, lo que debe ser es un equilibrio. Entonces, guardar los derechos fundamentales y el uso y desarrollo de la inteligencia artificial en pos del crecimiento económico en nuestro país y beneficio a la sociedad. Muchas gracias, Cristian.
Muchas gracias. ¿Algún otro integrante de la comisión? Si no, en votación. La indicación del Ejecutivo. O sea... ¿Se sobrepone al original? ¿Al texto original? No, todavía no se sobrepone al texto original. ¿No?
Sí. Resultado de la votación, por la afirmativa, seis votos, dos en contra. Aprobado. Aprobado. Si puede hacer lectura de la siguiente indicación, por favor. En consecuencia, la indicación número dos se ha rechazado por ser incompatible con lo ya aprobado. La indicación tres es del Ejecutivo y modifica el inciso segundo del artículo primero de la siguiente manera. Reemplazas en el inciso segundo la expresión promoverá el uso y desarrollo de la IA y su infraestructura necesaria.
Ministro, el propósito de esta indicación es ampliar en definitiva la función, el compromiso del Estado, de la política pública, incluyendo entonces también la promoción de la infraestructura necesaria para sostener la política de inteligencia artificial, entendiendo que el Estado tiene un rol y tiene además iniciativas, esto se vincula claramente con el Plan Nacional de Data Center. Chile es un país que tiene... que ha alcanzado ya un alto desarrollo y este desarrollo será todavía mayor en los próximos años, de modo que la contribución en infraestructura que pueda hacer el Estado para el desarrollo de la inteligencia artificial en el país nos parecía que debía ser parte también de las primeras normas de esta ley. Eso es lo que se dice. Muchas gracias.
¿Alguien quiere hacer uso de la palabra? No. Entonces, ¿en votación? No. Resultado de la votación, ocho votos a favor. Aprobado.
Siguiente indicación. En el artículo segundo hay tres indicaciones de la diputada Labra. La primera es para reemplazar el inciso primero por el siguiente. Artículo 2. Ámbito de aplicación. La presente ley será aplicable a los usos de sistemas IA, entendiéndose por uso la interacción, operación o aplicación efectiva de un sistema de inteligencia artificial para tener algún tipo de resultado, como procesamiento de datos, contenidos, inferencias y o decisiones, entre otros similares. Asimismo, considera la configuración, supervisión, monitoreo y la adaptación del sistema de vida durante todo su funcionamiento.
Ministro, primero y después. Ah, ya, perfecto. Sí, gracias. Yo creo que ha sido más fácil que lo entienda también el ministro de Asesoría. Yo creo, y lo hemos testado, que lo fundamental en esta ley, la columna vertebral, es una buena definición de uso porque toda la ley de gestión se aplica a los usos. A mí juicio la definición de uso que aparece en el texto que estamos trabajando mucho más adelante, y la voy a leer para que tengamos la comparación clara, habla de uso, desarrollo, prueba y validación de los sistemas de IA, así como su... distribución, introducción, puesta en servicio, o cualquier actividad realizada por un operador.
A mí me parece que es una definición bastante amplia, que está lejos de lo práctico respecto a lo que realmente es el uso de un sistema de inteligencia artificial. Incluso esto considera, dentro de esta definición, que el uso es cuando incluso están en prueba los sistemas de inteligencia artificial, cuando ni siquiera están en funcionamiento. Entonces también hace bastante etéreo que las normativas sean factibles de aplicar.
Por eso la definición que yo planteo ahora, que la pongo en el artículo segundo, porque como es la estructura fundamental del proyecto, es mucho más acotada y más aplicable a lo que realmente es el uso.
¿Por qué? Porque hablamos de la interacción, operación, aplicación. Cuando se quiere obtener un resultado, cuando uno está usando un sistema, es cuando lo usa para algo. Y esos resultados aquí los...
Menciono procesamiento de datos, contenido, inferencias, visiones. Entonces es mucho más aplicable y mucho más adecuada la realidad. Yo uso el sistema de inteligencia artificial cuando quiero obtener un resultado. Y por lo tanto también es bastante amplio para que los usos se apliquen en todo lo que tiene que ver con interacción, la operación, también la adaptación, supervisión, etc.
Le pido autorización, Presidenta, para que uno de los asesores pueda contestar. Sí. Voy a darle el pase a Sebastián luego, pero solamente en términos generales, creemos que la indicación confunde el objeto de la ley con su ámbito de aplicación. Y creemos que a futuro la aplicación del ámbito de la ley, sobre todo respecto a la actualización necesaria que tiene la norma, podría complejizar dicho proceso y rigidizar aún más la norma, que es algo que hemos querido evitar en este proceso.
Por su intermedio, Presidente, para poder también dar un poco el contexto de para qué nos sirve la aplicación de las normas. Y es que habitualmente la aplicación suele siempre hacer referencia a un qué, quién es cierto, o un algo respecto de lo que se va a hacer o va a ser aplicable una futura regulación.
En ese sentido, pareciera ser, o al menos consideramos que hay problemas estructurales con la indicación propuesta, toda vez que existe una confusión, como señala Camila, respecto al objeto de la ley, y no se hace una distinción correcta entre qué es lo que se regula, que en este caso la ley pretende regular los usos, respecto a quiénes se les resulta aplicable la regulación, que en este caso es a los operadores en el modo en que está hoy en día formulado en el proyecto de ley.
Creemos que esta distinción no se tiene que perder, hay que siempre hacer una distinción entre cómo vamos a regular los usos de los sistemas de inteligencia artificial, lo cual es algo que además estamos precisando mediante indicaciones, pero respecto a quiénes serán aplicables, van a seguir siendo los operadores en los términos que están hoy en día en el proyecto de ley, entendiéndose como proveedor, como implementador, como distribuidor, etc. Yo creo que ese norte no lo tenemos que perder, además que también cuando uno, por ejemplo, entiende el uso, que eso lo vamos a ver más adelante, uno también puede ver y comprender que las pruebas también pueden originarse daños, que por eso también es una funcionalidad muy importante tenerlo como definición en el artículo 5, pero eso es para más adelante. Gracias.
Perfecto. ¿Alguien más que quiera hacer uso de la palabra? Si no es así, en votación. Resultado de la votación, un voto a favor, tres en contra, dos abstenciones.
Continuamos con la siguiente indicación. La indicación cinco también es de la diputada Labra, para reemplazar el párrafo primero del numeral uno del inciso segundo del artículo dos de la siguiente manera. Uno, usos de sistemas de IA con fines de defensa nacional. Una resolución reservada expedida por el Ministerio de Defensa Nacional identificará y listará los sistemas de IA que quedan comprendidos dentro de la presente excepción.
Esa indicación creo que es fundamental porque necesitamos que se puedan utilizar sistemas de inteligencia artificial en la defensa nacional. En el fondo, eso es lo que busca y plantea esta indicación.
Presidente, es muy claro el texto en el sentido de que la ley no será aplicable a sistemas de inteligencia artificial desarrollados y utilizados con fines de defensa nacional. A mí me parece que eso es suficiente a efectos de dar esa garantía que es de interés nacional. Eso es, presidente.
Sí, perdón, a lo mejor no fui bastante explícita. Le incorporamos la palabra usos, para que quede todo concluente que el ámbito de aplicaciones a los usos.
La verdad es que un texto ya aprobado está también, en la medida en que no se hace ninguna distinción, desde luego están también incluidos los usos. Eso es. Yo creo que es más bien una cuestión de reacción, una cuestión muy mínima para no abrir un debate sobre algo más bien innecesario.
¿Al Ejecutivo le molestaría, le hace ruido que se le agregue la palabra ‘usos’? ¿No hay problema? ¿Todo en votación? ¿Con el acuerdo del Ejecutivo?
Sí.
Señor Presidente, quizás para una precisión, y es que estamos dentro o analizando el ámbito de aplicación de la ley, que nuevamente es distinto a cuando uno quiere regular el uso propiamente tal de un sistema de inteligencia artificial. Entonces, evidentemente que aquí es importante la construcción que hace el inciso primero del artículo 2, que refiere a los proveedores, que refiere a los sujetos en el fondo que van a ser aplicados, pero luego hay una excepción que recae en sistemas. ¿Pero por qué? Porque es el ámbito de aplicación de la ley nuevamente, es respecto a quienes va a ser en el fondo aplicable toda la regulación.
Y estos sistemas que están relacionados con la defensa nacional no van a tener, se les extrae del ámbito de aplicación de la ley, no tan solo el uso, sino que el sistema en sí mismo. Entonces, es importante igual eso, y no implica que la ley respecto a los demás se les da una regulación respecto al sistema, sino que nuevamente es importante hacer la distinción entre cuál es el objeto de la ley, que está en el artículo primero y después en los demás se permea hacia abajo, con el ámbito de aplicación de la misma que es respecto a quienes se les da aplicable finalmente.
Perfecto. Entonces, en votación. Resultado de la votación, un voto a favor, tres en contra, dos abstenciones. Rechazado.
Vamos con la siguiente. La indicación es para modificar el inciso segundo del artículo 2 para eliminar la referencia al artículo 28 cada vez que aparece, que en realidad es el 29.
Gracias, presidente.
En la votación en sala, ya estoy perdida con los números, pero uno que no alcanzó el quórum, por eso habría que eliminarlo porque fue rechazado en la sala. Entonces era para armonizar la ley.
¿Está repuesto? No sé, Secretaría, ¿qué se hace en estos casos?
Es que esa armonización la hace al final la Secretaría cuando elabora el texto definitivo aprobado por la Comisión. Así que no sería necesario.
Sí, por favor. La retiramos dado que se ha tomado el acuerdo que se tiene que ajustar después por Secretaría. Gracias.
Continuamos con la indicación. La indicación 7 es del Ejecutivo para reemplazar el párrafo primero del numeral 1 del inciso primero del artículo 3 de la siguiente manera.
1. Sistema de IA. Sistema basado en máquinas, algoritmos o modelos matemáticos que en función de objetivos explícitos o implícitos infiere a partir de los datos de entrada que recibe cómo generar resultados o salidas, tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos sociales, físicos o virtuales. Los distintos sistemas de IA pueden variar en sus niveles de autonomía y adaptabilidad tras su implementación. Eso es.
Señor Presidente, le quiero dejar la palabra a los asesores. Por su intermedio, Presidente, y para la Comisión, para efecto de entender tanto esta indicación como la que viene, que ambas proponen modificar el numeral 1 y numeral 2, es lo siguiente, y es que hemos hecho un esfuerzo por precisar las definiciones de sistema de IA, de sistema de IA de uso general, por cuanto uno se puede entender de manera sistemática con el demás texto de la ley en donde se hace referencia siempre a resultados o salidas. Creemos que es importante también utilizar este lenguaje un poco más técnico en donde no tan solo hay resultados o salidas, ¿cierto?
una vez que hay datos de entrada, sino que se consiguen ambas, resultados o salidas. Es una parte respecto a la definición de sistema de IA que se hace en el numeral 1, y respecto al numeral 2, lo que se hace es reforzar el hecho de que los sistemas de IA de uso general, su generalidad parte porque pueden realizar múltiples funciones a la vez. Creemos que el texto actual confunde un poco esa generalidad de múltiples funciones a la vez, y es importante dejarlo bien claro. Luego se ordena la indicación para que finalmente quede también el resultado de estos mismos sistemas que, en el fondo, es lo que gatilla poder definir, lo que pueden resultar o pueden provocar resultados que son previsibles o no previsibles, que en el fondo hace cerrar la redacción y queda mucho más entendible para una futura aplicabilidad de la ley.
Abro el uso de la palabra a aquellos que quieran hacer uso de ella.
Gracias, presidente. Solamente decir que estoy de acuerdo con lo que dice el asesor respecto, porque vamos a votar separado, ¿cierto? La 7 y la 8. Respecto a lo que plantea la indicación 7, que incorporan el concepto de generar resultados o salidas como predicciones, contenido y hizo referencia al uso, que era lo que yo incorporaba en mi definición de uso. Solamente esa precisión.
Perfecto. Si no hay más palabras, en votación. No, solo la siete. La votación, siete votos a favor.
Siguiente indicación, la ocho. La ocho del Ejecutivo reemplaza el párrafo primero del numeral dos:
2. Sistema de IA de uso general. Un sistema de IA capaz de realizar múltiples funciones de aplicación general a la vez, tales como el reconocimiento de imágenes, reconocimiento de voz, procesamiento de audio, generación de video, detección de patrones, respuesta a preguntas, traducción, entre otros, pudiendo proporcionar resultados o salidas tanto previsibles como no previsibles.
El Ejecutivo... ¿Si quiere...? ¿Hm? Ya, perfecto. Ahora el uso de la palabra.
Muchas gracias. Si nos pudiese por favor aclarar específicamente cuál es la diferencia. No sé si será la hora, pero no logro identificar la diferencia, la precisión entre una y la otra.
Por su intermedio, presidente, respondiendo a la diputada Labra. Sí, cuesta verla quizá al principio, pero si uno ve la redacción que está hoy en día en el texto, dice un sistema de IA capaz de realizar funciones de aplicación general y tener múltiples usos, tanto previsibles como no previsibles, y luego se realiza el listado. Y en realidad, cuando uno quiere versar o uno quiere referirse a sistemas de uso general, en realidad lo que es la multiplicidad es las cosas que puede realizar y no los usos. Entonces eso es importante porque estamos hablando de sistemas, por ejemplo, como modelos fundacionales en donde tienen una multiplicidad de áreas en las que están trabajando de forma paralela. Y los resultados justamente pueden ser previsibles o no previsibles porque estamos hablando de modelos mucho más grandes.
Perfecto. Si no hay más palabras, en votación. Resultado 6 a favor, una abstención.
Continuamos con la indicación número 9. La indicación 9 de la diputada Labra es para modificar el numeral 11, para eliminar la frase de acuerdo a su finalidad prevista.
Gracias, presidente. Me parece que ese concepto de finalidad prevista es algo que es difícil de llevar a la práctica, porque sabemos que los sistemas de IA, los desarrollos, es algo bastante dinámico, que en el fondo se puede partir desarrollando, entrenando un algoritmo, un sistema de inteligencia artificial, que en el fondo, en el camino, puede variar. Por lo tanto, en el inicio, la finalidad prevista puede ser muy distinta a lo que resulta en el camino. Y aquí no nos estamos refiriendo a mal uso, sino a un uso, un desarrollo de inteligencia artificial. Se puede partir con un buen propósito y puede terminar con un buen propósito, pero una finalidad prevista distinta en lo particular. Por eso yo planteo eliminar esa definición.
¿El Ejecutivo? Con su actualización, presidente, el asesor va a contestar. Gracias, presidente.
Y también pudiendo hablar con lo que señaló recién la diputada Labra, la finalidad prevista yo creo que es una de las definiciones, uno de los pilares más importantes que tiene el proyecto de ley, porque permite hacer una distinción que no es tan fácil de detectar en un comienzo. Este proyecto de ley contiene normas que regulan los usos, que tienen procedimientos e incidentes para efectos de mitigar daños y darle herramienta a los operadores. Pero también tiene normas que reflejan o refieren a infracciones y luego a sanciones. Y en todo este ámbito de normas que son aplicables a los operadores, siempre hay una distinción clara entre la fase o el ciclo de vida propio que tiene la IA y el operador propiamente tal. No se le puede exigir lo mismo a un proveedor que a un implementador, que a alguien que distribuye, que a alguien que implementa, etc. Y la finalidad prevista es importante porque permite justamente la distinción de responsabilidad dependiendo del ciclo de vida de la IA. En ese sentido, no hay que confundir la finalidad, en el sentido de por qué fue concebido, para qué fue concebido un sistema de IA, con, al final, un uso que podría decirse que es más del consumidor final, que es algo que no está dentro del objetivo propio de esta ley. Acá lo que se está regulando es cómo la inteligencia artificial se usa efectivamente y cómo hay ciertos usos que nosotros vamos a considerar como ciudades que no están tolerados, cómo hay unos que son más riesgosos para los derechos fundamentales. Estamos en una capa distinta y que yo creo que es muy importante mantener. La finalidad prevista es un elemento muy importante, así que el Ejecutivo al menos considera que no es apropiado su eliminación.
¿En votación? La indicación 10 es para modificar el párrafo primero del numeral 15 para eliminar la expresión y otras técnicas.
Diputada. Gracias, presidente. Cuando estamos hablando de la definición del sistema de reconocimiento de emociones, y incorporamos otras técnicas, con esas palabras ya estamos haciendo una definición bastante imprecisa y mucho más amplia que deja de manera indeterminada el alcance de la normativa y lo que podría significar una carga regulatoria desproporcionada a lo que estamos hablando en tecnología, por lo tanto esas otras técnicas lo amplía y lo deja más allá de la simple definición que aplica en ese numeral.
Sí. Gracias, presidente. Yo me permito hacer una primera observación crítica al respecto. Al eliminar la expresión y otras técnicas, disminuye finalmente el estándar de protección. Aquí sin duda que estamos ante, desde luego, técnicas que se modifican, evolucionan, y por lo mismo dejar la expresión otras técnicas previene que en el futuro se pueda también buscar burlar esta protección que persigue el texto actual. Sin perjuicio de eso, si alguno de los asesores quiere agregar.
En votación entonces. El resultado de la votación, un voto a favor, cinco en contra.
Siguiente indicación, que es la número 11. La indicación número 11 es para votar por separado el numeral 16, pero si lo votamos ahora, las demás quedarían sin efecto, entonces preferiría votar la que usted hace para modificar este mismo numeral. Claro, la 11 en realidad no…