A comienzos de mayo, Chile dio un paso significativo y pionero a nivel regional hacia la regulación de la Inteligencia Artificial (IA). Primero fue la actualización de la Política Nacional de IA y, luego, el ingreso de un proyecto de ley que establece un marco ético y normativo para su desarrollo y aplicación. Este proyecto se basa en los reglamentos europeos para proponer una clasificación de riesgos para los sistemas de IA, dividiéndolos en categorías que van desde riesgo inaceptable hasta ningún riesgo evidente, con el objetivo de proteger la salud, seguridad y derechos fundamentales de las personas. Con ambas iniciativas, el país se posiciona a la vanguardia en esta materia en Latinoamérica, pero hay quienes aún no están convencidos de que todos los flancos estén siendo abordados.
Hace muy poco, el pasado viernes 24 mayo, se hizo público un incidente ocurrido en el Colegio Saint George de Vitacura, y de inmediato captó la atención pública y mediática del país. Alumnos de esa exclusiva institución educacional habrían utilizado herramientas de inteligencia artificial (IA) disponibles de forma amplia y gratuita en la web para generar y distribuir imágenes falsas de compañeras desnudas. Lo que se conoce como deepfake: insertaban rostros reales en cuerpos y acciones que no lo eran. Los padres de las niñas y adolescentes afectadas ya iniciaron acciones legales, acusando al colegio de no implementar los protocolos correspondientes para sancionar y expulsar a los seis estudiantes implicados, quienes admitieron su responsabilidad y ofrecieron disculpas.
Las autoridades judiciales y la Subsecretaría de Educación están investigando el caso. El colegio, en un comunicado, entre otras cosas, señaló:
“Respetamos la decisión de los apoderados de recurrir a las instancias que estimen pertinentes; sin embargo, lamentamos que nuestras alumnas y alumnos se vean expuestos públicamente, razón por la que no profundizaremos en los detalles del caso, justamente para resguardar su privacidad”.
Lo ocurrido en el Saint George es tan sólo una muestra de las complejidades que han surgido en el último tiempo con la disruptiva incorporación de la IA, tanto en Chile como a nivel global: al mismo tiempo que abre un abanico de oportunidades revolucionarias para diferentes campos, su uso amplio y desregulado ha implicado también el surgimiento de nuevos desafíos, en los mejores de los casos, o incluso riesgos y peligros para la integridad de las personas. Según la 7° Radiografía Digital de Niños, Niñas y Adolescentes, estudio realizado por ClaroVTR y Criteria a principios de este año, el 50% de los niños y adolescentes encuestados señalan utilizar la IA para completar sus tareas escolares, mientras que un 86% reconocer haber interactuado con esta tecnología al menos una vez.
En 2021, el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación presentó la primera Política Nacional de IA y, desde entonces, se ha ido generando un ecosistema de instituciones e iniciativas que han posicionado al país a la vanguardia regional sobre la materia. Se creó el Centro Nacional de Inteligencia Artificial (CENIA), se focalizó en IA de becas de doctorado (ANID), se pusieron en marcha redes de 5G, se creó el primer doctorado de IA en Chile y Latinoamérica, se implementó el Proyecto Algoritmos Éticos, y más. Sin embargo, el vertiginoso avance de la tecnología –en especial el de las IA generativas– obligó el año pasado a actualizar primero el eje de gobernanza y ética de la política, y luego, desde comienzos de mayo de este año, a presentar una versión actualizada de la política en su conjunto. Su objetivo: “Fomentar el desarrollo y uso ético y responsable de la Inteligencia Artificial en Chile, para que esta tecnología juegue un rol promotor en el nuevo modelo de desarrollo y crecimiento del país”, se lee en el documento.
Política Nacional de IA: Versión 2.0
Esta nueva versión de la Política Nacional de IA, por medio de más de 100 medidas concretas comprometidas para el año 2026, mantiene y profundiza los tres ejes estratégicos definidos en el documento original, pero agrega otros cinco sub-ejes clave: Articulación internacional, Medioambiente, Crisis climática, Inclusión y no discriminación, Protección de los derechos de niños, niñas y adolescentes (NNA), Cultura y preservación del patrimonio. Estos focos buscan reflejar el compromiso de Chile para reducir las brechas digitales y la protección de los grupos más vulnerables en la sociedad digital, precisamente, de usos perjudiciales de la IA, como ocurrió en el caso del Saint George.
Consultada por Puroperiodismo respecto de estos cambios, la académica Ana María Castillo, doctora en Comunicaciones e investigadora de la Universitat Internacional de Catalunya en temas relacionados con tecnologías, medios, ética y gobernanza de la inteligencia artificial, comenta:
“La inclusión de la protección de los derechos de NNA es algo que no me sorprende, porque evidentemente está dentro de la línea política del gobierno actual y en constante diálogo con todas las estrategias y estándares internacionales. Pienso que está muy bien que sea un eje estratégico y que haya sido relevado de esta manera, pero llamo también a tener en cuenta las dificultades y tensiones que esto trae, es decir, cuando hay una política que es implementada desde el gobierno y que tiene que ver con nuevos desarrollos que vengan promovidos desde el Estado, entonces, probablemente sea mucho más fácil cuidar y manejar esta protección, mirando a que los desarrollos tecnológicos estén pensados para cuidar a los NNA. Pero, ¿qué pasa –y ahí es cuando surge una problemática– cuando surgen y existen cada vez más tecnologías, plataformas, algoritmos y tantos otros desarrollos tecnológicos que vienen creados desde el mundo privado, y que no están pensados o regulados por esta óptica? Yo creo que ahí hay un elemento de tensión muy interesante, que vamos a tener que seguir observando y monitoreando por cómo se manejarán”.
Prioridades claras: plan de acción y ética
Las más de 100 acciones que incorpora la actualización dela Política Nacional de IA, que abarcan desde la actualización de las bases curriculares para incluir la IA desde la etapa preescolar, hasta capacitaciones específicas para pymes y la administración pública, tratando de formar nuevos talentos y mejorar la infraestructura necesaria para un desarrollo ético de la IA.
Frente a este enfoque, la ética no es dejada de lado; existe un firme compromiso con la creación de un ambiente seguro y equitativo para el progreso tecnológico. En este espacio, el nuevo marco promueve el respeto y fomento de los derechos humanos, protegiendo los intereses de la ciudadanía. Esto subraya la importancia de establecer un marco normativo que garantice el desarrollo y uso ético de la IA, en consonancia con los derechos humanos y la dignidad de las personas. Dicho marco incluye la protección de datos personales y la prevención de prácticas discriminatorias, asegurando un futuro tecnológico inclusivo y justo para todos.
La moción por una futura mejora de la infraestructura tecnológica es también parte fundamental para el desarrollo de la inteligencia artificial. Chile, como nación, se enfrenta al desafío constante de mantenerse al día con los avances tecnológicos y las regulaciones en el campo de la inteligencia artificial. La actualización y notificación de estos progresos es una tarea que requiere atención continua, ya que la velocidad de la innovación tecnológica no cesa de acelerar. Por lo tanto, es imprescindible que la IA esté bajo estudio permanente, su influencia ya trasciende los dispositivos electrónicos, incursionando y transformando diversos aspectos de la vida cotidiana. El abogado Carlos Reusser, experto en derecho de la tecnología y la información y miembro del equipo que redactó la Ley de Transformación Digital del Estado, dice:
“El desarrollo de la IA ya es un hecho, como lo es también que es imparable. Y este no es otro anuncio mesiánico del advenimiento de una nueva sociedad, como ocurrió en su momento con las tecnologías blockchain (lo que hay por debajo del bitcoin y otras monedas digitales) o el metaverso. En este nuevo estadio, como país, debemos tener claro que para mantenernos al día necesitaremos una gran cantidad de poder computacional que nos permita procesar grandes volúmenes de datos y realizar tareas complejas”.
Junto con la actualización de la Política Nacional de IA, el gobierno también ingresó a trámite en el Congreso, tan sólo días después, un proyecto de ley que busca regular los sistemas de inteligencia artificial en Chile. A ambas acciones se refirió la ministra de Ciencia, Aisén Etcheverry, en una entrevista que dio a Cooperativa el 6 de mayo.
Lo que se discute en el Congreso
El nuevo proyecto de ley de inteligencia artificial ingresó el 7 de mayo a la Cámara de Diputados y Diputadas, y busca equilibrar la protección de los y las usuarias con el fomento de la innovación tecnológica. Inspirado en la legislación europea, la iniciativa clasifica los sistemas de IA en cuatro niveles de riesgo: inaceptable, alto, moderado y bajo. Ante ese nuevo estatuto, no será necesario que los sistemas de IA sean certificados por una entidad reguladora antes de su introducción al mercado. En su lugar, se espera que las empresas medianamente pequeñas o grandes, realicen una autoevaluación de sus sistemas de IA, utilizando un catálogo oficial de riesgos como guía. Las infracciones, en este caso, serían sancionadas por la Agencia de Protección de Datos Personales, con derecho a apelación.
El proyecto destaca la transparencia en el uso de la IA, exigiendo que las interacciones sean claramente identificables como máquinas. En ese sentido, los llamados sistemas de “alto riesgo” son aquellos que pueden afectar negativamente la salud, seguridad, derechos fundamentales o el medio ambiente. Un ejemplo sería la IA utilizada en procesos de selección laboral. Este proyecto se alinea con estándares internacionales y podría convertirse en uno de los primeros de su tipo a nivel global.
A pesar de lo anterior, hay quienes no están del todo convencidos con estas medidas. El abogado Carlos Reusser, experto en derecho de la tecnología y la información y miembro del equipo que redactó la Ley de Transformación Digital del Estado, dice:
“En muchos sentidos, el proyecto de ley presentado el 7 de mayo es una copia del Reglamento europeo sobre Inteligencia Artificial, lo que en principio no me parece mal, pues permite armonizar las legislaciones sobre la materia en todo el orbe, tal cual se está haciendo en materia de protección de datos personales. Sin embargo, es una copia “a cuatro manos”, mal hecha. Está muy presta a transcribir los mismos principios generales y grandes categorías del reglamento europeo, pero se olvida de las excepciones, lo que tendría negativas consecuencias para nuestro país si no se modifica en la discusión legislativa. Por ejemplo, si hay un desastre o catástrofe, no podríamos utilizar IA para buscar a los sobrevivientes, pues, de acuerdo con el proyecto de ley, se trata de un uso inadmisible. Además, en Chile hay 8.000 personas desaparecidas. ¿Podemos usar Inteligencia Artificial para buscarlos? Muy dudoso, pues el proyecto de ley no se refirió a ellos expresamente, sino que prohíbe la búsqueda de personas en espacios abiertos, por lo que podría entenderse que tampoco podemos buscarlos, pues se trata de un uso inadmisible de las tecnologías”.
En todo caso, el conjunto de medidas adoptadas por el Estado chileno ha sido destacado por incorporar todas las recomendaciones de un informe que realizo la UNESCO ante la evaluación de preparación para que Chile aborte la IA. También el resultado de un proceso participativo que ha permitido identificar brechas de gobernanza y recoger opiniones de diversas partes interesadas a lo largo del país. Este enfoque colaborativo ha consolidado a Chile como líder en la aplicación de la Metodología de Evaluación de la Preparación (RAM) de la UNESCO.
#Noticia 📰 | Chile lanza una política nacional de inteligencia artificial y presenta un proyecto de ley sobre #IA siguiendo las recomendaciones de la UNESCO
👉 https://t.co/xSeObKdh57 pic.twitter.com/rZSQfyhde4
— Oficina Regional de la UNESCO para #ALC (@UNESCOSantiago) May 8, 2024
El lanzamiento de estas iniciativas ha recibido elogios a nivel internacional, destacando la presencia de Audrey Azoulay, directora general de la UNESCO, en el evento de anuncio que se dio en La Moneda en el marco de las actividades conmemorativas del Día Mundial de la Libertad de Prensa. La comunidad internacional ha reconocido a Chile por su liderazgo y por ser el primer país latinoamericano en traducir recomendaciones éticas en acciones concretas, estableciendo un precedente para la gobernanza de la IA en la región y emergiendo como un referente en la creación de un marco ético sostenible para el progreso tecnológico a nivel mundial. Y el Presidente Gabriel Boric, se refirió a este mismo punto en su reciente Cuenta Pública 2024:
“Sin ciencia e innovación, no hay desarrollo sostenible. Hay una reflexión que debemos hacer todos, y es con respecto a la inteligencia artificial. Hubo inventos que cambiaron al mundo y la inteligencia artificial lo está cambiando, nos guste o no. Genera temor que la IA remplace a personas en sus puestos de trabajo, pero ello no nos debe paralizar, nos tiene que llamar a la acción. La IA puede ser un gran copiloto si es bien utilizada, puede aumentar nuestra productividad, pero para eso no podemos quedarnos de brazos cruzados esperando que hacen otros países, tenemos que capacitarnos crear nuevas habilidades y avanzar en una legislación”.
El desafío actual es seguir estableciendo políticas que atenúen los impactos adversos de la IA, como la mitigación de sesgos y la automatización laboral, al mismo tiempo que se promueve la reeducación y el desarrollo de habilidades en la fuerza de trabajo. De esta manera, Chile busca comprometer en liderar y asegurar que la IA se desarrolle de manera justa y beneficiosa para todos.