La inteligencia artificial (IA) muestra un gran potencial como apoyo en diversas áreas del conocimiento. Sin embargo, en el ámbito de la administración pública, los públicos y la gobernanza, se vislumbran importantes implicaciones, como los criterios éticos que deben prevalecer a la hora de configurar algoritmos, y cómo evitar la aparición de sesgos sociales, culturales o económicos. Estas cuestiones se discutieron en el conversatorio “IA y gestión pública: reflexiones prospectivas interdisciplinares”, organizado por la Facultad de Derecho, Ciencias Políticas y Sociales de la Universidad Nacional de Colombia (UNAL).
La IA es un conjunto de herramientas tecnológicas que se basan en algoritmos y procesamientos matemáticos para resolver problemas de diversa índole. Estas tienen el potencial de mejorar la eficiencia, la toma de decisiones y la prestación de servicios públicos en diferentes áreas, y el Gobierno colombiano ha reconocido esta capacidad.
Por ejemplo, uno de los principales campos en los que se está utilizando es en la atención al ciudadano. Mediante el uso de chatbots y sistemas de procesamiento del lenguaje natural se automatizan respuestas a preguntas frecuentes de las personas, y así se facilita el acceso a la información y se brinda una asistencia básica las 24 horas del día, lo cual ayuda a reducir la carga de trabajo del personal y agiliza la atención a los ciudadanos.
También es muy útil en la gestión de datos y en el análisis de información en el sector público, ya que esos algoritmos de aprendizaje automático permiten analizar grandes volúmenes de datos para identificar patrones, tendencias, e incluso problemas que guían la toma de decisiones en el Estado colombiano, basadas en evidencia.
Bruce Darío Vargas, jefe de la Oficina Tecnologías de la Información TIC del Departamento Administrativo de la Función Pública (DAFP), señaló que “ya estamos trabajando en una prueba de concepto y hemos avanzado en un piloto que está próximo a salir, y es la integración del algoritmo que maneja ChatGPT con el chatbot del DAFP, una herramienta que le facilitaría al ciudadano encontrar una solución o respuesta de manera más efectiva”.
Por su parte, el profesor Juan David Gutiérrez, de la Facultad de Estudios Internacionales, Políticos y Urbanos de la Universidad del Rosario, indicó que según un mapeo que se ha venido realizado en la institución con información pública, se han encontrado 113 sistemas de IA nacionales y subnacionales, y las clasificaciones según las funciones de gobierno indican que se usan mayormente en sectores públicos asociados con la economía, la educación y los servicios generales.
“Está la Corte Constitucional de Colombia, la Superintendencia de Industria y Comercio, la Superintendencia de Sociedades, la Agencia Nacional de Defensa Jurídica del Estado, y muchas otras entidades. Esto quiere decir que hay muchos sectores de la acción estatal en los cuales los algoritmos contribuyen a tomar decisiones, o las toman directamente”, especificó.
Y con un ejemplo comento que, “hoy en día la operación de la clasificación de los ingresos de una persona para determinar si acceden o no a subsidios específicos se hace a través de algoritmos administrados por el Departamento Nacional de Planeación (DNP), y ese algoritmo es secreto”.
Ante esto, Marco Emilio Sánchez, experto asesor y consultor en utilización de tecnologías de la información y las comunicaciones (TIC) y sus implicaciones jurídicas, fue enfático en decir que el problema no es que se usen sistemas de IA, sino que detrás de ellos existe un uso de las TIC por parte de las administraciones públicas de las autoridades del Estado colombiano que están sometidas a la legalidad.
“Las alarmas saltan porque las normas que habilitan el uso en pruebas, por ejemplo, de un sistema de IA que está gratuito, y que además en otras partes del mundo están intentando prohibir por el ejercicio de los derechos en temas de ciberseguridad y de protección de datos, sin embargo, en nuestro país un juez adopta una decisión fundamentándola en un sistema de inteligencia artificial”, expresó.
“Una autoridad pública, sin importar el sistema de IA que use, debe respetar la Constitución, la ley y los reglamentos, eso significa que se debe respetar el derecho al debido proceso, por ejemplo, y al acceso a la información pública”, agregó.
Otro de los temas abordados fue el procesamiento de lenguaje natural, que es el que se da con solo buscar algo en un motor de búsqueda en internet, o también está el procesamiento de voz y de imagen.
La profesora Jenny Marcela Sánchez Torres, directora Nacional de Investigación y Laboratorios de la UNAL, manifestó que “cada vez que se utiliza este tipo de tecnologías, que se usan estos algoritmos, hay una implicación no solo en el funcionamiento interno de la entidad, sino en la relación entre el Gobierno y el ciudadano”.
“Personalmente lo que me preocupa es que se hubiera usado ChatGPT en una sentencia, porque esto implica un desconocimiento total de qué son en realidad esas herramientas y cuáles son las fuentes que utilizan para aprender, que puede ser por modelos supervisados en los que hay humanos que los alimentan, o por métodos no supervisados”, dijo.
