La inteligencia artificial (IA) está llamada a ser la joya de la corona de la gestión pública en los gobiernos de América Latina. No hace falta que nos vayamos a la ciencia ficción: actualmente se está usando para reducir la deserción escolar, para detectar a evasores de impuestos, para identificar casos de Covid o para señalar ineficiencias en la contratación pública y reducir los niveles de corrupción.
Los más entusiastas la consideran una herramienta que ayudará a solucionar los grandes retos del desarrollo de América Latina y las grandes falencias de sus gobiernos. Del otro lado, los escépticos hablan de riesgos y peligros, en su mayoría asociados a la seguridad de la información y a la transparencia de ciertos procesos. En el primer grupo se encuentra Juan Corvalán, director del Laboratorio de Innovación e Inteligencia Artificial de la Universidad de Buenos Aires. “La Inteligencia Artificial es como la nueva electricidad. Estamos ante una nueva ecuación entre nuestros objetivos y la burocracia que se fue generando por la imprenta y después por la digitalización”, dijo en un reciente webinar.
Según el experto, la gestión pública se basa en datos, tareas, decisiones y documentos. La IA invita a integrar estos elementos de una manera diferente y más armoniosa, y el resultado es una mayor eficiencia y una reducción de tiempos asombrosa. En otras palabras, los usos de la IA tienen el potencial de mejorar integralmente la gestión pública. Existen varios ejemplos prácticos que ayudan a ilustrar este concepto. Por ejemplo, la IA puede leer un gran número de documentos en muy poco tiempo.
Esto, para el sector de la justicia puede ser revolucionario, y también aplica a la selección de procesos, a las compras públicas, a la asignación de recursos a programas sociales, a los patrones de movilidad o a la salud. Estas mejoras, a fin de cuentas, deberán traducirse en servicios públicos más oportunos y personalizados para los ciudadanos.“Para hacer realidad los beneficios de la inteligencia artificial es imprescindible tener estrategias nacionales, marcos éticos y regulatorios adaptados a las nuevas necesidades y acelerar la capacitación de talento humano que pueda aprovechar esta tecnología”, asegura María Isabel Mejía, ejecutiva senior de la Dirección de Innovación Digital del Estado en CAF.
El uso de la IA requiere habilitar infraestructuras digitales, conectividad, manejar eficientemente los datos y profundizar en la transformación digital. En este frente, la región tiene mucho por hacer. Actualmente, solo el 68% de la población tiene suscripción a banda ancha móvil, y la informalidad laboral que dificulta la bancarización y digitalización de la mitad de latinoamericanos. “Necesitamos trabajar paralelamente en aprovechar las oportunidades de las tecnologías de la Cuarta Revolución Industrial y en cerrar las brechas digitales que existen en la región.
Los beneficios de la IA de alguna manera trascienden a una conexión a internet”, dice Mejía.
Argentina, Colombia, Chile y Uruguay son los países de la región que llevan la delantera en cuanto a la integración de la IA en los procesos públicos. De todas formas, estamos en una etapa temprana, donde por ahora existe un interés (creciente) y una generación de conocimiento, que en los próximos años deberán mutar hacia la implementación. Y esto implica grandes transformaciones.
Riesgos de la IA en el sector público
Aprovechar la colaboración hombre-máquina también implica riesgos. Los más notorios tienen que ver con la transparencia y la “explicabilidad” de las decisiones que se tomen a partir los sistemas de IA, la seguridad y la privacidad de la información que alimenta estos sistemas. Según la OCDE y el Grupo de Expertos de Alto Nivel sobre IA de la Comisión Europea, debe haber varios requisitos esenciales para que los sistemas de Inteligencia Artificial sean considerados como confiables: es necesaria la intervención y supervisión humana; la información debe almacenarse de manera segura; se debe garantizar la privacidad y una buena gobernanza de los datos; asegurar la transparencia y la posibilidad de explicar los resultados de la IA; asegurar la diversidad, no discriminación y equidad; el bienestar social y medioambiental; y la responsabilidad y rendición de cuentas. “Es imprescindible garantizar la transparencia en el proceso de entrenamiento, desarrollo y adopción de soluciones de IA, el cual debe ir acompañado de principios éticos claros, generando una cultura de uso responsable de esta tecnología”, dice Armando Guío, investigador del Berkman Klein Center for Internet & Society en la Universidad de Harvard.
El experto señala que los sistemas de IA deberán cimentarse en la transparencia, y poner mucho énfasis en la comunicación con los ciudadanos. Por ejemplo, el ciudadano deberá conocer en qué sentido un sistema de IA influyó en la aceptación o rechazo de un crédito, o en la selección para ser beneficiado de un programa social, por ejemplo. Esto supone otro riesgo: si ya de por sí es difícil entender las entrañas de la IA, todavía lo será más explicar sus implicaciones a los ciudadanos. Los riesgos asociados a la seguridad son quizás los que más dolores de cabeza costarán. Si consideramos que un ataque cibernético podría cambiar los parámetros y funcionalidades de un sistema de IA, cualquier vulnerabilidad en los códigos trascendería el ámbito digital para llegar al físico, ya sea en los ámbitos de salud, transporte y otros sectores. “Por eso es tan importante ratificar el control humano sobre la IA”, enfatiza Guío.
El autor es ejecutivo principal de comunicación en CAF.
