LA INTELIGENCIA ARTIFICIAL APLICADA A LA GOBERNANZA DE LA GESTIÓN PÚBLICA | Emiro Torres

por Dr. Emiro Torres

 Director de Informática de la Fundación Escuela Venezolana de Planificación 

Resumen

El propósito del ensayo, es analizar los elementos relacionados con la Inteligencia Artificial (IA) y su aplicación en la Gobernanza de la Gestión Pública, su aplicación adquiere en la actualidad más trascendencia por los nuevos avances tecnológicos, donde la IA aplicada a la gobernanza puede contribuir en su desarrollo, mediante la utilización de algoritmos y aprendizaje automático, que permite comprender y predecir patrones complejos, lo que permite a los gobernantes tomar decisiones fundamentadas y efectivas para abordar los desafíos actuales y futuros, con oportunidades para la mejora de la administración pública, a través de una mayor eficiencia, productividad y confiabilidad. La fundamentación teórica está relacionada con la Teoría de Sistemas, considerando la variedad de actores representados en diferentes países e instituciones interesadas, a través de una interacción y colaboración mutua. La gobernanza de la IA debe ir acompañadas de normas éticas a lo largo del tiempo, yendo más allá del mero cumplimiento legal para garantizar la responsabilidad social de la IA. La metodología a emplear se subscribe desde el punto de vista ontológico en un contexto sistémico, considerándose como un sistema abierto por su interacción con la sociedad y los medios tecnológicos, a través de organizaciones complejas que interactúan en el ciberespacio. Se presentan los resultados y discusión con las consideraciones de varios autores, y resultados confirmados en relación al tema de estudio.

Palabras Clave: Gobernanza, Gestión Pública, Tecnología, Inteligencia Artificial, Ética

INTRODUCCIÓN

El concepto de gobernanza (governance) adquiere cada vez más trascendencia en los debates teóricos y en la práctica política, en relación al nuevo modo de gestionar las políticas públicas. En la sociedad actual, los procesos nacionales de decisión pública se vuelven cada vez más permeables a la influencia de actores internacionales, nacionales, regionales y locales. Los procesos de reforma del Estado en América Latina, iniciados en los años ochenta, como la privatización, la descentralización y la delegación de responsabilidades de gestión pública a espacios privados, locales o regionales, han cambiado el escenario político. En este nuevo, complejo y cambiante entorno, con múltiples actores, el Estado, garante del bien público, no puede por sí solo solucionar los problemas de la sociedad actual; en este sentido, han surgido en los últimos años nuevos avances tecnológicos relacionados concretamente con la Inteligencia Artificial (IA), donde se plantea que la IA aplicada a la gobernanza puede contribuir en el desarrollo de una buena gestión.

Al utilizar algoritmos y aprendizaje automático, la IA puede comprender y predecir patrones complejos, lo que permite a los líderes políticos tomar decisiones más fundamentadas y efectivas para abordar los desafíos actuales y futuros, ofreciendo grandes oportunidades para la administración pública, incluida la automatización de los procesos de flujo de trabajo, un procesamiento de información más rápido, una calidad de servicio mejorada o una mayor eficiencia laboral. Si bien los beneficios de mayores niveles de adopción de IA en muchos sectores de la economía global se sienten en el contexto de una mayor eficiencia, productividad mejorada y confiabilidad, dicho contexto de innovación positiva no es del todo universalmente bienvenida o aceptada a nivel mundial; ya que las estimaciones para el desplazamiento laboral producto de la automatización apuntan que hasta un tercio de las actividades laborales presentes hoy en día, podrían verse afectadas hacia el año 2030.[1]

Ian Bremmer y Mustafá Suleyman (2023), consideran que la inteligencia artificial (IA) traerá a la vida de los ciudadanos y a las sociedades, incluyendo a los gobiernos de distintos países, avances científicos revolucionarios, un acceso sin precedentes a la tecnología, pero también a la información falsa y nociva que perturbará las democracias y turbulencias económicas. Al mismo tiempo, desencadenará una transformación radical de la estructura y el equilibrio de poder a escala mundial. Esto sitúa a las instituciones políticas de todo el mundo ante un reto sin igual: tendrán que establecer normas nuevas para regular una tecnología novedosa y dinámica, mitigar sus posibles riesgos y reconciliar los intereses dispares de unos actores geopolíticos que, cada vez más, procederán del sector privado. Asimismo, hará falta una gran coordinación entre los gobiernos, algunos de los cuales pueden ser rivales estratégicos y adversarios.

Elliot, D (2024), citando a Gómez, A (2024), plantea que "Es difícil regular una tecnología horizontal como el lenguaje, este afecta a todos los ejes verticales, a todos los sectores: dondequiera que haya más de un ser humano, hay lenguaje¨. "Deberíamos regularla en un nivel vertical y ayudar a los responsables políticos existentes, a los reguladores existentes, a obtener conocimientos sobre la IA generativa y su impacto en su campo de experiencia. Esto les ayudará a mitigar los riesgos en su contexto". (s/p); Añade que, cuando se trata de regulación mundial, es necesario el consenso y la coordinación internacionales. Además, toda regulación debe potenciar la innovación en lugar de reprimirla, especialmente la de las empresas más pequeñas; considera al año 2023, el momento en que el mundo se familiarizó con la Inteligencia Artificial (IA) generativa, siendo el 2024 el año en que los gobiernos deberán actuar en serio sobre su gobernanza.

Entrevistas realizadas en Davos 2024 por parte de Elliot, D (2024) a varios expertos en la materia, recogió algunas de sus opiniones donde resalta el impulso a la gobernanza que la IA refleja en varias instituciones a nivel internacional; el Índice de IA de la Universidad de Stanford por ejemplo, muestra que el interés de los responsables políticos por la IA va en aumento, existiendo ya en 127 países, un número de proyectos de ley que hacen referencia a la Inteligencia Artificial, pasando de 1 (uno) en 2016 a 37 en 2022. Asimismo, la Unión Europea está preparando su Ley de Inteligencia Artificial, a la que denomina la primera ley integral de inteligencia artificial del mundo. Se está de acuerdo en que la gobernanza es necesaria, pero subraya que "la forma en que lleguemos a ella es increíblemente importante,”. (s/p).

Tim Mucci y Cole Stryker (2023) consideran que la gobernanza de la IA aborda los defectos inherentes derivados del elemento humano en la creación y el mantenimiento de la IA; dado que esta es un producto de código de alta ingeniería y aprendizaje automático creado por personas, es susceptible de sesgos y errores humanos. La gobernanza proporciona un enfoque estructurado para mitigar estos riesgos, garantizando que se supervisan, evalúan y actualizan los algoritmos de aprendizaje automático para evitar decisiones erróneas o perjudiciales.

Las soluciones de IA deben desarrollarse y utilizarse de forma responsable y ética, eso significa abordar los riesgos asociados a la IA: los prejuicios, la discriminación y el daño a las personas. La gobernanza aborda estos riesgos mediante una política de IA sólida, la regulación, la gobernanza de los datos y conjuntos de datos bien entrenados y conservados.

La gobernanza pretende establecer la supervisión necesaria para alinear los comportamientos de la IA con las normas éticas y las expectativas de la sociedad y para protegerse de posibles impactos adversos. La transparencia en la toma de decisiones y la posibilidad de explicarlas son fundamentales para garantizar que los sistemas de IA se utilicen de forma responsable.

Referencias teóricas y Perspectivas metodológicas:

La fundamentación teórica de esta investigación, toma como referencias la Teoría de Sistemas considerando la variedad de actores representados en diferentes Estados e instituciones interesadas a través de una interacción y colaboración mutua en lo que respecta al desarrollo de la Inteligencia Artificial[2], para cada uno de sus países y empresas, considerándose el marco conceptual de los modelos internacionales de este Sistemas de Gestión, y la experiencia de otros países en el área de la IA. Así mismo, a futuro aquellos países que no han desarrollado un marco legal para estas actividades, deberán desarrollar su regulación.

La gobernabilidad y gobernanza, son dos palabras que a la mayoría de la sociedad civil la consideran como sinónimos. Muchas veces se utiliza estos términos como si fueran lo mismo, siendo dos conceptos diferentes. La gobernanza se enfoca en el cruce de las esferas política, social y económica, mientras que la gobernabilidad se concentra en los ámbitos del gobierno y del sistema político. La gobernabilidad acusa a las sociedades de "ingobernables", mientras que la gobernanza traslada esa responsabilidad al gobierno, considerándolo "incapaz".

La gobernabilidad implica una correlación entre necesidades y capacidades a través de las instituciones, mientras que la gobernanza representa el proceso de interacción entre actores estratégicos, se refiere a cómo se toman y se implementan las decisiones en una sociedad, organización o comunidad; es un proceso en el que se involucran diversos actores y se consideran múltiples intereses y perspectivas, pudiendo ocurrir en diferentes niveles, desde el local hasta el internacional, y puede abarcar temas como la política, la política económica, el medio ambiente y orden social en general. En un proceso de gobernanza, los actores relevantes, por ejemplo, líderes políticos, expertos, grupos de interés y ciudadanos se involucran en la toma de decisiones y la implementación de políticas y programas. Los procesos de gobernanza son participativos y buscan lograr soluciones consensuadas y sostenibles a problemas complejos. Suarez, (2020). (s/p).

Adicionalmente, la gobernanza de la IA no consiste solo en garantizar el cumplimiento una sola vez, sino también en mantener las normas éticas a lo largo del tiempo. Los modelos de IA pueden desviarse, lo que provoca cambios en la calidad y la fiabilidad de la producción. Las tendencias actuales en materia de gobernanza van más allá del mero cumplimiento legal para garantizar la responsabilidad social de la IA, salvaguardando así contra los daños financieros, legales y de reputación, al tiempo que promueven el crecimiento responsable de la tecnología. Los ejemplos de gobernanza de la IA abarcan una serie de políticas, marcos y prácticas que las organizaciones y los gobiernos aplican para garantizar el uso responsable de las tecnologías de IA. Estos ejemplos demuestran cómo se produce la gobernanza de la IA en diferentes contextos.

Tim Mucci y Cole Stryker (2023) plantean que la gobernanza de la inteligencia artificial (IA) se refiere a las barreras que garantizan que las herramientas y los sistemas de IA son y siguen siendo seguros y éticos. Establece los marcos, reglas y normas que dirigen la investigación, el desarrollo y la aplicación de la IA para garantizar la seguridad, la equidad y el respeto de los derechos humanos; consideran que esta engloba, mecanismos de supervisión que abordan riesgos como la parcialidad, la violación de la privacidad y el uso indebido, al tiempo que fomentan la innovación y la confianza. Un enfoque centrado en la IA ética para la gobernanza de la IA requiere la intervención de una amplia gama de partes interesadas, incluidos los desarrolladores de IA, los usuarios, los responsables políticos y los especialistas en ética, para garantizar que los sistemas relacionados con la IA se desarrollen y utilicen de forma que se ajusten a los valores de la sociedad. (s/p).

Desde una perspectiva académica, diferentes autores también han señalado la relevancia de la Inteligencia Artificial en el Sector Público. Para Margetts y Dorobantu, (2019), este impulso tecnológico en las administraciones públicas significa la transición hacia una gobernanza inteligente mediada por algoritmos, que implica tecnologías que requieren una interacción continua y el aprendizaje constante con los seres humanos. (p.164)

Criado (2019) ha sostenido que el estudio de la Inteligencia Artificial y los algoritmos en las administraciones públicas necesita aproximaciones que consoliden su desarrollo en el futuro poniendo a la ciudadanía en el centro. Ramio, C (2018) por su parte, ha señalado la importancia de la robotización en la gestión de las personas en la administración pública, incluyendo también capacidades humanas para la adopción de decisiones, mientras que Valle-Cruz (2020) considera que el propio ciclo de las políticas públicas se podría alterar.

Los niveles de gobernanza pueden variar en función del tamaño de la organización, la complejidad de los sistemas de IA en uso y el entorno normativo en el que opera la organización; una visión general de estos enfoques lo relaciona con la Gobernanza informal, la cual trata un enfoque menos intensivo de la gobernanza basada en los valores y principios de la organización. Puede haber algunos procesos informales, como juntas de revisión ética o comités internos, pero no existe una estructura o marco formal para la gobernanza de la IA. Gobernanza ad hoc la cual va un paso más allá de la gobernanza informal e implica el desarrollo de políticas y procedimientos específicos para el desarrollo y el uso de la IA, este tipo de gobernanza suele desarrollarse en respuesta a retos o riesgos específicos y puede no ser exhaustiva ni sistemática. La Gobernanza formal representa el nivel más alto de gobernanza e implica el desarrollo de un marco integral de gobernanza de la IA. Este marco refleja los valores y principios de la organización y se alinea con las leyes y reglamentos pertinentes. Los marcos de gobernanza formal suelen incluir procesos de evaluación de riesgos, revisión ética y supervisión.

El concepto de gobernanza de la IA resulta cada vez más vital a medida que la automatización, impulsada por la IA, se impone en sectores que van desde la sanidad y las finanzas hasta el transporte y los servicios públicos. Las capacidades de automatización de la IA pueden mejorar significativamente la eficiencia, la toma de decisiones y la innovación, pero también introducen retos relacionados con la responsabilidad, la transparencia y las consideraciones éticas.

Otro aspecto a ser considerado se refiere a que la ciberseguridad y la inteligencia artificial guardan una estrecha relación. Primero, las técnicas de inteligencia artificial (IA) pueden utilizarse para mejorar la ciberseguridad y resiliencia de productos, servicios, sistemas y, por ende, de las empresas y la sociedad (enfoque de defensa). Segundo, la IA está empezando a ser utilizada por cibercriminales y otro tipo de ciberatacantes para poner en riesgo la ciberseguridad y perpetrar diferentes tipos de ataques y generar noticias falsas (enfoque de ataque). Ayerbe, 2020, p.1).

África Teen Geeks. (2023) considera, que a medida que aumenta la sofisticación de la IA, también lo hace la complejidad de las ciberamenazas. Si se considera un escenario en el que un ciberdelincuente experto utiliza una herramienta de IA para redactar un mensaje de spear-phishing altamente personalizado, este mensaje, que se mezcla a la perfección con el estilo de comunicación interna de la organización, puede engañar incluso a los empleados más vigilantes. Los sistemas de seguridad tradicionales resultan a menudo ineficaces contra ataques tan sofisticados, dejando a las empresas expuestas a importantes trastornos.

Del mismo modo, los ciberatacantes pueden utilizar la IA para crear voces falsas y hacerse pasar por altos ejecutivos. Un deepfake bien ejecutado podría engañar a los empleados para que autoricen grandes transferencias de fondos no autorizadas, explotando la confianza humana para eludir las medidas de seguridad.

El método a emplear en la presente investigación, se subscribe desde el punto de vista ontológico en un contexto sistémico, considerándose como un sistema abierto debido a su interacción con el medio tecnológico que los rodea, a través de organizaciones complejas que interactúan en el ciberespacio. La organización para Morín (1981), es la disposición de relaciones entre componentes o individuos que produce una unidad compleja o sistema, dotado de cualidades desconocidas en el nivel de los componentes o individuos. La organización practica una interacción de elementos o eventos o individuos diversos que a partir de ahí se convierten en los componentes de un todo. Asegura solidaridad y solidez relativa a estas uniones, dándole al sistema una cierta posibilidad de duración a pesar de las perturbaciones aleatorias. Se asume la perspectiva hermenéutica, a través de la interpretación de documentos, modelos, programas de especialistas en el área, con un enfoque cualitativo, a través del Análisis de Contenido, para luego interpretar los resultados obtenidos.

Resultados y discusión:

Se presentan en este apartado, consideraciones de varios autores, y resultados confirmados en relación al tema de estudio. La Inteligencia Artificial en el gobierno y sector público, de acuerdo a Ocaña y otros (2021)[3] citando a Henman (2020)[4], consideran que las nuevas tecnologías digitales están cambiando rápidamente el panorama de la prestación de servicios públicos, ya que los dispositivos móviles combinados con aplicaciones logran en línea a cualquier lugar donde se encuentre el ciudadano. Las tecnologías en red y wi-fi permiten que el suministro de información y la recopilación de datos codificados geográficamente se integren con los datos administrativos tradicionales, creando conjuntos de big data para generar conocimiento sobre poblaciones e individuos, los mismos que pueden ser procesados por técnicas basadas en IA a fin de optimizar la toma de decisiones; en este sentido, los procesos automatizados de toma de decisiones administrativas se están expandiendo, y la IA (a través del aprendizaje automático o machine learning) proporciona formas más matizadas de tomar decisiones en circunstancias complejas.

Por otra parte, muchas organizaciones del sector público están cada vez más interesadas en utilizar la ciencia de datos y las capacidades de la IA para implementar políticas y generar eficiencias en entornos de alta incertidumbre. Duan y otros (2019)[5], citado por Ocaña y otros (2021), considera que la introducción de la IA en acciones gubernamentales posibilitará una amplia gama de oportunidades únicas, remarcando que muchos de ellos comienzan a destacarse en un número creciente de puntos de vista sobre la IA en el sector público; en este sentido, según lo manifestado por Agarwal (2018)[6], la IA ofrece grandes oportunidades para la administración pública, incluida la automatización de los procesos de flujo de trabajo, un procesamiento de información más rápido, una calidad de servicio mejorada o una mayor eficiencia laboral.

Una forma en que la IA está comenzando a aplicarse en el gobierno local es mediante la introducción de análisis predictivo y tecnologías de apoyo a la toma de decisiones. Las aplicaciones de la IA podrían hacer que el gobierno trabaje de manera más eficiente, y a la par que deja tiempo libre para que los empleados construyan mejores relaciones con los ciudadanos.[7] Actualmente, la administración pública difícilmente puede mantenerse al día con el rápido desarrollo de la IA, que se refleja en la falta de programas concretos de gobernanza y legislación de la IA, así como de capacitación de sus trabajadores; en este contexto, los desafíos de la IA y los posibles efectos adversos en la sociedad han comenzado a llamar la atención de los investigadores.[8]

Si bien los posibles casos de uso futuro de la IA en el gobierno siguen estando limitados por los recursos gubernamentales, las oportunidades más obvias e inmediatamente beneficiosas son aquellas en las que la IA puede reducir las cargas administrativas, coadyuvando a resolver problemas de asignación de recursos[9] y asumir tareas significativamente complejas; en este sentido, los impactos de la IA, en la gestión pública, contemplan tres aspectos: primero, sobre la fuerza laboral del sector público, al delegar la toma de decisiones a la IA; lo cual resultaría una clara amenaza clásica de la sustitución laboral. Segundo, direccionar el incremento de la dinámica en la toma de decisiones públicas respaldada por IA; debido que las aplicaciones de la IA tienden a introducir aspectos no diáfanos al reducir la capacidad de los no expertos para auditar los mecanismos que conducen a los resultados de las decisiones. Tercero, la disminución de cuestiones de opacidad en relación al desempeño de la IA y su asequibilidad con la población; ya que los algoritmos de IA tienden a sugerir que el nivel de transparencia, trazabilidad y explicabilidad son inversamente proporcionales a su complejidad. Mehr y otros (2017)[10], citado por por Ocaña (2021)

Adicional a lo planteado anteriormente, Mehr considera que si alguna entidad pública estuviera interesada en implementar procesos basados en IA pueden aprender de procesos de implementación de IA por parte del sector privado, además remarca que dicha entidad deberá considerar las siguientes estrategias para aplicar la IA a su campo de acción: hacer que la IA forme parte de un programa centrado en el ciudadano y basado en objetivos; obtener la opinión de los ciudadanos; aprovechamiento de los recursos existentes; estar preparado para el tratamiento de datos y cuidando la privacidad; mitigación de riesgos éticos.

Dado que los nuevos dispositivos tecnológicos basados en IA tienden a reemplazar el trabajo humano a largo plazo, el futuro de la administración pública se ve amenazado; por lo tanto, los gobiernos deben llevar a cabo iniciativas de capacitación de los trabajadores en el uso de dicha tecnología. De acuerdo a lo planteado por Bullock (2019), converge la tendencia de que, con las tecnologías actuales, muchas tareas llevadas a cabo por actores humanos ya pueden ser llevadas a cabo de manera más eficiente y efectiva por la IA. Ello sugiere que las tareas realizadas por burócratas humanos, en muchos dominios, pueden ser incrementadas o automatizadas por IA. A medida que avance el debate digital, varios gobiernos, especialmente en el mundo en desarrollo, deberían expresar sus preocupaciones en lugar de simplemente permitir que los estados desarrollados dicten el camino del desarrollo hacia ellos. Los Estados deberían poder integrar a las partes interesadas pertinentes, incluida la organización del sector privado, y trazar el camino a seguir en términos de cómo debería adoptarse y en qué medida. (p.701)

La disrupción impulsada por la tecnología se está produciendo a un ritmo y una escala nunca antes vistos en la historia. Oleadas de tecnología, como big data y machine learning las cuales permiten el tratamiento de ingentes volúmenes de data orientado hacia un fin concreto, ello debido a que en cada minuto se generan millones de datos, que de ser procesados bajo dichas tecnologías, aportarían información relevante y pertinente para una adecuada toma de decisiones, lo cual está remodelando el modus vivendi a nivel global de manera profunda; por otra parte, está surgiendo un nuevo mundo en el que muchas de las clases laborales actuales desaparecerán, mientras que surgen otras nuevas que requieren conjuntos de habilidades completamente diferentes. El mundo está al borde de la tan esperada transformación digital orquestada por la Cuarta Revolución Industrial, la misma que se basa en parte en el desarrollo y aplicaciones de la IA.

Elliot, D (2024), considera que ¨a largo plazo, será importante considerar el papel que desempeña la desigualdad económica en la supervivencia de la democracia ", en términos de IA, eso plantea cuestiones no sólo de ¨desplazamiento de puestos de trabajo", añade, "sino también de cómo se toman las decisiones sobre quiénes pueden acceder a un préstamo, a quién se elige para un puesto de trabajo, si a alguien se le aprueban o no las prestaciones públicas". (s/p).

A pesar de los beneficios percibidos de una mayor eficiencia y eficacia en la prestación de servicios, la cuarta revolución industrial presenta en gran medida numerosos desafíos para la administración pública en los países en desarrollo que carecen de suficientes recursos humanos y materiales para ejecutar los enormes avances tecnológicos consiguientes. Dicho aspecto debe ser entendido desde la realidad de ausencia de expertos en la materia en una cantidad adecuada para que pueda darse un proceso efectivo de implementación, además de tener en cuenta el factor limitante de las economías de la región que muy pocas veces apuestan por la formación técnico científica de cuadros que lideren dichas posibilidades y puedan trabajar en ello.

Quizás este delicado aspecto es uno de los más álgidos que sobrepasan las expectativas, ya que su solución responde a las políticas adoptadas por la gestión de turno. Es probable que el uso creciente de IA desafíe las normas culturales y actúe como una barrera potencial dentro de ciertos sectores de la población. También se encuentra el riesgo latente de que la IA puede supera el desempeño humano en muchos trabajos y con ello podría, inevitablemente, reemplazarlos; no cabe duda sobre lo mencionado, que la IA seguirá mejorando su capacidad e infiltrándose en muchos más dominios del quehacer de la sociedad; por ello la preocupación creciente de que la IA usurpe o extinga puestos de trabajo y reemplace a los empleados humanos impedirá generar la confianza de las personas en la IA; pero que, debido a su eficacia, será cuasi inevitable dicha tendencia.

De hecho, al ser tendencia y estar presente de una u otra manera en la vida social, es un hecho ineluctable que el viraje hacia procesos mediados por IA en diversos campos y actividades se materialicen, pero la cuestión radical es ¿qué tan preparados estamos al respecto?, y en el caso de acceder a mecanismos y procesos basados en IA, cabe preguntarse ¿existen cuadros profesionales lo suficientemente formados como para poder sacar partido de la IA y adaptarla a procesos de desarrollo nacional?; y por otro lado ¿en el contexto local y asumiendo los niveles de educación de los países de la región y las brechas culturales ¿cómo y cuánto seria el nivel de aceptación/rechazo de la implementación de la IA en la gestión pública por parte de la población? Dichos dilemas, a los cuales no podemos estar exentos, formarán parte de la próxima agenda investigativa respecto del campo de las posibilidades e implicancias de la adecuación de la IA en nuestros países en vías del ansiado desarrollo.

Otro aspecto a considerar es que a medida que la IA sigue avanzando, también lo hace el potencial de uso indebido de la tecnología, debiéndose abordar desde la prevención los deepfakes, (falsificaciones profundas), que podrían amenazar con disrumpir en algunos procesos gubernamentales. Muchas de las mayores empresas de IA han firmado el Acuerdo Tecnológico para combatir el uso engañoso de la IA, representados en un conjunto de compromisos para combatir la falsificación de imágenes, vídeos y e información; pero hacer frente a los deepfakes es sólo una parte del rompecabezas.

La IA se está filtrando en todos esos sistemas de formas a las que los responsables políticos y las empresas tienen que prestar atención; las empresas, los gobiernos y la sociedad civil ya están debatiendo cómo abordar estas cuestiones, el año 2024 representa el momento en que deben "pasar a la fase de acción, pasando de los debates de alto nivel a la redacción de leyes, la adopción de políticas y la aplicación de nuevos diseños por parte de las empresas¨.

Durante el año 2023 existió una gran división, en considerar si se centraba o no en los riesgos a largo plazo o en los riesgos a corto plazo, no obstante, se hace necesario poder y deber hacer ambas cosas a la vez, a través de la creación de un diálogo común.

Para compartir conocimientos y experiencia en seguridad, cuatro de las mayores empresas de IA han creado el Frontier Model Forum (Foro de Modelos Fronterizos). A través de este foro, Anthropic, Google, Microsoft y OpenAI se han comprometido a avanzar en la investigación de la seguridad de la IA y a forjar colaboraciones público-privadas para garantizar un desarrollo responsable de la tecnología. Se trata de identificar un conjunto común de prácticas, donde el trabajo también alimenta la normativa al ayudar a determinar dónde deben fijarse los parámetros. Las empresas que construyen estos modelos son las que más saben de ellos y conocen todos los aspectos. Se hace necesario mantener este diálogo, tener una regulación que sea realmente sólida". (s/p).

Los sistemas de IA también son vulnerables a los ciberataques. Por lo tanto, es crucial desarrollar sistemas de IA seguros que preserven la privacidad y sean confiables para los usuarios. La confianza en el desarrollo seguro de la IA, es fundamental para su adopción generalizada. Los investigadores deben abordar los desafíos de seguridad y privacidad para garantizar que los sistemas de IA sean robustos y confiables. La IA puede ser una herramienta poderosa tanto para defenderse contra las amenazas cibernéticas como para perpetrar ataques, la coordinación entre las estrategias de ciberseguridad y la investigación en IA es esencial para crear sistemas seguros y confiables.

Otro aspecto importante desarrollado en la investigación considera que, para la regulación mundial de los Sistemas de IA, se requiere del consenso y las coordinaciones internacionales, donde las regulaciones deben potenciar la innovación en lugar de reprimirla.

  

 

REFERENCIAS

 

África Teen Geeks. (2023). Ciberseguridad e inteligencia artificial: Retos y Oportunidades.  [Documento en Línea]. Visto en: https://es.weforum.org/agenda/2023/06/ciberseguridad-e-ia-retos-y-oportunidades/. [Consulta: mayo 2024].

Ayerbe, A (2020). La ciberseguridad y su relación con la inteligencia artificial Real Instituto Elcano. Royal Institute. [ Documento en Línea]. Visto en: https://media.realinstitutoelcano.org/wp-content/uploads/2021/10/ari128-2020-ayerbe-ciberseguridad-y-su-relacion-con-inteligencia-artificial.pdf [Consulta: mayo 2024].

Bullock, J. B. (2019). Artificial intelligence, discretion, and bureaucracy. The American Review of Public Administration, 49(7), 751-761. [Documento en Línea]. Visto en: https://doi. org/10.1177/0275074019856123. [Consulta: mayo 2024].

Criado, J. & Gil-Garcia, J. (2019), Creating public value through smart technologies and strategies. From digital services to artificial intelligence and beyond, International Journal of Public Sector Management, Vol. 32 No. 5, pp. 438-450.

Elliot, D (2024). Inteligencia Artificial: ¿Se pondrá la gobernanza a la altura de la tecnología en 2024? | Foro Económico Mundial (weforum.org). Economic Forum. Tecnologías Emergentes. [ Documento en Línea]. Visto en: https://es.weforum.org/agenda/2024/03/ia-conseguira-la-gobernanza-alcanzar-a-la-tecnologia-en-2024/. [Consulta: mayo 2024].

Ian Bremmer y Mustafa Suleyman (2023). Pilares fundamentales para la Inteligencia Artificial Gobernanza. Finanzas & Desarrollo. [ Documento en Línea]. Visto en: https://www.imf.org/es/Publications/fandd/issues/2023/12/POV-building-blocks-for-AI-governance-Bremmer-Suleyman./. [Consulta: mayo 2024].

Margetts, H. & Dorobantu, C. (2019). ‘Rethink government with AI’. Nature 568 (April):163-165.

Morín (1981) MORÍN, E (1981). El método, Tomo I, La naturaleza de la naturaleza, Madrid, Cátedra, 1981. Edición original francesa: La methode, tomos 1 y 2, Paris Du Seuil (1977-1980). Nueva edición, colección «Points», Du Seuil

Ocaña-Fernández, Yolvi; Valenzuela-Fernández, Luis Alex; Vera-Flores, Miguel Angel; Rengifo-Lozano, Raúl Alberto. (2021). Inteligencia artificial (IA) aplicada a la gestión pública Revista Venezolana de Gerencia, vol. 26, núm. 94, 2021 Universidad del Zulia, Venezuela. [ Documento en Línea] Disponible en: https://www.redalyc.org/articulo.oa?id=29069612013. [Consulta: mayo 2024].

Ramio, C. (2018). “Inteligencia Artificial, Robótica y Modelos de Administración Pública”. Revista del CLAD Reforma y Democracia, 72, 5-42.

Suarez, L (2020). Gobernanza y gobernabilidad en la gestión pública. Universidad Continental. [Documento en Línea]. Visto en: https://blogposgrado.ucontinental.edu.pe/gobernanza-y-gobernabilidad-en-la-gestion-publica/. [Consulta: mayo 2024].

Tim Mucci y Cole Stryker (2023) ¿Qué es la gobernanza de la IA? [ Portal web en Línea]. Visto en: https://www.ibm.com/es-es/topics/ai-governance. [Consulta: mayo 2024].

Valle-Cruz, D., Criado, J. I., Sandoval-Almazán, R., & Ruvalcaba-Gómez, E. A. (2020). Assessing the public policy-cycle framework in the age of artificial intelligence: From agenda-setting to policy evaluation. Government Information Quarterly, 37(4).

 

 

---

[1] Ocaña-Fernández, Yolvi; Valenzuela-Fernández, Luis Alex; Vera-Flores, Miguel Ángel; Rengifo-Lozano, Raúl Alberto. (2021).

[2] Considerando que la mayoría de las empresas de Inteligencia Artificial (IA) han firmado el Acuerdo Tecnológico para Combatir el Uso Engañoso de la IA.

[3] Ocaña-Fernández, Yolvi; Valenzuela-Fernández, Luis Alex; Vera-Flores, Miguel Ángel; Rengifo-Lozano, Raúl Alberto. (2021), citando a Henman, P. (2020). Improving public services using artificial intelligence: possibilities, pitfalls, governance. Asia Pacific Journal of Public Administration, 1-13. https://doi.org/1 0.1080/23276665.2020.1816188.

[4] Henman, P. (2020). Improving public services using artificial intelligence: possibilities, pitfalls, governance. Asia

Pacific Journal of Public Administration, 1-13. https://doi.org/1 0.1080/23276665.2020.1816188. Citado por Ocaña (2021)

[5] Duan, Y, Edwards, J. S., & Dwivedi, Y. K. (2019). Artificial intelligence for decision making in the era of Big Data - evolution, challenges and research agenda. International Journal of Information Management, 48, 63-71. https://doi.org/10.1016/j. ijinfomgt.2019.01.021. (Citado por Ocaña y otros (2021))

[6] Citado por Ocaña y otros (2021). Agarwal, P. K. (2018). Public administration challenges in the world of AI and Bots. Public Administration Review, 78(6), 917-921. https://doi. org/10.1111/puar.12979.

[7] Vogl, T. M., Seidelin, C., Ganesh, B., & Bright, J. (2019). Algorithmic Bureaucracy: Managing Competence, Complexity, and Problem Solving in the Age of Artificial Intelligence. SSRN Electronic Journal. https://doi. org/10.2139/ssrn.3327804. (Citado por Ocaña y otros (2021))

[8] Citado por Ocaña y otros (2021): Wirtz, B. W., Weyerer, J. C., & Sturm, B. J. (2020). The Dark Sides of Artificial Intelligence: An Integrated AI Governance Framework for Public Administration. International Journal of Public Administration, 43(9), 818829. https://doi.org/10.1080/0190069 2.2020.1749851.

[9] En entornos con limitación de recursos, las organizaciones públicas no apuestan por invertir en procesos masivos de actualización del hardware y software empleado; sin embargo, a medida que los costos se hacen más accesibles y la IA gana en replicabilidad, escalabilidad y eficiencia, las mismas presiones que retrasan el salto tecnológico en la gestión pública podrían catalizar que dichas herramientas se conviertan en inversiones atractivas debido a su connotada eficiencia.  Etscheid, J. (2019, September). Artificial Intelligence in Public Administration. In International Conference on Electronic Government (pp. 248261). Springer, Cham. Citado por Ocaña y Otros (2021)

[10] Mehr, H., Ash, H., & Fellow, D. (2017). Artificial intelligence for citizen services and government. Ash Cent. Democr. Gov. Innov. Harvard Kennedy Sch., no. August, 1-12.

...//...