Reducir los costos burocráticos en un 25% para 2029, ofrecer más servicios públicos en línea y utilizar inteligencia artificial en el gobierno y en los tribunales son algunos de los proyectos que el gabinete del canciller Friedrich Merz acordó la semana pasada.
Entre los planes para integrar la IA en el uso diario se encuentra una plataforma en línea para que las empresas exportadoras recopilen información sobre regulaciones de exportación y opciones de crédito, y aceleren el procesamiento de visas mediante el uso de IA para revisar los documentos del solicitante.
La “Agenda de Modernización”, como la llamó el Ministro de Digitalización, Karsten Wildberger, viene inmediatamente después de la “Agenda de Alta Tecnología”, que lleva el mismo título. La “Agenda de Alta Tecnología”, presentada en julio por Dorothee Bär, ministra federal de Investigación, Tecnología y Espacio, destaca la IA como una de las seis tecnologías clave que el gobierno promoverá, junto con la biotecnología y la microelectrónica.
El ministro de AI hace su debut
Un ejemplo más visible del reciente impulso de la IA por parte del gobierno es el llamado Weimatar, un avatar de IA del Ministro de Estado de Cultura y Medios, Wolfram Weimer. Weimatar puede hablar 100 idiomas y promete ser un ejemplo de “IA justa, que protege la creatividad y fortalece nuestra esfera pública democrática”. Su propósito no es solo llegar más fácilmente a una audiencia más amplia en las redes sociales, sino también ahorrar tiempo internamente en el ministerio con, por ejemplo, videos de capacitación que se pueden hacer rápidamente y mantener actualizados.
Holger Hoos, profesor de IA de la Fundación Humboldt en la Universidad RWTH de Aquisgrán, no cree que quienes están en el poder comprendan la tecnología lo suficientemente bien como para prometer un uso justo y responsable de la IA.
En 2023, un grupo de profesores Humboldt de IA, los investigadores más destacados de Alemania en este campo, se reunieron con responsables políticos para preparar una lista de sugerencias para una IA ética y útil en el gobierno. Esto incluía la recomendación de que el gobierno se guiara principalmente por la ciencia en su toma de decisiones, no por las empresas.
“Un gobierno tiene el deber moral de seguir consejos competentes. No se puede simplemente seguir los consejos de la industria, que a menudo tiene intereses creados en ciertos resultados”, dijo Hoos.
Al mismo tiempo, el experto en aprendizaje automático considera una buena señal que Wildberger y el Ministerio de Digitalización tengan como misión principal mejorar la retrasada infraestructura digital de Alemania.
Por su parte, Wildberger ha señalado que Alemania corre el riesgo de quedarse irremediablemente atrás si no adopta la IA más rápidamente.
“La IA es la clave para el crecimiento futuro, y está en pleno apogeo. Cambiará el mundo más (y ya lo está haciendo) que cualquier tecnología anterior”, dijo al funke grupo de medios. “Si no utilizamos la IA de forma generalizada, arriesgamos más puestos de trabajo que si la utilizamos con valentía y responsabilidad”.
La IA también se utiliza ampliamente a nivel estatal y local. En el estado sureño de Baden-Württemberg, por ejemplo, se han hecho públicas una serie de ofertas: desde la optimización de textos mediante IA hasta un chatbot gubernamental en la ciudad de Ludwigsburg. El gobierno estatal también promociona el uso de ChatGPT, propiedad de OpenAI, con sede en EE. UU., para “optimizar la administración pública”.
El entusiasmo por la IA generativa ya está disminuyendo
También se están planteando preguntas, tanto en los medios tradicionales como en las redes sociales, sobre si el gobierno de Merz está aceptando el revuelo generativo de la IA a costa de aplicaciones más prácticas. El sitio de noticias sobre política tecnológica Netzpolitik acusó al gobierno de continuar con la reputación de Alemania de estar atrasada en el mundo digital. “El gobierno vuelve a sucumbir así” a la exageración de la IA generativadel mismo modo que “disminuye en otros lugares”, escribieron.
De hecho, empresas y gobiernos de todo el mundo ya se han topado con las limitaciones de ChatGPT y DALL-E, generadores de inteligencia artificial que proporcionan información demasiado generalizada y, a veces, inexacta. Expertos como Hoos creen que para que los ciudadanos obtengan resultados positivos a partir del uso de la IA en el gobierno, la energía debería dirigirse hacia la optimización de procesos a través de la IA y modelos específicos de problemas.
“Esto es mucho más útil que hacerle una pregunta a ChatGPT. Puede utilizar la IA para identificar dónde se pueden optimizar los procesos burocráticos”, ahorrando tiempo y recursos para todos, dijo el informático. Esto incluye combatir problemas como la escasez de personal a medida que Alemania experimenta un declive demográfico. El envejecimiento de la población proporciona cada vez menos personas que quieran trabajar en la administración pública, especialmente cuando trabajar en la industria puede conllevar mayores recompensas.
Añadió que este proceso era en cierto modo inevitable. “Predigo que dentro de 10 años la tecnología de IA se utilizará para tareas importantes en todas las autoridades públicas y en todos los niveles de gobierno”.
Algunos de estos tipos de modelos de IA ya se utilizan en Alemania, también a nivel local y municipal. La ciudad de Colonia tiene un proyecto piloto para utilizar la IA para una mejor planificación urbana y gestión del tráfico, mientras que Múnich la está utilizando para crear mejores rutinas de recogida de basura. En Heidelberg se está probando en hospitales para la detección precoz de enfermedades.
Sin embargo, los juristas y especialistas en ética todavía se preguntan si la prisa por implementar la IA en todos los niveles de gobierno se está realizando con suficiente supervisión y previsión de las consecuencias de los errores cometidos, especialmente cuando se trata de su uso en la atención médica, el sistema judicial y los procedimientos de inmigración.
“La IA puede servir como herramienta, por ejemplo, en exámenes preliminares o casos estándar”, escribió el estudiante de derecho Jan Christian Swoboda en el sitio de noticias jurídicas LTO. “Sin embargo, la revisión humana es esencial, especialmente en casos atípicos o altamente relevantes para los derechos fundamentales”.
El acuerdo abierto AI/SAP plantea dudas sobre la independencia tecnológica alemana
Alemania tiene estrictas normas de protección de datos que se aplican, en particular, a la implementación de sistemas de inteligencia artificial en el sector público. Los datos personales no podrán almacenarse más tiempo del necesario y deberán protegerse contra el acceso no autorizado, la pérdida o la destrucción. Los interesados tienen derecho a solicitar información sobre qué datos se han recopilado sobre ellos y con qué finalidad, y tienen derecho a que se eliminen o corrijan los datos recopilados ilegalmente.
Hoos advierte que a pesar de las promesas de “soberanía” a través de una nube con sede en Alemania, un acuerdo anunciado la semana pasada entre los creadores de ChatGPT, OpenAI, y el gigante del software SAP de Alemania, está creando una “dependencia de actores en los que no podemos confiar plenamente” y no proporciona transparencia sobre si OpenAI tendrá acceso a los datos generados por los modelos de SAP o no.
“Se trata de dinero público que no debería gastarse en tecnología estadounidense cuestionable, sino más bien en desarrollar capacidades de IA en la UE y Alemania”, argumentó.
Si, como declara la “Agenda de alta tecnología” del ministro Bär, Alemania busca convertirse en líder en inteligencia artificial, integrándola en los hogares, la atención médica e incluso la administración de justicia, los expertos advierten que la independencia es crucial.
Editado por Rina Goldenberg.
Mientras usted esté aquí: todos los martes los editores de DW resumen lo que sucede en la política y la sociedad alemanas. Puede suscribirse aquí para recibir el boletín semanal por correo electrónico, Berlin Briefing.
