Dialogic realizó recientemente una investigación sobre algoritmos e inteligencia artificial en municipios. ¿Cuál era exactamente la pregunta?

Cada vez más, los municipios exploran cómo pueden utilizar algoritmos e inteligencia artificial para analizar problemas de manera más rápida y efectiva, y tomar decisiones más enfocadas. Sin embargo, su implementación también puede afectar a los residentes y las empresas. El aumento del uso de algoritmos e inteligencia artificial plantea preguntas a la Cámara de Cuentas sobre cómo los municipios gestionan dichas tecnologías. Por este motivo, investigamos dónde se están implementando algoritmos e inteligencia artificial, los riesgos involucrados y cómo los municipios se están preparando organizativa y administrativamente para un uso responsable.

Desde tu punto de vista, ¿cuál es el mayor desafío para los municipios?

El principal desafío no radica principalmente en la tecnología, sino en la organización que la rodea. ¿Quién asume la responsabilidad? ¿Qué conocimientos se necesitan? ¿Cómo se establecen acuerdos sobre el uso responsable? Y quizás, aún más importante: ¿cómo se evita que la inteligencia artificial se convierta en algo impulsado por unos pocos entusiastas, y cómo se garantiza que la organización mantenga el control adecuado?

Un desarrollo clave es el creciente uso de la inteligencia artificial en los municipios. Especialmente, la inteligencia artificial generativa está recibiendo mucha atención, por ejemplo, con sistemas como ChatGPT y Microsoft Copilot. En la práctica, a menudo se observan líderes entusiastas que generan muchos cambios, junto a equipos que prefieren seguir trabajando como están acostumbrados. Esto hace que la organización sea vulnerable si el conocimiento y la responsabilidad se centran demasiado en personas individuales. Por lo tanto, es necesaria una dirección centralizada para asegurar que el uso responsable no dependa de iniciativas fortuitas, sino que se garantice de manera más general.

¿Qué significa concretamente para un municipio que desea abordar la madurez de la inteligencia artificial?

El uso responsable de algoritmos e inteligencia artificial comienza por saber lo que está sucediendo, querer determinar en qué dirección se quiere ir y ser capaz de organizar que los empleados, los procesos y los sistemas estén preparados para eso.

• En saber se trata de tener una visión general: ¿qué algoritmos y aplicaciones de inteligencia artificial se están utilizando y cómo se distribuyen las responsabilidades?
• Luego, viene el querer: ¿para qué propósitos específicos quiere el municipio utilizar la inteligencia artificial, y para cuáles no, y bajo qué condiciones? Esto requiere políticas claras y decisiones definidas.
• Ser capaz se refiere a la viabilidad práctica: ¿están presentes las personas adecuadas, el conocimiento, los procesos y los acuerdos para organizar esto de manera efectiva?

Este enfoque de "saber, querer y poder" ayuda a los municipios a pasar de iniciativas dispersas a un uso consciente y controlable de algoritmos e inteligencia artificial.

¿Qué aspecto te llamó más la atención personalmente en la investigación?

Lo que me llamó la atención es que los municipios a menudo ya están utilizando más algoritmos de lo que inicialmente piensan. Cuando se menciona inteligencia artificial, la gente suele pensar rápidamente en la inteligencia artificial generativa, como Copilot o ChatGPT, por ejemplo, para escribir, resumir o analizar textos. Por lo tanto, al establecer políticas de inteligencia artificial, se centra principalmente en esto. Pero los algoritmos basados en reglas también son igualmente importantes. A menudo, estos han formado parte de los procesos municipales durante mucho tiempo y pueden tener un gran impacto en los residentes. Existe el riesgo de una supervisión limitada sobre el uso de estas reglas de decisión. Sin embargo, también vi mucha energía positiva dentro de los municipios. Los municipios quieren aprender, experimentar y desarrollar marcos claros.

¿Qué pueden aprender los municipios unos de otros?

Los municipios pueden aprender mucho unos de otros, precisamente porque enfrentan preguntas similares. Incluso un municipio que aún tiene un uso limitado de algoritmos se verá involucrado con los algoritmos a través de acuerdos comunes y proveedores. Por lo tanto, la opción de "no hacer nada" en realidad no es neutral. Para adoptar (nuevos) algoritmos y adquirir mejores prácticas, se puede buscar inspiración en otros municipios. De esta forma, el municipio se mantiene al tanto de los últimos avances. Sin embargo, los municipios más grandes cuentan con más recursos. Los municipios más pequeños pueden posicionarse como "seguidores inteligentes".

¿Qué significa esto para los próximos años?

Para los próximos años, esto significa que los municipios deben dejar de tratar la inteligencia artificial como un experimento y empezar a organizarla cada vez más como una parte permanente de su estructura. La pregunta cambia de "¿qué se puede hacer con la inteligencia artificial?" a "¿cómo garantizamos un uso responsable y una dirección central?". La esencia sigue siendo la misma: la ambición de utilizar la inteligencia artificial de manera responsable debe integrarse en la práctica diaria de toda la organización.