Dialogic genomförde nyligen en undersökning om algoritmer och AI inom kommuner. Vad var exakt frågeställningen?

Kommuner utforskar alltmer hur de kan använda algoritmer och AI för att snabbare och bättre analysera frågor och fatta mer riktade beslut. Men användningen kan också påverka invånare och företag. Ökningen av användningen av algoritmer och AI väcker frågor även hos revisionskammaren om hur kommunen hanterar algoritmer och AI. Därför undersökte vi var algoritmer och AI redan används, vilka risker som är involverade och hur kommuner organisatoriskt och styrmässigt förbereder sig för ansvarsfull användning.

Enligt dig, var sitter den största utmaningen för kommuner?

Den största utmaningen ligger inte primärt i teknologin, utan i organisationen runt omkring. Vem tar ägarskap? Vilken kunskap krävs? Hur gör man överenskommelser om ansvarsfull användning? Och kanske ännu viktigare: hur undviker man att AI blir något som drivs av några entusiastiska förespråkare, och hur ser man till att organisationen behåller tillräcklig kontroll?

En viktig utveckling är den ökande användningen av AI inom kommuner. Särskilt generativ AI får mycket uppmärksamhet, till exempel med system som ChatGPT och Microsoft Copilot. I praktiken ser man ofta entusiastiska förespråkare som driver mycket framsteg, bredvid team som föredrar att fortsätta arbeta som de är vana vid. Detta gör organisationen sårbar när kunskap och ansvar ligger för mycket hos enskilda personer. Därför behövs central styrning, så att ansvarsfull användning inte är beroende av slumpmässiga initiativ utan istället breddas och stärks.

Vad innebär det konkret för en kommun som vill ta itu med AI-mognad?

Ansvarsfull användning av algoritmer och AI börjar med att veta vad som pågår, att vilja avgöra vilken riktning man vill ta och att organisera så att medarbetare, processer och system är rustade för detta.

• Vid veta handlar det om överblick: vilka algoritmer och AI-applikationer används redan, och hur fördelas ansvaret?
• Därefter kommer vilja: var vill du som kommun faktiskt använda AI, var inte, och under vilka villkor? Det kräver tydlig policy och klara val.
• Kunna handlar sedan om den praktiska genomförbarheten: har man rätt människor, kunskap, processer och överenskommelser för att verkligen organisera detta?

Denna treenighet – veta, vilja och kunna – hjälper kommuner att gå från isolerade initiativ till medveten och styrbar användning av algoritmer och AI.

Vad lade du personligen mest märke till i undersökningen?

Det som framför allt fångade mitt intresse var att kommuner ofta redan använder fler algoritmer än de först tror själva. När det gäller AI tänker människor snabbt på generativ AI, som Copilot eller ChatGPT, till exempel för att skriva, sammanfatta eller analysera texter. Vid utarbetandet av AI-policy fokuseras därför främst på detta. Men regelbaserade algoritmer är minst lika viktiga. Dessa har ofta varit en del av kommunala processer under lång tid och kan ha stor inverkan på invånarna. Risken är att det finns begränsad (till)syn över användningen av dessa beslutsregler. Samtidigt såg jag mycket positiv energi inom kommunerna. Kommuner vill lära sig, experimentera och utveckla tydliga ramar.

Vad kan kommuner lära av varandra?

Kommuner kan lära mycket av varandra, särskilt eftersom de brottas med liknande frågeställningar. Även en kommun som själv inte arbetar mycket med algoritmer kommer att möta algoritmer genom gemensamma avtal och leverantörer. Därför är att 'inte göra något' egentligen inte ett neutralt val. För användningen av (nya) algoritmer och för att ta till sig bästa metoder kan inspiration hämtas från andra kommuner. På så sätt håller sig kommunen informerad om de senaste trenderna. Större kommuner har dock större kapacitet. Mindre kommuner kan positionera sig som 'smart följeslagare'.

Vad innebär detta för de kommande åren?

För de kommande åren innebär detta att kommuner allt mindre kan betrakta AI som ett experiment och istället måste organisera det som en fast del av sin verksamhet. Frågan skiftar från "vad kan man göra med AI?" till "hur säkerställer vi ansvarsfull användning och central styrning?". Kärnan förblir densamma: ambitionen om en ansvarsfull AI-användning måste konkretiseras i hela organisationens dagliga praktik.