AI

För att vi ska kunna använda tekniken fullt ut och på ett effektivt sätt, inte minst utifrån rättsligt och säkerhetsmässigt perspektiv, behöver vi analysera flera olika frågor. Medlemmarna har ett stort fokus på AI-frågorna och under verksamhetsåret 2023/2024 är inte mindre än sju aktiviteter relaterade till AI, igång inom eSam:

En generell process för utveckling av AI

Flera medlemmar arbetar med utveckling eller användning av AI i den egna myndigheten. Det saknas dock en myndighetsgemensam processbeskrivning för utveckling av AI varför det nu startar ett gemensamt arbete för att ta fram en generell process. Det ska bland annat resultera i exempel på olika utvecklingsprocesser för AI, fördelar och nackdelar och förekommande roller i processen.

Uppkomst av allmän handling

En viktig förutsättning i samband med AI-utveckling, handlar om uppkomst av allmän handling. Att ha god ordning i hanteringen av myndigheternas information (handlingar) är viktigt för att den enskilde ska ha möjlighet att ta del av allmänna handlingar, men också för möjligheten att bygga upp och bevara allmänna handlingar som en del av det nationella kulturarvet. Dessvärre har bestämmelserna i tryckfrihetsförordningen (1949:105), offentlighets- och sekretesslagen (2009:400), arkivlagen (1990:782) med flera, inte riktigt adresserat frågan om allmän handling i den digitala miljön. Vid utveckling av AI uppstår nya informationsmängder, exempelvis källkod och tränings- och valideringsdata, varför eSams medlemmar ser ett behov av att analysera om informationen blir nya allmänna handlingar, eller om de utgör kopior av tidigare allmänna handlingar.

Risker och förutsättningar vid utbyte av modeller för AI-utveckling

Vid utveckling av AI uppstår frågor om utbyte av modeller för AI-utveckling eller att tillämpa så kallad federerad inlärning, där lokala modeller tränas på lokalt data och sen sammanförs med en central modell. Medlemmarna kommer att utforska risker och förutsättningar vid utbyte av modeller, exempelvis risker som uppstår om man delar en AI-modell som är tränad på känsligt material eller om personuppgifter överförs vid utbyte av en modell.

En gemensam plattform för chattbotar

Ett annat fokusområde för eSams AI-arbete handlar om gemensam plattform för chattbotar. I dagsläget har tre medlemmar en chattbot som ett av flera gränssnitt till sina målgrupper. I avsaknad av en standard på området, skulle en gemensam plattform vara kostnadseffektivt för befintlig hantering av chattbotarna, minska tröskeln för myndigheter som vill etablera en chattbot men också underlätta för chattbotar att hänvisa till varandra. Därför kommer eSams medlemmar att utreda förutsättningar för etablering av en sådan gemensam plattform.

Praktisk tillämpning av AI-lösningar

Medlemmarna har också börjat arbeta med praktisk tillämpning av AI-lösningar. Med utgångspunkt från tidigare arbete i eSam - erfarenhetsutbyten, ett lämpligt arbetssätt, en juridisk checklista samt en exempelsamling med tillämpningar - startade en pilotverksamhet för en AI-baserad lösning för tolkning, under våren 2023. Piloten utgår från en tjänst som Domstolsverket tidigare har tagit fram där Domstolsverket, Arbetsförmedlingen, Skatteverket och Migrationsverket har testat en AI-baserad lösning som ersättning för ordinarie tolktjänster, under en period om tre månader. Testet ska analyseras för att se vilka effekter myndigheterna kan uppnå vid en bredare användning av sådana lösningar.

Generativa AI-baserade tjänster

Utöver myndigheters arbete med egen AI-utveckling, har de relativt nya generativa AI-baserade tjänsterna som blivit tillgängliga för allmänheten, väckt stort intresse. Utvecklingen går oerhört fort och allt fler aktörer lanserar avancerade tjänster inom olika områden, t.ex. chattbotar. eSams medlemmar har börjat analysera dels om lösningarna kan användas i myndigheterna, dels vilka förutsättningar som finns utifrån exempelvis säkerhetsmässiga och juridiska perspektiv. Tjänsterna baseras på stora språkmodeller (Large language models – LLMs) som potentiellt skulle kunna användas av myndigheterna för att utveckla egna tillämpningar med betydande effekter. Medlemmarna ska analysera utvecklingen och möjlig påverkan för myndigheterna.

AI för kommunikationsverksamheterna

Även på kommunikationsområdet testar flera medlemmar AI-lösningar för att mäta webbplatsers effektivitet eller för att förklara texter av olika slag. Utvecklingen kan ge betydande effekter varför medlemmarna kommer att undersöka möjligheterna vidare och dela med sig av erfarenheter, utvärderingar och pågående tester på området.