Telecominfrastructuren zijn van vitaal maatschappelijk belang. Steeds meer toepassin-gen zijn afhankelijk van goed werkende, betrouwbare en altijd beschikbare telecom-voorzieningen. In Nederland houdt het Agentschap Telecom hier toezicht op. Door de opkomst van AI-toepassingen in telecominfrastructuren veranderen het karakter en de risico’s van de telecomsector fundamenteel. Om de juiste werking van telecominfra-structuur te borgen is een aanpassing van de relevante kennis, aanpak van het toezicht en het toezichtbeleid noodzakelijk. Dit rapport geeft inzichten in de veranderingen als gevolg van toepassing van AI, de risico’s en mogelijke aanpak voor Agentschap Telecom om maatschappelijk vertrouwen in de telecom infrastructuur te behouden. Er zijn drie onderzoeksmethoden ingezet: literatuuronderzoek, interviews en sessies met experts.

Beantwoording onderzoeksvragen

Wat zijn risico’s van huidige en toekomstige inzet van AI in de telecomsector?

De relevante definitie van AI in dit kader is, gezien de ontwikkelingen, het gebruiken van algoritmes op basis van deep learning, getraind met behulp van grote hoeveelheden data, om taken te automatiseren die voorheen alleen (goed) door een mens zouden kunnen worden uitgevoerd. AI zal naar verwachting een steeds centralere rol innemen in telecomnetwerken.

AI-toepassingen hebben specifieke eigenschappen welke risico’s kunnen opleveren bij gebruik in telecominfrastructuren (het toepassingsniveau). AI-toepassingen interacteren met andere AI-toepassingen, mensen, ‘gewone’ automatisering, en mogelijk de buitenwereld. Het is daarom van belang om de toepassing van AI in de telecomsector te beoordelen op systeemniveau; dat wil zeggen, kijkend naar de effecten en risico’s voor de gehele keten in plaats van AI-toepassingen in isolatie. Daaronder vallen nadrukkelijk de uiteindelijke toepassingen die worden gerealiseerd op basis van de telecominfrastructuren.

Op toepassingsniveau zijn de mate van autonoom leren en handelen, de mate van onvoorspelbaarheid, het handelingskader en de invloedssfeer van de AI-toepassing bepalend voor de waarschijnlijkheid en de impact van de additionele risico’s. Hier bovenop bestaan in de volledige levenscyclus van een AI-toepassing (planning, dataverzameling, training, testen en validatie en operatie) onverminderd de gangbare risico’s ten aanzien van informatiebeveiliging.

Hoewel AI-toepassingen nieuwe (soorten) risico’s introduceren kan het tot slot nadrukkelijk waarde toevoegen bij het mitigeren van risico’s.

Hoe kan Agentschap Telecom als toezichthouder en uitvoeringsorganisatie deze risico’s beperken?

We bevelen aan om te starten met instrumenten op systeemniveau. Met voorlichting en bewustwording, het vereisen van transparantie, het faciliteren van risicoanalyse en -mitigatie, het ontwikkelen van criteria en het stellen van procesvereisten kan Agentschap Telecom de risico’s van AI-toepassingen in de telecomsector beperken. Op het toepassingsniveau kunnen eventueel specifiekere instrumenten worden ingezet. Daarbij kunnen certificering, auditing en handhaving op specifieke soorten of aspecten van AI-toepassingen een rol spelen. Tot slot zal in bredere zin een maatschappelijke discussie moeten plaatsvinden over het gewenste dienstenniveau van telecominfrastructuren.

Hoe ziet het huidige gebruik van AI er nu en in de komende vijf jaar uit in de telecomsector en sectoren die gebruik maken van digitale connectiviteit?

Op dit moment zien we dat de meeste toepassingen van AI in telecominfrastructuren betrekking hebben op optimalisatie van specifieke parameters. Het betreffen sterk afgebakende toepassingen, zoals het optimaliseren van parameters van een radiosignaal, power management, of het routeren van verkeer door een netwerk.

Kijken we naar de komende vijf jaar, dan zien we AI-toepassingen steeds geavanceerder worden. Een eindvisie, die wordt gedeeld door een aantal leveranciers van telecomapparatuur, is dat een groot deel van de netwerkfuncties in telecomnetwerken wordt bestuurd door een AI. Hoewel het de vraag of dit al (volledig) binnen 5 jaar wordt geïmplementeerd is deze eindvisie er wel degelijk een waar op geanticipeerd dient te worden.

Hoe kunnen de risico’s voor de verschillende aspecten relatief ten opzichte van elkaar worden gewogen in een risicomodel voor digitale connectiviteit?

AI-toepassingen kunnen bepaalde eigenschappen bezitten die leiden tot aanvullende risico’s voor telecominfrastructuren. De eigenschappen hebben te maken met de volgende aspecten van AI:

• De mate van autonoom leren en handelen van de AI-toepassing. Wanneer hier in hoge mate sprake van is, neemt de waarschijnlijkheid van risicogebeurtenissen toe. Een belangrijke parameter is of de toepassing wordt gecontroleerd door mensen of regels.
• De mate van voorspelbaarheid van de AI-toepassing. Wanneer de modellen niet-deterministisch of sterk niet-lineair zijn, is het lastiger om te valideren of een AI-toepassing onder alle omstandigheden goed werkt. Een factor die daarbij meespeelt is welke data wordt gebruikt en of die manipuleerbaar is.
• Het handelingskader van de AI-toepassing. Wanneer de AI-toepassing een sterk beperkte invloed heeft op telecominfrastructuren is het effect van een risicogebeurtenis beperkter. Een toepassing met een breed handelingskader leidt in potentie tot grotere effecten.
• De invloedssfeer van de AI-toepassing. Een toepassing die op centraal niveau werkt en een telecominfrastructuur bestuurt is risicovoller dan een toepassing die op laag niveau een specifieke parameter optimaliseert.

Onderstaand schema geeft een overzicht van de relevante aspecten en een weging daartussen. De scores kunnen worden gecombineerd volgens het schema onder “toepassingsniveau” hierboven.

Uitsluitend kijken naar de risico’s van AI-toepassingen in isolatie geeft echter een te beperkt beeld van de maatschappelijke risico’s (en overigens voordelen) van de inzet van AI-toepassingen in telecominfrastructuren. Op systeemniveau beïnvloeden de volgende factoren de risico’s:

• Interactie tussen AI-toepassingen en andere systemen.
• Vervanging van een mens door een AI. Het door een mens laten uitvoeren van een taak brengt risico’s met zich mee, en die kunnen hoger of lager zijn dan bij een AI-toepassing. In dit onderzoek worden de risico’s van menselijk handelen in telecominfrastructuren niet in kaart gebracht. Het gepresenteerde model kan worden gebruikt om de risico’s van de vervangende AI-toepassing te bepalen om zo de afweging bij het inzetten van een mens-vervangende AI-toepassing te kunnen maken.
• Inzet van AI-toepassingen voor risicomitigatie. Op systeemniveau kunnen AI-toepassingen bijdragen aan het verlagen van het risiconiveau, bijvoorbeeld door het sneller detecteren van problemen of aanvallen, en het ondersteunen bij het vinden van oorzaken en oplossingen.
• Cyber(on)veiligheid van AI-toepassingen. Uiteraard zijn ook AI-toepassingen onderhevig aan cyberdreigingen en bijbehorende veiligheidsrisico’s. Deze risico’s worden mogelijk vergroot, omdat voor het trainen van AI-toepassingen grote hoeveelheden (soms gevoelige) data bijeen worden gebracht.