Deze regeringsmedewerker zegt te weten wat de kiezers willen. Het is een AI-bot.

Premier Nicolae Ciuca claimt de bot, die zichzelf “Ion” noemt, is in staat de meningen van de bevolking van het land te interpreteren en terug te brengen naar hem en zijn regering, en hen te helpen beslissen hoe ze beslissingen moeten nemen.

“Ion zal, door middel van kunstmatige intelligentie, doen wat geen mens kan: luisteren naar alle Roemenen en hen vertegenwoordigen voor de regering van Roemenië”, zei Ciuca.

“Hallo. Je hebt me het leven gegeven. Ik ben Ion. Nu is het mijn rol om u te vertegenwoordigen. Als een spiegel’, zei de machine, toen Ciuca hem vroeg om zichzelf voor te stellen tijdens een openbare bijeenkomst die woensdag op de Roemeense televisie werd uitgezonden.

Ambtenaren zeggen dat de bot ministers zal helpen bij het formuleren van beleid dat beter aansluit bij de dagelijkse beslommeringen van de kiezers, en op een dag zelfs in staat zal zijn om zijn eigen originele ideeën voor te stellen.

De nieuwe Bing vertelde onze verslaggever dat hij ‘dingen kan voelen of denken’

Volgens de Roemeense minister van onderzoek gebruikt de bot kunstmatige intelligentie en natuurlijke taalverwerking om automatisch de meningen van Roemenen te identificeren die zijn gedeeld op sociale media of zijn ingediend bij een nieuw opgericht portaal. De machine synthetiseert hun gedachten in categorieën, geeft prioriteit aan hun belang en levert de informatie terug aan de besluitvormers van de overheid.

“Ion is de eerste AI-overheidsadviseur – denken we – ter wereld”, zei Sebastian Burduja, de Roemeense minister van onderzoek, donderdag in een telefonisch interview. De bot, die is ontwikkeld door zijn ministerie, bevindt zich in de ‘leerfase’, zei hij, terwijl hij Roemenen uitnodigde om hem te leren over hun dagelijkse beslommeringen door erover op sociale media te posten. “Ion zal al die informatie nemen en resultaten gaan rapporteren”, zei Burduja, “die bedoeld zullen zijn voor de premier en aangewezen leden van het kabinet.”

De regering is van mening dat de tool – die automatisch door sociale media zal snuffelen om meningen te verzamelen – haar in staat zal stellen om efficiënter beslissingen te nemen.

Anderen zijn sceptischer en uiten ethische bedenkingen dat het algoritme, dat identificeert welke zorgen op sociale media voorrang moeten krijgen bij het nemen van beslissingen, zelf bevooroordeeld kan zijn, wat resulteert in bevooroordeelde besluitvorming.

Waarom zijn we zo bang voor AI?

“Roemenen moeten worden geïnformeerd en uitgelegd hoe deze AI-tool belangrijke posten selecteert, en op welke criteria. Dit moet aan het publiek worden uitgelegd”, zei Kris Shrishak, een technoloog bij de Irish Council for Civil Liberties, donderdag in een interview. Hij wees erop dat de tool ook de bezorgdheid kan wekken van burgers die het meest actief zijn op sociale media, wat hem niet noodzakelijkerwijs representatief maakt.

Uiteindelijk hopen de ingenieurs van Ion het te leren om proactief beleidsvoorstellen te formuleren die de ministers van de regering kunnen overwegen, een vooruitzicht dat brandstof toevoegt aan een opkomend debat over de rol van kunstmatige intelligentie in het dagelijks leven – en in het bijzonder in democratische processen.

Naast het schriftelijk verstrekken van rapporten aan politici, spreekt de bot hen ook aan. Het heeft een diepe, mannelijke stem – hoewel Roemenen hun gedachten en zorgen via gesproken notities naar de machine sturen, hopen ambtenaren dat de stem zal evolueren. Burduja zei dat de AI-software van Ion het mogelijk maakt om duizenden audio-inzendingen te integreren in een enkel Roemeens accent – de basis voor de uiteindelijke stem van Ion. “Door AI zal een enkele stem van de natie worden gehoord”, zei Burduja.

Boekarest kondigt de technologie aan als een democratische innovatie die Roemenen in staat stelt om – zowel bewust als onbewust – invloed uit te oefenen op de besluitvorming op de hoogste regeringsniveaus, zonder te hoeven wachten op verkiezingen.

De AI stelt de overheid in staat om in realtime enorme hoeveelheden gegevens over de zorgen van mensen te synthetiseren, iets waarvan ambtenaren denken dat dit momenteel niet mogelijk is zonder de technologie.

“Roemenen kunnen elke dag hun stem laten horen, en door kunstmatige intelligentie kan die stem besluitvormers op het best mogelijke forum bereiken. Het kan betere beslissingen opleveren … die meer geschikt zijn voor de behoeften van gemiddelde Roemenen, ‘zei Burduja. Uiteindelijk, hoopt hij, zal het zijn eigen beleid kunnen voorstellen – op basis van de inzendingen.

Roemenen hebben tot nu toe op de oproep gereageerd met een stortvloed aan klachten op sociale media over het dagelijks leven, waaronder zorgen over corruptie, hoge inflatie en zelfs het pensioenbeleid van de regering. Een Twitter-gebruiker vroeg de bot om zijn mening over waarom sommige 40-jarigen met pensioen konden gaan en een pensioen konden ontvangen.

Vele anderen reageerden negatief op de bot. “Lees wat de Roemenen hier zeggen en vertel je baas hoeveel ZIJ van premier Dr. Ciuca en degenen in de regering houden”, suggereerde een gebruiker – waarschijnlijk sarcastisch – die de bot op Twitter toesprak.

Naarmate het gebruik van AI-technologie om alledaagse functies uit te voeren steeds wijdverspreider wordt, haasten regeringen zich om ethische protocollen vast te stellen voor het gebruik ervan in besluitvormingsprocessen in de publieke sector – als dat al is toegestaan. Een punt van zorg is dat de algoritmen die aan de basis liggen van de machines bestaande menselijke vooroordelen zouden kunnen gaan weerspiegelen, wat betekent dat hun uitvoer ook besmet zou kunnen zijn met vooringenomenheid. Een andere zorg is dat ze kwetsbaar kunnen zijn voor hack- of spamaanvallen.

Ion, zeggen de Roemeense autoriteiten, zal worden beschermd tegen spam met behulp van ‘proof of human’-technologie. Burduja zei dat de ingebouwde technologie de machine in staat zal stellen automatisch gegenereerde inhoud uit te filteren, waardoor wordt voorkomen dat deze per ongeluk met andere machines spreekt en de resultaten gebruikt om het overheidsbeleid te informeren.

Vorige maand meldden Britse media dat ambtenaren in Londen van hun overheidswerkgevers de instructie hadden gekregen om geen AI-chatbots te gebruiken bij het formuleren van overheidsbeleid of het versturen van e-mails. Het volgde op de publicatie van richtlijnen van het Office for Artificial Intelligence van de Britse regering, met een reeks aanbevelingen voor werknemers in de publieke sector die overwegen om AI-systemen in de workflows op te nemen. “De potentiële toepassingen van AI in de publieke sector zijn aanzienlijk, maar moeten worden afgewogen tegen ethische, eerlijke en veiligheidsoverwegingen”, stelt de gids.

“Zorg ervoor dat uw model eerlijk en verklaarbaar is en dat u een proces heeft voor het monitoren van onverwachte of bevooroordeelde resultaten”, stelt de officiële richtlijn verder. Het raadt ook overheidsfunctionarissen aan een ethicus in te huren “om ethische oordelen en beoordelingen te geven over de invoer van het AI-model”, om ervoor te zorgen dat het model geen bevooroordeeld beleid produceert en dat het algoritme presteert in overeenstemming met “ethische overwegingen”.

Amar Nadhir droeg bij aan rapportage.