Artificial Intelligence, afgekort AI staat weer in de schijnwerpers dankzij ChatGPT. Google zou binnen twee jaar overbodig zijn door deze tool, kopte een artikel. Ook in politiek Den Haag is ChatGPT doorgedrongen en werd er door sommigen al voorzichtig geroepen dat fractiemedewerkers met een paar jaar hun werk verliezen aan een slimme computer. Is dat wel zo? Gaan we daadwerkelijk die kant op of blijkt de AI-soep achteraf niet zo heet gegeten te worden? En hoe zit het met het toezicht op de moreel – ethische kant en privacy bij AI. Tijd voor wat duiding en nuance.
“Parlementaire historie”, zo begon een tweet van D66-Kamerlid Hind Dekker-Abdulaziz op 2 februari. Vol trots maakte ze bekend met ChatGPT een motie gemaakt gemaakt te hebben, waarin het kabinet opgeroepen wordt om op korte termijn te komen met een AI – strategie voor het onderwijs.
Klinkt allemaal heel ambitieus, maar uit zowel de tweet als de motie blijkt dat, zoals velen in de politiek, ook dit Kamerlid niet echt goed haar huiswerk heeft gedaan. Het past eerder in het rijtje uitspraken over verbieden van TikTok of het ‘gevaar’ van de machtige Big-Tech. Wel de klok horen luiden maar de klepel is zoek.
Ja, AI is een kans, maar er is veel meer in AI-land dan alleen maar ChatGPT. Sterker nog, er zijn vrijwel zeker al veel slimmere oplossingen die al dan niet bewust uit de publieke belangstelling blijven. Bovendien spelen er bij AI zoveel meer zaken dan nu door ChatGPT getoond wordt. Een voorbeeld hiervan is een AI-tool van Microsoft die binnen 3 seconden een stem zou kunnen klonen[1]. Zeker van een lid van de Kamercommissie Digitale Zaken mag je meer kennis verwachten over één van de meest disruptieve digitale ontwikkelingen in onze geschiedenis. Of schatten we dan het niveau van deze Kamercommissie veel te hoog in?
Kunstmatige intelligentie of slim zoeken?
ChatGPT kan inderdaad indrukwekkend ogen, maar deze vorm van AI is volgens kritische tech-experts niet zo miraculeus en zaligmakend als we denken. Bovendien zeggen diverse slimme mensen bij Meta (moederbedrijf Facebook, Instagram en WhatsApp), zoals hoofd-AI-wetenschapper van Meta Yann LeCun, Google en diverse tech startups dat de technologie verre van nieuw en evenmin innovatief is.[2] De basis van ChatGPT is het GPT-3 taalmodel. Dit model is tot stand gekomen door het te laten leren uit een enorme hoeveelheid tekst op het internet, ongeveer 175 miljard parameters. Hierdoor kan de chatbot na een vraag zinnig lijkende antwoorden geven, meningen reproduceren en verschillende schrijfstijlen hanteren. Maar is het daarmee daadwerkelijk een kunstmatig intelligent systeem?
Ja, ChatGPT is een handige tool om snel een opzetje te maken voor een tekst, maar het is geen orakel dat helemaal zelfstandig briljante tekst kan produceren. Het is dus niet echt een kunstmatig intelligent systeem volgens die norm. Alles hangt af van hoe uitgebreid de instructie is die jij als gebruiker meegeeft. Hoe meer instructie, hoe beter het resultaat. Een zoekopdracht in Google werkt eigenlijk op dezelfde manier, dit noemt men ook wel de long-tail. Hoe gerichter je zoekopdracht, hoe relevanter de zoekresultaten. Hoe afhankelijk ChatGPT van de instructie is, bleek ook in de tweet van Hind Dekker- Abdulaziz. De eerste versie van de AI-motie was toch niet helemaal goed gestructureerd[3].
Over Google en hun toekomst gesproken, deze week maakte Google bekend binnen enkele weken een eigen AI-chatbot toe te voegen aan hun zoekmachine[4]. Google werkt overigens al jaren aan AI-modellen zoals dat van OpenAI ( het bedrijf achter ChatGPT) en liet in 2018 al een voorproefje zien hoe een virtuele Google Assistant telefonisch een afspraak maakte bij de kapper[5] en in 2020 werd deze feature daadwerkelijk toegevoegd aan de Google-diensten. Het is dus maar de vraag of Google over een paar jaar overbodig is door ChatGPT.
[Tekst gaat verder onder de foto]
Bewustzijn
Bovendien mist ChatGPT, net als vrijwel alle andere huidige AI-tooling, een belangrijk menselijk aspect: bewustzijn. Wij zijn als mens ons (meestal) bewust van onze omgeving en voeden ons eigen ‘datamodel’ steeds met allerlei (zintuigelijke) input door dingen te zien, te horen, te ruiken, et cetera. Dat biedt ons ook kennis, creativiteit en nuance (als het goed is). Onze eigen intelligentie kan doorlopend leren. AI is afhankelijk van menselijke input. Data die al geproduceerd is door mensen en in eveneens door mensen geschreven algoritmes. Inclusief alle menselijke vooroordelen, selectieve data-invoer en alle andere menselijke factoren waar we zelf in ons dagelijks leven mee te maken hebben. Ook de fractie-assistenten kunnen opgelucht ademhalen. Hoewel de Google Assistant in 2018 erg indrukwekkend oogde bij het maken van de kappersafspraak en ChatGPT bliksemsnel zal leren, zijn tools als ChatGPT of andere virtuele assistenten duidelijk nog geen vervangers voor menselijk bewustzijn en creativiteit.
De uiteindelijke kwaliteit wordt bovendien nog altijd bepaald door menselijke instructie en controle. Pas als dat niet meer nodig is moeten we ons wellicht zorgen maken, maar of dat echt zal gebeuren hebben we zelf in de hand. Het leidt echter wel tot nieuwe vragen, buiten het technische veld. Want hoe zit het met die menselijke input vol vooroordelen, selectieve invoer en onze privacy? Welke keuzes maak je als overheid om te garanderen dat AI waarde toevoegt en niet extra gevaar oplevert?
Algoritmewaakhond
Een eerste aanzet tot toezicht op een deel van AI werd gegeven op 16 januari 2023, met de oprichting van een algoritmetoezichthouder onder de vlag van de Autoriteit Persoonsgegevens (AP). Deels ingegeven door de angst van een nieuw Toeslagenschandaal 2.0 krijgt de AP de (extra) taak om te strijden tegen discriminerend algoritmegebruik of algoritmes die in strijd zijn met mensenrechten. Er is wel gelijk een probleem, want door een veel te klein budget en te weinig mandaat voor goed toezicht en een goede handhaving dreigt het meteen een papieren tijger te worden[6]. Los daarvan, op welke algoritmes kan en mag de algoritmewaakhond toezicht houden? Alleen die van de Nederlandse overheid? Of ook de nu zorgvuldig beschermde algoritmen van tech-bedrijven? Die zullen er alles aan doen om hun bedrijfsgeheimen ook echt geheim te houden.
Politiek aan zet, maar hoe?
Er moet dus veel breder gekeken worden voor een goede AI-strategie dan alleen de impact van AI op het onderwijs. Zoals gezegd speelt er veel meer. De politiek is aan zet om goede keuzes te maken, maar daar wringt nu net ook de schoen. Veel politici snappen digitalisering al nauwelijks, laat staan AI. En de vaste Kamercommissie Digitale Zaken lijkt met 36 leden meer een polderclub die af en toe iets roept of vraagt over wat er in het digitale nieuws speelt. Welgeteld één lid van deze commissie heeft ruim 15 jaar geleden iets met IT gedaan. En ook buiten deze club is het aantal Kamerleden met alleen al ICT-kennis beperkt, zo bleek al bij de verkiezingen in 2021[7]. Gezien de impact van digitalisering hoop je dan ook bij nieuwe landelijke verkiezingen op meer kandidaten met relevante digitale (IT) kennis op verkiesbare plekken. De kandidaten voor een nieuwe, kleinere commissie Digitale Zaken. De volgende stap is het opzetten van een nieuw orgaan voor Digitale Zaken, de Raad voor Digitale Samenleving (RvDS).
Geen Ministerie van Digitale Zaken, waar andere bewindspersonen hun verantwoordelijkheid kunnen afschuiven. Nee, de RvDS heeft de senioriteit van bijvoorbeeld de SER, maar dan zonder het gepolder en de alles opzuigende leemlagen. Bestaande uit bijvoorbeeld leden van de Cyber Security Raad, Bureau ICT Toetsing (BIT) en aangevuld met experts op het terrein van Cybersecurity, AI, ICT en Privacy. Ze gaan rapporteren aan de vaste Kamercommissie voor Digitale Zaken en desgewenst de Kamer en worden het belangrijkste adviesorgaan van het kabinet als het gaat om de Digitale Samenleving, waaronder dus AI. Daarmee bied je de politiek een kans om geïnformeerde en gefundeerde keuzes te maken in plaats van het niet gehinderd door kennis te roeptoeteren over het verbieden, controleren of aanpakken van allerlei digitale zaken die toevallig in het nieuws zijn.
[1] https://www.businessinsider.nl/microsoft-ai-tool-stem-klonen-vall-e-kunstmatige-intelligentie/ [2] https://www.rtlnieuws.nl/tech/artikel/5361371/ai-baas-meta-chatgpt-niet-innovatief [3] https://twitter.com/Hind_D66/status/1620753473343197186 [4] https://www.rtlnieuws.nl/tech/artikel/5363418/google-chatbot-chatgpt-zoekmachine [5] https://www.youtube.com/watch?v=D5VN56jQMWM [6] https://www.amnesty.nl/actueel/algoritme-waakhond-dreigt-een-papieren-tijger-te-worden [7] https://www.agconnect.nl/artikel/analyse-wie-worden-de-nieuwe-it-toppers-de-tweede-kamer