Hoe het AI-beleid in Zuid-Afrika zichzelf te gronde richt.
Het eerste ontwerp van het nationale beleid inzake kunstmatige intelligentie in Zuid-Afrika is verwijderd. Na de ontdekking van fictieve citaten in het document die ogenschijnlijk door AI waren gegenereerd.
De terugroepactie, die is ingezet nadat de valse verwijzingen in het conceptbeleid aan het licht kwamen, is meer dan een bureaucratische blunder; het is precies het soort misstap waardoor iemand zijn mok halverwege zijn lippen zou laten vallen.
Je moet jezelf afvragen: wacht eens even, het beleid dat bedoeld is om AI te reguleren, is nu zelf ondermijnd door AI? Dat is gênant, maar tegelijkertijd ook leerzaam, omdat het een waarschuwing is.
Zuid-Afrikaanse minister van communicatie en digitale technologieën Solly Malatsi vertelde een publiek Afgelopen week gaf hij aan dat hij vermoedt dat door AI gegenereerde citaten per ongeluk in het conceptbeleidsdocument zijn opgenomen zonder de juiste verificatie en beoordeling.
"De integriteit van het conceptbeleid is aangetast", aldus Malatsi in een verklaring over dit onderwerp. Dit bewijst maar weer eens dat je geen AI nodig hebt om te beseffen dat het geen goed idee is om iets te doen, zoals het gebruiken ervan zonder menselijk toezicht. Dat toezicht is de veiligheidsgordel: pas als je een auto-ongeluk hebt, realiseer je je dat je daadwerkelijk een veiligheidsgordel droeg.
Het beleidsvoorstel had serieuze ambities: eerder deze maand, Zuid-Afrika stelde een reeks nieuwe instellingen en stimuleringsmaatregelen voor. gericht op het bevorderen van AI-ontwikkeling en -innovatie in het land, inclusief de oprichting van een Nationale AI-commissie, een AI-ethiekraad en een AI-regelgevende instantie, naast het verstrekken van belastingvoordelen, subsidies en andere vormen van steun die de lokale AI-ontwikkeling kunnen stimuleren.
Met andere woorden, Pretoria wilde voorop lopen bij de invoering van kunstmatige intelligentie in Afrika. Dat vereist niet alleen dat de overheid alles goed voorbereidt, maar ook dat ze de indruk wekt snel te handelen zonder de nodige verificatie.
Het alarm ging af nadat News24 onthulde dat sommige citaten in het concept kennelijk verzonnen waren.Dit is een groot probleem, want valse referenties maken het niet alleen moeilijker om citaten te vinden of te verifiëren.
In plaats daarvan verlenen ze ongefundeerde beweringen academische geloofwaardigheid, bieden ze excuses voor wangedrag en misleiden ze het publiek door te doen alsof een beleid op feiten is gebaseerd, terwijl het in werkelijkheid slechts schijn is.
Voor een beleidsmaatregel over ethiek, vooringenomenheid, datasoevereiniteit en digitale rechten zou het geen onbeduidende smet zijn, maar een vlek die bij velen in het geheugen gegrift zou blijven.
Het belangrijkste punt is niet dat Zuid-Afrika moet stoppen met het reguleren van kunstmatige intelligentie. Integendeel. Zuid-Afrika is al begonnen met het opbouwen van de noodzakelijke institutionele capaciteit en infrastructuur, via zijn Nationaal kader voor AI-beleid, dat in 2024 open werd gesteld voor publieke reacties om de economische kansen en bestuurlijke dilemma's van AI te bespreken. Dat mogen we niet vergeten.
Ondanks alle mogelijke problemen rond het ingetrokken wetsvoorstel, blijft de noodzaak om AI te reguleren bestaan. AI heeft nu al een impact op de financiële sector, het onderwijs, de publieke sector en onze media; hopen dat regelgeving nog even kan wachten, is een illusie vermomd als geduld.
Dit benadrukt ook een belangrijke overweging voor elke overheidsinstantie, advocatenkantoor, universiteit en nieuwsredactie die overweegt generatieve AI te gebruiken. Zorg ervoor dat u de laatste verdedigingslinie bent voor alles wat u indient. Het is misschien een open deur, maar juist dan gaat het mis.
Als het concept er goed uitziet, de referenties academisch lijken en de taal sterk is, heeft iedereen de neiging te denken dat het wel gecontroleerd zal zijn. En dat is precies wanneer alles je later nog zal opbrengen.
De geloofwaardigheid kan gemakkelijk worden ondermijnd, en zodra het vermoeden bestaat dat een conceptbeleid op fictie is gebaseerd, gaat het debat niet alleen meer over "wat" het beleid zegt, maar ook over "wie" het bronmateriaal heeft geverifieerd.
Wat zou er onopgemerkt zijn gebleven? Het gaat dus eerder om geloofwaardigheid dan om politieke gêne, hoewel er wel degelijk sprake is van politieke gêne.
Desondanks was Malatsi's keuze om het conceptbeleidsvoorstel in te trekken de juiste, ook al veroorzaakte dit gênante situaties en politieke pijn. Een betere aanpak is om een nationale strategie voor kunstmatige intelligentie (AI) te baseren op solide bronnen in plaats van op onjuiste citaten die door niemand in twijfel zijn getrokken. Dat is overduidelijk, zoals de bovenstaande voorbeelden aantonen.
Zuid-Afrika heeft de mogelijkheid om deze gênante situatie in zijn voordeel om te zetten door ervoor te zorgen dat conceptbeleidsvoorstellen aan onafhankelijke referentiecontroles worden onderworpen en dat de geschiedenis van beleidsherzieningen openbaar wordt gemaakt.
Daarnaast zou het verplicht moeten worden gesteld dat er in de laatste fase van het opstellingsproces menselijke tussenkomst plaatsvindt om te garanderen dat het uiteindelijke document correct is voordat het ter consultatie aan het publiek wordt voorgelegd.
Zuid-Afrika heeft ook strengere richtlijnen nodig over hoe en wanneer AI in beleidsvoorstellen mag worden gebruikt. Het haalt misschien niet direct de krantenkoppen, maar het is essentieel voor beleidsvorming, met name op het gebied van AI-governance.
Wat is jouw reactie?
Aanbevolen producten
