Hur AI-politiken i Sydafrika förstör sig själv
Sydafrika har fått sitt första utkast till nationell policy för artificiell intelligens borttaget efter upptäckten av fiktiva citat i dokumentet som verkade vara AI-genererade.
Återkallelsen, som uppstod efter att de falska hänvisningarna till utkastet till policy avslöjades, är mer än ett byråkratiskt misstag; det är just den typen av tabbe som kan få en person att tappa muggen halvvägs upp till läpparna.
Du måste fråga dig själv: Vänta, den policy som är avsedd att reglera AI har just undergrävts av AI? Det är pinsamt, förvisso, men också lärorikt eftersom det är en varnande berättelse.
Sydafrikas minister för kommunikation och digital teknik Solly Malatsi berättade för publiken förra veckan att han misstänker att AI-genererade citat av misstag inkluderades i utkastet till policydokument utan ordentlig verifiering och granskning.
”Integriteten i utkastet till policy har äventyrats”, sa Malatsi i ett uttalande om ämnet, vilket visar att man inte behöver AI för att inse när det inte är en bra idé att göra något, som att använda det utan mänsklig övervakning. Den övervakningen är säkerhetsbältet: Först när man är med om en bilolycka inser man att man faktiskt hade säkerhetsbälte.
Utkastet till policy hade allvarliga ambitioner: Tidigare denna månad, Sydafrika föreslog en rad nya institutioner och incitament syftar till att främja AI-utveckling och innovation i sitt land, inklusive inrättandet av en nationell AI-kommission, en AI-etiknämnd och en AI-tillsynsmyndighet, utöver tillhandahållande av skatteincitament, bidrag och subventioner som kan stimulera lokal AI-utveckling.
Med andra ord ville Pretoria ligga i frontlinjen när det gäller införandet av artificiell intelligens i Afrika, något som inte bara kräver att regeringen får ordning på sina problem, utan också att man undviker intrycket av att agera snabbt utan ordentlig verifiering.
Larmet gick igång efter News24 avslöjade att vissa hänvisningar i utkastet tydligen var påhittade.Det här är en stor sak eftersom falska referenser inte bara gör det svårare att hitta eller verifiera citat.
Istället ger de falska påståenden akademisk trovärdighet, ursäkter för dåligt beteende och vilseleder allmänheten att tro att en policy är grundad i fakta när den egentligen bara är rök och speglar.
För en policy om etik, partiskhet, datasuveränitet och digitala rättigheter skulle det inte vara en trivial skavank, det skulle vara en fläck som skulle lämna ett spår i många människors minnen.
Den större poängen är inte att Sydafrika ska sluta försöka styra artificiell intelligens. Långt ifrån. Sydafrika har redan börjat bygga upp den nödvändiga institutionella kapaciteten och infrastrukturen, genom sin Nationell AI-policyram, öppnades för offentliga kommentarer 2024 för att diskutera AI:s ekonomiska möjligheter och styrningsdilemman. Vi bör inte glömma det.
Trots alla problem som kan uppstå kring det tillbakadragna utkastet kvarstår behovet av att styra AI. AI påverkar redan finans, utbildning, offentlig sektor och våra medier; att hoppas att regleringar bara kan vänta kommer att vara en illusion maskerad som tålamod.
Detta belyser också en viktig faktor för varje myndighet, advokatbyrå, universitet och nyhetsredaktion som överväger att använda generativ AI. Se till att du är den sista försvarslinjen mot allt du skickar in. Det är lite självklart, jag vet, men det är precis då saker och ting faller isär.
Om utkastet ser bra ut, referenserna verkar akademiska och språket verkar starkt, finns det en tendens att alla tror att det måste ha kontrollerats. Och det är då allt kommer att slå tillbaka mot en.
Trovärdigheten krossas lätt, och när ett utkast till policy misstänks vara baserat på fiktion, handlar debatten inte bara om "vad" policyn säger utan om "vem som verifierade" källmaterialet.
Vad kunde ha gått oupptäckt? Frågan handlar alltså om trovärdighet snarare än om politisk förlägenhet, även om det finns gott om politisk förlägenhet.
Malatsis val att dra tillbaka utkastet till policyförslag var dock korrekt, även om det orsakade förlägenhet och politisk smärta. En bättre strategi är att en nationell strategi för artificiell intelligens (AI) bygger på solida källor snarare än på felaktiga citat som ingen ifrågasatte. Jo, det var de uppenbarligen, vilket exemplen ovan visar.
Sydafrika har möjlighet att vända en sådan pinsam situation till sin fördel genom att säkerställa att utkast till policyförslag genomgår oberoende referenskontroller och att loggföringar över policyrevisioner offentliggörs.
Dessutom bör det bli obligatoriskt med mänsklig inblandning i de sista skedena av utarbetandet för att säkerställa att slutdokumentet är korrekt innan det ges till offentligt samråd.
Sydafrika behöver också strängare riktlinjer för hur och när AI kan användas i policyförslag. Det kanske inte skapar rubriker, men det är avgörande för policystyrning, särskilt inom AI-styrning.
Vad är din reaktion?
Du kanske också gillar
