Hvordan AI-politikken i Sør-Afrika ødelegger seg selv
Sør-Afrika har fått sitt første utkast til nasjonal politikk for kunstig intelligens fjernet etter oppdagelsen av fiktive sitater i dokumentet som så ut til å være generert av kunstig intelligens.
Tilbakekallingen, som har dukket opp etter at de falske referansene i utkastet til policy ble avslørt, er mer enn en byråkratisk tabbe; det er nettopp den typen tabbe som kan få en person til å miste kruset halvveis opp til leppene.
Du må spørre deg selv: Vent, politikken som skal regulere AI ble nettopp undergravd av AI? Det er pinlig, ja, men også lærerikt siden det er en advarende historie.
Sør-Afrikas minister for kommunikasjon og digital teknologi Solly Malatsi fortalte et publikum forrige uke at han mistenker at AI-genererte sitater ved et uhell ble inkludert i utkastet til policydokument uten skikkelig verifisering og gjennomgang.
«Integriteten til utkastet til policyen er kompromittert», sa Malatsi i en uttalelse om emnet, noe som viser at man ikke trenger AI for å innse når det ikke er en god idé å gjøre noe, som å bruke det uten menneskelig tilsyn. Dette tilsynet er sikkerhetsbeltet: Først når du er i en bilulykke, innser du at du faktisk hadde sikkerhetsbelte.
Utkastet til policy hadde alvorlige ambisjoner: Tidligere denne måneden, Sør-Afrika foreslo en rekke nye institusjoner og insentiver har som mål å fremme AI-utvikling og innovasjon i landet sitt, inkludert etablering av en nasjonal AI-kommisjon, et AI-etikkråd og en AI-reguleringsmyndighet, i tillegg til å tilby skatteinsentiver, tilskudd og subsidier som kan stimulere lokal AI-utvikling.
Med andre ord ønsket Pretoria å være i frontlinjen når det gjelder bruk av kunstig intelligens i Afrika, noe som ikke bare krever at myndighetene tar seg av sakene, men også at de unngår inntrykk av å handle raskt uten skikkelig verifisering.
Alarmen gikk av etter News24 avslørte at noen sitater i utkastet tilsynelatende var oppdiktetDette er en stor sak, fordi falske referanser ikke bare gjør det vanskeligere å finne eller bekrefte sitater.
I stedet gir de falske påstander akademisk troverdighet, unnskylder dårlig oppførsel og villeder offentligheten til å tro at en politikk er basert på fakta når den egentlig bare er røyk og speil.
For et politisk dokument om etikk, skjevhet, datasuverenitet og digitale rettigheter ville det ikke være en triviell skavank, det ville være en flekk som ville sette spor i mange menneskers minner.
Det større poenget er ikke at Sør-Afrika bør slutte å prøve å styre kunstig intelligens. Langt ifra. Sør-Afrika har allerede begynt å bygge den nødvendige institusjonelle kapasiteten og infrastrukturen, gjennom sin Nasjonalt rammeverk for KI-politikk, åpnet for offentlig kommentar i 2024 for å diskutere AIs økonomiske muligheter og styringsdilemmaer. Det bør vi ikke glemme.
Til tross for alle problemene som måtte være knyttet til det tilbaketrukne utkastet, er behovet for å styre AI fortsatt til stede. AI påvirker allerede finans, utdanning, offentlig sektor og media våre; å håpe at reguleringer bare kan vente vil være en illusjon forkledd som tålmodighet.
Dette fremhever også en viktig faktor for alle offentlige etater, advokatfirmaer, universiteter og nyhetsredaksjoner som vurderer å bruke generativ AI. Sørg for at du er den siste forsvarslinjen mot alt du sender inn. Det er litt av en selvfølge, jeg vet, men det er akkurat da ting faller fra hverandre.
Hvis utkastet ser bra ut, referansene virker akademiske og språket virker sterkt, er det en tendens til at alle tror at det må ha blitt sjekket. Og det er da alt vil komme tilbake og bite deg.
Troverdighet kan lett knuses, og når et utkast til policy mistenkes for å være basert på fiksjon, handler debatten ikke bare om «hva» policyen sier, men om «hvem som bekreftet» kildematerialet.
Hva kunne ha gått uoppdaget hen? Problemet er altså troverdighet, snarere enn politisk forlegenhet, selv om det finnes mye politisk forlegenhet.
Likevel var Malatsis valg om å trekke tilbake utkastet til policyforslaget riktig, selv om det forårsaket forlegenhet og politisk smerte. En bedre tilnærming er at en nasjonal strategi for kunstig intelligens (KI) er basert på solide kilder snarere enn på feilaktige sitater som ingen stilte spørsmål ved. Vel, det var de åpenbart, som eksemplene ovenfor viser.
Sør-Afrika har muligheten til å snu en slik pinlig situasjon til sin fordel ved å sørge for at utkast til politiske forslag går gjennom uavhengige referansekontroller, og at loggføring av revisjonshistorikk for politiske retningslinjer offentliggjøres.
I tillegg bør det gjøres obligatorisk med menneskelig inngripen i sluttfasen av utarbeidelsesprosessen for å sikre at det endelige dokumentet er korrekt før det legges ut på offentlig høring.
Sør-Afrika trenger også strengere retningslinjer for hvordan og når KI kan brukes i politiske forslag. Det skaper kanskje ikke overskrifter, men det er viktig for politisk styring, spesielt innen KI-styring.
Hva er din reaksjon?
Kan hende du også liker
