Hogyan rombolja le önmagát a dél-afrikai mesterséges intelligencia politika?
Dél-Afrikától eltávolították az első nemzeti mesterséges intelligencia politikájának tervezetét miután fiktív, mesterséges intelligencia által generált hivatkozásokat fedeztek fel a dokumentumban.
A visszahívás, amely a tervezet hamis hivatkozásainak leleplezése után került napvilágra, több mint egy bürokratikus baklövés; pontosan az a fajta baklövés, ami miatt valaki akár félig a szájához is ejtheti a bögréjét.
Fel kell tenned magadnak a kérdést: Várjunk csak, a mesterséges intelligencia szabályozására irányuló politikát épp most ásta alá a mesterséges intelligencia? Ez kétségtelenül kínos, de egyben tanulságos is, mivel intő példa.
Dél-afrikai kommunikációs és digitális technológiai miniszter Solly Malatsi a közönség előtt nyilatkozott a múlt héten azt gyanítja, hogy a mesterséges intelligencia által generált hivatkozásokat véletlenül belefoglalták a tervezet szabályzatába megfelelő ellenőrzés és felülvizsgálat nélkül.
„A tervezetszabályzat integritása sérült” – mondta Malatsi egy a témával kapcsolatos nyilatkozatban, ami azt mutatja, hogy nincs szükség mesterséges intelligenciára ahhoz, hogy felismerjük, mikor nem jó ötlet valamit tenni, például emberi felügyelet nélkül használni. Ez a felügyelet a biztonsági öv: csak akkor vesszük észre, hogy valóban be volt kötve a biztonsági öv, amikor autóbalesetet szenvedünk.
A tervezetnek komoly ambíciói voltak: A hónap elején Dél-Afrika számos új intézményt és ösztönzőt javasolt amelynek célja a mesterséges intelligencia fejlesztésének és innovációjának előmozdítása az országban, beleértve egy Nemzeti MI Bizottság, egy MI Etikai Tanács és egy MI Szabályozó Hatóság létrehozását, valamint adókedvezmények, támogatások és szubvenciók nyújtását, amelyek ösztönözhetik a helyi MI fejlesztését.
Más szóval, Pretoria az afrikai mesterséges intelligencia elterjedésének élvonalában akart lenni, ami nemcsak azt követeli meg a kormánytól, hogy rendbe tegye a dolgát, hanem azt is, hogy elkerülje a megfelelő ellenőrzés nélküli gyorsaság látszatát.
A riasztó megszólalt, miután A News24 felfedte, hogy a tervezetben szereplő néhány hivatkozás nyilvánvalóan kitalált volt.Ez azért nagy ügy, mert a hamis hivatkozások nem csak megnehezítik a hivatkozások megtalálását vagy ellenőrzését.
Ehelyett hamis tudományos hitelességet kölcsönöznek a hamis állításoknak, kifogásokat keresnek a rossz viselkedésre, és félrevezetik a közvéleményt, azt a látszatot keltve, hogy egy politika tényeken alapul, miközben valójában csak füst és tükörkép.
Egy etikával, elfogultsággal, adatszuverenitásssal és digitális jogokkal foglalkozó irányelv esetében ez nem egy jelentéktelen hiba lenne, hanem egy olyan folt, amely sok ember emlékezetében nyomot hagyna.
A nagyobb lényeg nem az, hogy Dél-Afrikának fel kellene hagynia a mesterséges intelligencia irányításával kapcsolatos kísérletekkel. Távolról sem. Dél-Afrika már megkezdte a szükséges intézményi kapacitás és infrastruktúra kiépítését a ... révén. Nemzeti MI-politikai keretrendszer, amelyet 2024-ben nyitottak meg a nyilvános viták megvitatására, hogy megvitassák a mesterséges intelligencia gazdasági lehetőségeit és irányítási dilemmáit. Ezt nem szabad elfelejtenünk.
A visszavont tervezetet övező összes probléma ellenére továbbra is szükség van a mesterséges intelligencia szabályozására. A mesterséges intelligencia már most is hatással van a pénzügyekre, az oktatásra, a közszférára és a médiára; a remény, hogy a szabályozások csak várhatnak, a türelem álcájába álcázott illúzió marad.
Ez rávilágít egy fontos szempontra minden kormányzati szerv, ügyvédi iroda, egyetem és szerkesztőség számára, amely a generatív mesterséges intelligencia használatát fontolgatja. Győződjön meg róla, hogy Ön az utolsó védelmi vonal bármilyen beküldött anyaggal kapcsolatban. Tudom, hogy ez egy kicsit magától értetődő, de pontosan ilyenkor dőlnek el a dolgok.
Ha a tervezet jól néz ki, a hivatkozások elméletinek tűnnek, a nyelv pedig erős, akkor hajlamosak vagyunk azt hinni, hogy biztosan ellenőrizték. És ilyenkor minden visszaüt ránk.
A hitelesség könnyen megtörik, és ha egy tervezetről felmerül a gyanú, hogy fikción alapul, a vita már nem csak arról szól, hogy „mit” mond a politika, hanem arról is, hogy „ki ellenőrizte” a forrásanyagot.
Mi maradhatott észrevétlen? A kérdés tehát inkább a hitelességé, mintsem a politikai szégyenérzeté, még akkor is, ha bőven van politikai szégyenérzet.
Mindazonáltal Malatsi helyes döntést hozott a tervezetpolitikai javaslat visszavonásával kapcsolatban, még akkor is, ha ez kínos és politikai fájdalmat okozott. Jobb megközelítés az, ha a nemzeti mesterséges intelligencia (MI) stratégiát szilárd forrásokra alapozzák, nem pedig olyan hibás hivatkozásokra, amelyeket senki sem kérdőjelezett meg. Nos, nyilvánvalóan megkérdőjelezték, ahogy a fenti példák is mutatják.
Dél-Afrikának lehetősége van arra, hogy ezt a kínos helyzetet a saját előnyére fordítsa azáltal, hogy biztosítja, hogy a szakpolitikai javaslatok tervezetei független referenciaellenőrzéseken menjenek keresztül, és hogy a szakpolitikai módosítások előzménynaplói nyilvánosságra kerüljenek.
Ezenkívül kötelezővé kellene tenni az emberi beavatkozást a szerkesztési folyamat utolsó szakaszában annak biztosítása érdekében, hogy a végleges dokumentum helyes legyen, mielőtt nyilvános konzultációra kerülne.
Dél-Afrikának szigorúbb irányelvekre van szüksége arra vonatkozóan, hogy a mesterséges intelligenciát hogyan és mikor lehet felhasználni a szakpolitikai javaslatokban. Lehet, hogy nem kerül a hírekbe, de elengedhetetlen a szakpolitikai irányításhoz, különösen a mesterséges intelligencia irányítása terén.
Mi a reakciód?
Ami még érdekelhet
