Jak se politika umělé inteligence v Jižní Africe ničí
Jihoafrické republice byl stažen první návrh národní politiky v oblasti umělé inteligence. po objevení fiktivních citací v dokumentu, které zřejmě byly vygenerovány umělou inteligencí.
Odvolání, které se objevilo poté, co byly odhaleny falešné odkazy v návrhu politiky, je více než jen byrokratický zádrhel; je to přesně ten druh přešlapu, který by mohl způsobit, že si člověk upustí hrnek až do poloviny úst.
Musíte se zeptat sami sebe: Počkejte, politika, která má regulovat umělou inteligenci, byla právě podkopána umělou inteligencí? To je jistě trapné, ale také poučné v tom, že je to varovný příběh.
Jihoafrický ministr komunikací a digitálních technologií Solly Malatsi řekl publiku minulý týden uvedl, že má podezření, že citace generované umělou inteligencí byly do návrhu politického dokumentu omylem zahrnuty bez řádného ověření a kontroly.
„Integrita návrhu zásad byla ohrožena,“ uvedl Malatsi ve svém prohlášení k tomuto tématu, které dokazuje, že k poznání, kdy není vhodné něco dělat, například používat vozidlo bez lidského dohledu, nepotřebujete umělou inteligenci. Tím dohledem je bezpečnostní pás: Teprve když máte autonehodu, si uvědomíte, že jste skutečně měli zapnutý bezpečnostní pás.
Návrh politiky měl vážné ambice: Začátkem tohoto měsíce Jihoafrická republika navrhla řadu nových institucí a pobídek zaměřené na podporu rozvoje a inovací v oblasti umělé inteligence ve své zemi, včetně zřízení Národní komise pro umělou inteligenci, Etické rady pro umělou inteligenci a Regulačního orgánu pro umělou inteligenci, a dále poskytování daňových pobídek, grantů a dotací, které by mohly stimulovat místní rozvoj umělé inteligence.
Jinými slovy, Pretoria chtěla být v první linii zavádění umělé inteligence v Africe, což bude od vlády vyžadovat nejen to, aby se připravila na pozici, ale také aby se vyhnula zdání ukvapeného jednání bez řádného ověření.
Alarm se spustil poté, co News24 odhalila, že některé citace v návrhu byly zřejmě vymyšlené.To je velký problém, protože falešné reference nejen ztěžují nalezení nebo ověření citací.
Místo toho propůjčují falešným tvrzením akademickou důvěryhodnost, omlouvají špatné chování a klamou veřejnost, aby věřila, že politika je založena na faktech, když je ve skutečnosti jen klamem a falešnými klamy.
Pro politiku v oblasti etiky, předsudků, datové suverenity a digitálních práv by to nebyla jen malicherná skvrna, ale skvrna, která by zanechala stopu v paměti mnoha lidí.
Důležitější není, že by Jihoafrická republika měla přestat snášet řízení umělé inteligence. Ani zdaleka ne. Jihoafrická republika již začala budovat potřebné institucionální kapacity a infrastrukturu prostřednictvím svých Národní rámec politiky v oblasti umělé inteligence, otevřený k veřejnému připomínkování v roce 2024, aby se diskutovalo o ekonomických příležitostech a dilematech správy a řízení umělé inteligence. Na to bychom neměli zapomínat.
Navzdory všem problémům, které mohou být spojeny se staženým návrhem, stále přetrvává potřeba regulovat umělou inteligenci. Umělá inteligence již ovlivňuje finance, vzdělávání, veřejný sektor a naše média; doufat, že regulace jen počkají, bude iluzí maskovanou jako trpělivost.
To také zdůrazňuje důležitý aspekt pro každou vládní agenturu, právnickou firmu, univerzitu a redakci, která zvažuje použití generativní umělé inteligence. Ujistěte se, že jste poslední linií obrany u všeho, co odešlete. Vím, že je to trochu samozřejmost, ale přesně tehdy se věci rozpadají.
Pokud návrh vypadá dobře, odkazy působí akademicky a jazyk je silný, má každý tendenci si myslet, že musel být zkontrolován. A tehdy se vám všechno vymstí.
Důvěryhodnost se snadno naruší a jakmile vznikne podezření, že návrh politiky je založen na fikci, debata se nestane jen o tom, „co“ politika říká, ale o tom, „kdo ověřil“ zdrojový materiál.
Co mohlo zůstat nepovšimnuto? Jde tedy spíše o důvěryhodnost než o politické rozpaky, i když politických rozpaků je spousta.
Malatsiho rozhodnutí zrušit návrh politiky však bylo správné, i když to způsobilo rozpaky a politickou bolest. Lepším přístupem je, aby národní strategie umělé inteligence (AI) byla založena na spolehlivých zdrojích, spíše než na chybných citacích, které nikdo nezpochybnil. No, samozřejmě, jak ukazují výše uvedené příklady, byly.
Jihoafrická republika má příležitost proměnit tuto trapnou situaci ve svůj prospěch tím, že zajistí, aby návrhy politik prošly nezávislými referenčními kontrolami a aby byly zveřejněny záznamy o historii revizí politik.
Kromě toho by měl být v závěrečných fázích procesu tvorby dokumentu povinný lidský zásah, aby se zajistila správnost konečného dokumentu před jeho veřejnou konzultací.
Jihoafrická republika také potřebuje přísnější pokyny, jak a kdy lze umělou inteligenci používat v návrzích politik. Možná se to nedostane do titulků, ale je to nezbytné pro správu politik, zejména v oblasti správy umělé inteligence.
Jaká je vaše reakce?
Mohlo by se vám také líbit
