Cum se autodistruge politica privind inteligența artificială din Africa de Sud
Africa de Sud a fost eliminată din primul proiect al politicii naționale privind inteligența artificială. în urma descoperirii în document a unor citări fictive care păreau a fi generate de inteligența artificială.
Rechemarea, care a apărut după ce au fost expuse referințele false din proiectul de politică, este mai mult decât o mică eroare birocratică; este exact genul de gafă care ar putea determina o persoană să-și scape cana până la gură.
Trebuie să te întrebi: Stai puțin, politica care ar trebui să reglementeze IA tocmai a fost subminată de IA? E jenant, desigur, dar și instructiv, deoarece este o poveste cu tâlc.
Ministrul sud-african al comunicațiilor și tehnologiilor digitale Solly Malatsi a declarat în fața unui public săptămâna trecută, el suspectează că citările generate de inteligența artificială au fost incluse accidental în proiectul de document de politici fără o verificare și o revizuire adecvată.
„Integritatea proiectului de politică a fost compromisă”, a spus Malatsi într-o declarație pe această temă, ceea ce demonstrează că nu este nevoie de inteligență artificială pentru a realiza când nu este o idee bună să faci ceva, cum ar fi să o folosești fără supraveghere umană. Această supraveghere este centura de siguranță: abia atunci când ești implicat într-un accident de mașină îți dai seama că de fapt aveai centură de siguranță.
Proiectul de politică avea ambiții serioase: la începutul acestei luni, Africa de Sud a propus o serie de noi instituții și stimulente vizează promovarea dezvoltării și inovării în domeniul IA în țara sa, inclusiv înființarea unei Comisii Naționale pentru IA, a unui Consiliu de Etică pentru IA și a unei Autorități de Reglementare a IA, pe lângă furnizarea de stimulente fiscale, granturi și subvenții care ar putea stimula dezvoltarea IA la nivel local.
Cu alte cuvinte, Pretoria a vrut să fie în prima linie a adoptării inteligenței artificiale în Africa, lucru care va necesita nu doar ca guvernul să își pună lucrurile la punct, ci și să evite aparența că se mișcă rapid fără o verificare adecvată.
Alarma a sunat după News24 a dezvăluit că unele citări din proiect au fost aparent fabricate.Aceasta este o problemă importantă, deoarece referințele false nu fac doar ca citările să fie mai dificil de găsit sau de verificat.
În schimb, ei conferă afirmațiilor false credibilitate academică, oferă scuze pentru comportamente greșite și induc în eroare publicul să creadă că o politică este bazată pe fapte, când de fapt este doar fum și oglinzi.
Pentru o politică privind etica, prejudecățile, suveranitatea datelor și drepturile digitale, nu ar fi o pată banală, ci o pată care ar lăsa o amprentă în memoria multor oameni.
Ideea principală nu este că Africa de Sud ar trebui să înceteze să încerce să guverneze inteligența artificială. Nicidecum. Africa de Sud a început deja să construiască capacitatea instituțională și infrastructura necesare, prin intermediul... Cadrul Național de Politici privind Inteligența Artificială, deschisă comentariilor publice în 2024 pentru a discuta oportunitățile economice și dilemele de guvernanță ale inteligenței artificiale. Nu ar trebui să uităm acest lucru.
În ciuda tuturor problemelor care ar putea apărea în contextul proiectului retras, nevoia de a guverna IA rămâne. IA are deja un impact asupra finanțelor, educației, sectorului public și mass-media; speranța că reglementările pot doar aștepta va fi o iluzie mascată în răbdare.
Acest lucru evidențiază, de asemenea, o considerație importantă pentru fiecare agenție guvernamentală, firmă de avocatură, universitate și redacție care ia în considerare utilizarea inteligenței artificiale generative. Asigurați-vă că sunteți ultima linie de apărare în orice material trimiteți. E o decizie evidentă, știu, dar exact atunci lucrurile se destramă.
Dacă schița arată bine, referințele par academice și limbajul pare puternic, există tendința ca toată lumea să creadă că trebuie să fi fost verificată. Și atunci totul se va întoarce împotriva ta.
Credibilitatea este ușor de distrus, iar odată ce se suspectează că un proiect de politică se bazează pe ficțiune, dezbaterea nu se reduce doar la „ce” spune politica, ci la „cine a verificat” materialul sursă.
Ce ar fi putut trece neobservat? Problema, așadar, este una de credibilitate, mai degrabă decât de jenă politică, chiar dacă există multă jenă politică.
Cu toate acestea, alegerea lui Malatsi de a anula proiectul de propunere politică a fost cea corectă, chiar dacă acest lucru a cauzat jenă și suferință politică. O abordare mai bună este ca o strategie națională privind inteligența artificială (IA) să se bazeze pe surse solide, mai degrabă decât pe citate eronate pe care nimeni nu le-a pus la îndoială. Ei bine, evident că așa a fost, așa cum arată exemplele de mai sus.
Africa de Sud are oportunitatea de a transforma o astfel de situație jenantă în avantajul său, asigurându-se că proiectele de propuneri de politici trec prin verificări independente ale referințelor și că jurnalele istoricului revizuirilor politicilor sunt publicate.
În plus, ar trebui să fie obligatorie intervenția umană în etapele finale ale procesului de redactare pentru a se asigura că documentul final este corect înainte de a fi consultat public.
Africa de Sud are nevoie, de asemenea, de directive mai stricte privind modul și momentul în care inteligența artificială poate fi utilizată în propunerile de politici. Poate că nu va crea titluri, dar este esențială pentru guvernanța politicilor, în special în ceea ce privește guvernanța inteligenței artificiale.
Care este reacția ta?
Ați putea dori, de asemenea
