Come la politica sull'intelligenza artificiale in Sudafrica si sta autodistruggendo.
In Sudafrica è stata rimossa la prima bozza della politica nazionale sull'intelligenza artificiale. a seguito della scoperta di citazioni fittizie nel documento, apparentemente generate da un'intelligenza artificiale.
Il ritiro dal mercato, avvenuto dopo che i riferimenti falsi contenuti nella bozza del regolamento sono stati smascherati, è ben più di un semplice intoppo burocratico; è proprio il tipo di gaffe che potrebbe far cadere la tazza a metà strada verso le labbra.
Bisogna chiedersi: un momento, la politica che dovrebbe regolamentare l'IA è stata appena indebolita dall'IA stessa? È imbarazzante, certo, ma anche istruttivo, perché serve da monito.
Ministro sudafricano delle comunicazioni e delle tecnologie digitali Solly Malatsi ha detto a un pubblico la scorsa settimana ha espresso il sospetto che le citazioni generate dall'IA siano state incluse accidentalmente nella bozza del documento programmatico senza un'adeguata verifica e revisione.
"L'integrità della bozza di regolamento è stata compromessa", ha dichiarato Malatsi in un comunicato sull'argomento, il che dimostra che non serve l'intelligenza artificiale per capire quando non è una buona idea fare qualcosa, come usarla senza la supervisione umana. Quella supervisione è la cintura di sicurezza: solo quando si è coinvolti in un incidente stradale ci si rende conto di averla effettivamente allacciata.
La bozza di politica aveva ambizioni serie: all'inizio di questo mese, Il Sudafrica ha proposto una serie di nuove istituzioni e incentivi mirava a promuovere lo sviluppo e l'innovazione dell'IA nel suo paese, compresa l'istituzione di una Commissione nazionale per l'IA, un Comitato etico per l'IA e un'Autorità di regolamentazione dell'IA, oltre alla fornitura di incentivi fiscali, sovvenzioni e sussidi che potrebbero incentivare lo sviluppo locale dell'IA.
In altre parole, Pretoria voleva essere in prima linea nell'adozione dell'intelligenza artificiale in Africa, un obiettivo che richiederà al governo non solo di organizzarsi a dovere, ma anche di evitare l'impressione di agire con troppa fretta e senza le dovute verifiche.
L'allarme è scattato dopo News24 ha rivelato che alcune citazioni nella bozza erano apparentemente inventateQuesto è un problema serio perché i riferimenti falsi non solo rendono più difficile trovare o verificare le citazioni.
Al contrario, conferiscono credibilità accademica ad affermazioni infondate, forniscono scuse per comportamenti scorretti e inducono il pubblico a credere che una politica sia fondata sui fatti, quando in realtà non è altro che un'illusione.
Per un documento programmatico su etica, pregiudizi, sovranità dei dati e diritti digitali, non si tratterebbe di una svista di poco conto, bensì di una macchia indelebile che lascerebbe un segno nella memoria di molti.
Il punto più importante non è che il Sudafrica dovrebbe smettere di cercare di governare l'intelligenza artificiale. Tutt'altro. Il Sudafrica ha già iniziato a costruire la necessaria capacità istituzionale e infrastruttura, attraverso il suo Quadro normativo nazionale sull'intelligenza artificiale, aperto al pubblico nel 2024 per discutere le opportunità economiche e i dilemmi di governance dell'IA. Non dobbiamo dimenticarlo.
Nonostante tutte le problematiche che potrebbero circondare la bozza ritirata, la necessità di regolamentare l'IA rimane impellente. L'IA sta già avendo un impatto sulla finanza, sull'istruzione, sul settore pubblico e sui media; sperare che le normative possano semplicemente attendere sarebbe un'illusione mascherata da pazienza.
Questo mette in luce anche un aspetto importante per ogni agenzia governativa, studio legale, università e redazione che stia valutando l'utilizzo dell'intelligenza artificiale generativa. Assicuratevi di essere l'ultima linea di difesa per qualsiasi cosa inviate. So che sembra ovvio, ma è proprio in quel momento che le cose vanno a rotoli.
Se la bozza sembra ben fatta, i riferimenti accademici e il linguaggio incisivo, si tende a pensare che sia stata revisionata. Ed è proprio in quel momento che tutto si ritorcerà contro di te.
La credibilità si infrange facilmente e, una volta che si sospetta che una bozza di regolamento sia basata su informazioni infondate, il dibattito non verte più solo sul "cosa" il regolamento afferma, ma anche sul "chi ha verificato" la fonte.
Cosa potrebbe essere passato inosservato? La questione, quindi, è di credibilità, piuttosto che di imbarazzo politico, sebbene di imbarazzo politico ce ne sia in abbondanza.
Tuttavia, la scelta di Malatsi di ritirare la bozza di proposta politica è stata quella corretta, anche se ciò ha causato imbarazzo e dolore politico. Un approccio migliore sarebbe quello di basare una strategia nazionale sull'intelligenza artificiale (IA) su fonti solide piuttosto che su citazioni errate che nessuno ha messo in discussione. Beh, ovviamente lo erano, come dimostrano gli esempi sopra riportati.
Il Sudafrica ha l'opportunità di trasformare una situazione così imbarazzante in un vantaggio, garantendo che le bozze delle proposte politiche siano sottoposte a verifiche indipendenti e che i registri storici delle revisioni delle politiche siano resi pubblici.
Inoltre, dovrebbe essere reso obbligatorio l'intervento umano nelle fasi finali del processo di redazione per garantire che il documento finale sia corretto prima che venga sottoposto a consultazione pubblica.
Anche il Sudafrica ha bisogno di linee guida più rigorose su come e quando l'IA può essere utilizzata nelle proposte politiche. Potrebbe non fare notizia, ma è essenziale per la governance delle politiche, in particolare per la governance dell'IA.
Qual è la tua reazione?
Potrebbero anche interessarti
