Como a política de IA na África do Sul está se autodestruindo
A África do Sul teve sua primeira versão preliminar de política nacional de inteligência artificial removida. Após a descoberta de citações fictícias no documento, que pareciam ter sido geradas por IA.
O recall, que surgiu após a exposição das referências falsas na minuta da política, é mais do que um mero deslize burocrático; é exatamente o tipo de gafe que pode fazer alguém deixar cair a caneca no meio do caminho até os lábios.
Você precisa se perguntar: Espera aí, a política que deveria regular a IA acabou sendo minada pela própria IA? É constrangedor, sem dúvida, mas também instrutivo, pois serve como um alerta.
Ministro das Comunicações e Tecnologias Digitais da África do Sul Solly Malatsi disse a uma plateia Na semana passada, ele suspeitou que citações geradas por IA foram incluídas acidentalmente na versão preliminar do documento de política sem a devida verificação e revisão.
“A integridade da proposta de política foi comprometida”, disse Malatsi em um comunicado sobre o assunto, o que demonstra que não é preciso inteligência artificial para perceber quando algo não é uma boa ideia, como usá-la sem supervisão humana. Essa supervisão é o cinto de segurança: só quando você sofre um acidente de carro é que percebe que estava usando cinto de segurança.
A proposta de política tinha ambições sérias: No início deste mês, A África do Sul propôs uma série de novas instituições e incentivos. Visando fomentar o desenvolvimento e a inovação em IA no país, incluindo a criação de uma Comissão Nacional de IA, um Conselho de Ética em IA e uma Autoridade Reguladora de IA, além da oferta de incentivos fiscais, subvenções e subsídios que possam estimular o desenvolvimento local de IA.
Em outras palavras, Pretória queria estar na vanguarda da adoção da inteligência artificial na África, algo que exigirá não apenas que o governo organize seus recursos, mas também que evite a aparência de estar agindo precipitadamente sem a devida verificação.
O alarme disparou depois O News24 revelou que algumas citações no rascunho foram aparentemente fabricadas.Isso é um problema sério porque referências falsas não apenas tornam as citações mais difíceis de encontrar ou verificar.
Em vez disso, conferem credibilidade acadêmica a alegações espúrias, fornecem desculpas para condutas inadequadas e induzem o público ao erro, fazendo-o acreditar que uma política se baseia em fatos quando, na realidade, não passa de uma cortina de fumaça.
Para uma política sobre ética, viés, soberania de dados e direitos digitais, não seria uma falha trivial, seria uma mancha que deixaria uma marca na memória de muitas pessoas.
A questão principal não é que a África do Sul deva parar de tentar governar a inteligência artificial. Longe disso. A África do Sul já começou a construir a capacidade institucional e a infraestrutura necessárias, por meio de seu Quadro de Políticas Nacionais de IA, aberto para consulta pública em 2024 para discutir as oportunidades econômicas da IA e os dilemas de governança. Não devemos nos esquecer disso.
Apesar de todas as questões que possam envolver a versão retirada do projeto de lei, a necessidade de regulamentar a IA permanece. A IA já está impactando as finanças, a educação, o setor público e a nossa mídia; esperar que as regulamentações possam simplesmente esperar será uma ilusão disfarçada de paciência.
Isso também destaca uma consideração importante para todas as agências governamentais, escritórios de advocacia, universidades e redações que estejam pensando em usar IA generativa. Certifique-se de ser a última linha de defesa em tudo o que você enviar. É algo óbvio, eu sei, mas é exatamente aí que as coisas começam a dar errado.
Se o rascunho parecer bom, as referências soarem acadêmicas e a linguagem, imponente, todos tendem a presumir que ele foi revisado. E é aí que tudo pode dar errado.
A credibilidade se quebra facilmente e, quando se suspeita que uma proposta de política seja baseada em ficção, o debate passa a ser não apenas sobre "o que" a política diz, mas sobre "quem verificou" a fonte.
O que poderia ter passado despercebido? A questão, portanto, é de credibilidade, e não de constrangimento político, embora haja muito constrangimento político envolvido.
No entanto, a decisão de Malatsi de revogar a proposta de política foi correta, mesmo que isso tenha causado constrangimento e prejuízo político. Uma abordagem melhor seria que uma estratégia nacional de inteligência artificial (IA) fosse fundamentada em fontes sólidas, e não em citações falhas que ninguém questionou. Bem, obviamente questionaram, como demonstram os exemplos acima.
A África do Sul tem a oportunidade de transformar essa situação embaraçosa em uma vantagem, garantindo que as propostas de políticas públicas passem por verificações independentes e que os registros históricos de revisão das políticas sejam divulgados.
Além disso, a intervenção humana nas etapas finais do processo de redação deve ser obrigatória para garantir que o documento final esteja correto antes de ser submetido à consulta pública.
A África do Sul também precisa de diretrizes mais rigorosas sobre como e quando a IA pode ser usada em propostas políticas. Pode não gerar manchetes, mas é essencial para a governança de políticas, especialmente na governança da IA.
Qual é a sua reação?
Sugestões para você
