Comment la politique d'IA en Afrique du Sud se sabote elle-même
L'Afrique du Sud a vu son premier projet de politique nationale en matière d'intelligence artificielle retiré. suite à la découverte de citations fictives dans le document, qui semblaient avoir été générées par une IA.
Ce rappel, intervenu après la révélation des fausses références contenues dans le projet de politique, est bien plus qu'un simple couac bureaucratique ; c'est précisément le genre de gaffe qui pourrait faire laisser tomber sa tasse à mi-chemin de ses lèvres.
Il faut se poser la question : attendez, la politique censée réguler l’IA vient d’être sapée par l’IA ? C’est embarrassant, certes, mais aussi instructif, car c’est une mise en garde.
ministre sud-africain des communications et des technologies numériques Solly Malatsi a déclaré à un public La semaine dernière, il a émis l'hypothèse que des citations générées par l'IA avaient été incluses par erreur dans le projet de document de politique sans vérification ni examen appropriés.
« L’intégrité du projet de politique a été compromise », a déclaré Malatsi dans un communiqué à ce sujet, ce qui prouve qu’il n’est pas nécessaire d’avoir recours à l’IA pour comprendre qu’une action, comme l’utilisation sans supervision humaine, est une mauvaise idée. Cette supervision est comparable à la ceinture de sécurité : ce n’est qu’en cas d’accident de voiture qu’on réalise l’importance de la ceinture.
Le projet de politique nourrissait de sérieuses ambitions : plus tôt ce mois-ci, L'Afrique du Sud a proposé toute une série de nouvelles institutions et d'incitations. visant à favoriser le développement et l'innovation en matière d'IA dans son pays, notamment par la création d'une Commission nationale de l'IA, d'un Conseil d'éthique de l'IA et d'une Autorité de réglementation de l'IA, en plus de l'octroi d'incitations fiscales, de subventions et de crédits d'impôt susceptibles d'encourager le développement local de l'IA.
Autrement dit, Pretoria souhaitait être à l'avant-garde de l'adoption de l'intelligence artificielle en Afrique, ce qui exigera non seulement du gouvernement qu'il mette tout en ordre, mais aussi qu'il évite de donner l'impression d'agir précipitamment sans vérification adéquate.
L'alarme s'est déclenchée après News24 a révélé que certaines citations du projet étaient apparemment fabriquées.C'est un problème majeur car les fausses références ne font pas que rendre les citations plus difficiles à trouver ou à vérifier.
Au lieu de cela, ils confèrent une crédibilité académique à des affirmations fallacieuses, fournissent des excuses à des comportements répréhensibles et induisent le public en erreur en lui faisant croire qu'une politique est fondée sur des faits alors qu'il ne s'agit en réalité que de poudre aux yeux.
S'agissant d'une politique relative à l'éthique, aux préjugés, à la souveraineté des données et aux droits numériques, il ne s'agirait pas d'une simple imperfection, mais d'une tache indélébile qui resterait gravée dans la mémoire de nombreuses personnes.
L'enjeu principal n'est pas que l'Afrique du Sud cesse de tenter de gouverner l'intelligence artificielle. Bien au contraire. L'Afrique du Sud a déjà commencé à mettre en place les capacités institutionnelles et les infrastructures nécessaires, grâce à son Cadre politique national en matière d'IACe document a été ouvert à la consultation publique en 2024 afin de discuter des opportunités économiques et des enjeux de gouvernance liés à l'IA. Il ne faut pas l'oublier.
Malgré toutes les questions que soulève le retrait du projet de loi, la nécessité de réglementer l'IA demeure. L'IA a déjà un impact sur la finance, l'éducation, le secteur public et les médias ; espérer que la réglementation puisse attendre relève de l'illusion et se fait du mythe.
Cela met également en lumière un point crucial pour toute agence gouvernementale, cabinet d'avocats, université et rédaction envisageant d'utiliser l'IA générative : assurez-vous d'être le dernier rempart contre toute erreur ou omission. Cela paraît évident, je le sais, mais c'est précisément à ce moment-là que les choses se compliquent.
Si le brouillon paraît impeccable, les références académiques et le style solide, on a tendance à croire qu'il a été relu. Et c'est là que les problèmes commencent.
La crédibilité est facilement mise à mal, et dès lors qu'un projet de politique est soupçonné d'être fondé sur des fictions, le débat ne porte plus seulement sur « ce que » dit la politique, mais aussi sur « qui a vérifié » les sources.
Qu’est-ce qui a pu passer inaperçu ? Le problème est donc une question de crédibilité, plutôt que de gêne politique, même si cette dernière est loin d’être anodine.
Néanmoins, la décision de Malatsi de retirer le projet de proposition de politique était la bonne, même si elle a engendré un embarras et des difficultés politiques. Il serait préférable qu'une stratégie nationale en matière d'intelligence artificielle (IA) repose sur des sources fiables plutôt que sur des citations erronées que personne n'a remises en question. Or, de toute évidence, elles l'ont été, comme le montrent les exemples précédents.
L’Afrique du Sud a l’opportunité de transformer cette situation embarrassante à son avantage en veillant à ce que les projets de propositions politiques fassent l’objet de vérifications de références indépendantes et que les journaux d’historique des révisions politiques soient rendus publics.
En outre, une intervention humaine devrait être obligatoire aux dernières étapes du processus de rédaction afin de garantir l'exactitude du document final avant sa consultation publique.
L'Afrique du Sud a également besoin de directives plus strictes concernant l'utilisation de l'IA dans les propositions politiques. Même si cela ne fera pas les gros titres, c'est essentiel à la gouvernance des politiques publiques, notamment en matière d'IA.
Quelle est votre réaction ?
Encore
