Cómo la política de IA en Sudáfrica se está autodestruyendo
Sudáfrica ha visto retirado su primer borrador de política nacional sobre inteligencia artificial. tras el descubrimiento de citas ficticias en el documento que parecían haber sido generadas por inteligencia artificial.
La retirada, que ha surgido tras quedar al descubierto las referencias falsas del borrador de la política, es más que un simple error burocrático; es precisamente el tipo de metedura de pata que podría hacer que a una persona se le caiga la taza a medio camino de los labios.
Cabe preguntarse: ¿Es posible que la política destinada a regular la IA haya sido socavada por la propia IA? Sin duda, es vergonzoso, pero también instructivo, ya que sirve como advertencia.
Ministro de comunicaciones y tecnologías digitales de Sudáfrica Solly Malatsi le dijo a una audiencia La semana pasada expresó su sospecha de que las citas generadas por IA se incluyeron accidentalmente en el borrador del documento de política sin la debida verificación y revisión.
«La integridad del borrador de la política se ha visto comprometida», declaró Malatsi en un comunicado sobre el tema, lo que demuestra que no se necesita inteligencia artificial para darse cuenta de cuándo algo no es buena idea, como usarla sin supervisión humana. Esa supervisión es como el cinturón de seguridad: solo cuando uno sufre un accidente de coche se da cuenta de que llevaba puesto el cinturón.
El borrador de la política tenía grandes ambiciones: a principios de este mes, Sudáfrica propuso una serie de nuevas instituciones e incentivos. Con el objetivo de fomentar el desarrollo y la innovación en inteligencia artificial en el país, se incluye la creación de una Comisión Nacional de IA, un Comité de Ética de la IA y una Autoridad Reguladora de la IA, además de la concesión de incentivos fiscales, subvenciones y ayudas que puedan incentivar el desarrollo local de la IA.
En otras palabras, Pretoria quería estar a la vanguardia en la adopción de la inteligencia artificial en África, algo que requerirá no solo que el gobierno organice todo adecuadamente, sino también que evite dar la impresión de actuar con precipitación sin la debida verificación.
La alarma sonó después News24 reveló que algunas citas en el borrador aparentemente fueron inventadas.Esto es muy importante porque las referencias falsas no solo dificultan la búsqueda o verificación de las citas.
En cambio, otorgan credibilidad académica a afirmaciones espurias, proporcionan excusas para el mal comportamiento y engañan al público haciéndole creer que una política se basa en hechos cuando en realidad no es más que humo y espejos.
Para una política sobre ética, sesgos, soberanía de datos y derechos digitales, no sería una mancha insignificante, sino una mancha que dejaría huella en la memoria de muchas personas.
La cuestión principal no es que Sudáfrica deba dejar de intentar gobernar la inteligencia artificial. Todo lo contrario. Sudáfrica ya ha comenzado a construir la capacidad institucional y la infraestructura necesarias, a través de su Marco nacional de políticas de IA, abierto a comentarios públicos en 2024 para debatir las oportunidades económicas y los dilemas de gobernanza de la IA. No debemos olvidarlo.
A pesar de todos los problemas que puedan rodear al borrador retirado, la necesidad de regular la IA persiste. La IA ya está impactando las finanzas, la educación, el sector público y nuestros medios de comunicación; esperar que las regulaciones simplemente esperen será una ilusión disfrazada de paciencia.
Esto también pone de relieve una consideración importante para todas las agencias gubernamentales, bufetes de abogados, universidades y redacciones que estén pensando en utilizar IA generativa. Asegúrate de ser la última línea de defensa en todo lo que presentes. Sé que es obvio, pero es precisamente ahí donde surgen los problemas.
Si el borrador tiene buena pinta, las referencias parecen académicas y el lenguaje es sólido, todos tienden a pensar que ha sido revisado. Y ahí es cuando todo se vuelve en tu contra.
La credibilidad se ve fácilmente socavada, y una vez que se sospecha que un borrador de política se basa en la ficción, el debate ya no gira solo en torno a "qué" dice la política, sino también a "quién verificó" la fuente.
¿Qué pudo haber pasado desapercibido? La cuestión, entonces, es de credibilidad, más que de vergüenza política, aunque hay mucha vergüenza política.
Sin embargo, la decisión de Malatsi de retirar la propuesta de política fue la correcta, aunque ello le causara vergüenza y problemas políticos. Un enfoque más adecuado sería que una estrategia nacional de inteligencia artificial (IA) se basara en fuentes sólidas en lugar de citas erróneas que nadie cuestionó. Pues bien, obviamente sí las cuestionaron, como demuestran los ejemplos anteriores.
Sudáfrica tiene la oportunidad de convertir esta situación tan embarazosa en una ventaja, asegurándose de que los borradores de propuestas políticas pasen por controles de referencia independientes y de que se publiquen los registros del historial de revisiones de las políticas.
Además, debería ser obligatorio que haya intervención humana en las etapas finales del proceso de redacción para garantizar que el documento final sea correcto antes de que se someta a consulta pública.
Sudáfrica también necesita directrices más estrictas sobre cómo y cuándo se puede utilizar la IA en las propuestas políticas. Si bien puede que no genere titulares, es fundamental para la gobernanza política, en particular en lo que respecta a la IA.
Cual es tu reaccion?
También te puede gustar
