Как политика в области искусственного интеллекта в Южной Африке губит саму себя.
В Южной Африке был удален первый проект национальной политики в области искусственного интеллекта. после обнаружения в документе фиктивных ссылок, которые, по всей видимости, были сгенерированы искусственным интеллектом.
Отзыв, который произошел после того, как были разоблачены фальшивые ссылки в проекте политики, — это не просто бюрократическая оплошность; это именно тот тип промаха, который может заставить человека уронить кружку, поднеся ее к губам.
Невольно задаешься вопросом: подождите, политика, призванная регулировать ИИ, была подорвана самим ИИ? Это, конечно, неловко, но и поучительно, поскольку служит предостережением.
Министр связи и цифровых технологий Южной Африки Солли Малатси обратился к аудитории. На прошлой неделе он заявил, что подозревает, что сгенерированные искусственным интеллектом цитаты были случайно включены в проект документа с изложением политики без надлежащей проверки и анализа.
«Целостность проекта политики была скомпрометирована», — заявил Малаци в своем заявлении по этому поводу, что показывает, что для понимания того, когда что-то делать не стоит, например, использовать это без участия человека, не обязательно нужен искусственный интеллект. Этот контроль — это ремень безопасности: только попав в автомобильную аварию, вы понимаете, что на самом деле были пристегнуты ремнем безопасности.
Проект политики преследовал серьезные цели: ранее в этом месяце, Южная Африка предложила ряд новых институтов и мер стимулирования. Цель состоит в содействии развитию и инновациям в области искусственного интеллекта в стране, включая создание Национальной комиссии по ИИ, Совета по этике в области ИИ и Регулирующего органа в области ИИ, а также предоставление налоговых льгот, грантов и субсидий, которые могут стимулировать местное развитие ИИ.
Иными словами, Претория хотела быть в авангарде внедрения искусственного интеллекта в Африке, для чего правительству потребуется не только привести все в порядок, но и избежать впечатления, что оно действует поспешно, без надлежащей проверки.
Сигнализация сработала после Издание News24 сообщило, что некоторые цитаты в проекте, по всей видимости, были сфабрикованы.Это очень важно, потому что поддельные ссылки не только затрудняют поиск или проверку источников.
Вместо этого они придают ложным утверждениям академическую достоверность, оправдывают неправомерное поведение и вводят общественность в заблуждение, заставляя поверить, что политика основана на фактах, тогда как на самом деле это всего лишь обман и иллюзия.
Для документа, касающегося этики, предвзятости, суверенитета данных и цифровых прав, это будет не просто незначительным пятном, а позорным следом, который останется в памяти многих людей.
Главный вывод не в том, что Южная Африка должна прекратить попытки управлять искусственным интеллектом. Совсем наоборот. Южная Африка уже начала создавать необходимый институциональный потенциал и инфраструктуру, используя свои ресурсы. Национальная рамочная политика в области искусственного интеллекта, открыт для общественного обсуждения в 2024 году, чтобы обсудить экономические возможности ИИ и дилеммы управления. Не следует об этом забывать.
Несмотря на все проблемы, которые могут возникнуть в связи с отозванным проектом, необходимость регулирования ИИ сохраняется. ИИ уже оказывает влияние на финансы, образование, государственный сектор и наши СМИ; надежда на то, что регулирование может просто подождать, окажется иллюзией, замаскированной под терпение.
Это также подчеркивает важный момент для каждого государственного учреждения, юридической фирмы, университета и редакции новостей, рассматривающих возможность использования генеративного ИИ. Убедитесь, что вы являетесь последней линией защиты всего, что вы предоставляете. Я понимаю, это кажется очевидным, но именно тогда все и рушится.
Если черновик выглядит хорошо, ссылки кажутся академическими, а язык — убедительным, у всех возникает ощущение, что его проверили. И вот тогда всё это может обернуться против вас.
Доверие легко подорвать, и как только возникает подозрение, что проект политики основан на вымысле, дискуссия сводится не только к тому, «что» в нем говорится, но и к тому, «кто проверил» исходный материал.
Что могло остаться незамеченным? Таким образом, вопрос заключается в доверии, а не в политическом конфузе, хотя политического конфуза предостаточно.
Тем не менее, решение Малаци отозвать проект политики было правильным, даже если это вызвало смущение и политические проблемы. Лучший подход заключается в том, чтобы национальная стратегия в области искусственного интеллекта (ИИ) основывалась на надежных источниках, а не на ошибочных цитатах, которые никто не ставил под сомнение. Хотя, очевидно, они были поставлены под сомнение, как показывают приведенные выше примеры.
У Южной Африки есть возможность обратить эту неловкую ситуацию себе на пользу, обеспечив независимую проверку проектов политических предложений и публикацию истории их пересмотра.
Кроме того, следует ввести обязательное участие человека на заключительных этапах процесса разработки документа, чтобы гарантировать его корректность перед публичным обсуждением.
Южной Африке также необходимы более строгие правила относительно того, как и когда можно использовать ИИ в политических предложениях. Возможно, это не привлечет большого внимания, но это крайне важно для управления политикой, особенно в сфере управления ИИ.
Какова твоя реакция?
Вам также может понравиться
