слишком умные для комфорта - регуляторы борются за контроль над новым типом угрозы со стороны ИИ
Ежедневные новости ИИ

«Слишком умны для комфорта?» Регуляторы борются за контроль над новым типом угрозы со стороны ИИ.

Сейчас не самое подходящее время для регулирующих органов. Преобладает такое настроение: подождите, неужели всё ухудшилось быстрее, чем мы ожидали?

В настоящее время регулирующие органы Великобритании отчаянно пытаются контролировать, по всей видимости, пугающий скачок в использовании ИИ. Модель, созданная Антропный По всей видимости, удалось обнаружить большое количество уязвимостей в программном обеспечении, и это вызывает беспокойство.

Это не научная фантастика. Это реальность.

После внутренней оценки, поскольку модель все еще находится на ранней стадии тестирования, регулирующие органы начали задаваться вопросом, может ли эта новая система искусственного интеллекта оказать негативное воздействие на Великобританию. Тот факт, что модель, как утверждалось, способна обнаруживать тысячи уязвимостей в заданной среде, вызвал тревогу.

Реагирование британских регулирующих органов, включая Банк Англии, было выражено в следующей форме. Подробности произошедшего и реакция регулирующих органов изложены в следующем отчете:

Однако давайте на мгновение отступим назад. В этом-то и загвоздка. Это не новость из разряда «плохих новостей». В конце концов, выявление уязвимостей — невероятно ценный инструмент в сфере искусственного интеллекта.

Чем быстрее устанавливаются патчи, тем меньше уязвимостей изначально существует. Это полезно для специалистов по кибербезопасности. Сложность заключается в том, что это полезно и для тех, кто хотел бы использовать эти уязвимости.

Это и есть проблема двойного назначения, которая так распространена в сфере искусственного интеллекта по мере его стремительного развития.

Анализ потенциала ИИ в кибербезопасности показывает и потенциальные недостатки этой технологии: некоторые эксперты уже шепчут, что мы вступаем в фазу, когда ИИ не просто помогает хакерам, но может полностью превзойти человеческих защитников.

Это очень пугающая мысль, но так ли это на самом деле? Мы уже знаем, что некоторые технологии искусственного интеллекта способны выявлять и даже использовать уязвимости системы. Это лишь вопрос времени, когда мы сможем делать это автоматически.

За последний год я поговорил с несколькими разработчиками, и заметил небольшую, но заметную перемену в их подходе. Как пошутил один из них: «Мы создали инструменты, которые нам помогают… а теперь проверяем, нуждаются ли они в надзоре, как стажеры, которые никогда не спят».

Уверена, мы еще услышим от политиков много нового по мере того, как они будут справляться с стремительным развитием технологий искусственного интеллекта во всем мире:

Параллельно такие компании, как Google и OpenAI, продолжают свой собственный путь развития, создавая все более мощные системы в условиях довольно тихой конкуренции.

Этот конкурс не предполагает большого ажиотажа, а скорее, где каждое обновление поднимает планку и потолок возможностей. Это наводит на еще один вопрос, которого люди, как правило, избегают.

Не строим ли мы быстрее, чем успеваем осознать результаты? Учитывая, что нормативные акты и так находятся в стадии активной адаптации к современным требованиям, что произойдет через шесть месяцев?

В другой статье, посвященной ускорению развития ИИ и причинам, по которым регулирование не справляется с этой задачей, этот тезис дополняется.

На самом деле, счастливого конца у всего этого нет. Мы достигли точки, когда стремительное ускорение стало реальностью, а будущее неопределенно. Это важное время для всех нас.

Искусственный интеллект перестал быть просто инструментом. Он становится действующим лицом в системах, которые мы едва можем полностью контролировать. Настал момент истины, и ответы, вероятно, будут различаться в зависимости от того, по какую сторону брандмауэра вы находитесь.

Какова твоя реакция?

Возбужденный
0
Счастливый
0
В любви
0
Не уверен
0
Глупый
0
Марк Борг
Марк специализируется на робототехнике. Имея опыт работы как в области инженерии, так и в области искусственного интеллекта, он стремится создавать передовые технологии. В свободное время он любит играть в шахматы и отрабатывать свою стратегию.

    Вам также может понравиться