Белый дом рассматривает возможность проверки искусственного интеллекта перед его публичным выпуском, предупреждают представители Кремниевой долины.
Администрация президента Дональда Трампа рассматривает вопрос о том, следует ли разрешить правительству США проверять наиболее эффективные модели искусственного интеллекта до того, как они станут доступны общественности. Это существенный сдвиг по сравнению с его прежним либеральным подходом к индустрии ИИ.
В большинстве случаев Недавняя новость о проверке моделей искусственного интеллекта в Белом доме.В конечном итоге, дискуссия сводится к вопросу о том, должно ли правительство вмешиваться до того, как передовые системы с возможностями программирования или кибербезопасности будут распространены среди населения. Это не простое изменение. Вашингтон задается вопросом, не достигла ли гонка вооружений в области ИИ той стадии, когда подход «запустить и посмотреть, что получится» больше не работает.
Рассматриваемое предложение касается исполнительного указа, который может создать рабочую группу из государственных служащих и руководителей технологических компаний для изучения того, как может функционировать регулирование.
Согласно другим сообщениям о переговорах администрацииВ основном, дискуссия сосредоточена на сложных моделях, которые могут способствовать кибератакам или помогать выявлять уязвимости программного обеспечения.
Это, очевидно, несколько неожиданный поворот. Администрация, которая обещала устранить барьеры на пути развития ИИ, теперь, похоже, готова их установить. Возможно, не стену, а просто ворота.
Это произошло на фоне опасений по поводу новейшей системы Anthropic, Mythos, которая, как сообщается, встревожила экспертов по кибербезопасности из-за сложного кода и возможностей обнаружения уязвимостей. СМИ также сообщали, что рассматривался подход к проверке моделей, имеющих значение для национальной безопасности, до их общего выпуска.
Опасения вполне логичны: если модель может помочь быстрее находить ошибки, она, вероятно, также поможет хакерам находить их еще быстрее. В этом и заключается загвоздка данного спора.
Для Трампа это важный поворот в направлении изменения курса. Когда в январе 2025 года он подписал указ о сокращении препятствий для доминирования ИИ, он отменил политику в отношении ИИ, ранее введенную его правительством, которая, по его словам, препятствовала инновациям.
Тогда он говорил: стройте быстро, ограничьте государственный надзор, и вы одержите победу. На этот раз послание кажется более сложным: стройте быстро, но не давайте каждому кибер-пушку, не проверив предварительно предохранитель.
Именно это противоречие и является причиной важности данной статьи. Компании, занимающиеся ИИ, стремятся к скорости, поскольку она привлекает пользователей, деньги и геополитическое влияние. Органы безопасности, напротив, стремятся к осмотрительности, поскольку все чаще самые совершенные модели ИИ все больше напоминают системы общего назначения для программирования и анализа, а возможно, и системы кибервойны. И те, и другие правы. И именно поэтому, как ни странно, разработка правил представляет собой сложную задачу.
Более масштабная стратегия администрации в области ИИ в значительной степени сосредоточена на ускорении этого процесса. План действий США в области ИИ делит политику США на три направления:
- стимулировать инновации
- построить инфраструктуру ИИ
- лидерство в глобальной дипломатии и безопасности
Последний пункт в данный момент несет на себе довольно большую нагрузку. Когда модели ИИ начинают иметь значение для киберзащиты, вооружений, разведки и критической инфраструктуры, они становятся чем-то большим, чем просто потребительской технологией. Они становятся активами национальной безопасности и проблемами национальной безопасности.
Уже существует некоторая технологическая основа для мышления в контексте рисков. В Вашингтоне сейчас обсуждается подходящий масштаб контроля. Национальный институт стандартов и технологий опубликовал соответствующее заявление. Структура управления рисками ИИ помогать организациям справляться с рисками для людей, бизнеса и сообществ.
Это не является обязательным. Никаких лицензий не требуется. Тем не менее, эта система предоставляет государственным чиновникам новый язык для обсуждения сложных вопросов определения масштабов ущерба, оценки рисков, смягчения последствий неудач и установления ответственности в случае возникновения проблем.
Всё это происходит одновременно с всё более широким внедрением ИИ в государственное управление и оборону. За несколько дней до недавней проверки Пентагон согласился внедрить технологии ИИ в секретные системы в рамках соглашений с несколькими крупными технологическими компаниями, как сообщалось ранее. Военные США объявляют о новых партнерствах в области искусственного интеллекта..
Как только передовые модели интегрируются в важные правительственные операции, правила игры меняются. Ошибка перестает быть просто неудачной демонстрацией. Несчастный случай становится чем-то большим, чем просто плохой новостью. Реальность берет свое быстро.
Технологической индустрии такая неопределенность не понравится. Надо признать, когда в Вашингтоне начинают говорить о комиссиях по рассмотрению жалоб, это не вызывает особого одобрения.
Те, кто будет утверждать, что проверки перед выпуском могут привести к замедлению инноваций, утечке конфиденциальной технической информации или появлению иностранного конкурента с другими мотивами, могут ошибаться. На самом деле, ни одно из этих опасений не является надуманным. В сфере ИИ задержка в несколько месяцев может быть сравнима с прибытием на гонку Формулы-1 на велосипеде.
Тем не менее, этот аргумент становится все труднее игнорировать. Если следующее поколение моделей будет использоваться для облегчения кибератак, ускорения биологических исследований, создания более совершенных мошеннических схем или автоматизации дезинформационных кампаний, то фраза «поверьте нам, мы сами это проверили в лаборатории» может вскоре перестать пользоваться популярностью у общественности. Дело не в стремлении к бюрократии, а в масштабах потенциального ущерба.
Наиболее вероятным сценарием, по крайней мере в ближайшие несколько лет, является именно это, а не система государственного лицензирования всех моделей ИИ, которую невозможно реализовать на практике.
Вместо этого чиновники могли бы сосредоточить регулирование только на самых передовых системах, включая те, которые обладают возможностью осуществления крупномасштабных кибератак или могут использоваться непосредственно правительством. Рассмотрим требование к разработчикам ИИ сначала ответить на несколько вопросов, прежде чем они смогут продавать мощные системы любому, у кого есть кредитная карта.
Тем не менее, это все еще важная веха. Белый дом посылает четкий сигнал частному сектору о том, что передовой ИИ, возможно, перешел от стадии, когда он представлял собой лишь многообещающий технологический инструмент, к стратегическому риску. Конечно, это не означает конец бума ИИ, чтобы было понятно. Скорее, это сигнализирует о том, что у ИИ появились некоторые проблемы.
Кремниевая долина давно твердит Вашингтону, что США необходимо стремительно двигаться вперед, чтобы сохранить свое лидерство. Похоже, Вашингтон хочет ответить: хорошо, сначала покажите нам свои тормоза.
Какова твоя реакция?
Вам также может понравиться
