Американские чиновники хотят получить ранний доступ к передовым технологиям искусственного интеллекта, и крупные компании согласились.
Microsoft, Google DeepMind и xAI Илона Маска предложили правительству США доступ к новым моделям ИИ до их официального выпуска, что открывает новый этап в зачастую непростых отношениях Кремниевой долины с правительством США, которое опасается угроз со стороны ИИ. Последний отчет сообщает о том, что компании, занимающиеся искусственным интеллектом, предлагают модели американским чиновникам под предлогом проверки безопасности.в надежде, что правительственные аналитики смогут проверять передовые системы искусственного интеллекта на предмет угроз безопасности, таких как кибератаки и военное применение, прежде чем они будут доступны для публичного использования разработчиками и пользователями, и, неизбежно, теми, кто не должен иметь доступа к модели ИИ, предназначенной для использования в качестве оружия.
Проверки будут проводиться Центром стандартов и инноваций в области искусственного интеллекта Министерства торговли США (CAISI), который, по словам представителей компании, сотрудничество с Google DeepMind, Microsoft и xAI. Это дает возможность проверять модели ИИ на этапе подготовки к внедрению, проводить исследования в конкретных областях и анализировать их после запуска в производство.
Это может показаться скучным, но это не так. Правительство просит снять крышку с капота перед тем, как автомобиль выедет на дорогу, а капот нагревается с каждым днем.
Покажет время, но вполне понятны опасения, что высокоразвитый ИИ поможет киберпреступникам стать еще более эффективными в своих преступлениях. «Американские чиновники с подозрением и опаской относятся к новым перспективным моделям на ранних этапах их внедрения, отмечая, что некоторые из них повысили уровень стресса у высших должностных лиц правительства», — написало агентство Reuters.
Одним из инструментов искусственного интеллекта, вызвавших наибольшее беспокойство, является Mythos от Anthropic, недавно представленная модель. Проблема не в том, что ИИ может выявлять уязвимости безопасности, которые не видны людям. Проблема в том, что один инструмент может позволить специалистам по безопасности находить уязвимости, а злоумышленник тоже может их обнаружить.
Компания Microsoft включилась в дискуссию об искусственном интеллекте. Согласно пресс-релизу компании, Microsoft пообещала «сотрудничать с учеными из США и Великобритании для выявления и смягчения непредвиденных последствий моделей ИИ, а также внести свой вклад в разработку общих наборов данных и методов оценки безопасности и производительности моделей».
В качестве примера такого рода сотрудничества, В этом месяце Microsoft подписала соглашение с британским Институтом безопасности искусственного интеллекта. Сотрудничество с официальными лицами обеих стран для совместной работы по управлению рисками, связанными с ИИ. Это говорит о том, что данная тема актуальна не только для американской столицы.
CAISI не начинает с чистого листа. Агентство утверждает, что уже провело более 40 оценок, включая оценки передовых, еще не выпущенных моделей; разработчики иногда делятся версиями с урезанными или ослабленными средствами защиты, чтобы выявить наихудшие сценарии угроз национальной безопасности. Да, это звучит зловеще, и так и задумано; в конце концов, вы же не подтверждаете эффективность замка, просто умоляя дверь оставаться закрытой.
Кроме того, новые соглашения расширяют ранее предоставленный правительству доступ к моделям, разработанным компаниями OpenAI и Anthropic; отдельно, Компания OpenAI передала правительству США платформу GPT-5.5 для оценки в контексте национальной безопасности.По словам Криса Лехейна из OpenAI, если сложить эти элементы воедино, начинает вырисовываться четкая картина: самые перспективные лаборатории искусственного интеллекта проходят предварительную проверку в государственных органах, прежде чем их технологии будут запущены в эксплуатацию.
Здесь вступает в игру интересная (и запутанная) политическая ситуация. В основном, администрация Трампа строила свою стратегию в области ИИ на ускорении развития, дерегулировании и доминировании Америки на мировой арене. Но любая перспективная стратегия в области ИИ также должна учитывать сложную реальность того, что перспективные модели — это не просто инструменты повышения производительности.
Управление Trump План действий Америки в области искусственного интеллекта Основная цель – стимулирование инноваций, создание необходимой инфраструктуры для их поддержания и продвижение лидерства США в международной дипломатии и безопасности в сфере ИИ. Именно этот последний элемент вносит наибольший вклад.
Нельзя упускать из виду и оборонный аспект. По сообщениям СМИ, всего за несколько дней до объявления о заключении этих соглашений по пересмотру моделей Пентагон заключал сделки с ведущими компаниями в области искусственного интеллекта и технологий, чтобы получить доступ к лучшим системам в секретных сетях. Усилия вооруженных сил по внедрению коммерческого искусственного интеллекта в государственные операции.
Внедрение ИИ в военные процессы порождает множество новых проблем и последствий. Ошибка не обязательно должна быть ошибкой; некорректный результат может быть гораздо серьезнее, чем просто неудобством. Он может повлиять на функциональность системы и привести к значительным затратам.
Естественно, проблема заключается в том, что это может препятствовать инновациям. Технологические компании будут утверждать, что им нужна свобода действий; и они, безусловно, правы в том, что в настоящее время ИИ — это настоящая битва не на жизнь, а на смерть, с быстрыми итерациями, агрессивным соперничеством, огромными затратами на вычислительную инфраструктуру и глобальным вызовом Китаю.
Если внедрение каждой новой модели ИИ будет откладываться на месяцы, американские технологические компании наверняка обвинят Вашингтон в том, что он преподнес нашим противникам подарок с большим бантом.
Однако можно сказать, что США хотели бы избежать ситуации, когда первая значимая публичная демонстрация особенно угрожающих или опасных возможностей ИИ будет представлять собой публичное обнародование, поскольку именно так в конечном итоге управление страной происходит через извинения.
Предварительная оценка перед внедрением и выпуском не будет захватывающей и, скорее всего, вызовет раздражение у некоторых или всех пользователей, что, как правило, является хорошим признаком того, что регулирование находится где-то посередине.
Главная задача будет заключаться в том, чтобы сосредоточиться. Проверять каждый выпущенный чат-бот не имеет смысла, но тщательное изучение самых передовых моделей, особенно тех, которые имеют отношение к военной, кибернетической, биологической или химической сферам, — это совсем другое дело.
Речь идёт не о том, как государственный чиновник одобряет ваше автозаполнение, а скорее о том, как инженер проверяет ракету перед запуском. Возможно, это не так драматично, но похоже.
Здесь также присутствует проблема доверия. Технологические гиганты заявили регулирующим органам, что они могут заниматься саморегулированием, в то время как последние заявили технологическим компаниям, что те не смогли угнаться за быстро развивающимися технологиями.
В результате сложилась эта непростая золотая середина, в которой компании предоставляют ранний доступ к моделям ИИ, федеральные исследователи проводят независимые тесты, и все надеются, что процедура отфильтрует наихудшие результаты, но при этом не застрянет в бюрократической волоките.
Трудно не почувствовать, что этот момент был неизбежен. Как только модели ИИ достигли уровня, достаточного для влияния на такие сектора, как кибербезопасность, национальная безопасность и инфраструктура, для этих компаний стало бессмысленно просто тестировать свои модели самостоятельно до конца времен.
Обычный человек, возможно, не знаком со всеми тонкостями бенчмарков или отчетов «красной команды», но он, безусловно, осознает, что сама способность этих систем причинять ощутимый вред делает их достойными тщательной проверки перед выходом на рынок.
И хотя крупные технологические компании по-прежнему стремятся к лидерству, а Вашингтон хочет избежать неожиданностей, обе стороны, по-видимому, пришли к согласию, по крайней мере на данный момент, относительно осуществимого плана действий: открыть доступ к моделям ИИ до того, как механизм начнет работать в полную силу.
Какова твоя реакция?
Вам также может понравиться
