Режим контроля над искусственным интеллектом Дональда Трампа непрозрачен, непредсказуем и неустойчив. Теперь его администрация контролирует, кто получает доступ к лучшим моделям выбирая избранных.
Иллюстрация: Фортунат Хоакин. The Economist
Жизнь американцев полна вещей, которые объявляются добровольными, но на самом деле таковыми не являются. 26 июня компания OpenAI заявила, что ее новейшая модель GPT-5.6 Sol будет доступна лишь ограниченному числу «доверенных партнеров». В тот же день правительство США ослабило экспортный контроль в отношении Mythos 5, еще одной продвинутой модели от конкурирующей лаборатории Anthropic. Но и она будет доступна только предварительно утвержденному списку американских организаций. Все это знаменует собой бессистемную революцию в сфере управления искусственным интеллектом в Америке.
«За считанные недели, — отмечает Дин Болл, бывший советник по искусственному интеллекту в администрации Трампа, — федеральная политика США в области ИИ превратилась из невероятно либертарианской в крайне жесткую и непрозрачную».
Администрация Трампа вступила в должность, выступая против регулирования, которое, по ее мнению, задушило бы инновации и позволило бы Китаю догнать США.
«Будущее искусственного интеллекта не будет обеспечено за счет заламывания рук и беспокойства по поводу безопасности», — заявил вице-президент США Джей Ди Вэнс на саммите в Париже в прошлом году.
2 июня Дональд Трамп издал указ об управлении искусственным интеллектом, в котором потребовал от передовых лабораторий предоставить ранний доступ к новым моделям и сотрудничать в вопросах киберрисков — и то, и другое уже происходило. Белый дом настаивал на том, что указ не следует трактовать как «обязательное государственное лицензирование, предварительное согласование или выдачу разрешений».
На практике так оно и есть. Компания OpenAI в частном порядке делилась с правительством подробностями о модели Sol, которая по некоторым показателям превосходит Mythos. Однако, по данным технического издания The Information, на прошлой неделе Говард Лютник, министр торговли США, позвонил Сэму Альтману, руководителю лаборатории, и предостерег его от публикации модели без предварительного одобрения. Сообщается, что OpenAI представила список компаний, которым будет предоставлен доступ к модели. По данным Washington Post, правительство исключило из списка компании, расположенные за пределами США. Anthropic получила разрешение на использование Mythos примерно для 100 американских компаний и организаций, а также для их сотрудников-иностранцев.
В результате этих правил возник запутанный клубок разрешений. 26 июня Альтман предположил, что релиз Sol будет доступен только в Америке.
«Мы усердно работаем над тем, чтобы он стал доступен по всему миру», — написал он в ответ на вопрос в социальной сети.
Однако, по словам министра по вопросам искусственного интеллекта Великобритании, Британский институт безопасности в сфере искусственного интеллекта, авторитетная организация, оценивающая возможности и риски, связанные с моделями, имеет доступ к Sol. У института нет доступа к Mythos, который формально находится под экспортным контролем, но он может использовать Mythos Preview — более раннюю версию, которая чуть менее эффективна.
«Мы не считаем, что такой процесс предоставления доступа правительству должен стать нормой в долгосрочной перспективе», — заявили в OpenAI.
В лаборатории говорят, что работают с администрацией над созданием более предсказуемого и «повторяющегося процесса» на будущее. Определенный прогресс все же есть. По словам инсайдеров, администрация теперь лучше подготовлена к тому, чтобы рассматривать заявления о том, что модель была «взломана» или обманом принуждена к выполнению вредоносной задачи, что и послужило поводом для введения экспортного контроля в отношении Mythos в начале этого месяца. Однако более масштабная задача заключается в том, чтобы определить, какие модели вообще следует ограничить в использовании. В указе Трампа говорится, что к августу его администрация разработает «секретный процесс сравнительного анализа» для оценки кибербезопасности новых моделей. Однако это не обязательно внесет ясность в ситуацию. Лишь немногие сотрудники передовых лабораторий имеют допуск к секретной информации, который позволяет им работать с засекреченными материалами и, следовательно, понимать суть «красных линий», установленных правительством.
Кроме того, остается открытым вопрос о том, кто будет выступать в роли судьи. Офис национального директора по кибербезопасности при Белом доме играет ведущую роль в разработке политики, но в последние недели оттуда уходят высокопоставленные сотрудники. Департамент коммерции под руководством мистера Лютника отвечает за реализацию политики, но его технические специалисты ограничены в своих возможностях. Штат специалистов по искусственному интеллекту в правительстве США никогда не был большим, но за последние полтора года он сократился еще сильнее.
Anthropic, Google и OpenAI, три ведущие исследовательские лаборатории, сходятся во мнении, что необходимо какое-то федеральное регулирование, хотя и расходятся в деталях. Anthropic и OpenAI выступают за создание государственного агентства. Google больше склоняется к созданию отраслевого органа, подобного тем, что регулируют деятельность брокерских компаний и энергосетей в США. Компания Anthropic — по иронии судьбы, учитывая то, как к ней относились, — единственная, кто поддерживает правительственное вето на выпуски.
Тем не менее, мало кто спорит с тем, что нынешний процесс неэффективен. Одна из проблем заключается в том, что он сдерживает американские лаборатории в то время, когда китайские конкуренты быстро догоняют их. Ведущие китайские модели, большинство из которых имеют “свободный вес” — это означает, что их можно загрузить и запустить на собственном компьютере, — примерно на шесть-десять месяцев отстают от своих американских аналогов и намного дешевле в эксплуатации. Сообщалось, что в последние недели компания Microsoft, гигант в сфере разработки программного обеспечения, рассматривала возможность использования модели китайской лаборатории DeepSeek для своего инструмента Copilot.
Американские лаборатории также реагируют на политическое давление, ужесточая контроль над своими общедоступными моделями, что повышает вероятность отказа в запросах, которые раньше удовлетворялись. Алекс Стамос, ранее отвечавший за кибербезопасность в социальной сети Facebook, отмечает, что многие компании уже подготовились к переходу на китайские модели с открытым исходным кодом на случай дальнейших потрясений.
Ограничения на использование самых передовых американских моделей могут несколько замедлить развитие Китая, поскольку многие китайские лаборатории, занимающиеся разработкой искусственного интеллекта, обучают свои модели на основе американских — этот процесс называется «дистилляцией». Однако это слабое утешение, если американские лаборатории тоже замедлят работу. Бывший советник по искусственному интеллекту Болл предупреждает, что компании могут не захотеть вкладывать огромные средства в центры обработки данных, чтобы «предоставлять передовые модели тем 100 компаниям, которым правительство США разрешит доступ». Он добавляет, что в первые несколько месяцев после выпуска передовые модели, как правило, окупают огромные затраты на их обучение, поскольку дают временное преимущество перед конкурирующими моделями.
Даже некоторые из ближайших союзников Трампа испытывают неловкость. «Год назад президент Трамп заявил, что Америка участвует в глобальной гонке в области искусственного интеллекта и что для победы нужно поддерживать инновации, инфраструктуру, энергетику и экспорт, — написал Дэвид Сакс, правительственный советник по вопросам искусственного интеллекта, который изначально защищал администрацию от нападок из-за ситуации с Mythos. — Президент Трамп был абсолютно прав: мы рискуем, отклоняясь от этой стратегии».
По материалам The Economist
