Квантовые технологии могут помочь защитить страны, но они также угрожают правам и ценностям человека. Их проектирование и разработка требуют этического контроля уже сейчас.
Квантовый датчик, который измеряет локальную гравитацию с помощью свободно падающих атомов. Источник: Изабелла Мур/New York Times
Квантовые технологии открывают большие перспективы для оказания помощи национальной обороне, совершенствуя то, как страны собирают данные, анализируют разведданные, общаются и разрабатывают материалы и оружие. Например, квантовые датчики, которые используют квантовое поведение для измерения сил и радиации, могут обнаруживать объекты с точностью и чувствительностью, даже под землей или под водой. Системы квантовой связи, устойчивые к помехам, могут произвести революцию в управлении и контроле.
Интерес растет во всем мире. Например, в 2023 году Министерство обороны США объявило о проекте стоимостью 45 миллионов долларов США по интеграции квантовых компонентов в системы вооружения для повышения точности наведения. Страна также испытала квантовый приемник для дальней радиосвязи. Министерство обороны Великобритании (которое финансирует часть наших исследований) инвестирует в квантовые датчики и часы. Ранее в этом году оно испытало квантовую навигационную систему, которую невозможно заглушить. Министерство обороны Индии инвестирует в использование квантовых «ключей» для шифрования конфиденциальных военных данных. Китай также разрабатывает квантовые возможности для обороны, включая квантовую радиолокационную систему, которая может преодолеть технологию «стелс». Однако, помимо обещаний, эти применения сопряжены с этическими рисками. Например, мощные квантовые компьютеры могут позволить создавать новые молекулы и формы химического или биологического оружия. Они могут нарушить криптографические принципы, лежащие в основе безопасной онлайн-коммуникации, что приведет к катастрофическим последствиям для цифровых обществ. Квантовые датчики могут использоваться для улучшения наблюдения, нарушая права на конфиденциальность, анонимность и свободу общения. Квантовые алгоритмы сложно поддаются обратному проектированию, что может затруднить установление ответственности за их результаты.
Некоторые из этих рисков аналогичны рискам, связанным с использованием искусственного интеллекта (ИИ), который также используется в оборонных целях. Однако, хотя риски могут быть схожими, их движущие силы, вероятности и последствия различаются и зависят от уникальных характеристик квантовых технологий.
Отсутствие исследований этического управления квантовыми технологиями в обороне обусловлено тем, что это новые технологии с разной степенью зрелости. Например, квантовые датчики уже на рынке, но другие приложения, такие как квантовые компьютеры, только сейчас выходят из лабораторных условий или находятся на эмбриональной стадии.
Фото криостата Goldeneye компании IBM
Пока неясно, будут ли квантовые технологии, достаточно маленькими, легкими и энергоэффективными, чтобы соответствовать требованиям оборонного использования. Многие такие технологии требуют сложных систем охлаждения, а они громоздкие. Например, криостат Goldeneye компании IBM — прототип «суперхолодильника», предназначенный для охлаждения квантовых компьютеров до температур ниже, чем в открытом космосе, — весит более 6 тонн, имеет объем почти 2 кубических метра и требует для работы вакуумных насосов и изотопов гелия.
Таким образом, оборонные организации либо с осторожностью относятся к инвестированию в этический анализ технологий, которые все еще находятся на ранней стадии и могут не принести плодов, либо считают такие усилия преждевременными, ненужными и непрактичными. Первый подход разумен — управление должно развиваться вместе с технологиями. Второй подход опасен и концептуально ошибочен.
Он основан на «тезисе нейтралитета», идее о том, что сама технология этически нейтральна и что последствия возникают только при ее использовании, это подразумевает, что этическое управление квантовыми технологиями не требуется до их использования. Это неверно, так как этические последствия любой технологии возникают на этапах проектирования и разработки.
Например, решения о проектировании и разработке диктуют, являются ли модели ИИ более или менее интерпретируемыми или подверженными предвзятости со стороны. Управление ИИ отстает от темпов развития этих технологий, поднимая множество вопросов, с которыми политики только начинают сталкиваться, от того, кто имеет доступ к кодам, до того, сколько энергии потребляют системы ИИ. Поскольку ученые и политики стали больше осознавать реальные риски и потенциал, которые представляют системы ИИ, большинство из них теперь согласны с тем, что этический анализ должен информировать весь жизненный цикл ИИ. Те, кто присматривается к квантовым технологиям, особенно в обороне, должны прислушаться к этим урокам и начать взвешивать этические риски уже сейчас, ведь от этого зависит наше будущее.
