Приложения с искусственным интеллектом, генерирующие фейковые обнажённые изображения, наряду с другими проблемами, связанными с конфиденциальностью, делают «шеринтинг» гораздо более рискованным занятием, чем несколько лет назад.
Sisi Yu
Приложения для создания обнажёнки с помощью искусственного интеллекта изменили правила игры. Злоумышленникам нужно зайти только на один из сайтов и загрузить изображение своей жертвы. Приложения для создания обнажёнки часто принимают платежи по кредитным картам или криптовалюте в обмен на виртуальные токены для создания поддельных обнажённых изображений.
Прошлым летом мы с женой преодолели трудности среднего возраста и родили прекрасную девочку. Тысячи людей, которые подписаны на меня в Instagram (запрещена в России) и других приложениях, до сих пор этого не заметили.
И дело не в том, что я всех игнорирую. Я просто решил не публиковать фотографии своего ребёнка в социальных сетях. Этот родительский шаг становится всё более популярным благодаря искусственному интеллекту.
Родители десятилетиями спорили о рисках и преимуществах публикации фотографий своих детей в интернете — примерно столько же, сколько существуют сайты для обмена фотографиями. Но когда социальные сети стали неотъемлемой частью общества, «шеринтинг» стал нормой. Согласно исследованиям, только четверть родителей не делится фотографиями своих детей в интернете из-за опасений, что онлайн-хищники и компании могут собирать их личные данные.
Но такие родители, как я, присоединились к лагерю «никогда не публикуйте» из-за более свежей угрозы: приложений, которые могут автоматически генерировать дипфейки с обнажённым телом и любым лицом с помощью генеративного искусственного интеллекта — технологии, лежащей в основе популярных чат-ботов.
Так называемые приложения-нудификаторы просты и недороги в использовании, а некоторые даже предлагают бесплатные пробные версии. Я ознакомился с некоторыми из них. Эти приложения широко используются школьниками, и для жертв публикация их искусственно созданных обнажённых фотографий в открытом доступе стала такой же травмирующей, как если бы фотографии были настоящими. Хотя новый федеральный закон предусматривает уголовную ответственность за публикацию в интернете поддельных обнажённых фотографий без согласия жертвы, ничто не мешает людям использовать приложения для создания обнажённых фотографий, которых в интернете стало очень много. Десятки сайтов для создания обнажённых фотографий зарабатывают миллионы долларов в год.
«Это повсюду, — сказал Алексиос Манцарлис, основатель технологического издания Indicator, которое провело расследование в отношении 85 сайтов с нудификацией. — Любой ребёнок, у которого есть доступ к интернету, может быть, как жертвой, так и преступником».
Помимо дипфейков, созданных искусственным интеллектом, публикация фотографий сопряжена с другими рисками, например, с потенциальным раскрытием конфиденциальной личной информации молодых людей злоумышленникам, что может отпугнуть родителей.
Для ясности: публиковать семейные фотографии или нет — это личный выбор, поэтому эта колонка не осуждает родителей, которые это делают. Вместо этого я расскажу, на что следует обращать внимание при публикации детских фотографий в интернете.
Вот что нужно знать. Распространение дипфейков
В поддельных фотографиях обнажённых людей нет ничего нового. В течение многих лет приложения для редактирования фотографий, такие как Adobe Photoshop, позволяли превращать снимки в реалистичные изображения. Однако из-за того, что для создания убедительных подделок требовалось много времени и навыков, жертвами, как правило, становились знаменитости.
Публикация дипфейков недавно была признана федеральным преступлением, когда президент Трамп подписал закон «Убери это» — двухпартийный законопроект о борьбе с порноместью, который включал в себя изображения обнажённых людей без их согласия и фейки, созданные искусственным интеллектом. Хотя закон требует от сайтов социальных сетей удалять оскорбительные изображения, он не запрещает компаниям предлагать сами приложения для создания изображений.
Компании, работающие в социальных сетях, такие как Snap, TikTok и Meta (запрещена в России), запрещают рекламу нудификаторов в своих приложениях, а некоторые штаты начинают обсуждать законодательство, которое запретит компаниям предлагать приложения для нудификаторов. Но если это произойдёт, добиться исполнения будет сложно, потому что многие создатели приложений находятся за границей.
Другими словами, любой может легко использовать приложение для создания обнажёнки на ребёнке и сохранить фотографии, и никто об этом не узнает.
На одном из сайтов, которые я изучил, предлагалась бесплатная пробная версия для создания цифровой обнажёнки на одной фотографии. После этого пользователи могли оформить подписку за 49 долларов в месяц на 600 кредитов, или 8 центов за фальшивую обнажёнку. Приложение также позволяло пользователям создавать порнографические анимации.
По словам Манцарлиса, который сделал эту оценку на основе данных о трафике на нескольких веб-сайтах, множество людей загружают фотографии в эти приложения для нудистов, которые приносят компаниям, предлагающим программное обеспечение, доход в размере около 36 миллионов долларов в год.
Приложения с порнографией на основе искусственного интеллекта настолько раздражают пользователей, что Meta (запрещена в России) приняла меры. В июне компания подала иск в Гонконге против местного разработчика различных приложений с искусственным интеллектом, которые позволяли обходить технологии Meta (запрещена в России) по выявлению рекламы для продвижения своего программного обеспечения в Instagram (запрещена в России) и Facebook (запрещена в России).
Представитель Meta (запрещена в России) сообщила, что компания также поделилась информацией о вредоносных приложениях и веб-сайтах с программой Lantern от Tech Coalition — группы компаний, включая Google и Microsoft, которые работают над защитой детей от сексуального насилия в интернете.
Однако злоумышленникам достаточно знать название сайта с обнажёнкой, чтобы попасть на него через веб-браузер, а в школах ученики знают о самых популярных сайтах, говорит Джош Голин, исполнительный директор некоммерческой организации Fairplay for Kids, которая занимается защитой детей от вредного контента.
«Учителя и школьная администрация, с которыми я общаюсь, говорят, что в наших школах это происходит постоянно: дети создают фейковые обнажённые изображения», — сказал он.
Хотя новые законы могут усложнить для злоумышленников процесс распространения дипфейков, для многих жертв ущерб уже нанесен.
Прошлой весной ученики старшей школы на северо-востоке штата Айова сообщили администрации, что другие ученики использовали нудификаторы для создания цифровых изображений, их обнаженных тел. Примерно в то же время законодатели в Миннесоте на фоне аналогичных инцидентов приняли закон, направленный против компаний, предлагающих приложения или веб-сайты с нудификаторами.
Что всё это значит для родителей: злоумышленники могут скопировать фотографию ребёнка, опубликованную в вашем аккаунте в социальной сети, и загрузить её в приложение для создания обнажённых изображений. Или, если они находятся рядом, они могут сфотографировать ребёнка на камеру, а затем загрузить снимок в приложение.
Невозможно помешать кому-либо сделать последнее, но первой ситуации можно избежать, если не публиковать фотографии своих детей в интернете.
Закрытые аккаунты в социальных сетях — не идеальное решение
Родители, которые хотят делиться фотографиями своих детей в социальных сетях, могут значительно снизить риск, публикуя фотографии только в аккаунте, доступ к которому есть только у близких друзей и членов семьи. Но и у этого способа есть ограничения. Преступники, совершающие сексуальное насилие над детьми, обычно знают жертву, поэтому подписчиком в Instagram (запрещена в России), имеющим доступ к вашему профилю, может быть преступник, считает Сара Гарднер, основательница Heat Initiative, группы по защите безопасности детей.
«То, что у вас закрытый аккаунт, не означает, что кто-то из ваших знакомых не возьмёт ваши фотографии и не сделает с ними что-то плохое», — сказала она.
В одном из таких случаев, произошедших около десяти лет назад — задолго до появления дипфейков, созданных искусственным интеллектом, — мать из Ривертона, штат Юта, обнаружила, что фотографии её детей, которыми она поделилась только с друзьями и родственниками в Facebook (запрещена в России), оказались на порнографических сайтах.
Даже вечеринка по случаю дня рождения может стать разоблачением.
Помимо дипфейков с использованием искусственного интеллекта, существуют и более традиционные угрозы, например, кража личных данных.
Вечеринка в честь дня рождения ребёнка может показаться важным событием, которое стоит осветить в социальных сетях, но даже такой, казалось бы, безобидный пост может навредить детям в будущем.
По словам Лии Планкетт, автора книги «Sharenthood» о распространении информации о детях в интернете, по фотографиям с вечеринки в честь дня рождения можно определить точный день и год рождения ребёнка. Эту информацию можно сопоставить с другими данными, которые хакеры собрали в результате нарушений кибербезопасности, чтобы совершить кражу личных данных.
Как бы невероятно это ни звучало, но, по данным Федеральной торговой комиссии, с 2021 по 2024 год количество случаев кражи личных данных несовершеннолетних выросло на 40 %. Ежегодно личные данные примерно 1,1 миллиона детей оказываются в руках злоумышленников. (Это хорошее напоминание для всех родителей о том, что нужно заблокировать кредитную историю своих детей.)
Зачем мы это делаем?
Обмен некоторыми данными — это часть общественного договора цифровой эпохи. Например, мы сообщаем своё местоположение, чтобы приложения-карты могли проложить нам маршрут. Всем родителям, которые раздумывают, стоит ли публиковать фотографии своих детей, будет полезно задать себе вопрос: в чём польза?
Такие приложения для социальных сетей, как Instagram (запрещена в России), Snapchat и TikTok, — это удобные инструменты для эффективного обмена красивыми фотографиями и видео с широким кругом людей, которые нам небезразличны. Но настоящими благодетелями являются сами компании, занимающиеся социальными сетями, которые собирают данные, чтобы улучшать свои продукты и побуждать людей, в том числе наших детей, продолжать ими пользоваться.
Согласно десяткам исследований, частое использование социальных сетей молодыми людьми связано с проблемами психического здоровья, включая тревожность, депрессию и чувство одиночества.
«Их цель — не помочь вырастить всесторонне развитого, здорового ребёнка, а заработать на том, чтобы ваши дети как можно дольше оставались в сети, — говорит Ники Рейсберг, бывший маркетолог, ведущая подкаст о воспитании детей в эпоху цифровых технологий. — Если у них будут десятки тысяч единиц данных до того, как ваш ребёнок выйдет в интернет, они смогут делать это более эффективно».
Есть менее рискованные способы делиться фотографиями наших детей. Я предпочитаю отправлять фотографии своей дочери нескольким друзьям и родственникам в зашифрованных текстовых сообщениях. Некоторые родители делятся фотоальбомами с семейными снимками с небольшой группой людей с помощью онлайн-сервисов, таких как Apple iCloud и Google Фото.
В конце концов, я понимаю, что это может быть бесполезной затеей. Многие школы публикуют фотографии детей в социальных сетях, чтобы показать, что их ученики хорошо проводят время. (Наверное, я буду тем самым неприятным родителем, который требует удалить фотографии моей дочери.) И в конце концов, когда моя дочь вырастет, у неё будет свой телефон, и она сама будет решать, публиковать ли свои фотографии. Но до тех пор я буду делать всё возможное, чтобы её фотографии не появлялись в сети.
По материалам The New York Times
