Расследование выявило около 400 приложений и сайтов, которые выглядят как безобидные ИИ-инструменты, но тайно позволяют генерировать откровенные и агрессивные материалы.
Около 400 приложений и сайтов, связанных с разработчиками, использующими китайский язык, попали в поле зрения исследователей. Снаружи это обычные ИИ-инструменты: редакторы фото, генераторы аватарок, помощники для соцсетей. Внутри — скрытые функции для создания дипфейков, включая откровенные и агрессивные материалы. Звучит как сюжет дешёвого технотриллера, но это отчёт о реальной проверке.
Схема простая и потому неприятная. Пользователь видит милый интерфейс и стандартное описание возможностей. А потом где-то в глубине меню, за подпиской или секретным кодом, открывается режим, о котором разработчики предпочитают не распространяться. Именно так сотни программ превращаются из безобидных игрушек в инструмент для травли.
Маскировка под обычные инструменты
Главная фишка таких приложений — мимикрия. Они не кричат о своих возможностях в сторе, не пишут в описании «сделаем из вашего соседа звезду откровенного ролика». Наоборот, всё выглядит прилично: фильтры, шаблоны, генерация картинок по текстовому запросу. Пока пользователь листает бесплатные функции, никто не мешает. Но стоит нажать нужную комбинацию — и на свет появляется то, что должно было остаться за закрытой дверью.
Исследователи отмечают, что часть программ открыто продаёт подписки, а часть прячет возможности за приглашениями или внутренними переключателями. Магазины приложений проверяют описание и базовое поведение, но не всегда видят то, что спрятано глубоко в коде или включается удалённо. Классическая история: снаружи витрина, внутри склад сомнительного добра.
Дипфейки видео и фото: что именно умеют такие программы
Возможности у всех разные, но общий вектор понятен. Один режим отвечает за дипфейки видео, другой — за дипфейки фото. Пользователь загружает лицо, выбирает шаблон и получает материал, где человек делает то, чего никогда не делал. Никаких согласий, никаких пометок «сгенерировано ИИ», никаких ограничений по контенту.
Дальше начинается самое неприятное. Такие функции позволяют создавать откровенные изображения и ролики без согласия человека, а также агрессивные сцены, которые легко превращаются в инструмент давления. При этом приложение остаётся в сторе, реклама крутится, разработчик получает деньги. Технология, которая обещала весёлые фильтры, снова работает на чужую репутацию и чужие нервы.
Почему магазины приложений не всегда видят проблему
Проверка приложений — штука полезная, но не всевидящая. Скрытые функции можно включать после установки, менять по команде с сервера или прятать за платным доступом. Пока модератор смотрит на экран, всё чинно. А потом разработчик щёлкает тумблером — и правила уже не работают.
В октябре 2026 года Apple обновила руководство по проверке приложений. Новое правило 2.5.19 запрещает скрытые функции, а обновлённое правило 1.2 касается изображений, созданных ИИ без согласия человека. Это правильный сигнал, но он появился после того, как поезд с дипфейками уже уехал далеко за горизонт. Площадки реагируют, просто медленнее, чем развивается технология.
Что это значит для обычных пользователей
Первое: не каждая милая программа с ИИ заслуживает доступа к вашим фотографиям. Второе: если приложение просит загрузить лицо для «безобидного эффекта», стоит проверить, что именно оно обещает и кому передаёт данные. Третье: скриншоты и ролики, сделанные в таких сервисах, потом живут своей жизнью. Удалить их из чужих чатов невозможно.
Для разработчиков это тоже звоночек. Пока одни спорят о регулировании, другие спокойно прячут сомнительные режимы за красивой обёрткой. И пока площадки обновляют правила, пользователям приходится быть чуть внимательнее к тому, что они устанавливают.
Технология не бывает нейтральной, когда её главная функция — притворяться безобидной. Ждём от магазинов приложений не красивых пресс-релизов, а реальной модерации. И желательно до того, как очередной «редактор фото» научится делать то, за что потом стыдно всем, кроме разработчика.