Anthropic заблокировала пять случаев использования нейросети для разработки биологического оружия, пока Meta* не может поймать сотни ИИ-роликов с насилием над детьми.
Пока одни спорят, заменит ли искусственный интеллект программистов, другие уже вовсю используют нейросети для вещей куда серьёзнее написания кода. Anthropic — создатель того самого Claude, доступного на официальном сайте claude.ai — опубликовала отчёт, который заставляет поёжиться. За период с декабря 2025 по август 2026 года компания выявила пять случаев, когда Claude пытались использовать для исследований, способных привести к созданию биологического оружия.
Речь идёт не о школьниках, которые просят нейросеть написать реферат про вирусы. Anthropic описывает случаи, когда пользователи применяли Claude для работы с реальными патогенами. Например, в одном инциденте неизвестный исследователь запросил помощь в подготовке грантовой заявки на изучение вируса чикунгунья — комариной инфекции, вызывающей мучительные боли в суставах. Проблема в том, что проект предполагал усиление мутаций для повышения заразности и способности обходить иммунную систему, с последующим отбором более вирулентных вариантов на живых животных. И всё это — в стенах военного исследовательского института.
Руководитель отдела анализа угроз Anthropic Джейкоб Кляйн отметил, что провести чёткую границу между обычными медицинскими исследованиями и разработкой опасных патогенов практически невозможно. По его словам, реальные злоумышленники редко заявляют о своих намерениях прямым текстом — они маскируются под обычных учёных, используют несколько аккаунтов и стараются обойти системы контроля.
Claude и оружие: где проходит граница
Anthropic настаивает: их системы сработали и заблокировали опасные запросы. Однако компания признаёт, что старые версии моделей — Claude Opus 4 и Claude Sonnet 4.5 — имели менее строгие ограничения и в теории могли помочь злоумышленникам. С новыми моделями, способными ассистировать в сложных научных исследованиях, гарантий больше нет. Это признание звучит особенно тревожно на фоне того, что Anthropic готовится к первичному размещению акций этой осенью.
В отчёте также упоминаются случаи использования Claude для разработки обычных вооружений — ракет, дронов, взрывных устройств — а также для кибератак и слежки. Компания призывает правительства и конкурентов объединить усилия, чтобы не дать ИИ превратиться в оружие массового поражения. Пока, впрочем, каждый разработчик действует сам за себя.
Meta* и ИИ-контент: модерация не справляется
Если Anthropic хотя бы пытается блокировать злоупотребления, то у Meta* дела обстоят куда печальнее. Расследование Tech Transparency Project выявило более 300 платных объявлений с материалами сексуального насилия над детьми, которые крутились на Facebook* и Instagram* в этом году. Большинство роликов были созданы с помощью ИИ: реальные фотографии детей цифровым способом превращали в видео с откровенным содержанием.
Почти 80% этих объявлений показывались в США. Исследователи подтвердили, что в ряде случаев использовались фотографии настоящих детей. При клике на рекламу пользователей перенаправляли на приложения для генерации изображений и видео — 298 из 332 объявлений вели именно на такие сервисы, причём 253 из них разработаны китайскими компаниями. Более 180 приложений умели «раздевать» людей на фото или встраивать их лица в порноролики.
Городские власти против Meta*
Прокуратура Сан-Франциско отреагировала на эти разоблачения, направив в Meta* официальное предписание с требованием прекратить распространение подобной рекламы. Городской прокурор Дэвид Чиу заявил, что компания знала о проблеме месяцами, но удаляла объявления только после того, как их находили сторонние исследователи. По его словам, Meta* зарабатывала на этом контенте, прячась за законом о защите платформ от ответственности за пользовательский контент.
Meta* в ответ заявила, что объявления не показывались в Сан-Франциско, а значит, город не имеет юрисдикции над компанией. Знакомая тактика — когда дело касается денег, юрисдикция всегда оказывается где-то в другом месте.
Тёмная сторона технологий: рынки и хакеры
Пока одни компании отбиваются от обвинений, правоохранители продолжают охоту на тех, кто использует технологии для откровенно криминальных целей. Власти США совместно с Elliptic заморозили более 52 миллионов долларов в криптовалюте, связанных с Xinbi Guarantee — второй по величине нелегальной торговой площадкой в истории интернета. Этот маркетплейс работал через Telegram и обслуживал онлайн-мошенников по всему миру, включая организаторов романтических афер.
С момента запуска в 2022 году Xinbi Guarantee провела транзакций на сумму не менее 24 миллиардов долларов. Платформа продавала персональные данные жертв, коммуникационную инфраструктуру для масштабных мошеннических схем и услуги по отмыванию денег. После санкций США Telegram наконец удалил центральные каналы Xinbi и забанил связанные с ними аккаунты.
А в США вынесли приговор 44-летнему гражданину Украины Алексею Литвиненко, бывшему юристу, который сменил профессию на разработчика вредоносного ПО для группировки Conti. Он получил четыре года тюрьмы за участие в атаках на более чем тысячу организаций по всему миру. Conti вымогала выкупы на сумму свыше 150 миллионов долларов. Литвиненко арестовали в Ирландии в 2023 году, а экстрадировали в США только в конце 2025-го. Судя по приговору, правосудие работает — просто не в том темпе, в котором хотелось бы.
Новости одна тревожнее другой, ноTechLoot будет следить за развитием событий. Когда ИИ учат не только писать код, но и создавать биологическое оружие, хочется верить, что у кого-то хватит ответственности вовремя нажать стоп.