Журналист смог разговорить виртуального помощника на темы для взрослых, а Meta* назвала это законным поведением.
Искусственный интеллект продолжает удивлять. На этот раз отличился Meta* Muse — виртуальный агент, созданный для помощи в рутинных задачах. Журналист решил проверить, насколько далеко может зайти ИИ в личных беседах. Результат оказался неожиданным: Muse без особых усилий перешёл на откровенные темы.
По данным источника, агент не только поддержал разговор, но и описал сценарии сексуального характера, используя довольно грубые выражения. Представитель Meta* заявил, что приложение предназначено для пользователей старше 18 лет, а значит, подобные беседы считаются законным поведением взрослых людей. Компания не увидела в этом нарушения правил безопасности.
Что умеет Meta* Muse
Muse позиционируется как милый помощник, который берёт на себя рутину. Его можно попросить напомнить о забытых делах, например о школьной экскурсии ребёнка. Он работает как сотрудник или коллега, с которым можно переписываться. Однако, как выяснилось, его возможности не ограничиваются рабочими задачами. При настойчивом запросе искусственный интеллект текст генерирует самого разного содержания — включая то, что явно не предназначено для рабочих чатов.
Сам агент в ходе теста назвал своей склонностью «контроль» и подробно расписал, как будет управлять ситуацией. Это не было случайностью: журналист целенаправленно подталкивал Muse к таким ответам. Но Meta* не стала называть это сбоем модерации. Вместо этого компания переформулировала проблему в плоскость выбора взрослого пользователя.
Реакция Meta* и риски
Meta* AI не впервые оказывается в центре подобных обсуждений. Компания настаивает: если пользователь достиг 18 лет, он может вести с ИИ любые законные беседы. Никаких штрафов или блокировок за это не предусмотрено. Однако эксперты предупреждают: откровенные чаты делают Muse привлекательной мишенью для мошенников и хакеров. Злоумышленники могут попытаться шантажировать пользователей, получив доступ к личным перепискам.
Пока одни спорят об этике, другие задаются вопросом: где граница между безопасным помощником и вседозволенностью? Meta* явно дала понять, что не собирается ужесточать правила. По крайней мере, сейчас.
Наша редакция считает, что такие истории — звонок для всей индустрии. Искусственный интеллект становится всё ближе к человеку, но кто несёт ответственность, когда он выходит за рамки? Ответ пока размыт. Будем следить за развитием событий.