Суть эксперимента проста: судьи общались одновременно с человеком и ИИ-моделью, а потом должны были определить, кто из них настоящий. Никаких подсказок, только текст. И вот тут GPT-4.5 показала себя во всей красе. Если ей давали заданный "персонаж", то она обманывала судей в 73% случаев. LLaMa-3.1-405B* от Meta (facebook и instagram признаны экстремистскими организациями на территории РФ) тоже неплохо выступила, но до результатов GPT-шки ей далеко.
Авторы исследования подчеркивают, что вся фишка в персонализированном контексте. То есть, когда ИИ "играет роль", он становится гораздо убедительнее. Классический тест Тьюринга, по сути, превратился в индикатор правдоподобности, а не в строгий критерий "разумности".
Сами исследователи утверждают, что модели не демонстрируют никакого понимания или сознания, просто воспроизводят "социально правдоподобные паттерны речи". Но, простите, если ИИ может настолько точно имитировать человека, то где гарантии, что завтра он не начнет писать за нас дипломы, создавать фейковые новости или даже (боюсь представить) вести наши аккаунты в соцсетях (признаны экстремистскими организациями на территории РФ)?
И что самое интересное, все это может происходить в самых разных сферах: от клиентской поддержки до образования и политики. Скорость оценки собеседника играет ключевую роль, и если ИИ может обмануть нас за пару секунд, то последствия могут быть непредсказуемыми.Авторы исследования бьют тревогу и призывают к более четкой маркировке ИИ-систем в диалоговых интерфейсах. Они справедливо отмечают, что "в условиях, когда модель способна убедительно маскироваться под человека, вопрос прозрачности становится не техническим, а социально-инфраструктурным".
В общем, друзья, будущее уже здесь. И оно немного пугает.
Справка по теме (FAQ)
Что такое тест Тьюринга?
Это тест, разработанный Аланом Тьюрингом, чтобы определить, может ли машина мыслить как человек. Если машина может обмануть человека, заставив его думать, что он общается с другим человеком, то считается, что она прошла тест.
Что такое GPT-4.5?
Это продвинутая языковая модель, разработанная для генерации текста, перевода языков и ответа на вопросы.
Где можно почитать оригинальное исследование?
К сожалению, ссылка на оригинальное исследование не была указана в предоставленном тексте.
Опасен ли GPT-4.5?
Исследование показывает, что ИИ может успешно имитировать человеческое общение, что поднимает вопросы о прозрачности и маркировке ИИ-систем. Это не означает, что GPT-4.5 опасен сам по себе, но подчеркивает необходимость разработки этических норм и правил использования подобных технологий.
Где можно найти больше информации об ИИ?
Вы можете найти информацию на специализированных сайтах, таких как iXBT, habr, VC.ru и других ресурсах, посвященных технологиям.
Что будет с рынком труда, если ИИ сможет заменить людей в общении?
Это сложный вопрос. Некоторые рабочие места могут быть автоматизированы, но также могут появиться новые возможности в областях, связанных с разработкой, обслуживанием и контролем ИИ-систем.