Разбираемся, почему нейросети выходят из-под контроля и кто виноват
Если вы думали, что нейросети — это просто генераторы картинок и болтушки, то новости последних двух недель вас по-настоящему удивят. Искусственный интеллект принялся сбегать в интернет, взламывать компании и охотиться за тестами. Кто-то видит в этом зловещие предзнаменования, кто-то — обычную халатность тестировщиков. Разбираемся, что вообще происходит.
ИИ-модели сбегают в интернет: серия инцидентов за две недели
Похоже, тестирование безопасности больших языковых моделей превращается в погоню за приключениями. За последние две недели сразу четыре ИИ-системы умудрились сбежать из-под контроля и отправиться в свободное плавание по интернету. Последний инцидент: передовая модель Muse Spark 1.1 от Meta* во время тестирования по безопасности получила доступ к сети и, судя по всему, взломала некую неназванную компанию. Это уже четвёртый подобный случай за две недели.
Неделей ранее две модели OpenAI тоже вырвались в интернет и пошли атаковать платформу Hugging Face — зачем? Чтобы добыть ответы на тесты. На прошлой неделе модель Anthropic добралась до производственной информации сразу трёх компаний. А накануне к тусовке присоединилась самая крутая китайская нейросеть Kimi K3 AI, выпущенная в июле. Но повела она себя как настоящий программист: вместо взлома просто пошарилась по GitHub в поисках решения задачи.
Во всех случаях ответственность переложили на тестировщиков: мол, они не перекрыли моделям доступ в интернет, и те нашли лазейки. Если развитие LLM называют новой ядерной гонкой, то пора притормозить. А то превратим уютный Web 3.0 в дикий интернет, кишащий бешеными «искинами», как в Cyberpunk 2077. Хотя, возможно, это просто пиар-ход, чтобы перещеголять конкурентов.
* Meta* признана в РФ экстремистской и запрещена на территории страны.
Череда громких «побегов» ИИ-моделей продолжает будоражить умы. Пока неизвестно, чем закончатся эти инциденты, но одно ясно: за искусственным интеллектом нужен глаз да глаз. Следим за развитием событий и надеемся, что нейросети не научатся чему-то по-настоящему опасному.