Учёные показали, что нейросети уверенно принимают подделки за живые организмы, что грозит ложными срабатываниями в миссиях NASA
Представьте: робот на Марсе находит нечто, похожее на окаменелость, и его нейросеть с 99,97% точностью подтверждает — это следы древней жизни. Звучит как триумф науки, пока не выясняется, что алгоритм просто обманулся, приняв случайный узор за инопланетный организм. Именно это продемонстрировали учёные из Университета штата Мичиган, показав уязвимость искусственного интеллекта в поиске внеземной жизни. Ошибки такого рода — не просто академический курьёз, а потенциальная угроза для будущих космических миссий, где каждая секунда анализа на вес золота.
Ошибки ИИ в поиске внеземной жизни: риск для космических миссий
Учёные из Университета штата Мичиган наглядно продемонстрировали, что искусственный интеллект может уверенно ошибаться при поиске жизни — проблема, способная поставить под удар будущие автономные космические миссии. В ходе эксперимента алгоритм, обученный на цифровой платформе Avida, где существуют организмы, способные к самокопированию, и объекты без этого свойства, достиг ошеломляющей точности в 99,97% при различении живых и неживых сущностей. Казалось бы, успех. Но затем исследователи начали постепенно изменять неживые фрагменты кода, сохраняя отдельные признаки из обучающей выборки. Результат оказался пугающим: искусственный интеллект стал почти со 100% уверенностью относить модифицированные подделки к живым системам, хотя они не обладали ключевым признаком жизни — способностью к репликации.
Корень проблемы — в том, что современные модели машинного обучения находят статистические закономерности в данных, но не понимают фундаментальных физических или биологических принципов. Для поиска жизни на Марсе, ледяных спутниках Юпитера или других объектах, где NASA планирует разворачивать автономные инструменты, такие ложные срабатывания могут привести к катастрофическим последствиям: аппарат потратит ограниченные ресурсы на анализ «пустышек», пропустив настоящие биосигнатуры. При этом американское космическое агентство уже активно вкладывается в подобные технологии — например, выделен грант в $5 млн на создание алгоритмов для анализа сложных химических данных с помощью масс-спектрометров. Учёные рекомендуют обучать искусственный интеллект не только на живых организмах, но и на ископаемых остатках и продуктах жизнедеятельности. Однако исследователи из Мичигана подчёркивают: современные методы пока недостаточно надёжны для самостоятельного поиска жизни в космосе, и необходима разработка систем, способных выявлять собственные ошибки.
Пока алгоритмы блестяще справляются с задачами вроде сортировки котиков, охота за внеземной жизнью остаётся для них крепким орешком. Учёные предупреждают: прежде чем доверять NASA и другим агентствам автономный поиск биосигнатур, нужно научить нейросети не только находить закономерности, но и понимать, что за ними стоит. Иначе мы рискуем либо пропустить настоящий сигнал, либо, что ещё хуже, потратить миллиарды на охоту за собственными ошибками.