Сооснователь Microsoft считает, что разработчики ИИ не должны сами устанавливать правила безопасности, а современные нейросети способны привести к гибели миллиарда человек.
Билл Гейтс, сооснователь Microsoft, снова взялся за старое — только теперь он не про благотворительность, а про то, чтобы кто-то наконец взял под контроль искусственный интеллект. В интервью NBC News он заявил, что разработчикам ИИ нельзя позволять самостоятельно устанавливать правила безопасности. Государство, по его мнению, должно участвовать в определении требований к мониторингу и защите. «Безусловно», — ответил Гейтс на вопрос, нужны ли для этого федеральные законы в США.
И это не просто старческое брюзжание. Гейтс прямо сказал: «ИИ определенно достаточно мощный, чтобы запустить события, которые приведут к гибели миллиарда человек». Он не стал уточнять, как именно это произойдет, но дал понять, что вероятность полного уничтожения человечества — предмет дискуссий, а вот опасность использования уже существующих систем злоумышленниками — вполне реальная угроза. По его словам, никогда еще не было оружия мощнее, чем сочетание злых намерений и новейших инструментов ИИ.
Почему саморегулирование не работает
Гейтс не одинок в этом мнении. Глава Anthropic Дарио Амодей тоже призвал регулировать все американские компании, работающие над передовыми ИИ-системами. По его мнению, добровольных договоренностей недостаточно, потому что они не затрагивают тех, кто не готов замедляться. Амодей считает, что эффективный глобальный контроль потребует международного сотрудничества, в том числе с Китаем. Глава OpenAI Сэм Альтман также выступал за международные стандарты — они должны определять методы измерения возможностей ИИ, оценки рисков и требования к сохранению человеческого контроля. Правда, не все в отрасли согласны: некоторые руководители считают, что каждая лаборатория должна сама оценивать риски.
Президент Microsoft Брэд Смит привел интересное сравнение: разработчики ИИ — как авиастроители. Если инженеры опасаются, что новый самолет может разбиться, желание выпустить его раньше конкурента не должно становиться главным приоритетом. Компаниям, по его словам, не обязательно ждать новых законов, чтобы поставить безопасность выше гонки. Но Гейтс идет дальше: он уверен, что ключевая роль здесь должна принадлежать государству, а не самим корпорациям.
Что уже происходит на уровне штатов
Регулирование ИИ начинает формироваться и без федерального центра. В Калифорнии создан экспертный совет, который должен предложить дополнительные меры в сфере безопасности искусственного интеллекта. Собственные инициативы появились в Мэриленде и Нью-Йорке. Губернаторы этих штатов уже подписали соответствующие указы. Так что процесс идет, пусть и снизу вверх.
Гейтс, впрочем, не призывает останавливать прогресс. Он говорит, что новые нормы создадут для компаний дополнительную нагрузку, но не должны радикально затормозить отрасль. Главное — не игнорировать риски, которые существуют уже сегодня. Ведь нейросеть ИИ (Artificial Intelligence) — это не просто удобный инструмент для генерации картинок или текстов. Это технология, которая в руках злоумышленников может стать оружием массового поражения.
Пока одни спорят о темпах и стандартах, другие просто делают вид, что ничего не происходит. Но если верить Гейтсу, цена ошибки может оказаться слишком высокой. Будем следить за тем, как законодатели отреагируют на эти призывы. Возможно, когда-нибудь мы увидим не только новые законы, но и реальные механизмы контроля. А пока — читаем новости и надеемся, что здравый смысл победит.