Сооснователь Microsoft бьет тревогу: темпы развития ИИ опережают создание защитных механизмов, а риски уже стали реальностью.
Пока одни спорят, сможет ли искусственный интеллект написать роман лучше Пелевина, Билл Гейтс готовится к куда более мрачным сценариям. В свежем интервью сооснователь Microsoft заявил, что мы уже перешагнули черту, за которой начинаются реальные проблемы. И это не страшилки для пенсионеров — миллиардер всерьез обеспокоен тем, как быстро развиваются нейросети и насколько медленно человечество строит защитные барьеры.
Гейтс, который последние годы больше известен благотворительностью, чем технологическими пророчествами, вдруг решил сменить амплуа. Теперь он называет себя "пронзительным голосом" в пустыне безразличия. И у него есть на то причины.
Идиллия, которая пугает
Встреча проходила в Киркланде, штат Вашингтон, в конференц-зале с видом на яхтенную марину и Олимпийские горы. Погода — открыточная, небо — нереально синее. Но внутри этого рая сидел человек, который раскачивался в кресле, как маятник, и с каждой минутой нагнетал обстановку всё сильнее. Когда собеседник начинает нервничать, глядя на идеальный пейзаж, понимаешь: дело дрянь.
Бывший генеральный директор Microsoft признался, что его пугает не сам Artificial Intelligence как технология, а скорость, с которой она развивается. Защитные механизмы, по его словам, безнадежно отстают от возможностей нейросетей.
«Мы пересекли порог в отношении био-возможностей, кибер-возможностей, психосоциальных аспектов, способности разрушать рынок труда и даже потери контроля, — заявил Гейтс. — Я просто поражен отсутствием беспокойства и дискуссий за пределами индустрии».
Страшнее пандемии
Самая жуткая часть интервью — про биологическую угрозу. Гейтс считает, что современные модели ИИ способны создавать новые молекулы, и это открывает ящик Пандоры. По его оценке, риск биотерроризма с использованием ИИ в 50 раз выше, чем вероятность естественной пандемии. Пятьдесят. Раз. Если это не заставляет задуматься, то уже ничто не заставит.
«Любая модель, которая может создавать новые молекулы, должна находиться под мониторингом», — подчеркивает он. Звучит как научная фантастика, но, увы, это наша реальность. И пока регуляторы думают, нейросети уже вовсю генерируют потенциально опасные соединения.
Впрочем, Гейтс не просто пугает — он предлагает решения. Среди его идей: резервирование рабочих мест за людьми и налоги на роботов и токены. Да, налог на роботов — это не шутка, а вполне конкретное предложение. Идея, конечно, спорная, но сам факт того, что такие вещи обсуждаются на уровне глобальных фигур, о многом говорит.
Дети и технологии: новая эра скептицизма
Параллельно с заявлениями Гейтса вышло свежее исследование о том, как технологии меняют детство. И тут картина не менее тревожная. Раньше желание ограничить детей в использовании гаджетов было маргинальным, теперь это настоящий тренд. Страны одна за другой запрещают детям соцсети, школы отказываются от планшетов в пользу бумажных книг, а самый модный гаджет поколения Альфа — винтажный плеер Sony Walkman.
Показательно, что даже сотрудники крупных технологических корпораций держат своих детей подальше от продуктов, которые сами создают. Телефоны — под замком, соцсети — под запретом. Даже Марк Цукерберг не публикует лица своих детей в Facebook* или Instagram*. Ирония, да?
Но спрятаться от технологий невозможно — они повсюду. Вопрос в том, как подготовить детей к жизни в мире, который мы сами создали, а не в том, которого мы хотели. Именно этой теме посвящен специальный выпуск журнала MIT Technology Review, где исследуется, как молодые люди на самом деле относятся к ИИ, что происходит, когда у ребенка умирает робот-друг и почему дети учатся быстрее нейросетей.
Цифровые войны и странные союзы
Пока Гейтс размышляет о будущем, настоящее бурлит событиями. Агентство по охране окружающей среды США собирается освободить дата-центры от раскрытия данных о загрязнении воздуха. Удобно, ничего не скажешь. А в Техасе генпрокурор уже присоединился к критикам дата-центров — видимо, даже в Техасе понимают, что бесконечное потребление энергии не проходит бесследно.
SpaceX тем временем анонсировала проект за 100 миллиардов долларов в Луизиане. «Старбейс Луизиана» — это 10 пусковых площадок, собственное производство топлива и амбиции поддерживать тысячи запусков ежегодно. Похоже, Илон Маск решил, что одного Техаса мало. А вот Meta*, судя по всему, готовится к разборкам в суде по делу о привыкании подростков к соцсетям. 29 штатов требуют изменений, и если процесс проиграют, штрафы могут достичь астрономических 1,4 триллиона долларов. Даже для Цукерберга это серьезно.
Мир на грани
Китай, тем временем, обеспокоен тем, что ИИ-компаньоны заменяют людям живые отношения. В Пекине уже вводят правила, ограничивающие эмоциональную зависимость от чат-ботов. А Израиль, по данным журналистов, запустил синтетический аналитический центр для влияния на результаты ИИ-поиска. Каждый воюет как умеет.
Физики, в свою очередь, приближаются к проверке теории струн — предложенное «темное измерение» может быть обнаружено в ближайшие пять лет. А Австралия запретила ИИ-музыку в чартах после того, как кавер на хит Мадонны «Like a Prayer» сгенерированный нейросетью, чуть не возглавил хит-парады. Даже Мадонна теперь борется с роботами.
Пока мир обсуждает, насколько опасен ИИ, кто-то переживает, что синтетические «зеркальные» бактерии уничтожат всё живое на Земле. Ученые, которые в 2019 году предлагали их создать, теперь бьют тревогу. Наука движется, и это пугает.
Билл Гейтс, кажется, нашел свою новую миссию — будить спящих. И пусть его идеи о налогах на роботов звучат утопично, игнорировать его предупреждения — непозволительная роскошь. Когда человек, который 30 лет назад предсказал появление смартфонов, говорит, что мы в опасности, стоит хотя бы прислушаться. А лучше — начать действовать, пока не стало поздно.