Главы трёх ключевых компаний индустрии разошлись в оценке того, стоит ли замедлять разработку искусственного интеллекта.
Конференция Dreamforce, которую Salesforce ежегодно проводит в Сан-Франциско, в этом году неожиданно превратилась в арену для спора о том, куда движется индустрия искусственного интеллекта. На одну сцену в рамках мероприятия, собравшего от 43 до 50 тысяч человек, вышли глава Nvidia Дженсен Хуан, исполнительный директор Anthropic Дарио Амодеи и руководитель OpenAI Сэм Альтман. Все трое — фигуры первой величины в мире ИИ, и все трое придерживаются разных взглядов на то, как быстро должна развиваться отрасль.
Формально Dreamforce — это конференция Salesforce, где компания традиционно показывает свои продукты и рассказывает о планах. Но в этот раз центральной темой стала не CRM-система и не новые инструменты для продаж, а вопрос, который в последние месяцы раскалывает технологическое сообщество: не пора ли притормозить?
Позиция Anthropic: пора притормозить
Дарио Амодеи вышел на сцену первым — вместе с главой Salesforce Марком Бениоффом во время его вступительной презентации. Его появление было неслучайным: за несколько дней до конференции Амодеи опубликовал эссе, в котором призвал индустрию замедлить темпы разработки моделей. По его мнению, нынешняя скорость, с которой растут возможности ИИ, опережает инфраструктуру безопасности, и это создаёт риски, которые нельзя игнорировать.
Амодеи предложил трёхступенчатый план, который позволил бы сдержать рост возможностей моделей, не жертвуя при этом коммерческими преимуществами и лидерством США в области ИИ. Выступая перед примерно 12 тысячами зрителей в конференц-центре Moscone, он сформулировал свою мысль просто: «Я думаю, именно так нужно вести индустрию вперёд — подавать пример, показывать, что всегда можно стать лучше». Его предложение быстро поддержали и другие заметные фигуры — среди них основатель SpaceX Илон Маск и председатель совета директоров Google DeepMind Демис Хассабис. А чуть раньше отраслевые исследователи подняли тревогу по поводу потенциального катастрофического вреда от ИИ.
Позиция Nvidia: не надо новых законов
Дженсен Хуан вышел на сцену сразу после Амодеи — и разнёс его аргументы в пух и прах. Глава Nvidia, компании с самой высокой капитализацией в мире, заявил, что рыночные механизмы уже работают, а новые законы и регулирование отрасли не нужны.
«Это ложный выбор, — сказал Хуан Бениоффу, отвечая на тезис о том, что скорость и безопасность несовместимы. — Можно определённо иметь и то, и другое одновременно». По его мнению, ответственность лежит на самих разработчиках моделей. «Бегите так быстро, как можете, — сказал он. — Но если в какой-то момент вы почувствуете, что компания выходит из-под контроля или продукт не будет безопасным, сделайте паузу и убедитесь, что всё сделано правильно».
Позиция Хуана не уникальна для Dreamforce — он придерживается её и на других площадках. В своём выступлении в Университете Карнеги-Меллон он сформулировал это так: «Ответственность нашего поколения — не только развивать ИИ, но развивать его мудро». И добавил: «Учёные и инженеры несут глубокую ответственность за то, чтобы развивать возможности ИИ и безопасность ИИ вместе». На Dreamforce эта философия превратилась в отказ от идеи «паузы и регулирования» — и в настойчивое указание на коммерческие успехи Nvidia как доказательство того, что быстрая разработка и безопасность не исключают друг друга.
Позиция OpenAI: безопасность должна идти первой
Сэм Альтман появился на сцене позже — в формате отдельного разговора с Бениоффом, без прямого столкновения с Хуаном. Его позиция оказалась где-то посередине. Альтман поддержал предложение Амодеи о замедлении, но с оговорками. По его словам, безопасность и мониторинг должны идти впереди возможностей — учитывая ту силу, которой уже обладают существующие модели.
Кстати, партнёрство Salesforce с Anthropic тоже дало о себе знать на конференции. Ранее компании расширили стратегическое сотрудничество и представили «Claudeforce» — новый способ для продавцов получать доступ к критически важным данным прямо из чат-бота Claude. А ещё раньше Salesforce и Nvidia анонсировали новую модель рассуждений для платформы Agentforce, построенную на одной из открытых моделей Nvidia Nemotron. Так что за кулисами спора о безопасности эти три компании продолжают вполне себе коммерчески сотрудничать.
Что сказал Бениофф
Сам Марк Бениофф, принимавший всех троих на своей сцене, выбрал позицию наблюдателя. «Если они чувствуют, что должны замедлиться, — пусть замедляются. Если чувствуют, что должны ускориться, — пусть ускоряются. А потом пусть несут ответственность», — заявил он журналистам. Похоже, глава Salesforce решил не вставать ни на чью сторону в этом споре, предпочитая сохранить хорошие отношения и с Nvidia, и с Anthropic, и с OpenAI.
Dreamforce уже больше десяти лет остаётся одной из главных площадок софтверной индустрии. Каждый год Бениофф приглашает на сцену людей, которые находятся в центре технологической повестки. В этом году такими людьми оказались три руководителя, которые не смогли договориться о том, куда должен двигаться ИИ. И это, пожалуй, лучше всего описывает текущий момент в отрасли.