Вашингтон предложил Пекину механизм уведомления об опасных инцидентах с искусственным интеллектом, а глава Microsoft AI призвал не откладывать безопасность из-за конкуренции.
Пока мир гадает, кто первым построит сверхразум, США и Китай пытаются договориться о том, как хотя бы вовремя кричать «пожар». Вашингтон предложил Пекину создать экстренный канал связи для случаев с опасными ИИ-инцидентами, а глава Microsoft AI Мустафа Сулейман напомнил, что безопасность нельзя откладывать на потом. Разбираем, что стоит за этими переговорами и почему они важнее, чем кажется.
США предложили Китаю экстренный канал связи по ИИ-инцидентам
Пока законодатели по всему миру чешут затылки, пытаясь придумать правила для искусственного интеллекта, США (United States) и Китай решили действовать проще: договориться хотя бы о том, чтобы вовремя кричать «Караул!». Вашингтон предложил Пекину создать механизм уведомления об инцидентах с ИИ, которые могут угрожать национальной безопасности. Идею озвучил министр финансов США Скотт Бессент на переговорах с вице-премьером Китая Хэ Лифэном в Нью-Йорке 20 сентября.
Суть предложения — прямой канал связи и обмен информацией. Стороны хотят заранее определить перечень опасных сценариев и выработать протоколы действий. Среди обсуждаемых случаев — неконтролируемые ИИ-агенты, использование систем негосударственными участниками и кибератаки. Переговоры длились примерно восемь часов. Видимо, обсуждали долго, но продуктивно.
Встреча прошла перед саммитом президента США Дональда Трампа и председателя КНР Си Цзиньпина в Вашингтоне. Торговый представитель США Джеймисон Грир тоже не сидел без дела — в воскресенье он встретился с китайскими коллегами. Но вот что интересно: контроль за экспортом ИИ-чипов и оборудования для производства полупроводников в эти переговоры не входил. То есть о самом больном пока молчат.
Пока только разговоры
Предложенный механизм пока не создаёт новых требований для американских компаний, разработчиков или пользователей. Нет публичных правил, обязывающих сообщать об инцидентах, менять доступ к моделям, практики работы с данными или использовать правительственный канал. Всё пока на уровне идеи.
А идея появилась на фоне опасений, что серьёзный инцидент с автономной системой может потребовать от государств быстрой связи. Особенно если ИИ окажется связан с кибератаками или критической инфраструктурой. Сейчас между Вашингтоном и Пекином нет согласованного протокола для таких случаев. Предложенный «инцидентный канал» пока остаётся предметом переговоров, а не действующим международным механизмом.
Вашингтон хочет создать прямой канал для случаев с неконтролируемыми ИИ-агентами, атаками и угрозами национальной безопасности. Звучит разумно, но пока это лишь намерение. Посмотрим, чем закончится следующая встреча в Шэньчжэне.
Реакция Пекина и следующие шаги: Шэньчжэнь через два месяца
Китай пока хранит молчание по поводу американского предложения. Официального «да» или «нет» из Пекина не поступало. Китайское агентство «Синьхуа» назвало переговоры откровенными и конструктивными, но в своём сообщении упомянуло ИИ лишь в общем списке экономических и торговых вопросов. Конкретный механизм уведомлений там даже не описан. Такая дипломатическая туманность — классика жанра.
Тем не менее стороны договорились продолжить официальный диалог по безопасности искусственного интеллекта. Следующая встреча намечена через два месяца в Шэньчжэне. Точная дата и формат пока не определены. Похоже, бюрократическая машина завертелась, но не спешит.
Параллельно США и Китай рассматривают «механизм уведомления» для мониторинга инцидентов национальной безопасности, связанных с ИИ. На саммите в Вашингтоне планируют обсудить «большую прозрачность» в этой сфере. А на фоне всех этих переговоров Дональд Трамп предложил создать «AI Force». Видимо, чтобы было кому отвечать на звонки. Ведь США хотят получить «красный телефон» эпохи ИИ для связи с Китаем. Прямая линия для коммуникации по безопасности ИИ — звучит как сюжет голливудского блокбастера, но пока это лишь намерения.
Мустафа Сулейман: безопасность ИИ нельзя откладывать из-за конкуренции с Китаем
Пока политики двух стран обмениваются дипломатическими любезностями, глава подразделения Microsoft AI Мустафа Сулейман решил напомнить: безопасность не должна становиться заложником геополитического соперничества. В интервью CNN, вышедшем 20 сентября, он заявил, что конкуренция с Китаем не должна становиться причиной для отсрочки мер безопасности в области искусственного интеллекта. Иными словами, гонка вооружений — это не повод отключать тормоза.
Сулейман призвал Соединённые Штаты Америки самостоятельно развивать механизмы контроля за всё более мощными ИИ-системами. При этом он не предлагает полностью изолироваться: сотрудничество с Китаем там, где интересы стран совпадают, по его мнению, сохранять необходимо. Позиция не самая популярная в нынешнем Вашингтоне, но здравого смысла в ней больше, чем в лозунгах про «технологический суверенитет».
Человек должен мочь нажать на стоп-кран
Отдельно Сулейман высказался за системы, в которых человек сохраняет возможность наблюдать за работой ИИ, прерывать её и проверять принятые решения. Он также поддержал независимую оценку моделей и международные соглашения по безопасности. Речь идёт именно о его публичной позиции: интервью не объявляет новую политику Microsoft и не содержит законодательного предложения. Так что это скорее призыв к дискуссии, чем корпоративный указ.
Самое интересное начинается, когда Сулейман говорит о том, как должна работать независимая проверка. По его словам, внешним оценщикам потребуется достаточный доступ к системам, чтобы проверять их поведение, механизмы ограничения и внутренние средства контроля. На практике это означает необходимость заранее определять, кто может проводить такие проверки, какую информацию получает оценщик и каким образом компания должна реагировать на обнаруженные проблемы. Проще говоря, нужно договориться о правилах игры до того, как что-то рванёт.
Позиция Сулеймана появляется на фоне дискуссии в США о том, могут ли более жёсткие требования к безопасности ИИ замедлить развитие отрасли по сравнению с Китаем. Он предлагает не связывать эти вопросы напрямую: технические механизмы остановки систем, защищённые журналы аудита и независимая проверка могут развиваться независимо от того, насколько быстро страны договорятся о международных правилах. Логика простая — безопасность не ждёт, пока дипломаты жмут руки.
Пока дипломаты спорят о протоколах и каналах связи, технологии продолжают развиваться с пугающей скоростью. Договорятся ли США и Китай о единых правилах безопасности ИИ или каждая сторона будет играть по своим правилам — вопрос открытый. В любом случае, следить за этим процессом будет не менее увлекательно, чем за очередным технологическим прорывом. Будем держать руку на пульсе и рассказывать о главном.