Лев XIII также осудил использование ИИ в войне, заявив, что ослабление человеческого контроля над вооружением еще больше затрудняет признание войны "справедливой", и предостерег от начала гонки вооружений в области ИИ. Лев, назвавший ИИ самой большой проблемой, стоящей перед человечеством сегодня, заявил в документе, что "недопустимо" доверять необратимые, смертельные решения системам ИИ.
В Magnifica Humanitas, в разделе под названием "Мы все можем внести свой вклад", Папа Лев проводит параллель с Гэндальфом, чтобы подчеркнуть свою точку зрения:
"Католический автор двадцатого века Дж.Р.Р. Толкин, словами одного из главных героев своего романа, описал нашу ответственность следующим образом: "Не наше дело управлять всеми приливами мира, но делать то, что в наших силах, для помощи тем годам, в которые мы живем, искореняя зло на полях, которые мы знаем, чтобы те, кто будет жить после нас, могли возделывать чистую землю".
Эта цитата взята из "Властелина колец: Возвращение короля", где знаменитый волшебник обращается к собранию лордов союзников у ворот Минас Тирита. К этому моменту Денетор и Теоден мертвы, а Фарамир выздоравливает после ранений в Домах исцеления. Среди слушающих - Арагорн. Вот полная цитата:
"Другие беды могут прийти; ибо сам Саурон - всего лишь слуга или посланник. Но не наше дело повелевать всеми приливами мира, а делать то, что в наших силах, для помощи тем годам, в которые мы поставлены, искореняя зло на полях, которые мы знаем, чтобы те, кто будет жить после нас, могли возделывать чистую землю. Какая погода у них будет, не нам решать".
Вопрос в том, прислушаются ли лидеры технологического мира, настолько одержимые ИИ, что он стал доминировать в западной экономике, к Папе Льву? Среди участников мероприятия в Ватикане, на котором был представлен текст в понедельник, был Крис Ола, соучредитель Anthropic, компании, производящей инструменты ИИ Claude. Так что мы знаем, что по крайней мере один из крупных игроков выслушал то, что сказал Папа.
"Мы не можем удовлетвориться лишь призывами к морализации машин - так называемому "выравниванию" ИИ с человеческими ценностями - без того, чтобы также иметь смелость настаивать на дополнительном условии: возможности открыто обсуждать задействованные этические рамки и подвергать их общим стандартам социальной справедливости", - продолжает Лев в тексте.
"В противном случае те, кто контролирует ИИ, навяжут свое собственное моральное видение, которое станет невидимой инфраструктурой этих систем. Более морального ИИ недостаточно, если эта мораль определяется немногими. Необходима более активная политическая вовлеченность, способная замедлять темпы, когда все ускоряется, и защищать возможности для того, чтобы сообщества все еще могли участвовать и задавать вопросы".
В этом месяце Питер Джексон, легендарный режиссер всеми любимых фильмов "Властелин колец", а также трилогии "Хоббит", отверг опасения по поводу влияния ИИ на кинопроизводство, заявив: "Мне это совсем не противно. Я имею в виду, для меня это просто спецэффект". Его работа над "Властелином колец" продолжается со следующим фильмом, "Охота на Голлума", который выйдет в следующем году.
