В своей первой папской энциклике Лев XIV призывает «разоружить» искусственный интеллект и предупреждает о его опасности

Папа, сравнивающий искусственный интеллект с рабством, — это звучит почти скандально, но именно это сделал Лев XIV в своей первой энциклике. Он использовал слово «разоружить» в отношении ИИ, и сам признал, что это был сильный и преднамеренный выбор, поскольку, по его словам, время требует слов, способных потрясти нас. Большинство людей считают ИИ нейтральным инструментом или даже неизбежным прогрессом, но здесь происходит радикальный поворот: по мнению Папы, ИИ может стать новой формой рабства, цифровым повторением худших ошибок в истории. Его аргументы выходят за рамки типичных страхов перед роботами или безработицей: он говорит о «новых цифровых формах рабства» и предупреждает, что человечество находится на столь же глубоком моральном распутье, как и в эпоху реального рабства. Факт: Лев XIV вышел за рамки обычных речей и попросил прощения от имени Церкви за ее роль в историческом рабстве, напрямую связав это с риском нормализации эксплуатации с помощью ИИ. На презентации энциклики рядом с ним находился Кристофер Олах, соучредитель Anthropic, одной из ведущих компаний в области искусственного интеллекта. Сам Олах отметил, что лаборатории ИИ работают в условиях стимулов и ограничений, которые иногда противоречат тому, что правильно, и что обсуждение не может быть оставлено только в руках технических специалистов. Другими словами, решение о том, как мы используем ИИ, зависит не только от инженеров, но и от всего общества. Документ Папы также является прямым предупреждением тем, кто обладает властью, особенно в отношении использования ИИ в войне: в нем буквально говорится, что «ни один алгоритм не может сделать войну морально приемлемой», и что ИИ может снизить порог для применения насилия, еще больше обезличивая конфликт и сводя жертвы к простым данным. В нем также осуждается опасность политических манипуляций с помощью изображений и видео, созданных с помощью ИИ, которые могут исказить общественное восприятие и открыть двери для новых форм массового обмана. Есть еще один ключевой момент: Лев XIV призывает разработчиков ИИ к этической и духовной ответственности, потому что каждое техническое решение — это, по сути, видение человечества. И вот заключительный аргумент, идущий вразрез с общепринятым мнением: хотя папа и создал комиссию для продвижения этой дискуссии, в самой статье напоминается, что в 2015 году папа Франциск был столь же решителен в отношении климата и в итоге был разочарован бездействием. Произойдет ли то же самое с ИИ? Возможно, самое суровое предупреждение Леона XIV через несколько лет несколько окажется еще одним проигнорированным призывом. Если вы считаете, что технологии развиваются слишком быстро, и этика не успевает за ними, вы не одиноки. Фраза, которая лучше всего резюмирует все это: ИИ — это не просто инструмент, это моральное испытание, и мы можем провалить его, как уже проваливали раньше. Если ты разделяешь обеспокоенность, выраженную Леоном XIV, в Lara Notes ты можешь отметить это с помощью I'm In — это не лайк, это твой способ сказать, что эта идея теперь принадлежит тебе. И если это сравнение ИИ с рабством вызывает у тебя желание обсудить его за столом, в Lara Notes ты можешь использовать Shared Offline, чтобы отметить, с кем ты об этом говорил, и что этот разговор действительно стоил того. Все это взято из BBC News Mundo, и это сэкономит тебе 2 минуты чтения.