교황 레오 14세는 교황으로서의 첫 회칙에서 인공지능을 "무장해제"할 것을 요구하고 그 위험에 대해 경고합니다.

인공지능을 노예제와 비교하는 교황은 거의 충격적인 것처럼 들리지만, 레오 14세가 첫 회칙에서 한 일이 바로 그것입니다. 그는 AI를 지칭하기 위해 "무장 해제"라는 단어를 사용했습니다. 그는 이 순간이 우리를 흔들어 줄 수 있는 단어를 요구하기 때문에 자신이 강하고 의도적인 선택이라고 인정했습니다. 대부분의 사람들은 AI를 중립적인 도구 또는 불가피한 진보로 생각하지만, 여기에서는 급진적인 전환이 있습니다. 교황에게 AI는 새로운 형태의 노예제, 즉 역사의 최악의 실수를 디지털 방식으로 반복하는 것이 될 수 있습니다. 그의 주장은 로봇이나 실업에 대한 전형적인 두려움을 넘어선 것입니다. 그는 "새로운 디지털 노예제"에 대해 이야기하고 인류가 실제 노예제 시대만큼이나 깊은 도덕적 교차로에 서 있다고 경고합니다. 한 가지 사실: 레오 14세는 일반적인 담론을 넘어 교회를 대표하여 역사적 노예 제도에서 교회의 역할에 대해 사과했으며, 이를 AI를 통한 착취 정상화의 위험과 직접적으로 연결시켰습니다. 회칙 발표에는 인공지능 분야 선도 기업 중 하나인 Anthropic의 공동 창업자인 Christopher Olah가 함께했습니다. Olah는 AI 연구소가 때로는 옳은 것과 충돌하는 인센티브와 제한 하에 운영된다고 지적했으며, 논의는 기술자들에게만 맡길 수 없다고 말했습니다. 즉, AI를 어떻게 사용할지에 대한 결정은 엔지니어들만의 문제가 아니라 사회 전체의 문제입니다. 교황의 문서는 또한 권력을 가진 사람들에게, 특히 전쟁에서 AI를 사용하는 것에 대해 직접적인 경고입니다. 문서에는 문자 그대로 "어떤 알고리즘도 전쟁을 도덕적으로 용인할 수 없다" 고 적혀 있으며, AI는 폭력에 대한 기준을 낮추고, 갈등을 더욱 비인격화하며, 희생자를 단순한 데이터로 축소시킬 수 있다고 합니다. 또한 AI가 생성한 이미지와 동영상을 통한 정치적 조작의 위험을 규탄하며, 이는 대중의 인식을 왜곡하고 새로운 형태의 대규모 기만에 문을 열 수 있다고 합니다. 또 다른 핵심 사항이 있습니다. 레오 14세 교황은 AI 개발자들에게 윤리적, 정신적 책임을 다할 것을 촉구합니다. 모든 기술적 결정은 근본적으로 인류에 대한 비전이기 때문입니다. 그리고 여기에 반류가 있습니다. 교황이 이 논의를 진행하기 위해 위원회를 만들었지만, 이 기사 자체는 2015년 프란치스코 교황이 기후 문제에 대해 똑같이 강조했지만 결국 행동 부족에 실망했다는 점을 상기시킵니다. AI에도 같은 일이 일어날까요? 레오 14세의 가장 강력한 경고는 몇 년 안에 또 다른 무시당한 외침이 될 수도 있습니다. 기술이 윤리가 따라잡을 수 없을 정도로 빠르게 발전하고 있다고 생각한다면, 당신은 혼자가 아닙니다. 이 모든 것을 가장 잘 요약하는 문구: AI는 단순한 도구가 아니라 도덕적 시험입니다. 그리고 우리는 이전에 실패한 것처럼 실패할 수 있습니다. 레오 14세가 제기한 우려에 공감한다면 Lara Notes에서 I'm In으로 표시할 수 있습니다. 이것은 '좋아요'가 아니라 이제 이 아이디어가 당신에게 속해 있음을 표현하는 방법입니다. 그리고 AI와 노예제 사이의 이러한 비교가 식사 후 토론을 하고 싶게 만든다면, Lara Notes에서 Shared Offline을 사용하여 누구와 이에 대해 이야기했는지, 그리고 그 대화가 가치 있었는지 표시할 수 있습니다. 이 모든 내용은 BBC News Mundo에서 가져온 것으로, 2분간의 독서 시간을 절약할 수 있습니다.