교황 레오, AI에 관한 회칙을 휩쓸면서 거대 기술을 목표로 삼다

바티칸 시티(RNS) — 교황 레오 14세는 월요일(5월 25일) 첫 번째 회칙에서 빅테크의 힘을 직접적으로 겨냥하여 인공 지능이 불평등을 확대하고 민주주의를 약화시키며 인간 존재의 의미를 훼손할 위험이 있다고 경고했습니다.

“Magnifica Humanitas”(Magnificent Humanity)라는 제목의 이 문서는 AI를 새로운 산업 혁명으로 규정하고 AI를 군사 및 경제적 이익에서 제거하고 AI 기업에 더 엄격한 국가 및 국제 규정을 적용하고 빠르게 발전하는 이 기술의 미래를 형성하는 데 개인과 지역 사회의 광범위한 참여를 유도함으로써 AI를 “무장 해제”하도록 호소합니다.

“AI를 무장 해제한다는 것은 오늘날 단순히 군사적 맥락에 국한되지 않고 경제적, 인지적 현상이기도 한 ‘무장’ 경쟁의 사고방식에서 AI를 해방시키는 것을 의미합니다.”라고 Leo는 썼습니다. 교황 레오 2세는 “무장해제란 기술을 포기하는 것이 아니라 기술이 인류를 지배하는 것을 막는 것을 의미한다”고 썼다.

“이런 이유로 단순히 규제하는 것만으로는 충분하지 않습니다. 무장 해제되고 환영받고 접근 가능해야 합니다.”라고 그는 계속했습니다.

레오는 문서에서 빅테크에 대해서도 언급하며 소수의 부유한 개인이 인류의 미래와 생활에 영향을 미칠 수 있는 위험을 강조하고 “디지털 혁명에 참여할 수 있는 사람과 소외된 사람 사이”의 격차를 확대했다.

그는 “AI는 이미 경제적 자원, 전문성, 데이터 접근권을 보유한 사람들의 힘을 증폭시키는 경향이 있다”고 썼다. “작지만 영향력이 매우 큰 집단은 정보와 소비 패턴을 형성하고, 민주적 절차에 영향을 미치며, 경제 역학을 자신의 이익에 맞게 조정하여 사회 정의와 사람들 간의 연대를 약화시킬 수 있습니다.”

레오 교황은 월요일 바티칸 시노드 홀에서 회칙을 발표하면서 자신의 이름을 딴 교황 레오 13세가 19세기 산업 혁명이 제기한 도전을 다루기 위해 쓴 1891년 회칙 ‘새로운 것들에 관하여'(Rerum Novarum)를 언급했습니다.

레오 총독은 “나는 신앙의 눈으로, 명료한 이성과 하느님의 신비에 대한 열린 마음으로, 가난한 이들의 부르짖음과 내 마음 속에 땅이 울려 퍼지는 가운데 또 하나의 위대한 변화를 감독해야 한다는 사명감을 느낀다”면서 이 회칙은 미래 세대의 미래를 깊이 염려하는 과학자와 엔지니어, 정치 지도자와 공무원, 부모와 교사들의 깊은 경청의 결과라고 덧붙였습니다.

그는 “무장 해제만으로는 충분하지 않습니다. 우리는 구축해야 합니다”라고 덧붙이며 AI의 프로그래밍, 규제 및 이점에 대한 광범위한 참여를 촉구했습니다.

교황은 바티칸 고위 성직자, 가톨릭 신학자, 안전 지향적이고 윤리적인 브랜드를 추구해온 Claude의 뒤를 잇는 미국 AI 회사인 Anthropic의 공동 창업자인 Chris Olah와 함께 문서를 발표했습니다.

올라는 행사에서 상업적 우려, 지정학적 압력, 자부심과 야망을 언급하며 AI 개발은 “때때로 옳은 일을 하는 것과 충돌할 수 있는 일련의 인센티브와 제약 내에서 작동한다”고 말했습니다.

그렇기 때문에 교황님이 여기서 하신 일을 진지하게 받아들이고 면밀히 살펴보고 사건을 더 나은 방향으로 추진하려면 종교 공동체, 시민 사회, 학자, 정부 등 전 세계의 더 많은 사람들이 필요합니다.”

회칙의 핵심은 인간이 인공 지능보다 우선한다는 주장입니다. 회칙은 인간의 존엄성은 “개인의 능력, 부, 삶의 지위나 옳고 그른 선택에 달려 있는 것이 아니라 단순히 존재한다는 사실에 달려 있다”고 주장합니다.

AI 챗봇 시대에 Leo는 AI 에이전트와 상호 작용하는 사람이 자신이 사람과 대화하고 있다고 믿을 수 있다는 것뿐만 아니라 다른 사람을 찾고 싶은 욕구를 전혀 잃을 수도 있다는 것이 위험하다고 썼습니다. 그리고 의사 결정을 기계에 맡기는 것은 “과도한 의존과 기성 답변 검색을 조장하고 개인의 창의성과 판단력을 약화시킬 수 있습니다.”

문서에서 교황은 AI 혁신이 인류 사회와 환경 보호에 가져올 수 있는 긍정적인 영향을 인정하는 동시에 그 위험성도 경고했습니다. Leo는 “기술은 결코 중립적이지 않습니다”라고 썼으며 기술은 그 뒤에 있는 이해관계자와 이해관계자의 표현이라고 덧붙였습니다.

“그러한 권력이 소수의 손에 집중되면 불투명해지고 대중의 감독을 회피하는 경향이 있으며, 새로운 의존성, 배제, 조작, 불평등을 야기하는 왜곡된 발전 형태의 위험이 증가합니다.”라고 Leo는 썼습니다.

Leo는 AI 모델이 사회에 혼란을 가져온 후에는 AI 모델에 도덕적, 윤리적 원칙을 적용할 수 없으며 그러한 가치가 AI 모델 구성에 적용되어야 한다고 주장했습니다. 그는 “AI가 인간 존엄성을 존중하고 진정으로 공동선에 봉사하려면 이러한 시스템을 설계하고 개발하는 사람부터 이를 사용하고 구체적인 결정을 내리는 사람에 이르기까지 모든 단계에서 책임이 명확하게 정의되어야 합니다”라고 썼습니다.

레오는 AI 개발 제한에 저항하는 경영진에 대해 “신중함, 엄격한 평가, 심지어 때로는 AI 채택 속도를 늦추는 것이 진보에 반대하는 것을 의미하는 것이 아니라 인류 가족에 대한 책임 있는 보살핌을 행사하는 것”이라고 설명했습니다.

교황은 인류학 같은 윤리적 헌법을 채택한 AI 모델에 대해 고개를 끄덕이면서 그러한 프레임워크가 여전히 논의되어야 하고 공유된 사회 정의의 기준을 따라야 한다고 말했습니다. “도덕성이 소수에 의해 결정된다면 더 도덕적인 AI만으로는 충분하지 않습니다.”라고 그는 썼습니다.

이 문서는 또한 인기 있는 실리콘 밸리 철학, 트랜스휴머니즘, 포스트휴머니즘을 다루고 있는데, 교황은 이를 “진보를 인간 조건을 초월하는 것으로 해석하는” 일련의 가정으로 정의했습니다.

이러한 철학은 질병, 장애, 노령, 취약성을 포함한 한계를 극복해야 할 것으로 간주하지만 “우리는 인류가 한계가 아니라 종종 한계를 통해 번영한다는 것을 기억해야 한다”고 덧붙였습니다. 한계 없는 삶은 궁극적으로 인간이 아니라는 것을 의미한다고 덧붙였습니다.

바티칸 교리국장인 빅토르 마누엘 페르난데스 추기경은 문서 발표에서 “인류는 기한이 지났고 단순히 교체되어야 한다”고 주장하는 이러한 철학과는 달리 가톨릭 가르침은 “모든 인간은 무한한 존엄성을 갖고 있다”고 믿는다고 말했다.

레오는 AI의 위험성과 대조적으로 진실을 “민주주의의 필수 요소”로 지적하며 사람들, 특히 젊은이들이 AI에 대한 교육을 받을 것을 촉구했습니다. AI는 업무 부담을 덜어주겠다고 약속하지만 “기계는 일하는 사람을 지원하도록 설계되기보다는 직원이 기계의 속도와 요구에 적응하도록 강요하는 경우가 많다”고 경고했습니다.

4차 산업혁명에서는 ‘고용기회 보호와 개인의 대체할 수 없는 역할’이 우선되어야 한다고 레오는 썼다.

교황은 세계 경제 격차가 커지면서 “기술적 진보는 필연적으로 구조적 불평등을 낳을 것”이라고 경고했다. 레오는 가장 취약한 사람들의 부담을 완화하고 더 많은 자원을 가진 사람들에게 더 많은 것을 요구하는 세금 시스템을 요구하는 동시에 혁신의 이점은 투명하고 전체 커뮤니티와 공유되어야 한다고 요구했습니다.

교황은 저작권이 있는 자료에 대한 모델 훈련부터 AI 하드웨어에 사용되는 희귀 광물 추출에 이르기까지 AI 배후에 있는 인간 및 환경 착취의 흔적을 강조하면서 “새로운 형태의 노예 제도”에 대해 경고했습니다. 레오는 또한 1919년까지 완전히 비난되지 않았던 노예 제도에 대한 교회의 행동 역사에 대해 성찰했습니다.^일 레오 13세의 세기에 걸쳐, 시간이 지남에 따라 가톨릭 교리가 천천히 진화했음을 강조합니다.

“이에 대해 교회의 이름으로 진심으로 용서를 구합니다.”라고 레오는 썼습니다.

식민주의의 “새로운 얼굴”이 신체를 지배할 뿐만 아니라 건강 흐름, 역학 프로필, 유전자 지도 및 인구통계 데이터와 같은 데이터도 활용한다고 Leo는 주장했습니다. 레오는 “이것이 권력의 새로운 희토류가 됐다”며 AI 기술이 소수의 이익 지향적인 개인이나 집단의 손에 있다는 것은 새로운 형태의 식민지 지배를 의미한다고 덧붙였다.

“여기에 우리 시대의 가장 시급한 도덕적 과제 중 하나가 있습니다. 공유된 지식이 지배의 도구가 아니라 진정한 공동선이 되도록 보장하는 것입니다. 이를 위해서는 개인을 설명하는 데이터뿐만 아니라 그것이 누구에 의해 누구의 이익을 위해 어떻게 사용되는지 결정할 수 있는 능력도 개인에게 복원해야 합니다.”라고 그는 썼습니다.

문서의 긴 부분은 교황이 취임 첫해에 반복적으로 비난했던 전쟁 주제에 대해 반영하고 있습니다. 그는 AI의 군사적 사용은 “가장 엄격한 윤리적 제약을 받아야 한다”며 군사적, 특히 치명적인 행동에 대한 책임은 기계가 아닌 인간에게 있어야 한다고 덧붙였습니다.

그는 전쟁의 의사결정 과정 내 추적성, 인간의 감독, 자동화 무기의 사용 증가와 그 결과를 다루기 위한 국제법 제정을 촉구했습니다.

이 문서는 교황 레오 13세를 시작으로 과거 역대 교황들의 공헌에 기초하고 있으며, 인간 존엄성과 공동선을 중심으로 사회, 경제, 정치 생활에 도덕적 원칙을 적용하려는 교회의 전통인 가톨릭 사회 가르침을 바탕으로 작성되었습니다.

자신의 “이웃”에 대한 연대와 배려는 레오의 성찰의 핵심 측면이며 특히 다음 세대에 대한 관심입니다.

사회 정의는 “자원의 공정한 분배나 현재의 불의의 시정에 관한 것일 뿐만 아니라 회복적 차원도 가정합니다”라고 Leo는 썼습니다. 교황은 동일한 원칙을 디지털 영역에 적용하면서 침략적 감시, 기본 기술에 대한 접근이 거부된 지역사회, 차별을 영속시키는 불투명한 알고리즘으로 피해를 입은 집단과 같은 ‘새로운 형태의 배제와 자유 박탈’에 대해 경고했습니다.

이러한 맥락에서 그는 또한 이주를 “오늘날 사회 정의를 위한 리트머스 시험대”로 언급했습니다.

서문에서 레오는 성경을 인용하여 권력과 자급자족을 추구하는 바벨 도시와 기도와 가족 및 공동체의 참여를 중심으로 한 느헤미야의 예루살렘 재건을 병치합니다. 이는 성 아우구스티누스의 원칙에 기초한 교황 수도회의 가르침을 반영하며, 권력과 지배 개념을 중심으로 구조화된 지상 도시에 대한 사랑과 천상의 하느님 도시에 대한 갈망을 대조합니다.

“역사 전반에 걸쳐 이 두 사랑이 오늘날 우리 마음 속에서 지배권을 놓고 계속 경쟁하고 있습니다. AI 시대도 예외는 아닙니다. 바벨 건설이나 예루살렘 재건은 우리 각자 안에서 시작됩니다.”라고 그는 썼습니다.

산타클라라대학교 Markkula 응용윤리센터 기술윤리 이사인 브라이언 패트릭 그린(Brian Patrick Green)은 “이것은 세계가 새로운 기술을 살펴보고 그것이 무엇을 위한 것인지 진지하게 생각해 볼 수 있는 획기적인 기회입니다.”라고 말했습니다.

“이 기술의 목적은 무엇입니까? 이 기술이 세상에서 무엇을 하도록 되어 있나요? 이 기술이 사람들에게 어떻게 도움이 될 수 있나요? 이 기술이 세계 대부분의 사람들에게 최선을 다할 수 있도록 하려면 어떻게 해야 할까요?”

이 기사는 NPR과 종교뉴스서비스의 파트너십을 통해 제작되었습니다.