레오 14세, AI로 인해 유엔에 더 많은 권한을 부여할 것을 촉구하다
마그니피카 후마니타스의 핵심 모순은 중앙 집중화된 기술 권력과 "바벨과 같은" 글로벌 시스템을 비난하는 동시에 전 세계 AI를 규제할 초국가적 통치 구조를 요구한다는 점입니다.
회칙에서 '바벨'은 중앙집권적 권력, 획일성, 인간의 자급자족에 기반한 문명을 상징하는 단어입니다.
§5항은 민간, 종종 초국적 행위자들이 "많은 정부보다 뛰어난 자원과 능력"을 보유하고 있어 "모든 인류를 지배할 수 있는 막강한 힘"을 가지고 있다고 경고합니다.
그러나 이에 대한 해결책으로 제안된 것은 보다 강력한 국제적 공조와 AI에 대한 글로벌 거버넌스입니다.
이 회칙은 "국제 질서"(§33), "보편적 형제애"(§44), 전 세계적으로 공유되는 도덕적 원칙을 통해 AI를 관리할 것을 촉구합니다.
§64항은 "보다 효과적인 형태의 협력과 세계 공동선을 보호할 수 있는 국제기구"를 촉구합니다.
§72조는 전 세계적으로 데이터 관리, 디지털 환경, 알고리즘 의사결정에 대한 공정한 규칙을 보장할 수 있는 초국가적 기관을 요구합니다.
무엇보다도 §226은 글로벌 디지털 시스템, 보편적인 AI 표준 및 초국가적 집행 메커니즘에 대한 권한을 가진 강화된 유엔을 효과적으로 요구합니다.
모순은 명백합니다. 이 회칙은 기술 권한의 집중과 디지털 과두체제를 우려하면서도, 누가 통치하는지에 대해서는 진지하게 다루지 않고 글로벌 규제와 다자 거버넌스를 반복적으로 요구하고 있습니다.
회칙의 다른 모순들
- 인공지능은 중립적이다 - 인공지능은 중립적이지 않다
§9항은 인공지능에 대해 "추상적으로 생각하면 인공지능은 그 자체로 인류의 문제에 대한 해결책도 아니고 악도 아니다"라고 말합니다.
그러나 §104는 다음과 같이 말합니다: "우리는 AI를 도덕적으로 중립적이라고 간주할 수 없습니다."
- 교회는 진리를 소유하지 않지만 다음과 같이 자세히 규정하고 있습니다.
§25조는 교회가 진리를 독점하고 있다고 주장하지 않는다고 명시하고 있습니다. 그러나 그 뒤에는 수십 가지의 구체적인 정책 처방과 도덕적 판단이 뒤따릅니다. 한 가지 예로 "필요한 것은 상황을 늦출 수 있는 보다 적극적인 정치적 개입"이라는 §107이 있습니다.
- 정의로운 전쟁은 극복되었지만 정의로운 전쟁의 기준은 남아 있습니다.
§192조는 "모든 종류의 전쟁을 정당화하기 위해 너무 자주 호출되어 온 '정당한 전쟁' 이론의 극복"을 요구합니다.
그러나 §199는 AI 전쟁에서 비례성, 민간인 보호, 책임성, 전투원과 비전투원의 구분과 같은 고전적인 정의로운 전쟁 원칙을 유지합니다.
AI 번역