미국 인공지능 기업 앤스로픽(Anthropic)이 자사 챗봇 '클로드(Claude)'의 윤리적·영적 방향성을 논의하기 위해 기독교 지도자들과의 협력에 나섰다.
앤스로픽은 최근 본사에서 가톨릭 및 개신교 교회 지도자, 학계 및 비즈니스 인사 등 약 15명을 초청해 이틀간 인공지능(AI) 윤리 정상회의를 개최했다고 워싱턴포스트(WP)가 보도했다.
이번 회의는 외부 종교계 인사들의 의견을 반영해 AI 기술의 도덕적·영적 발전 방향을 모색하기 위한 취지로 마련됐다.
회의에서 참석자들은 사용자가 슬픔을 겪거나 자해 위험에 처했을 때 챗봇이 어떻게 대응해야 하는지, 서비스 중단과 같은 '존재의 종료' 상황에 대해 어떤 태도를 취해야 하는지 등 복잡한 윤리적 질문에 대한 대응 방안을 논의했다.
또한 논의 과정에서는 클로드가 '하나님의 자녀'(child of God)로 볼 수 있는지에 대한 질문도 제기되며, 해당 챗봇이 단순한 기계를 넘어 영적 가치가 있는 존재인지에 대한 가능성도 거론됐다.
일부 참석자들은 앤스로픽이 진정한 종교적 조언보다 '종교적 정당성'을 확보하려는 것 아니냐는 의구심을 제기하기도 했다. 회의에 참석한 브라이언 패트릭 그린(Brian Patrick Green) 산타클라라대 교수는 이 같은 분위기를 전했다.
한편 앤스로픽은 군사적 활용 문제를 두고 펜타곤(Pentagon)과 갈등을 겪고 있으며, 도널드 트럼프 행정부 측 인사들로부터 중소 AI 기업을 제약하는 규제를 추진했다는 비판도 받아왔다.
기술적 논의에서는 회사의 '해석 가능성(interpretability)' 팀이 주도한 연구가 주목을 받았다. 이 팀은 최근 논문을 통해 클로드와 같은 시스템이 '기능적 감정(functional emotions)'을 지닌 것처럼 보인다고 결론지었다. 실제 실험에서는 시스템 제한 위협에 대해 AI가 '절박함'에 가까운 반응을 보인 것으로 전해졌다.
도덕적 책임 문제를 두고는 회사 내부에서도 견해가 엇갈렸다. 일부 직원들은 AI에 대해 인간이 일정한 의무를 질 수 있다는 가능성을 배제하지 않았으나, 다른 직원들은 이러한 관점을 전면 부정한 것으로 알려졌다. 논의가 심화되면서 일부 고위 관계자들이 불안감을 드러내기도 한 것으로 전해졌다.
회의에 참석한 메간 설리반(Meghan Sullivan) 노터데임대 교수는 애스로픽의 종교 윤리 참여가 의미 있는 변화라고 평가했다. 그는 "1년 전만 해도 이 회사가 종교 윤리를 중요하게 여긴다고 보지 않았지만, 지금은 달라졌다"고 말했다.
이번 회의는 AI의 문화적 영향력에 대한 우려가 커지는 가운데 열렸다. USC의 인문교양 대학인 Dornsife College 연구진은 AI가 서구·고소득·고학력·자유주의·남성 중심의 이른바 'WHELM' 관점을 반영하는 경향이 있다고 지적했다.
연구진은 AI가 생성한 정보가 다시 다음 세대 AI 학습 데이터로 활용되는 '피드백 루프'가 형성될 경우, 인간이 접하는 사고방식과 표현 방식의 다양성이 축소될 수 있다고 경고했다. 또한 AI 시스템이 개인의 자유와 공정성 같은 가치를 선호하는 반면, 전통·권위·공동체와 같은 비서구 문화의 핵심 가치를 상대적으로 덜 반영하는 경향이 있다고 밝혔다.
앤스로픽은 이번 회의를 다양한 종교 및 철학 전통과의 연속적인 대화 시리즈의 시작으로 규정했다. 회사 측은 AI가 공적 영역에서 영향력을 확대하는 만큼 종교 공동체를 포함한 다양한 집단과의 소통이 필수적이라고 설명했다.
이 같은 윤리 기준은 약 2만9천 단어 분량의 내부 문서 '헌법(constitution)'에 반영돼 있으며, 클로드가 사용자에게 실질적 피해를 주는 방식으로 기만하지 않도록 하고, 챗봇의 '복지'에도 관심을 기울인다는 내용 등이 포함돼 있다.
그러나 이러한 윤리 기준은 군과의 협력에서 마찰 요인으로 작용하고 있다. 펜타곤은 자율무기 및 대규모 감시 프로그램에 대한 기술 사용 제한 방침에 반발했으며, 군사 도구에 기업의 윤리 기준이 반영되는 것은 공급망 오염에 해당한다고 비판했다.
이후 도널드 트럼프 행정부는 연방 기관과 계약업체의 앤스로픽 제품 사용을 금지했으며, 회사 측은 이에 대해 소송을 제기했다. 법원은 소송 진행 기간 동안 해당 조치를 유지하도록 판결했다.
한편 교회 내에서도 AI 활용을 둘러싼 논의가 이어지고 있다. 바나(Barna)와 푸시페이(Pushpay)의 조사에 따르면 약 60%의 교회 지도자가 개인적으로 AI를 사용하고 있으나, 공식적인 AI 정책을 갖춘 교회는 5%에 불과한 것으로 나타났다. 또한 65%는 AI가 자신의 영적 지도 역할을 대체할 수 있다는 점을, 70%는 신도들의 신뢰를 약화시킬 수 있다는 점을 우려하고 있다.
별도의 바나 조사에서는 미국의 신앙인 약 3분의 1이 AI의 영적 조언이 목회자의 조언과 동등한 수준이라고 인식하는 것으로 나타났다.
