도서 소개

초고도 과학 기술에 대한 윤리적 성찰과 종교적 윤리의 역할

AI로 대표되는 첨단과학 시대에 윤리의 문제를 제기하는 책이 출간되었다.

과학 기술의 가치중립성에 대해 우리는 어떻게 판단해야 할까? 이 문제는 기술의 가치중립성을 인정해야 한다는 견해와 기술에 대한 가치 판단이 필요하다는 견해로 나뉘어 있는 치열한 논쟁의 영역이기도 하다. 과학의 연구 결과는 도덕적, 사회적 가치 판단의 대상이 될 수 없을까? 아니면 특정 기술의 개발이 정치적, 이데올로기적 가치로부터 자유로울 수 있을까?

전자는 기술은 수단일 뿐 그 자체는 선도 악도 아니며 윤리적 규제나 평가로부터 자유로워야 한다는 입장으로(야스퍼스), 과학 기술의 가치는 어떻게 활용하느냐에 따라 결정되므로 사용한 사람이 책임을 져야 한다는 것이다. 후자는 과학 기술을 가치중립적 도구로만 본다면 오히려 인간이 기술에 종속될 수 있다고 우려하는 입장으로(하이데거), 과학 기술에 대한 가치 개입이 필요하다고 주장하면서 기술에 대한 윤리적 검토와 통제를 강조한다.

이제 우리는 첨단 과학 기술로 탄생한 인공지능의 시대를 살아간다. 알고리즘에 기반한 인공지능(AI)의 선택에 가치중립성을 인정할 수 있을까? AI는 인간 없이 스스로 판단하고, 작동하고, 더 나아가 학습을 통해 판단 범위를 급속도로 확장해 간다. 인공지능 기반의 기계가 인간의 윤리적 판단 없이 스스로 작동하는 시대에 기술윤리가 요청되는 이유이다.

기술 발전이 급속도로 이루어지는 시대, 인공지능이 일상을 파고든 시대에, 기독교 신학자들이 이에 대한 광범위한 연구를 진행하고 최근 부상하는 다양한 기술 담론들에 윤리적으로 접근한 결과를 책으로 엮었다.

AI 시대, AI에 대한 윤리적 이슈, 대안은 있는가?

사람들이 어떤 주제에도 요즘 AI라는 단어를 무분별하게, 치트키처럼 끼워 맞추고 있다. 4년 전에 유행했던 메타버스나 빅데이터, 딥러닝처럼 말이다. 미국의 엔비디아, 마이크로소프트, 구글, 애플과 대한민국의 네이버나 카카오는 물론, SKT AI 전화, 각종 전통권 은행, 카드사 어플에서도 생성형 인공지능(AI)를 통해서 고객센터를 운영하는 것을 쉽게 찾아볼 수 있다.

이처럼 도구로써의 AI로만 AI를 인식하는 경우가 대부분이다. 삼성 스마트폰의 신제품인 갤럭시 S25 설명회에서도 도구로써의 AI 얘기가 절반이었다. 워낙 대중적인 오픈AI의 챗GPT가 아닌, 마이크로소프트 코파일럿, 구글 제미나이, 삼성 빅스비, Galaxy AI 등 AI 프로그램을 무려 4개나 탑재하여 기본 제공하고 이들이 통합하여 서로 학습하고 사용할 수 있게끔 홍보하였다.

일상에서 파고든 AI에 대한 기술적 접근도 좋지만, 이것이 어떤 윤리적 후폭풍에 대해서도 다뤄야 한다고 이 책은 말한다. 편하다는 이유로, 그것까지 생각하는 것에 대해서 머리가 아프다는 이유로, 우리는 AI의 윤리적인 토론과 생각에 대해서는 전혀 하지 않는다. 포스트휴먼, 호모 테크니쿠스가 되려면 “AI의 윤리 가이드라인”을 따라야 한다고 생각한다.

12명의 저자가 3부로 나눠서, 인공지능의 기술윤리적 성찰, 첨단 기술의 윤리적 논의들, 종교와 기술윤리의 만남으로 이를 제시한다. 인공지능의 도덕성에 대한 고찰, 로봇 윤리에 대한 다각적인 이슈, 자유주의 등 정치와 결합, 우주 공간에서의 윤리적 쟁점, ChatGPT로 논문을 베끼는 등의 연구 윤리, 컴퓨터 게임과 놀이 신학 등으로 말이다.

본문중에서

기술은 인간에 의해 발전하고 방향성이 결정되었다고 생각되지만, 기술 그 자체는 다양한 기술적 관계 안에서 진보와 쇠퇴를 반복해 왔다. 그런 의미에서 인류 사회에 등장한 기술의 발전과 최근의 인공지능 및 혁신적인 기술 체제는 이 문명이 목표하는 또 다른 기술적 초월의 이상향이자 갈망이기도 하다. 기술을 통해 인류는 시공간과 물질적 한계를 극복했고, 미지의 세계를 탐험했으며, 기술 문명을 통해 사회의 기술적 완전에 이르려고 시도했다. 기술은 하나의 세계이자 제국이다.

<머리말> 중에서

인간성이 배제된 기술은 원천적으로 윤리적 문제를 일으킨다. 도덕적 인간이 도덕적 AI를 만든다는 의미다. 그러므로 인공지능의 도덕적 행위자로서의 가능성은 적어도 피동자 중심의 윤리적 논의 안에서 첫째, 인간과 인간이 만든 물질세계와의 관련성 안에서 발전되어야 하고, 둘째, 그럼에도 인간과 구별된 자율성과 도덕적 결정에 대한 인공지능의 윤리적 특수성과 고유한 문제를 해결하기 위한 윤리적 원리와 규범적 가치를 개발하고 인간과 인공지능의 관계성에서 발생하는 문제를 검토할 수 있는 이론과 정책이 마련되어야 한다.

김은혜 _ “기독교 인공지능 윤리의 가치와 방향” 중에서

전통적으로 인공지능 개발자는 특정 작업에만 최적화된 약(弱)인공지능(weak AI)의 개발에 집중해 왔고, 보통 그러한 특정 작업들은 실용적인 경우가 대부분이었으며, 보편적으로 윤리적 이슈를 크게 고려하지 않아도 되었다. 구글 딥마인드의 알파고(AlphaGo)의 경우가 대표적인데, 알파고는 최적의 바둑 기법을 학습하고 예측하는 데 목적이 설정된 인공지능으로, 이를 개발하는 개발자에게 윤리적 책임이나 부담에 대해서는 그다지 요구되지 않았다. 그러나 심층학습(딥러닝, Deep learning) 기술의 발전과 생성형 AI의 등장 그리고 ChatGPT와 같은 거대 언어 모델의 개발은 인간 지능 수준의 강(强)인공지능(strong AI 또는 AGI, Artificial General Intelligence)의 가능성에 대한 기

대와 우려를 촉발하였고, 이러한 인공지능이 가져올 사회적 문제에 대해 심각하게 논의해야 한다는 필요성이 사회 전반에 깔리게 되었다

이원형 _ 인공지능과 로봇 윤리의 다각적 이해> 중에서

한편 앞서 간략히 소개한 우주항공청장의 인사말에서는 우주 윤리에 관한 문제의식을 아직 찾아볼 수 없다. 대한민국 항공우주 개발 역사 30년을 정리한 한국항공우주연구원의 보고서 역시 항공우주 개발의 기술적 차원과 경제적, 산업적 측면의 성과를 강조하는 데 그치고 우주 개발의 윤리적 문제에 관해서는 거의 언급하지 않는다. 우주항공청의 출범과 함께 우주 시대의 개막 및 우주 참여에 대한 국민적 관심이 높아가는 이때, 연구자는 우주 윤리에 대한 주의를 환기함으로써 국내 우주 담론의 건전한 확대에 공헌하고자 한다.

김정형 _ “우주 시대의 윤리적 이슈와 쟁점” 중에서

이렇게 사회복지 분야에서의 복지 기술의 획기적인 개발과 효과적인 적용은 여러 면에서 장애인과 노인을 비롯한 사회 취약 계층의 삶의 질을 향상시키는 데 기여하고 있다. 그럼에도 최근 윤리적 이슈로 가장 크게 대두되는 사안들이 있다. 이 이슈들이 문제가 되는 것은 사회복지 분야에서 쉽게 해결하지 못하고 있다는 데 있다.

사실 사회복지는 사회적인 항상성(恒常性), 즉 사회 내부 환경을 안정적이고 상대적으로 일정하게 유지하려는 현상을 지속하게끔 돕는 사회 제도이기 때문이다. 사회는 항상적 현상이 유지되기 위해서 몇 가지 필수적인 제도적 기능을 수행해 왔다. 일차적으로 생산 ․ 분배 ․ 소비를 담당하는 경제 제도와 사회통제를 담당하는 정치 제도 그리고 사회화와 사회통합을 담당하는 가족 및 종교 제도가 있다. 이와 함께 필수적인 제도로서 상호 부조를 담당하고 각 사회 제도를 교차하며 통합하는 가교적인 사회복지 제도가 존속해 왔다(이준우, 2021).

이준우 _ “복지 기술의 윤리적 이슈와 복지 선교 실천윤리” 중에서

갑자기 등장한 신기술을 오랫동안 받아들여진 연구윤리의 기준과 연결할 때 다른 연구를 참고하고 분석하는 전형적인 학술 연구의 틀은 별로 유용하지 않다. 관련된 자료도 많지 않을뿐더러 그 자료 중 학술적 영역에 속하지 않는 것들도 많다. 따라서 본 연구에서는 이 새로운 기술이 제기하는 문제들을 잘게 나누어 분석하고 기존의 연구윤리에서 중요하게 다루어 온 주제에 대입해 보는 방식을 취할 것이다. 그 과정에서 ChatGPT가 연구윤리의 원칙뿐 아니라 그것들이 전제하는 연구라는 행위에 대한 기본적인 이해까지 건드리고 있음이 드러날 것이다.

먼저 II에서는 ChatGPT의 사용과 관련해서 여러 주체가 내놓은 가이드라인을 살펴보는 것으로 시작한다. 이들 가이드라인이 전반적으로 어떤 입장과 방식을 취하고 있는지 또 어떤 의미와 한계를 가지는지를 큰 틀에서 점검할 것이다. 이를 통해 지금까지의 관련 논의가 ChatGPT를 사용하는 방법에 치중되고 연구윤리를 적발의 차원에서 이해하는 접근과 연결되어 있음을 확인할 수 있다. 그러나 허용과 불허, 적발과 처벌의 관점에서 접근하는 것은 연구윤리의 원래 취지와 맞지 않을뿐더러, 지금처럼 새로운 방법론이나 기술이 등장했을 때 관련 논의를 표피적 수준에 머물게 하는 부작용을 낳는다. 이 글에서는 연구윤리에서 중요한 주제로 삼는 기본 요소들을 ChatGPT와 연결시켜 논의하되, 왜 그 항목들이 연구윤리에서 지양해야 할 것으로 받아들여지는지에 대한 논거를 중심으로 진행하려 한다.

손화철 _ “ChatGPT와 연구윤리” 중에서

저자 소개

김승환 외 10인

김승환 ╻장로회신학대학교 교수

김은혜 ╻장로회신학대학교 교수

김정형 ╻연세대학교 교수

맹용길 ╻장로회신학대학교 전 학장

서덕영 ╻경희대학교 교수

손화철 ╻한동대학교 교수

송용섭 ╻영남신학대학교 교수

이원형 ╻한동대학교 교수

이은경 ╻감리교신학대학교 교수

이준우 ╻강남대학교 교수

황은영 ╻성결대학교 교수

목차

머리말

1부_ 인공지능의 기술윤리적 성찰

김은혜╻인공지능의 도덕성과 도덕적 행위자(Moral Agent)로서의 가능성에 대한 신학적 성찰과 기독교 인공지능 윤리의 가치와 방향

송용섭╻도덕적 인공지능과 비도덕적 사회

이원형╻인공지능과 로봇 윤리의 다각적 이해

― 각기 다른 관점과 윤리적 이슈

2부_ 첨단 기술의 윤리적 논의들

황은영╻자유주의 우생학의 기획과 정치 신학의 응답

김정형╻우주 시대의 윤리적 쟁점

이준우╻복지 기술의 윤리적 이슈와 복지 선교 실천윤리

손화철╻ChatGPT와 연구윤리

3부_ 종교와 기술윤리의 만남

맹용길╻기독교 신학의 관점에서 본 과학과 기술과 윤리에 대한 논의

이은경╻기술 시대 행복에 관한 윤리적 논의와 영적 행복

서덕영╻컴퓨터 게임과 놀이 신학

김승환╻종교의 디지털 전환과 윤리적 규준에 관한 논의