신상규 「인공지능 로봇의 도덕적 지위」
인공지능 로봇에게 도덕적 지위를 부여할 수 있는가라는 쟁점을 놓고 여러 입장을 비교한 뒤, 인간과 로봇의 관계 맺기를 중심으로 도덕적 지위를 판단해야 한다는 견해를 논증한 글입니다.
교과서 제시문
교과서에 제시된 논지의 순서가 드러나도록 핵심 대목을 문단 흐름에 따라 배치했습니다.
① 문제 제기 ― 도덕적 지위를 무엇으로 판단할 것인가
인공지능 로봇에게 도덕적 지위를 부여할 수 있는가? 이 문제를 논의하려면 먼저 우리가 어떤 존재에게 도덕적 지위를 부여할 때 어떤 방식으로 생각하는지 살펴보아야 한다. 우리는 인간이나 동물이 어떤 속성이나 특성을 지니기 때문에 그에 맞는 도덕적 지위를 갖는다고 생각하는 경향이 있다. 특히 지능, 의식, 고통 감수성 같은 것을 중요한 판단 근거로 여긴다.
인공지능 로봇에게 도덕적 지위를 부여할 수 있는가? 이 문제를 논의하려면 먼저 우리가 어떤 존재에게 도덕적 지위를 부여할 때 어떤 방식으로 생각하는지 살펴보아야 한다. 우리는 인간이나 동물이 어떤 속성이나 특성을 지니기 때문에 그에 맞는 도덕적 지위를 갖는다고 생각하는 경향이 있다. 특히 지능, 의식, 고통 감수성 같은 것을 중요한 판단 근거로 여긴다.
② 사실적 속성을 기준으로 한 두 입장
인공지능 로봇도 같은 방식으로 판단한다고 가정하면 두 입장이 가능하다. 하나는 인공지능 로봇이 지능이나 의식, 고통 감수성을 지니지 않으므로 도덕적 지위를 부여하지 말아야 한다는 입장이고, 다른 하나는 그러한 속성을 지니므로 도덕적 지위를 부여해야 한다는 입장이다.
인공지능 로봇도 같은 방식으로 판단한다고 가정하면 두 입장이 가능하다. 하나는 인공지능 로봇이 지능이나 의식, 고통 감수성을 지니지 않으므로 도덕적 지위를 부여하지 말아야 한다는 입장이고, 다른 하나는 그러한 속성을 지니므로 도덕적 지위를 부여해야 한다는 입장이다.
③ 두 입장에 대한 비판
그러나 이 두 입장에는 철학적으로 해결하기 어려운 문제가 있다. 먼저 의식이나 고통 감수성과 같은 특성이 왜 도덕적 지위를 결정하는 핵심 기준인지 정당화해야 한다. 이런 기준 자체가 인간의 감수성이나 종족적 편견을 반영할 수도 있다. 또한 그런 속성이 중요하다고 해도 로봇이 실제로 의식이나 고통 감수성을 지니는지를 정확히 확인하기 어렵다. 바로 옆 사람의 울음조차 슬픔 때문인지 기쁨 때문인지, 혹은 거짓으로 우는 것인지 정확히 판단하기 어려운 것과 비슷하다.
그러나 이 두 입장에는 철학적으로 해결하기 어려운 문제가 있다. 먼저 의식이나 고통 감수성과 같은 특성이 왜 도덕적 지위를 결정하는 핵심 기준인지 정당화해야 한다. 이런 기준 자체가 인간의 감수성이나 종족적 편견을 반영할 수도 있다. 또한 그런 속성이 중요하다고 해도 로봇이 실제로 의식이나 고통 감수성을 지니는지를 정확히 확인하기 어렵다. 바로 옆 사람의 울음조차 슬픔 때문인지 기쁨 때문인지, 혹은 거짓으로 우는 것인지 정확히 판단하기 어려운 것과 비슷하다.
④ 가치 판단의 문제로 보는 두 입장
이런 점에서 인공지능 로봇의 도덕적 지위를 사실적 속성의 유무와 무관한 가치 판단의 문제로 보아야 한다는 입장이 가능하다. 여기에는 ‘로봇이 지능이나 의식, 고통 감수성을 지닌다고 해도 도덕적 지위를 부여하지 말아야 한다’는 입장과, 반대로 ‘그런 속성을 지니지 않아도 도덕적 지위를 부여할 수 있다’는 입장이 있다.
이런 점에서 인공지능 로봇의 도덕적 지위를 사실적 속성의 유무와 무관한 가치 판단의 문제로 보아야 한다는 입장이 가능하다. 여기에는 ‘로봇이 지능이나 의식, 고통 감수성을 지닌다고 해도 도덕적 지위를 부여하지 말아야 한다’는 입장과, 반대로 ‘그런 속성을 지니지 않아도 도덕적 지위를 부여할 수 있다’는 입장이 있다.
⑤ ‘속성이 있어도 지위를 부여하지 않는다’는 입장 비판
이 입장은 인공지능 로봇을 인간의 목적을 위해 제작한 도구로 본다. 따라서 설령 로봇이 고통을 느끼더라도 목적 실현을 위한 도구로 취급할 수 있다고 본다. 하지만 고통을 느끼는 존재를 단지 도구라는 이유로 학대해도 된다는 생각은 우리가 다른 사람이나 동물을 대하는 기존의 가치관과 충돌한다.
이 입장은 인공지능 로봇을 인간의 목적을 위해 제작한 도구로 본다. 따라서 설령 로봇이 고통을 느끼더라도 목적 실현을 위한 도구로 취급할 수 있다고 본다. 하지만 고통을 느끼는 존재를 단지 도구라는 이유로 학대해도 된다는 생각은 우리가 다른 사람이나 동물을 대하는 기존의 가치관과 충돌한다.
⑥ 관계론적 접근
반대로 로봇이 의식이나 고통 감수성을 지니지 않아도 도덕적 지위를 부여할 수 있다는 입장은 처음에는 비직관적으로 보일 수 있다. 그러나 이 입장은 존재가 실제로 어떤 속성을 지니는지보다 일상적 경험 속에서 우리가 그 존재와 어떻게 관계를 맺는가를 중시한다. 어떤 존재의 도덕적 지위는 인간과 그 대상 사이의 다양한 상호 작용과 관계 맺기 속에서 자연스럽게 생겨난다는 것이다.
반대로 로봇이 의식이나 고통 감수성을 지니지 않아도 도덕적 지위를 부여할 수 있다는 입장은 처음에는 비직관적으로 보일 수 있다. 그러나 이 입장은 존재가 실제로 어떤 속성을 지니는지보다 일상적 경험 속에서 우리가 그 존재와 어떻게 관계를 맺는가를 중시한다. 어떤 존재의 도덕적 지위는 인간과 그 대상 사이의 다양한 상호 작용과 관계 맺기 속에서 자연스럽게 생겨난다는 것이다.
⑦ 군사 로봇·감정 로봇의 사례와 반론·반박
전쟁터에서 싸우는 군사 로봇은 동료들과 전우 관계를 맺을 수 있고, 가정이나 요양원에서 만난 감정 로봇은 가족 같은 존재가 될 수도 있다. 이에 대해 로봇이 보이는 공감은 기계가 만든 인위적인 행동이므로 그에 대한 인간의 감정도 가짜라는 반론이 가능하다. 그러나 오랫동안 인간과 관계를 맺어 온 가축이나 반려동물의 사례를 생각하면 인위적 공감이라고 해서 반드시 거짓된 감정이라고 볼 수는 없다.
전쟁터에서 싸우는 군사 로봇은 동료들과 전우 관계를 맺을 수 있고, 가정이나 요양원에서 만난 감정 로봇은 가족 같은 존재가 될 수도 있다. 이에 대해 로봇이 보이는 공감은 기계가 만든 인위적인 행동이므로 그에 대한 인간의 감정도 가짜라는 반론이 가능하다. 그러나 오랫동안 인간과 관계를 맺어 온 가축이나 반려동물의 사례를 생각하면 인위적 공감이라고 해서 반드시 거짓된 감정이라고 볼 수는 없다.
⑧ 결론 ― 새로운 관계 맺기의 준비
인공지능 로봇에게 도덕적 지위를 부여하는 주체는 인간이다. 로봇이 우리에게 드러나는 방식과 우리가 로봇과 맺는 관계에 따라 그에 걸맞은 도덕적 지위를 부여할 수 있다. 결국 이 문제는 로봇을 어떻게 대우할 것인가만의 문제가 아니라 기술적 존재를 대하는 인간의 심성과 가치관에 관한 문제이다. 앞으로 더 많은 인공지능 로봇과 살아가게 될 시대에 인간과 인공지능의 새로운 관계 맺기를 준비해야 한다.
인공지능 로봇에게 도덕적 지위를 부여하는 주체는 인간이다. 로봇이 우리에게 드러나는 방식과 우리가 로봇과 맺는 관계에 따라 그에 걸맞은 도덕적 지위를 부여할 수 있다. 결국 이 문제는 로봇을 어떻게 대우할 것인가만의 문제가 아니라 기술적 존재를 대하는 인간의 심성과 가치관에 관한 문제이다. 앞으로 더 많은 인공지능 로봇과 살아가게 될 시대에 인간과 인공지능의 새로운 관계 맺기를 준비해야 한다.
핵심 내용 정리
이 글의 중심 쟁점은 인공지능 로봇에게 를 부여할 수 있는가이다. 일반적으로 우리는 지능·의식· 같은 사실적 속성을 기준으로 도덕적 지위를 판단하지만, 글쓴이는 이러한 기준이 인간의 감수성이나 을 반영할 수 있고 로봇이 실제로 그런 속성을 지니는지도 확인하기 어렵다고 본다. 따라서 도덕적 지위 문제를 사실적 속성만이 아니라 의 문제로 보아야 한다. 글쓴이가 긍정하는 방향은 인간과 로봇이 맺는 다양한 를 통해 도덕적 지위를 판단하는 관계론적 접근이다. 군사 로봇의 전우 관계, 감정 로봇의 가족 관계는 그 가능성을 보여 주며, 결국 인간은 인공지능과의 를 준비해야 한다.
읽으며 확인: 네모를 누르면 핵심어가 나타납니다.
제재 개관
갈래
논설문
성격
논리적 · 분석적
제재
인공지능과 도덕적 지위
주제
인공지능 로봇의 도덕적 지위는 객관적 속성만으로 결정할 것이 아니라 인간과 로봇의 상호 작용과 관계 맺기를 통해 판단해야 함.
논증상의 특징
쟁점을 먼저 제시하고 여러 입장을 비교한 뒤 각 입장의 타당성을 검토하며, 구체적 사례와 반론·반박을 통해 관계론적 접근의 타당성을 강화한다.
네 가지 입장 한눈에 보기
| 구분 | 지능·의식·고통 감수성 | 도덕적 지위 | 글쓴이의 검토 |
|---|---|---|---|
| ① 사실 중심 부정 | 없음 | 부여하지 않음 | 속성을 핵심 기준으로 삼는 근거가 충분한지 문제이며, 로봇에게 그런 속성이 실제 있는지 확인하기도 어렵다. |
| ② 사실 중심 긍정 | 있음 | 부여함 | |
| ③ 가치 중심 부정 | 있어도 됨 | 부여하지 않음 | 고통을 느끼는 존재를 도구라는 이유로 학대할 수 있다는 결론은 기존의 도덕적 가치관과 충돌한다. |
| ④ 가치·관계 중심 긍정 | 없어도 됨 | 부여할 수 있음 | 글쓴이가 긍정하는 방향. 인간과 로봇의 상호 작용과 관계 맺기를 중심으로 판단한다. |
글의 논증 구조
① 쟁점 제시
로봇에게 도덕적 지위를 부여할 수 있는가
로봇에게 도덕적 지위를 부여할 수 있는가
② 기존 기준 검토
지능·의식·고통 감수성
지능·의식·고통 감수성
③ 가치 판단으로 전환
사실적 속성만으로는 부족함
사실적 속성만으로는 부족함
④ 관계론적 결론
상호 작용과 관계 맺기
상호 작용과 관계 맺기
핵심 개념 상세 해설
도덕적 지위
어떤 존재를 도덕적으로 고려하고 대우해야 할 대상으로 인정하는 지위를 말한다. 이 글의 핵심은 그 지위를 무엇을 기준으로 판단할 것인가에 있다.
사실적 속성 중심 접근
지능·의식·고통 감수성처럼 존재가 실제로 지니는 특성을 기준으로 도덕적 지위를 정하려는 접근이다. 글쓴이는 기준의 정당화와 속성 확인 가능성 두 측면에서 한계를 지적한다.
관계론적 접근
대상이 본질적으로 무엇인지를 먼저 확정하기보다, 일상적 경험 속에서 인간과 대상이 실제로 어떤 관계를 맺는지를 더 중요하게 보는 접근이다.
인위적 공감에 대한 반론과 반박
반론은 로봇의 공감이 프로그램된 것이므로 인간이 느끼는 감정도 가짜라는 주장이다. 글쓴이는 가축과 반려동물처럼 오랜 관계를 통해 형성된 감정을 근거로 인위적 공감이라고 해서 반드시 거짓이라고 볼 수 없다고 반박한다.
앞의 두 글과 주제 통합적으로 읽기
| 자료 | 핵심 초점 | 인공지능을 바라보는 관점 |
|---|---|---|
| 최재천 「인공지능을 어떻게 봐야 할까」 | 지능과 지성, 인공지능의 미래 | 인공지능이 인간의 지성을 흉내 낼 수는 있어도 인간과 같은 지성·감정을 지닌 존재가 되는 데에는 한계가 있다고 봄. |
| 김상욱 「인간의 뇌와 인공지능」 | 인간 신경계와 인공 신경망의 학습 원리 | 인공지능이 인간의 뇌를 모방해 학습하는 기술적 원리를 설명함. |
| 신상규 「인공지능 로봇의 도덕적 지위」 | 인공지능과 인간의 윤리적 관계 | 인공지능의 속성 자체보다 인간과 로봇의 관계 맺기와 가치 판단에 초점을 둠. |
시험 출제 포인트 20
- 중심 쟁점은 ‘인공지능 로봇에게 도덕적 지위를 부여할 수 있는가’이다.
- 일반적 판단 기준은 지능·의식·고통 감수성이다.
- 첫 두 입장은 사실적 속성의 유무를 도덕적 지위와 직접 연결한다.
- 글쓴이는 사실적 속성이 왜 핵심 기준인지 정당화할 필요가 있다고 본다.
- 이 기준에는 인간의 감수성이나 종족적 편견이 반영될 수 있다.
- 로봇의 의식과 고통 감수성은 정확히 확인하기 어렵다.
- 옆 사람의 감정 상태를 정확히 알기 어렵다는 사례는 ‘속성 확인의 어려움’을 뒷받침한다.
- 이후 논의는 사실 판단에서 가치 판단의 문제로 전환된다.
- ‘속성이 있어도 지위를 부여하지 않는다’는 입장은 로봇을 도구로 본다.
- 이 입장은 고통을 느끼는 존재를 학대할 수 있다는 결론 때문에 기존 가치관과 충돌한다.
- ‘속성이 없어도 지위를 부여할 수 있다’는 입장은 비직관적으로 보일 수 있다.
- 글쓴이는 네 번째 입장과 관계론적 접근을 긍정한다.
- 관계론적 접근은 존재의 본질보다 일상적 관계 맺기를 중요하게 본다.
- 군사 로봇은 전우 관계의 사례이다.
- 가정·요양원의 감정 로봇은 가족 같은 관계의 사례이다.
- 인위적 공감은 가짜 감정이라는 반론이 제시된다.
- 가축·반려동물의 사례는 위 반론에 대한 반박 근거이다.
- 도덕적 지위를 부여하는 주체는 인간이다.
- 이 문제는 인간의 심성과 가치관을 돌아보게 하는 문제이다.
- 결론은 인간과 인공지능의 새로운 관계 맺기를 준비해야 한다는 것이다.
단답형 10문항
1. 여러 존재를 도덕적으로 고려하고 대우해야 할 대상으로 인정하는 지위를 무엇이라 하는가?
2. 글에서 도덕적 지위를 판단하는 일반적 기준으로 제시한 세 가지 속성 중 하나를 쓰시오.
3. 글쓴이는 지능·의식·고통 감수성과 같은 기준이 인간의 무엇을 반영할 수 있다고 보았는가?
4. 사실적 속성의 유무와 무관하게 도덕적 지위를 판단하려는 접근은 어떤 문제로 전환된 것인가?
5. 로봇을 인간의 필요에 의해 제작된 수단으로 보는 세 번째 입장의 핵심 관점은 무엇인가?
6. 글쓴이가 긍정하는 도덕적 지위 판단 방식은 무엇과 무엇을 통해 결정하는 것인가?
7. 군사 로봇이 인간과 맺을 수 있다고 제시된 관계는 무엇인가?
8. 감정 로봇이 가정이나 요양원에서 맺을 수 있다고 제시된 관계는 무엇인가?
9. 인위적 공감이 반드시 거짓된 감정은 아니라는 반박의 사례로 제시된 두 대상은 무엇인가?
10. 글의 결론에서 다가올 시대를 위해 인간이 준비해야 한다고 한 것은 무엇인가?
실전 객관식 10문항
1. 윗글의 중심 주장으로 가장 적절한 것은?
정답 ③. 글쓴이는 사실적 속성만을 기준으로 삼기보다 인간과 로봇의 관계 맺기를 중시하는 관계론적 접근을 긍정한다.
2. 사실적 속성 중심 접근에 대한 글쓴이의 비판으로 적절하지 않은 것은?
정답 ②. 글쓴이는 오히려 로봇의 의식이나 고통 감수성을 정확히 확인하기 어렵다고 본다.
3. 옆 사람의 울음 사례를 제시한 이유로 가장 적절한 것은?
정답 ④. 인간의 감정조차 정확히 확인하기 어렵다는 사례를 통해 로봇의 의식·고통 감수성 판별의 어려움을 설명한다.
4. 세 번째 입장에 대한 글쓴이의 비판으로 가장 적절한 것은?
정답 ⑤. 글쓴이는 고통을 느끼는 존재를 학대해도 된다는 결론이 사람이나 동물을 대하는 기존 가치관과 충돌한다고 본다.
5. 관계론적 접근에 대한 설명으로 가장 적절한 것은?
정답 ①. 관계론적 접근은 로봇이 ‘실제로 무엇인가’보다 인간과 로봇이 실제로 맺는 관계에 주목한다.
6. 군사 로봇과 감정 로봇의 사례가 수행하는 기능으로 가장 적절한 것은?
정답 ③. 전우·가족 같은 구체적 관계를 통해 관계론적 접근의 가능성을 보여 준다.
7. ‘인위적 공감은 가짜 감정이다’라는 반론에 대한 글쓴이의 대응은?
정답 ②. 오랫동안 인간과 관계를 맺어 온 가축·반려동물의 사례를 들어 반론을 반박한다.
8. 글의 논증 전개 순서로 가장 적절한 것은?
정답 ④. 글은 쟁점을 제시한 뒤 사실 중심 접근의 문제를 검토하고 가치 판단으로 논의를 전환한 후 관계론적 결론으로 나아간다.
9. 글쓴이의 견해를 바르게 이해한 것은?
정답 ⑤. 글의 결론은 기술적 존재를 대하는 인간의 심성과 가치관의 문제로까지 논의를 확장한다.
10. 세 글을 주제 통합적으로 읽은 내용으로 가장 적절한 것은?
정답 ①. 세 자료는 같은 인공지능 화제를 지성의 가능성, 기술적 학습 원리, 윤리적 관계라는 서로 다른 관점에서 다룬다.