[ 읽게 된 동기 ]

12월 STEW 지정 도서


[ 한줄평 ]

도덕과 정의, 그리고 이들의 적용의 50가지 그림자


[ 서평 ]

올해 2월 첫 STEW 독서 소모임 정기 모임에서 도덕성을 주제로 논의한 적이 있다. 당시에 내가 했던 발언 중 하나는, 옳은 행동과 그렇지 않은 행동, 또는 그런 사람을 구분하기란 불가능하다는 것이다.

당시에 들었던 예시다. 한 부부가 있다고 가정하자. 일반성을 잃지 않고, 한 쪽은 상대방을 죽을 때가지 매우 사랑하며 절대적으로 헌신했으며, 다른 쪽은 한 번도 들키거나 심지어 의심의 여지조차 주지 않고 사랑꾼 행세하며 지속적으로 바람을 폈다고 가정하자. 헌신한 쪽은 자연사할 때까지 동반자 덕분에 사랑을 하고 사랑을 받았다 느끼며 행복했다면, 바람핀 사람을 무조건적으로 잘못했다고 할 수가 있을까?

<정의란 무엇인가>는 이러한 내게 무척이나 흥미로운 내용이었다. 로마인들의 공리주의부터 프랑스 레지스탕스의 고향 마을 공습까지, 저자 마이크 샌델은 다양한 견해들이 맞부딪치는 사례들을 제시하며 무엇이 옳고 무엇이 그른지를 안다고 믿는 이들에게 다시 생각해보길 제안한다.

기술의 발전과 도덕성

몇 년 전 자율주행 자동차에 대한 관심이 급부상하면서, 재조명받은 역사적 난제가 있다. 바로 ‘트롤리 딜레마’다. 선로를 따라 달리는 열차가 있는데, 선로 중간에는 다섯 명의 인부가 작업을 하고 있다. 열차의 선로를 바꿀 수 있는 전환기가 있는데, 바뀔 선로에는 인부 한 명이 작업을 하고 있다. 다섯 명을 살리기 위해 한 명을 희생시키는 것이 도덕적으로 맞을까?

“자율 주행 자동차가 누군가를 죽이도록 설계되어야 하는 이유 (Why Self-Driving Cars Must be Programmed to Kill)” 논문은 자율주행 자동차가 실현되기 위해서 트롤리 딜레마에 대한 해답을 찾아야 한다고 주장한다. 자율주행 자동차 앞에 갑자기 여러 사람이 끼어드는 등 피치 못할 사고가 발생할 가능성이 있는 한, 앞에 있는 사람들을 치거나 갑자기 방향을 바꿔 운전자를 위험에 빠뜨리거나 중 선택을 해야할 지도 모르기 때문이다. 이러한 부분이 해결되지 않는 한 자율 주행 기술이 나와도 상용화하기는 어렵다.

‘디트로이트 비컴 휴먼’이라는 플레이스테이션 게임은 트롤리 딜레마에 대한 한 가지 예시 답안을 제시한다. 자율주행 차량이 사고가 날 것을 판단하는 순간, 해당 차량은 탑승자와 주변 사람들의 개인정보를 수집, 분석하여 각 사람의 가치를 판단하고, 가치값이 작은 쪽을 치도록 알고리즘이 짜여져 있다.

이는 사람의 가치를 타인이 판단할 수 있다는 전제가 깔려 있는데, 그래도 괜찮은 것일까? 상대방의 가치를 판단하는 권한은 누가 쥘 수 있는 것일까?

영화 <마이너리티 리포트>는 범죄가 일어나기 전 미리 범죄를 예견하는 기술을 활용하여 범죄자들을 잡는 사회를 그린다. 실제로 범죄율은 사상 최저치를 찍었다. 얼핏 들으면 치안이 좋은 이상적인 사회가 아닐까 싶다.

그러나 이러한 시스템에 헛점이 있거나 생길 수 있었으며, 그렇기에 주인공에게 함정으로 작용한다. 범죄율을 낮추기 위해서 억울한 소수가 생겨도 괜찮은 것일까? 이러한 시스템이 영화 <캡틴 아메리카: 윈터 솔저>에서의 졸라 알고리즘처럼 특정 단체의 이익을 위해 악용될 가능성도 배제할 수 있을까?

드론 배송을 한다는 아마존 프라임 에어는 몇 년 전에만 해도 상상할 수 없던 서비스다. 기술이 발전하는 속도는 해가 갈수록 빨라지고 있으며, 이에 따라 기술이 기존 산업과 흥미로운 접점을 만들어내기도, 이전엔 없던 새로운 산업을 만들어내기도 하고 있다. 그러나 그 적용에는 필연적으로 위와 같은 윤리적 딜레마들이 따른다.

앞으로의 사회를 맞이하기 위해서는 <정의란 무엇인가>에서처럼 다양한 관점들을 고려하고 생각을 서로 맞부딪치며 확장해나가야 할 것이다.

Author