[로봇] 로봇을 고문하는 건 괜찮을까 로봇AI

800px-Pleo_2.jpg » 미 유고베가 제작한 인공지능형 애완공룡 로봇 플레오(Pleo). 위키미디어코먼스.

 

MIT, 애완로봇 대상 실험 결과

애착 갖게 되자 고문 지시 거부

 

“만약 우리가 로봇에 애착을 느끼게 된다면, 로봇에 대해 인간적인 감정을 가지는 것을 과연 피할 수 있을까?”
 미국 매사추세츠공대(MIT) 연구진이 이런 의문을 풀기 위해, 아이들에게 로봇 장난감과 놀이를 하도록 만든 다음 이 로봇 장난감에 고문을 가하도록 하는 실험을 했다. 아이들은 비록 짧은 시간이었지만 로봇 장난감에 애착을 느끼면, 이 로봇 장난감을 부수는 것이 얼마나 어려운지 알게 됐다.
 로봇은 이미 우리들 가운데 살고 있다. 그렇다면 로봇은 인간과 같은 권리를 가져야 하는가? 우리가 로봇을 고문하는 것이 허용될 수 있을까? 마치 공상과학영화에서나 가능한 질문처럼 들릴 수 있지만, 과학자들은 이는 그리 머지 않은 미래에 대답할 필요가 있는 질문들이라고 말한다.
 평소 실험을 좋아하는 MIT 미디어랩의 케이트 달링 연구원은 실험 참가자들에게 어린이를 위한 장난감 공룡인 플레오(Pleo) 로봇을 가지고 놀도록 했다. 귀엽고 부드러운 플레오 로봇은 믿음이 가는 눈을 갖고 있으며, 움직이는 모습도 다정스러워 보인다. 맨 처음 포장상자에서 꺼낼 땐 갓 태어난 강아지처럼 걸을 수 없다. 실험 참가자가 모든 것을 가르쳐야 한다.
 1시간 정도 시간이 흐른 뒤, 실험 참가자들에게 칼, 손도끼 등 흉기를 주고 자신의 장난감을 고문하고 사지를 절단하도록 지시했다. 실험 참가자들은 어떻게 반응했을까? 대부분 달링 연구원의 지시를 거부했다.
 달링 연구원은 이 실험을 토대로 한 강의에서, 특정한 종류의 로봇을 학대하는 것은 조만간 사회적으로 허용되지 못할 것이라고 주장했다. 그는 더 나아가 ‘로봇 권리’(robot rights)가 필요할지도 모른다고 강조했다.
 

robot.JPG » 사람과 상호작용을 하는 사회적 로봇들.

사회적 로봇 등장 따라 상황 변화

로봇권리장전 현실화할 가능성

 

얼마 전까지만 해도 로봇 권리라는 아이디어는 공상과학 소설 작가의 영역에 있었다. 아마도 기계들이 그만큼 세련되지 못했기 때문일 것이다. 예컨대 토스터기나 장난감 자동차를 버리는 것 때문에 걱정할 사람은 많지 않을 것이다.
 그러나 이른바 ‘사회적 로봇’(social robot)`이 등장하면서 상황이 바뀌고 있다. 사회적 로봇은 마치 살아있는 것처럼 스스로 움직이고, 관심을 보이고, 애완동물이나 아이처럼 행동한다. 이러한 행동들은 사람의 감정을 흔들어 놓는다.
 2011년에 실시된 한 실험에서 아이들은 그들이 편안하게 느끼는 한 바비인형, 햄스터, 복슬복슬한 동물 모양의 말하는 퍼비(Furby) 장난감 등을 거꾸로 잡도록 요청을 받았다. 비록 아이들은 자신의 팔이 아플 때까지 바비 인형을 거꾸로 잡았지만, 꿈틀거리는 햄스터를 고문하는 일을 곧 중단했으며, 조금 있다가 퍼비 장난감에 대한 고문도 멈추었다. 아이들은 퍼비가 장난감이지만 이 장난감이 ‘나, 무서워요’(Me scared)라고 말하는 것을 견딜 수 없었다.  물론 이 말은 미리 프로그래밍돼 있는 것이지만, 이를 듣는 사람은 로봇의 마음이 담긴 것으로 생각하게 된다.
 어떤 사람들은 자신의 진공청소기에 이름을 지어주기도 한다. 병사들은 자신의 로봇에 메달을 수여하거나, 장례식을 치른다.  특히 달링 연구원은 지뢰를 밟아서 이를 해체하도록 만들어진 군사용 로봇에 대한 놀라운 사례를 들었다. 한 시험에서 폭발이 이 군사용 로봇이 가지는 대부분의 다리를 파괴했고, 이 절름발이 로봇은 다리를 절뚝거리며 걷기를 계속하였다. 이러한 광경을 지켜 본 시험 책임자인 한 대령은 이것이 너무 ‘비인간적’이라며 시험을 중단시켰다는 것이다.
 올해 초 독일 뒤스부르고-에센대 연구진이 수행한 또 다른 실험도 있다. 연구자들은 누군가가 로봇을 질식시키고, 비닐 봉투에 집어넣고, 구타하는 것을 담은 영상에 대한 사람들의 반응을 추적했다. 연구자들이 측정한 생리학적 및 감정적 반응은 기대했던 것보다 훨씬 더 강력했다.
 이제 연구자들은 로봇이 살아 있는 것처럼 보인다면, 로봇이 인공물이라는 점을 알면서도 사람들은 로봇과 공감하게 된다는 의견에 공감하고 있다.

  
출처
http://mirian.kisti.re.kr/futuremonitor/view.jsp?record_no=242652&cont_cd=GT 
KISTI 미리안 『글로벌동향브리핑』 2013-12-05     
원문
http://www.dailymail.co.uk/news/article-2515400/The-rise-machines-It-okay-torture-robot.html 
http://www.bbc.com/future/story/20131127-would-you-murder-a-robot
강의 동영상
http://www.dailymail.co.uk/news/article-2515400/The-rise-machines-It-okay-torture-robot.html

 

TAG

Leave Comments


profile한겨레신문 선임기자. 미래의 창을 여는 흥미롭고 유용한 정보 곳간. 오늘 속에서 미래의 씨앗을 찾고, 선호하는 미래를 생각해봅니다. 광고, 비속어, 욕설 등이 포함된 댓글 등은 사양합니다. 

Recent Trackback