주메뉴바로가기 본문바로가기
메뉴열기

시사저널

‘AI 로봇 무기’ 감시에 나선 UN

인공지능 로봇 무기화 감시하는 상설 조직 만든 UN

김회권 기자 ㅣ khg@sisajournal.com | 승인 2017.10.14(Sat) 12:00:00

0
페이스북 트위터 카카오스토리 밴드 link

 

유엔지역간범죄처벌조사기관(UNICRI)은 10월3일 새로운 하부조직의 출범을 알렸다. 정식 명칭은 ‘Centre for Artificial Intelligence and Robotics’, 우리말로 풀면 ‘인공지능 로봇 센터’ 정도로 해석할 수 있다. 

 

이 센터는 의미가 있는데 인공지능과 로봇이 확대될 것을 대비하는 초(超)국가적 단체가 처음 등장했기 때문이다. 센터는 네덜란드의 헤이그에 자리 잡는다. 유엔은 네덜란드 정부와 센터 개설을 위한 협정문 체결을 마쳤다. 가디언은 “유엔이 인공지능과 로봇의 도입에 따른 대량 실업과 전쟁 발발의 위협을 감시하는 상설조직을 설치해 운영하기로 했다”고 보도했다. 

 

인공지능의 대중화로 생길 수 있는 대량실업은 정치적 개입이나 판단이 필요한 지점이다. 인공지능은 세계 경제의 중요한 자원이 될 수도 있지만 영화 ‘터미네이터’가 그리는 디스토피아처럼 인간을 탄압하는 적이 될 수도 있다. 정부보다 빠르게 인공지능을 적용하고 있는 민간에서는, 개발 속도에 점점 가속도가 붙을 경우 ‘분배’가 화두가 될 수 있는데 이것 역시 정치의 문제가 될 수 있다. 특히 인공지능을 탑재한 로봇이 무기로 사용된다면 윤리적 측면에 관한 논의가 필수적이지만 세계적으로 이런 과정은 절대적으로 부족하다. 

 

UN%uC774%20%uBC1C%uC871%uD55C%20%27%uC778%uACF5%uC9C0%uB2A5%20%uB85C%uBD07%20%uC13C%uD130%27%uB294%20%uC778%uACF5%uC9C0%uB2A5%uACFC%20%uB85C%uBD07%uC774%20%uD655%uB300%uB420%20%uAC83%uC744%20%uB300%uBE44%uD574%20%uB4F1%uC7A5%uD55C%20%uCD5C%uCD08%uC758%20%uCD08%28%u8D85%29%uAD6D%uAC00%uC801%20%uB2E8%uCCB4%uB2E4.%20%A9%20%uC0AC%uC9C4%3DPixabay


 

‘유엔지역간범죄처벌조사기관’ 아래 둔 ‘인공지능 로봇 센터’

 

AI가 불러올 지도 모를 재앙은 현실이 될 수도, 아닐 수도 있다. 일론 머스크 테슬라 CEO는 재앙을 우려하는 대표적인 인물로 지금부터라도 AI 개발의 일정 부분을 통제하자고 주장하는 인물이다. 인공지능 개발을 민간에만 맡겨두지 말고 “정부가 개입해야 된다”는 게 그의 지론이다. 규제론을 싫어하는 실리콘밸리 출신이지만 AI는 오히려 정부의 규제가 필요하다고 여러 차례 공식적인 자리에서 발언했다. 인공지능 개발이 방치되는 것 자체가 인류에 대한 위협이라고 판단해서다. 그가 생각하는 최악의 결과는 아마도 기계가 인간의 주적이 되는 세상일 터다.

 

올해 8월, 유엔이 센터를 만들기 전부터 머스크와 생각을 함께하는 사람들은 이에 대한 대책을 유엔에 요구했다. 8월21일 116명의 로봇과 인공지능 전문가들은 유엔에 공개서한을 보냈다. 머스크를 포함해 서한에 이름을 올린 이들은 모두 세계적으로 저명한 학자나 전문가들이었다. 

 

이들은 서한에서 ‘살인 로봇’의 개발을 방지할 수 있는 대책을 유엔에 요구하며 ‘부정적인 혁신’을 막아야 한다는 신념을 표현했다. 전문가들은 “전쟁에서 싸우는 방법에 ‘제3의 물결’이 일어날 수 있다. 무기를 위한 AI 사용을 금지해야 한다”고 유엔에 호소했다. 이들이 가장 우려하는 상황은 AI가 자율적으로 무기 사용을 판단하는 때다. “만약 한 번 개발돼 버리면, 전례를 찾아보기 힘들 정도의 무력 충돌을 이해할 수 없을 정도의 속도로 실행해 버리게 된다”는 게 이들의 의견이다. 이들은 “행동까지 남은 시간이 별로 없다”고 강조했다. 만약 판도라의 상자를 열게 되면 닫아버리는 것은 더 어려워지기 때문이다. 

 

인공지능에 긍정적 혁신과 부정적 혁신이 있다면 이번에 유엔이 설립한 센터는 부정적 혁신에 초점을 맞췄다. 일단 센터의 상급 조직은 ‘유엔지역간범죄처벌조사기관’(UNICRI)이다. 인공지능 로봇의 무기화와 그에 따른 분쟁 가능성에 방점을 찍었다는 해석이 나온다. UNICRI의 이라클리 베리제(Irakli Beridze) 전략 자문관은 “여러 유엔 조직이 로봇과 인공지능에 관한 프로젝트를 추진하고 있고 자율로봇 무기에 관한 전문가 그룹도 활동하고 있다. 그러나 이런 모든 노력은 일시적인 것에 불과했다”고 말했다. 이번에 만들어진 센터는 과거와 달리 일시적이지 않고 상설 조직이라는 점을 강조한 발언이었다.

 

%uBBF8%20%uD574%uAD70%uC774%20%uAC1C%uBC1C%uD55C%20X-47B%20%uAC19%uC740%20%uB4DC%uB860%uC740%20%uC778%uACF5%uC9C0%uB2A5%uC774%20%uC870%uC885%uC0AC%20%uC5ED%uD560%uC744%20%uB300%uC2E0%uD574%20%uCCA9%uBCF4%20%uD65C%uB3D9%uC774%uB098%20%uD3ED%uACA9%20%uC784%uBB34%uB97C%20%uC218%uD589%uD55C%uB2E4.%20%A9%20%uC0AC%uC9C4%3DUPI%20%uC5F0%uD569


 

인간의 결정 대신 알고리즘이 선택하는 살상

 

유엔은 AI 로봇의 무기화 문제에 대한 대처법을 이전부터 검토해 왔다. 2015년 스티븐 호킹과 애플의 공동창업자인 스티브 워즈니악 등이 포함된 1000여명의 과학자와 엔지니어들이 인공지능 로봇의 무기화를 경고하는 공개서한을 보냈다. 다음 해인 2016년 유엔은 탱크와 드론, 자동기관총을 포함해 로봇과 AI를 이용한 무기를 어떻게 처리할 것인지 투표에 부쳤다. 당시 123개 회원국 중 ‘완전 금지’에 찬성한 곳은 겨우 19개국에 불과했다. 인공지능 로봇의 무기화는 미국과 영국, 중국, 러시아 등 강대국들이 중심이 돼 이루어지고 있는데 이들은 모두 완전 금지에 손을 들지 않았다.

 

인공지능 로봇의 위험은 현실화된 살상으로 고조되고 있다. 대표적인 게 공격형 드론이다.  미 해군이 개발한 X-47B 같은 드론은 인공지능이 조종사 역할을 대신해 첩보 활동이나 폭격 임무를 수행한다. 드론의 공격을 받는 대상은 인간의 결정이 아니라 알고리즘이 선택했다. 전쟁에서 사람을 죽이는 행위는 인류가 해결해야 할 영원한 과제다. 이것조차 아직 풀지 못한 상황에서 인공지능이 사람을 죽이는 문제는 윤리적으로 더 큰 무게를 느끼게 한다. 상설화된 ‘인공지능 로봇 센터’가 다뤄야 할 주제는 이처럼 크고 무겁다. “유엔이 추구하는 지속 가능한 개발 목표에 새로운 기술이 기여할 수 있는 방안을 탐구해 갈 것이다. 구체적인 프로젝트를 시작할 예정이며 결코 구상만으로 끝나지 않는다”는 게 센터 측의 각오다. 

 

전체댓글0

0 /150
  • 최신글
  • 공감 순
  • 비공감 순
더보기

TOP STORIES

사회 2018.09.19 Wed
[2018 누가 한국을 움직이는가⑨] 故 김수환 추기경, 종교인 1위에
사회 2018.09.19 Wed
[2018 누가 한국을 움직이는가⑩] NGO, 한비야·안진걸·송상현 톱3
국제 2018.09.19 Wed
[2018 누가 한국을 움직이는가⑪] 국제인물, 트럼프, 지목률 압도적 1위
Culture > LIFE 2018.09.19 Wed
[2018 누가 한국을 움직이는가⑫] 작가 유시민, ‘문화 대통령’ 등극
Culture > LIFE 2018.09.19 Wed
[2018 누가 한국을 움직이는가⑬] 《무한도전》 없어도…유재석, 방송·연예인 4년 연속 1위
LIFE > Sports 2018.09.19 Wed
[2018 누가 한국을 움직이는가⑭] 스포츠인, ‘1300억 몸값’ 시대 연 손흥민
경제 2018.09.19 Wed
[르포] “서울이 힘들다고? 지방 편의점은 죽기 일보 직전”
국제 2018.09.19 Wed
중국 ‘현대판 실크로드’ 성패의 갈림길 서다
한반도 2018.09.19 Wed
‘비핵화’ 지겹도록 말해도 강조해야 하는 이유
사회 2018.09.18 화
황교익
LIFE > Health 2018.09.18 화
경기도의료원, 최초로 수술실 CCTV 운용
포토뉴스 2018.09.18 화
[포토뉴스] 남북정상 첫 무개차 카퍼레이드
사회 2018.09.18 화
[단독] 학교 해외여행, 최근 3년간 수백만원대 高비용만 300건 넘어
LIFE > Culture 2018.09.18 화
[단독] 내년 부산국제영화제선 북한 배우·감독 볼 수 있을 듯
OPINION 2018.09.18 화
[시론] 가을 - 비엔날레의 계절
경제 2018.09.18 화
신장섭 “재벌이 萬惡이라는 경제민주화, 잘못됐다”
갤러리 > 한반도 > 포토뉴스 2018.09.18 화
[포토뉴스] 평양에 발 내딛은 문재인 대통령과 김정숙 여사
연재 > 이원혁의 ‘역사의 데자뷰’ 2018.09.18 화
일제 강점기에 근대화 이뤄졌다고? 박람회 역사가 그 답을 알고 있다
한반도 2018.09.18 화
평양 찾은 文 대통령…울음 터뜨린 北 주민과 악수
한반도 > LIFE 2018.09.18 화
외신 “남북 정상회담은 북·미 회담용 리트머스”
LIFE > Culture 2018.09.18 화
[동영상] 바다, ‘2018 쉘위워크’서 ‘역대급’ 공연 예고!
리스트 더보기