주메뉴바로가기 본문바로가기

시사저널

“AI 로봇의 무기화, UN이 해결해 달라”

일론 머스크 등 116명의 전문가 그룹이 UN에 공개 서한을 보낸 이유

김회권 기자 ㅣ khg@sisajournal.com | 승인 2017.08.24(Thu) 16:59:45

0
페이스북 트위터 카카오스토리 밴드 link

 

2017년 플레이스테이션4(PS4) 게임으로 출시돼 '갓겜'이라는 찬사를 들은 '호라이즌 제로 던'의 세계관은 게임답지 않게 치밀하게 구성돼 있다. 눈부신 인류의 고대 문명이 멸망한 뒤 지구는 인간이 아닌 기계들이 득실댄다. 그런 세상 속에서 고대 문명의 흔적을 이용해 기계를 제어하고 무기로 활용하려는 일부 종족이 있다. 이처럼 기계들이 활개 치는 디스토피아에서 벌어지는 인간의 치열한 생존이 게임 스토리의 큰 골격을 이룬다.

 

게임에서 말하는 ‘고대 문명’은 우리가 살고 있는 현대 문명이 좀 더 진화한 단계다. AI가 로봇에 장착되고, 그런 AI를 개발한 기업은 지구에서 가장 큰 조직으로 성장했다. 이곳에서는 결국 군사용 AI 로봇을 만들게 된다. 인간이 중심이 된 군대 대신, 로봇이 중심이 된 군대가 등장하게 됐다. 게임 속의 고대 문명은 결국 인간이 통제하지 못한 AI 군대의 손으로 파괴됐다. 고대 문명이 사라진 디스토피아, 그 속을 살아가는 세계가 게임 속 지구의 모습이다.

 

8%uC6D421%uC77C%20%uC720%uC5D4%uC5D0%20%uACF5%uAC1C%20%uC11C%uD55C%uC744%20%uBCF4%uB0B8%20%uB85C%uBD07%uACFC%20%uC778%uACF5%uC9C0%uB2A5%20%uC804%uBB38%uAC00%20116%uBA85%uC740%20%27%uC0B4%uC778%20%uB85C%uBD07%27%20%uAC1C%uBC1C%uC744%20%uBC29%uC9C0%uD560%20%uC218%20%uC788%uB294%20%uB300%uCC45%uC744%20%uC720%uC5D4%uC5D0%20%uC694%uAD6C%uD588%uB2E4.%20%uC774%20116%uBA85%20%uC911%uC5D0%uB294%20%uC77C%uB860%20%uBA38%uC2A4%uD06C%20%uD14C%uC2AC%uB77C%20CEO%uB3C4%20%uC774%uB984%uC744%20%uC62C%uB838%uB2E4.%A0%20%A9%20%uC0AC%uC9C4%3DAP%uC5F0%uD569%B7Pixabay

 


 

“전쟁에서 싸우는 방법? AI가 ‘제3의 물결’을 가져올 수 있다”

 

AI가 불러올 재앙은 현실이 될 수도, 아닐 수도 있다. 그리고 아닐 수 있도록 만들기 위해 지금부터 열심히 설파하는 사람들이 적지 않다. 일론 머스크 테슬라 CEO가 대표적이다. 그가 AI의 위협을 경고한 지는 좀 됐다. 머스크가 경각심을 가진 계기는 우리가 잘 아는 ‘알파고’ 때문이다. “AI를 잠재적 위협으로 느낀 건 알파고 때문이다. 많은 전문가들이 예상했던 것보다 AI가 인간을 빠르게 꺾었다.”

 

머스크가 마냥 AI를 반대하는 건 아니다. 그가 CEO를 맡고 있는 테슬라의 전기차는 AI의 수혜를 입고 있다. 다만 지금부터라도 일정 부분 통제하자고 주장한다. 인공지능 개발을 민간에만 맡겨두지 말고 “정부가 개입해야 된다”는 게 그의 지론이다. 규제론을 싫어하는 실리콘밸리 출신이지만 AI는 오히려 정부의 규제가 필요하다고 여러 차례 공식적인 자리에서 발언했다. 인공지능 개발이 방치되는 것 자체가 인류에 대한 위협이기 때문이다. 그가 생각하는 방치가 낳을 최악의 결과는? 아마도 ‘호라이즌 제로 던’의 모습이 아닐까. 인류는 기계에 대부분 몰살당한 채 부족 국가 시절로 돌아가고 기계가 지구를 지배하는 모습 말이다.

 

8월21일 유엔에 공개서한을 보낸 로봇과 인공지능 전문가 116명이 있다. 이들은 모두 세계적으로 저명한 학자나 전문가들이다. 유엔을 수신자로 선택한 건 전 세계적으로 환기시키기 위해서다. 이들의 서한은 ‘살인 로봇’의 개발을 방지할 수 있는 대책을 유엔에 요구하고 있다. 116명 중에는 머스크도 이름을 올렸다. 

 

공개서한에는 어떤 내용이 담겼을까. 전문가들은 “전쟁에서 싸우는 방법에 ‘제3의 물결’이 일어날 수 있다. 무기를 위한 AI 사용을 금지해야 한다”고 유엔에 호소했다. 이들이 생각하는 가장 우려스런 상황은 AI가 자율적으로 무기 사용을 판단하는 때다. “만약 한 번 개발돼 버리면, 전례를 찾아보기 힘들 정도의 무력 충돌을 이해할 수 없을 정도의 속도로 실행해 버리게 된다.” 머스크를 포함한 116명은 “행동까지 남은 시간이 별로 없다”고 강조했다. 만약 판도라의 상자를 열게 되면 닫아버리는 것은 더 어려워지기 때문이다. 

 

만약 인간의 개입이 전혀 없이 표적을 선정해 공격 할 수 있는 완전 자율 무기가 등장한다면 전쟁의 판도는 완전히 바뀔 수 있다. 물론 이 정도로 진화한 무기가 아직 존재하진 않는다. 다만 기술의 진화에 따라 점점 현실에 나타날 가능성도 커지는 중이다. 

 

%27%uD638%uB77C%uC774%uC98C%20%uC81C%uB85C%20%uB358%27%uC774%20%uADF8%uB9AC%uB294%20%uC138%uACC4%uB294%20%uC778%uB958%20%uBB38%uBA85%uC740%20%uC18C%uBA78%uD558%uACE0%20%uAE30%uACC4%uAC00%20%uC9C0%uBC30%uD558%uB294%20%uB514%uC2A4%uD1A0%uD53C%uC544%uB2E4.


 

2016년 ‘완전 금지’에 찬성한 국가는 19개 불과해

 

유엔은 AI 로봇의 무기화를 이미 검토한 적이 있다. 2015년 스티븐 호킹과 애플의 공동창업자인 스티브 워즈니악 등이 포함된 1000여명의 과학자와 엔지니어들이 AI로봇의 무기화를 경고하는 공개서한을 보냈다. 다음 해인 2016년 유엔은 탱크와 드론, 자동기관총을 포함해 로봇과 AI를 이용한 무기를 어떻게 처리할 것인지 투표에 부쳤다. 당시 123개 회원국 중 ‘완전 금지’에 찬성한 곳은 겨우 19개국에 불과했다. 

 

‘완전한 금지’에 반대하는 쪽은 현재의 전쟁에 적용되는 법률로 로봇의 전투 행위를 충분히 규제할 수 있다고 본다. 만약 문제가 생기면 기술 개발을 동결하면 되지 굳이 전면적으로 금지할 필요가 있냐고 주장한다. 이들이 느슨할 걸까, 머스크가 과잉인 걸까. ​ 

전체댓글0

0 /150
  • 최신글
  • 공감 순
  • 비공감 순
더보기

TOP STORIES

한반도 2017.09.24 Sun
스마트폰으로 지독한 모순에 빠져버린 북한
국제 2017.09.24 Sun
스웨덴, 한국 운전면허 인정하지 않는 까닭은?
국제 2017.09.24 Sun
‘스캔들’만 남기고 비극적으로 떠난 50조원 슈퍼리치
Culture > 사회 > ISSUE > LIFE 2017.09.24 Sun
[2017 쉘위워크] 참가자에겐 즐거운 시간, 환아들에겐 희망의 시작
OPINION 2017.09.23 Sat
[시론] 대입 따로 취업 따로
국제 2017.09.23 Sat
“문 대통령은 힘 부족하다”는 트럼프 말의 진실
Culture > 연재 > LIFE > 구대회의 커피유감 2017.09.23 Sat
나폴레옹 유럽 정복의 원동력 된 커피
경제 > ECONOMY 2017.09.23 Sat
[단독] “이중근 부영 회장, 대한노인회장 선거 때 돈 뿌렸다”
국제 2017.09.24 일
평균 연봉 1억2000만원, 미국서 직업만족도 가장 높은 직업은?
LIFE > Culture 2017.09.24 일
‘품위 있는’ 이태임, 슬럼프는 끝났다
ECONOMY > 경제 2017.09.24 일
가문보다 본인 선택 중시하는  현대家 가풍 3세도 여전
LIFE > Sports 2017.09.23 토
시련과 불운의 연속, 청용은 다시 날아오를까
LIFE > Culture 2017.09.23 토
김구라에 대한 대중의 불편한 시선
LIFE > 연재 > Culture > 이진아의 지구 위에서 보는 인류사 2017.09.23 토
한반도에서 인류 최초의 문명이 발생했다?
LIFE > Health 2017.09.23 토
알레르기 비염을 막는 생활습관 5가지
국제 2017.09.22 금
동남아 최고 부국 싱가포르의 두 얼굴
갤러리 > 만평 2017.09.22 금
[시사 TOON]  “피가 피를 부를 것”이라는 MB 측 발언, 과연 그럴까?
LIFE > Health 2017.09.22 금
“익숙한 것에서 벗어나야 뇌도 발달한다”
ECONOMY > IT 2017.09.22 금
HTC 인수로 강해진 구글의 ‘Phone by Google’ 전략
LIFE > 연재 > Culture > 김지나의 문화로 도시읽기 2017.09.22 금
루브르 아부다비 분관, 도시 지속가능케 할 문화적 고민 담았다
리스트 더보기