한국-네덜란드 정부 공동주최…“알고리즘 없다면 전장 나가기도 전에 패배”
“인공지능(AI)은 어디에나 있다. ‘챗GPT’는 우리 자녀들의 과제를 돕는 유능한 친구로 자리 잡았으며, 우리 일 처리의 방식을 바꿔나가고 있다. 또한 AI는 군사 분야에서도 확실한 변화를 일으키고 있다. AI는 원자력 기술에 버금가는 혁신적 기술이 될 것이다.” 네덜란드 헤이그에서 사상 처음으로 개최된 ‘인공지능의 책임 있는 군사적 이용에 관한 고위급 회담’(REAIM 2023) 개회사에서 웝크 훅스트라 네덜란드 외교장관은 이같이 말했다.
지난해 11월 공개된 챗GPT는 AI의 발전을 일반에 체감시키는 확실한 계기가 됐다. 훅스트라 장관의 말처럼 이미 AI는 우리 생활 어디에나 있다. 이는 군사 분야에서도 마찬가지다. 2월15일부터 16일까지 80개국 정부 대표단과 관련 분야 학계, 민간기업 종사자 등 약 2000명이 REAIM에 모였다. 이번 회담의 주요 목적은 AI 열풍 속 군사 분야에 적용되는 AI 기술의 현재 수준을 진단하고, 미래에 적용될 군사 분야 AI의 윤리적 가이드라인 등을 협의하기 위한 첫 단추를 끼우는 자리였다.
러-우크라 전쟁에서 이미 활용되고 있는 AI
회담은 단순히 정부 관계자들이 모여 정치적 논의를 하는 것에 그치지 않고 포럼 방식으로 발표와 질의응답, 민간기업들의 PR과 기술시연 등 다양한 프로그램들로 꾸려졌다. 필자는 학계 관계자로서 이 회담에 직접 참석했다. 마침 이번 회담은 대한민국과 네덜란드 정부 공동주최로 열렸다. 박진 외교부 장관도 회담에 참석했다.
기업들의 기술시연은 이미 군사 분야에서 영화 속 장면들처럼 발전한 AI의 현주소를 생생하게 느끼게 해주기에 충분했다. 네덜란드의 한 기업은 홀로그램 기술을 통해 가상의 무인기 영공 침범 시나리오를 시연했다. 홀로그램을 통해 실시간으로 영공을 침범한 무인기의 항적을 3차원 지도를 통해 식별하고 예상 경로를 추적해 격추한 이후의 무인기 파편 낙하 위치와 산정된 인명 피해 수준 등이 시각화됐다. 이 가상의 무인기 침범 시나리오는 회담이 열린 장소인 네덜란드 헤이그를 배경으로 이뤄졌는데 헤이그 곳곳에 설치된 실시간 유동인구, 차량 감지 센서뿐만 아니라 군사 레이더 등 다양한 센서를 통해 수집된 데이터가 인공지능 알고리즘을 통해 계산되어 시각화됐다.
군사 분야에서의 AI 활용에 대한 국제법적 규제가 명시적으로 존재하진 않는 상황에서 주목해야 할 지점은 이미 현실 전장에서 AI 기술이 쓰이고 있다는 점이다. 러시아-우크라이나 전쟁은 일종의 ‘샌드박스’(시험장)로 여겨진다. 회담에 참여한 서방 민간기업들은 러시아의 우크라이나 침략 초기 당시 젤렌스키 정부로부터 지원을 요청받았다는 사실을 언급하며 자사의 AI 기술이 우크라이나 방어를 위해 어떤 형식으로 적용되는지를 회담 참석자들과 공유했다. 특히 ‘팔란티어 테크놀로지스’ CEO인 알렉스 카프는 디지털화된 ‘킬체인’을 언급하며 자사 AI가 각종 정보자산을 통해 수집된 데이터를 기반으로 자동화된 표적 기능을 제공해 우크라이나군이 러시아군을 상대로 효율적인 방어작전을 펼칠 수 있도록 지원하고 있다고 소개했다. 그는 “(앞으로) 알고리즘 없이 전장에 나가는 것은 이미 시작하기도 전에 전투에서 패배한 것”이라고 말했다.
그러나 모든 분야가 그렇지만, 끝없는 발전이 가장 옳은 것은 아니다. 적절한 규제가 수반돼야 한다. 군사 분야에서는 더더욱 그렇다. REAIM(Responsible Artificial Intelligence in the Military)이라는 회담의 이름에서도 방점은 ‘책임’에 있다. 군사적 인공지능이라고 하면 영화 속에서 볼 수 있던 ‘터미네이터’와 같은 자발적 공격 능력을 갖춘 첨단 군사 무기 등이 쉽게 떠오르기 마련이다. 기술시연을 직접 보다 보니 더욱 그랬다. 필자는 한 기업 관계자에게 군사 분야에서 AI가 자발적 공격 능력으로 쓰일 가능성에 대해 질의했다. 이에 기업 관계자는 “북대서양조약기구(NATO) 국가들과의 협력을 위해서는 이들 국가가 제시하는 공통된 가치에 우리의 AI가 부합할 수 있어야 한다. 따라서 미국 국방부가 제시하는 ‘책임 있는 인공지능’ 등 요구되는 기준을 준수해 개발 방향을 설정한다”고 설명했다.
“군용 AI, 국제법 준수해야” 공동 행동 촉구
고위급 회담 마지막 날 참가국들은 뜻을 모아 ‘공동 행동 촉구서’를 발표했다. 이는 각국이 개발하고 있는 군용 AI가 제네바 협약 등 기존 국제법을 준수하며 책임 소재가 명확한 인간의 통제 속에 개발, 도입될 수 있도록 하는 데 주된 방점을 찍고 있다. 즉 영화 《터미네이터》에서처럼 AI가 자율적으로 표적화한 대상을 사살하는 등의 부작용과 무분별한 사용에 공통된 우려를 표한 것이다. 이번 ‘공동 행동 촉구서’가 법적 효력을 갖지는 않지만, 관련 논의의 첫 단추를 끼웠다는 데 대다수 참가자들이 긍정적으로 평가했다.
다만 현재의 국제법이 AI의 비윤리적인 군사적 이용을 제재할 수 없다는 게 시민사회와 학계의 공통된 의견이다. 구체적으로 군용 AI 관련 규제를 위한 국제법 도입을 우선해야 ‘책임 있는 인공지능’으로 이어질 수 있다는 주장이다. 이번 회담에서도 그와 같은 주장이 계속 나왔다. 아녜스 칼라마르 국제앰네스티 사무총장은 토론 세션에서 “인공지능의 윤리적 규범을 강조한다고 하지만 전쟁은 언제나 상대에 대한 편견에 의해 시작되었다. 이러한 편견은 누군가에 의해 알고리즘화되어 살상에 악용될 수 있다”고 경고했다. UC버클리의 스튜어트 러셀 교수 또한 “인공지능 기술이 들어간다면 어떠한 무기든지 대량살상무기화할 수 있다”면서 조속한 규제 도입의 중요성을 언급했다.
하지만 군과 민간기업 관계자들은 규제와 규범 도입에 앞서 방어전략에서는 인공지능을 적극 활용해야 한다는 입장이다. 한 기업 관계자는 “기존 국제협약 내에서도 군용 인공지능 규제가 가능하다”면서 “불필요한 추가 규제는 오히려 기술의 역행만을 낳는다”고 주장했다.
이처럼 현장 참석자들은 군용 AI에 대한 규제의 필요성에는 공감하고 있었으나 기존 국제법이 오늘날, 그리고 미래의 전장에까지 영향을 미칠 수 있는지에 대해서는 의견이 갈렸다. 그러나 모두가 인정하는 건 이번 행사처럼 국제사회 각계각층 이해관계자의 여론을 수렴할 수 있는 자리를 지속적으로 마련해 이견을 조율하고 필요한 사항을 보완해 나가야 한다는 점이다. 특히 다음 REAIM은 내년 서울에서 열린다. 회담에 참석한 박진 장관은 폐막식에서 이 사실을 발표하면서 “인공지능 선도국인 대한민국이 책임 있는 AI의 군사적 개발·사용을 위한 국제사회의 노력에 적극적으로 동참할 것”이라고 밝혔다.
