▲ 종이신문보기

태재미래전략硏 주최 'AI 시대, 세계 안보의 길을 묻다' 포럼

반기문 전 유엔사무총장은 3일 "인공지능(AI) 기술 발전이 기술 통제를 위한 규범 형성보다 더 빠르게 진행되고 있다"며 "위험한 상황이 닥치기 전에 AI에 대한 국제적 규제 기구를 만들어야 한다"고 했다.

반 전 총장은 이날 태재미래전략연구원과 조선일보가 'AI 시대, 세계 안보의 길을 묻다'를 주제로 공동 개최한 포럼에서 기조연설을 통해 "AI는 양날의 칼로 인간의 삶을 풍족하게 할 수도, 철저히 파괴할 수도 있다"며 "AI가 인간의 통제를 벗어나 인공일반지능(AGI)으로 진화한다면 인류 생존을 위협할 수 있다"며 이렇게 말했다.

◇"AI 기술의 WMD 등 무기화 가능성"

반 전 총장은 "AI 기술은 대량살상무기(WMD)나 자율살상 무기에 사용돼 인류에 칼을 들이댈 가능성이 있고 적군과 아군을 가리지 않는다"며 "AI 기술 오용을 방지할 수 있는 방안에 대한 국제적 합의가 이뤄지지 않고 있다"고 했다. 그러면서 "히틀러 같은 사람이 악의적 의도나 정치적 목적으로 AI 기술을 사용할 수도 있기 때문에 AI의 국제적 규범을 마련하고 관리할 기관이 필요하다"며 "이 문제는 전 지구적 문제이기 때문에 해결책도 범지구적이어야 한다"고 했다. 반 전 총장이 속한 국제 원로 지도자들 모임인 '디 엘더스(The Elders)'는 최근 국제원자력기구(IAEA)와 핵확산금지조약(NPT)에 바탕을 둔 다자(多者) 글로벌 협력기구 창설을 통한 전 세계 AI 관련 안전조치 및 활동 관리 필요성을 제안했다.

김성환 태재미래전략연구원 원장도 이날 개회사에서 "올해 3월 우크라이나 전쟁에서 처음으로 인간 통제 없이 적군을 공격하는 AI 드론이 등장했다"며 "인간의 통제를 벗어난 AI가 인류 정체의 안보를 위협할 수도 있다는 우려가 현실화되고 있다"고 했다. 김 원장은 "AI는 WMD를 쉽게 확산시킬 수 있을 뿐만 아니라 그 자체로 가공할 만한 살상무기가 될 수 있다"며 "AI가 초래할 안보 위협은 핵무기를 넘어설지도 모른다"고 했다.

김원수 태재연구원 국제자문위원장은 "군사작전에서 AI가 전술적 차원의 결정뿐 아니라 전략적 결정까지 내리는 유형으로 발전할 가능성이 있다"며 "AI 기술에 기반한 생화학 테러와 '킬러 로봇'에 의한 대량살상 가능성도 현실화되고 있다"고 했다.

◇"국제사회, 늦기 전에 머리 맞대야"

김원수 위원장은 "AI의 국제적 안보 위협과 관련한 국제사회 대응은 아직 개별 국가 차원에 머물러 있다"며 "국가 간 기술 선점 경쟁으로 오히려 규제를 앞다퉈 완화하는 '바닥으로의 경주'가 확산할 우려가 크다"고 했다. 미국, 중국, 유럽연합(EU) 등이 AI 관련 규제안을 마련하고는 있으나 국제적 규범으로 활용되기에는 아직 역부족이라고 한다. 김 위원장은 "AI에 대한 국제적 대응을 위한 기구로 IAEA와 유사한 기구가 그 대안으로 제시되고 있으나 핵물질과 달리 AI는 비물질적이고 특정 지역에 한정되지 않고 진입 장벽도 매우 낮다는 점에서 그 특수성이 반드시 고려되어야 할 것"이라고 했다.

이날 토론자로 참여한 그레이엄 웹스터 스탠퍼드대 연구원은 "미국 백악관이 오늘 몇 시간 전에 미·중 정상이 수주일 내 정부 간 대화를 통해 AI 관련 대화를 나누기로 한 점은 고무적"이라며 "양측 간 AI와 관련한 글로벌 안보, 군사적 사용에 대한 논의가 오고 갈 것이라 생각되고 이것만으로도 지금은 다행스러운 일"이라고 했다. 루촨잉 상하이국제문제연구원 선임연구원은 "AI 사용과 안전에 대한 지식과 정보를 공유할수록 미·중 간 컨센서스에 이르는 것이 더 쉬워질 것"이라고 했다. 류 연구원은 "정보가 특정국에 독점되지 않고 있기 때문에 너무 비관적일 필요는 없다"고 했다.

유용원 전 조선일보 군사 전문기자는 "북한의 현재 AI 기술 수준이 어느 정도인지는 알 수 없으나 사이버전 능력을 감안하면 상당할 가능성이 있고 AI 기술이 있으면 군사력에 투입할 가능성이 매우 높다"고 했다. 기고자 : 김민서 기자
본문자수 : 1982
표/그림/사진 유무 : 있음
웹편집 : 보기