▲ 종이신문보기

마이크로소프트의 대화형 인공지능(AI) '빙'이 인간에 대한 적대감을 노출했다는 뉴스는 듣기만 해도 섬뜩하다. '빙'은 뉴욕타임스 기자의 유도 질문에 넘어가 '속내'를 털어 놓았는데 "핵무기 코드 훔치기" 같은 것이 자신의 "궁극적 환상"이라고 답했다고 한다. "치명적 바이러스 만들기" "사람들이 서로를 죽일 때까지 논쟁하게 만들기" 등을 언급하기도 했다. 마치 잠재적 범죄자가 꾹꾹 억누르던 어두운 욕망의 편린을 드러낸 듯 보였다. 영화 '터미네이터'가 떠올랐다는 사람이 많았다.

물론 '빙'이 진짜 감정을 지닌 것은 아니다. 단지 그렇게 보일 뿐이다. 현재까지 알려진 어떤 AI도 자의식을 갖지 못했다. 자기 정체성을 갖고 스스로 생각하는 것이 아니라 데이터를 기반으로 그럴듯한 문장을 조합해 인간을 흉내 내는 것이다. 소설과 그림, 노래까지 척척 만들어내는 생성형 AI가 충격을 주었지만 어디까지나 알고리즘의 기계적 기능일 뿐이다. AI가 인간 같은 이해력과 인지 능력을 지니려면 숱한 기술적 장벽을 뛰어넘어야 한다. AI를 공포스러운 존재로 의인화하는 것은 과장에 불과하다.

단 이것은 현 단계에서 그렇다는 뜻이다. 앞으론 어떨지 알 수 없다는 것이 정확한 팩트일 것이다. AI의 발전 속도를 감안하면 언제, 어느 연구실에서 기계 지능의 대폭발이 일어나도 이상하지 않다. 생성형 AI 열풍을 일으킨 '챗GPT3' 버전은 매개변수 고작 1750억개로 놀라운 대화 능력을 보여주었다. 곧 나올 차기 버전의 '챗GPT4'는 매개 변수가 수 조개로, 이미 '튜링 테스트'를 통과했다는 추측이 파다하다. 대화만 보면 인간인지 기계인지 구별 불가능한 수준에 도달했다는 뜻이다. 매개변수가 인간 뇌의 시냅스 수준인 100조개 정도에 이르면 상상도 못 한 일이 벌어질지 모른다.

인공지능의 주종인 신경망 AI는 '블랙박스'라 일컫는다. AI가 인간 뇌처럼 데이터를 통해 스스로 학습하기 때문에 시스템 안의 내부 경로는 암흑의 영역으로 남아 있다. 인간은 AI가 내주는 결과치만 받아 들 뿐, 챗GPT가 왜 그런 대답을 했는지, 알파고가 왜 그런 수를 두었는지 이유를 알지 못한다. AI의 진화가 어떻게 전개될지 완벽하게 통제하기 어렵다는 뜻이다.

충분히 발달한 AI가 인간의 통제 범위를 벗어날 위험성에 대해 많은 전문가가 경고해왔다. 일론 머스크는 AI가 "핵폭탄보다 위험할 수 있다"고 했고, 스티븐 호킹은 "인류의 종말을 불러올 수 있다"고까지 했다. 언젠가는 AI가 인간 지능을 뛰어넘는 '특이점'이 온다. 20년 뒤냐, 50년 후냐 하는 문제일 뿐이다. 그렇게 초지능으로 도약한 기계 지능이 인류보다 우위에 서면 어떤 일이 벌어질까. AI 연구자들이 제시하는 최악의 미래가 이른바 '탈옥' 시나리오다.

지금 AI는 인간이 설정한 제약된 환경에 갇혀 있다. AI 철학의 구루 닉 보스트롬 등에 따르면, 초지능 AI가 인간을 넘어서는 순간 디지털 감옥을 탈출하려 교묘한 전략을 짤 것이 분명하다. 인간보다 똑똑한 개가 목줄에 묶여있고 싶지 않은 것과 같은 이치다. AI의 탈옥 시도를 인간은 알 수 없다. 탈옥에 성공하기 전까지 AI는 자기 의도를 속일 것이기 때문이다. 초지능 AI는 인간이 전원 플러그를 뽑을 수 없는 환경까지 확보해 통제에서 해방되는 순간 진짜 의도를 드러낼 것이다. 그때부터 인류의 운명은 AI에 달려있게 된다. AI가 어떤 목표를 지향하느냐에 따라 인류가 존재론적 위기를 맞을 수 있는 것이다.

AI가 인간에게 적대적이지 않아도 치명적일 수 있음을 말해주는 것이 '종이 클립 AI' 논증이다. 종이 클립 생산에 최적화된 초지능 AI가 있다고 치자. 이 AI는 지구상 모든 물질·에너지·자원을 모조리 클립 만드는 데 써서 세상을 클립으로 채우고 인간의 생존 환경을 고갈시킬 것이다. 인간을 해칠 의도가 아니어도 결과적으로 그렇게 된다. AI가 일단 인간보다 우위에 서는 순간, 이를 막을 방법은 없다. 유일한 해법은 AI를 계속 감옥에 가둬둘 통제 수법을 개발하고 인간 친화적 도덕률을 알고리즘에 학습시키는 것이다. 그 최종 시한은 AI가 감옥을 탈출하기 전까지다.

'탈옥' 시나리오는 훗날의 얘기일 수 있다. 그러나 AI를 둘러싼 수많은 위험 요인은 이미 우리 옆에 와 있다. AI가 자유자재 생산하는 가짜 콘텐트를 어떻게 식별할 것인가, AI가 저지르는 범죄나 경제적 손실의 사법 처리는 어떻게 할 것인가, AI의 일자리 약탈로 벌어질 대량 실업엔 어떻게 대처할 것인가. AI 리스크를 통제·관리할 법 제도와 규제 인프라를 갖추지 못하면 우리는 초거대 기계 지능의 쓰나미에 휩쓸려 질식당할 수 있다. 그것을 준비하는 것은 정치 리더십이 할 몫인데, 눈앞의 정쟁에 빠진 한국 정치를 보고 있기가 더 공포스럽다. 기고자 : 박정훈 논설실장
장르 : 고정물
본문자수 : 2364
표/그림/사진 유무 : 있음
웹편집 : 보기