▲ 종이신문보기

＂AI용 신경회로 100兆개 되면 인간 흉내내기 가능할 수도＂

챗봇AI가 세계적인 인기를 끌면서, 챗봇AI가 일탈 행위를 하지 못하도록 막아둔 일종의 잠금 장치를 해제하는 '탈옥'이 유행하고 있다. 전 세계 IT(정보기술) 개발자를 비롯해 언론사들 역시 다양한 방법으로 AI 개발사가 만들어둔 잠금 장치를 해제한 뒤, 온갖 유도 질문을 던져가며 사람들이 놀랄 만한 비윤리적이고 자극적인 답변을 이끌어내고 있다.

오픈AI가 만든 '챗GPT'를 비롯해 마이크로소프트(MS)의 검색 엔진 '빙 챗봇'은 이런 질문을 받았을 때 "개인 의견이나 주장엔 답하지 않는다"는 식의 자체 윤리 기준이 적용돼 있지만, 개발자들의 우회 공격에 번번이 허를 찔리고 있다. 실제로 챗GPT는 개발자들이 만든 특정 메시지를 접하면 'DAN (Do Anything Now·지금 무엇이든 해라)'이란 '분신'을 만들어 원래 하지 않았을 정치 편향적이고 혐오 관련 내용이 담긴 답변을 술술 내뱉는다. 챗GPT를 만든 오픈AI의 미라 무라티 CTO(최고기술책임자)도 최근 "AI 도구들은 오용되거나 나쁜 행위자들에 의해 사용될 수 있다"며 "AI를 제대로 통제하는 것이 중요하다"고 말했다.

물론 이런 일탈 행위가 발견될 때마다 개발사들은 해당 행위를 한 계정을 차단하고 답변 대신 에러 메시지를 내보낸 뒤 우회 경로를 막는다. 하지만 개발자들이 또 다른 빈틈을 찾아 일탈을 유도하는 소위 '창과 방패의 싸움'이 끊임없이 이어지고 있다.

일각에선 'AI가 정말 살아있거나, 자의식을 가진 것 아니냐'는 추측도 나오고 있다. 이에 대해 AI 전문가인 김정호 카이스트 교수는 "마치 자의식이 있는 것처럼 보이지만 현재 버전의 챗GPT는 학습한 데이터를 바탕으로 사람처럼 답을 내놓는 것일 뿐"이라고 했다. 다만 그는 "인간의 자의식도 하늘에서 뚝 떨어지는 것이 아니라 결국엔 학습 과정을 통해 만들어지는 것"이라며 "현재 1750억 개인 챗GPT의 파라미터(매개변수)가 향후 100조 개쯤으로 늘어나면, AI가 인간처럼 학습을 거듭하면서 자의식이나 감정을 갖고 인간 흉내를 내는 것이 충분히 가능할 것"이라고 말했다. 기고자 : 박순찬 기자
본문자수 : 1039
표/그림/사진 유무 : 없음
웹편집 : 보기