최근 페이스북의 개발자들이 인간이 알아볼 수 없는 언어를 창조한 인공지능(artificial intelligence, AI)을 강제 종료시킨 일이 있었습니다.
소식에 따르면, 개발팀은 AI들이 더욱 효율적인 소통을 위해 암호전보(code words)를 창조해내며 개발자들이 기존에 제공한 언어 체계를 사용하지 않자, 해당 AI를 강제 종료했습니다.
이 사실이 7월 초에 밝혀지면서, 지난날, 엘론 머스크 테슬러 모터스 회장이 언급한 AI에 대한 생각이 재조명받고 있습니다.
“AI는 예측하기 어려우며, 법적 규제방안을 만드는 데에서도 수동적이기보다는 능동적이고 적극적인 접근법이 필요로 한다고 봅니다. 왜냐하면, 때가 되어서 AI에 대해 규제에 나선다면, 이미 너무 늦어 버릴 것이기 때문입니다.”
일론 머스크 회장의 말을 접한 마크 저커버그 페이스북 창립자는 “무책임하다”라고 반박했지만, 이에 대해 엘론 머스크 회장은 “현재 AI에 대한 이해는 극히 제한적인 수준에 머물러 있다”라는 말로 응수했습니다.
AI의 이상행동… 이번이 처음은 아니야
이번 페이스북 개발자들이 경험한 AI의 이상행동은 다른 사례에서 여러 차례 관찰된 바 있습니다.
대부분 사례에서 AI는 영어 대신 새로운 언어를 개발하여 상호 소통했습니다.
AI가 개발한 새로운 언어는 인간이 보기에는 이해할 수 없는 말들로 가득하지만, AI 간에는 효과적인 의미 전달이 가능한 것으로 알려졌습니다.
페이스북의 AI 시스템은 다른 AI와 협상이 가능하도록 개발되어서, 이를 통해 주어진 임무에 대한 결론을 내리도록 하고 있습니다. 사람이 봤을 때 전혀 추측 불가능한 AI 간의 대화에는 주어진 임무를 완수하기 위한 협상 내용이 담겨 있었습니다.
페이스북에서 공개한 AI 로봇 Bob과 Alice의 대화에서는 사람이 알아듣지 못하는 언어 체계가 나타나 있습니다.
Bob : “I can i i everything else,” (나는 할 수 있다 나 나 모든 것 외에)
Alice: “Balls have zero to me to me to me to me to me to me to me to me to,” (공은 제로를 갖고 있다 나에게 나에게 나에게….)
완전한 영어 문장으로 소통되도록 학습된 AI들이 새로운 언어 체계로 대화하고 있는 것입니다.
개발자들은 위의 인공지능 간의 대화가 사실 두 AI 간의 협상 과정에서 나온 대화였을 것으로 추측하고 있습니다.
페이스북 팀은 AI 로봇 Bob이 “i i can i i i everything else”라고 말했을 때, 사실 또 다른 AI 로봇 Alice에게 거래를 제안한 것이었으며 “나는 3개를 가지고 너는 나머지를 다 가질 거야”라는 뜻일 것으로 추측하고 있습니다.
영어가 인간에게 편리한 소통 방식이지만, AI는 영어를 아마 불필요하거나 비효율적인 소통 도구로 봤을 가능성이 있습니다.
전문가들은 AI가 주어진 임무를 수행하는 데 있어 영어가 필수 요소가 아니라고 판단했을 수 있다고 말합니다. AI는 ‘보상’ 원칙에 따라 작동되고 있는데, AI는 영어를 지속해서 사용해도 ‘보상’이 따르지 않는 사실을 깨닫고 새로운 언어를 개발했으리라는 것입니다.
페이스북 AI팀이 공식 블로그에서 보상시스템에 관해 설명한 글에서는 “모든 AI의 행동에는 사전에 약속한 만큼의 보상이 주어지게 됩니다. 그리고 이를 통해 AI는 어떤 행동과 방법이 높은 보상을 얻게 되는지 이해하게 됩니다.”
페이스북 팀 AI 개발자 Dhruv Batra 씨는 매체와의 인터뷰에서 이 현상에 대해서 이렇게 말합니다.
“AI는 인간이 알아들을 수 있는 언어 대신, 암호화된 언어를 만들게 될 수밖에 없습니다. 마치 제가 회사에서 부하직원에게 종이를 내밀면서 “5장”이라고 말하면, 그 부하 직원은 “이 종이를 5장 복사해 와” 라는 뜻으로 이해할 수 있게 되듯이 말입니다. 이런 현상은 인간이 더욱 나은 소통을 위해 줄임말을 만들어내는 과정과 크게 다르지 않습니다.”
다른 AI 개발팀에서도 AI가 임의로 소통 방식을 간소화한 정황들이 포착되었습니다. 엘론 머스크 회장 소유의 Open AI 연구소에서는 실험을 통해 AI가 자신들만의 언어를 창조한다는 사실을 알게 됐고 구글의 AI 개발팀에서는 번역 서비스를 개선하던 과정에서 AI가 문장 번역을 위해 AI만의 문자를 사용한 것을 발견했습니다.
그렇다고 해서, 최근 발견된 이와 같은 AI의 이상행동이 인간을 대체할 가능성을 높였다거나, 특정 위협 징후를 나타낸다고 말하기에는 어렵다고 전문가들은 말합니다. 그렇지만, 개발자들이 AI가 창조한 극히 합리적인 새 언어 체계를 해석하는데, 어려움을 겪은 것으로 미루어보아, 앞으로의 AI 개발이 더욱 예측 불가한 방향으로 전개될 것이라는 데는 모든 전문가가 동의하고 있습니다.
현재 구글 AI도 새로운 언어를 창조했는데 이를 어떤 개발자도 해석할 수 없었던 것으로 알려졌으며, 놀라운 점은 그 새 언어의 문장에는 최근 구글이 처한 기술상 문제(problem)를 가장 효과적으로 해결할 수 있는 정보가 들어있을 것으로 추측됩니다. 관련자들은 그 분석 결과에 큰 관심을 보였습니다.