AI는 인류에게 선(Good)이 되기보다, 악(Bad)이 되기 쉽다.

 
왜 딥 러닝의 창시자가 초거대 AI 연구 중단을 제안했을까?
인류에게 인공지능(AI)은 무엇일까? 선(Good)일까? 악(Bad)일까?
인공지능의 역사 발전에 있어서 큰 공헌을 한 딥 러닝(Deep Learning)의 창시자인 캐나다의 요슈아 벤지오(Yoshua Bengio) 몬트리올대학교 컴퓨터과학 교수가 2023년 3월 “초거대 AI 연구를 6개월 동안 일시적으로 중단하자”고 제안했다.
AI 분야의 최전선에서 앞장서서 연구해 오던 벤지오 교수가 갑자기 AI 기술개발 중지를 선언한 것은 많은 사람들에게 놀라움을 가져왔다.
왜 벤지오 교수가 AI 기술개발 중단을 제안했을까. 이는 AI가 인간의 의도와는 다르게 행동할 수 있는 문제점과 잘못된 윤리관을 가진 인간이 강력한 AI를 소유하고, 이를 남용하는 것에 대한 걱정, 두려움 때문이었다고 한다.
AI 시대는 인류에게 선(Good)으로 작용하는 측면이 분명하게 많이 있다.
AI를 활용하여 인류의 고질적인 문제를 쉽게 해결하거나, 생산성 증대, 비용 절감과 부담 경감, 새로운 창작, 새로운 비즈니스 모델 개발 등 인류에게 많은 도움을 주게 될 것이다.
그런데 벤지오 교수는 AI가 인류에게 선(Good)으로 적용되기보다는, 오히려 악(Bad)으로 많이 적용되는 것을 더 두려워해서 AI 기술개발 중단을 제안했을 것이다.
사실 지금도 AI 기술 발전이 가속화되면서, 전 세계적으로 AI를 악용한 가짜뉴스 생산, 여론 조작 등 나쁜(Bad) AI가 우리 인류에게 빠르게 확산하고 있다.
나쁜(Bad) AI가 인류를 지배할 가능성에 더 대비해야 한다.

그런데 어찌 보면 AI가 가짜뉴스, 여론 조작 등을 하는 경우는 그래도 그나마 나은 것이다.
앞으로 AI 기술이 더욱 발전하면서, AI가 살인용, 절도용, 전쟁용 등 인류를 파괴하는 데 앞장설, 나쁜(Bad) AI가 이 세상을 지배할 가능성이 훨씬 높다는 데 문제가 있다.
그런데 만약 인류가 이 세상에 AI가 얼마나 존재하고 있는지를 관리하지도 않아, 그 정확한 통계조차도 알 수 없는 상황이라고 가정해 보자. 나쁜(Bad) AI가 살인, 방화, 절도 등 사회에 큰 해악을 끼치는 사고를 쳐도, 어떤 AI가 사고를 쳤는지를 전혀 파악하기 어려워, 인류가 큰 혼란에 빠지게 될 것이다.
나쁜(Bad) AI의 활동에 대하여 전혀 관리와 통제가 되지 않는 무정부의 상황이 발생할 수도 있다.
특히 AI 자동차, AI 로봇, AI 드론 등 움직이는(Moving) AI, 또는 인간을 닮은 휴머노이드(Humanoid) AI 로봇이 이 세상을 돌아다니면서, 인류에게 나쁜(Bad) 짓을 한다면 어떻게 할 것인가. 인류가 오히려 나쁜(Bad) AI에 의하여 지배당할 가능성이 많다.
 
 
AI 시대, 나쁜 AI의 재앙을 막고, 선(Good)한 방향으로 유도 위해 국제적인 관리 및 통제 체제를 마련해야 
 
이러한 상황이 발생하지 않도록 하려면 인류는 AI 윤리, AI의 제조, 등록 관리 등에 대한 국제적인 가이드라인 등을 마련하여, 나쁜 AI가 탄생하지 않도록 사전에 통제해야 한다.
 
1. 나쁜(Bad) AI의 탄생(제조)을 막는 AI 제조 윤리를 마련해야 한다.

인류는 AI가 장차 인류에게 재앙이 되지 않도록 하려면, 자신을 파멸할 나쁜(Bad) AI의 탄생(제조)을 사전에 막을 국제적인 기준, 가이드라인 등을 미리 만들어서 모든 국가가, 그리고 모든 인간들이 이를 준수하도록 강제해야 한다.
그렇지 않으면, 나쁜(Bad) AI의 탄생을 사전에 막을 수가 없을 것이다.
따라서 UN을 중심으로 나쁜 AI의 탄생을 막는 AI 시대 윤리를 UN 헌장으로 제정해야 한다.
그래서, 인류에게 좋은(Good) AI만 탄생하도록 유도해야 한다.
그렇지 않으면, 나쁜(Bad) AI에 의하여 인간이 파멸할 수도 있다.
인간의 본성상 선한(Good) AI보다는 나쁜(Bad) AI를 탄생시켜서, 자신들의 개인 이익을 위한 나쁜 짓에 악용할 가능성이 매우 높기 때문이다.
 
2. AI에 법 인격(Legal ID)을 부여하는, 국가등록제도를 도입해야 한다.

둘째, 또한 탄생한(제조된) 모든 AI에 대해서는 국가에 등록하도록 해야 한다.
이를 위해 탄생한 AI의 등록에 대한 UN 가이드라인을 만들고, 그 UN 가이드라인에 따라 각 국가 별로 세부 가이드라인을 만들어서 시행토록 해야 한다.
특히 앞서 살펴본 바와 같이, 악용될 가능성이 높은 휴머노이드 AI 로봇, AI 자동차, AI 드론 등 움직이는(Moving) AI는 그 형태가 어떠하든지 우선적으로 등록하도록 해야 한다.
AI를 등록해 두어야 AI가 살인, 도둑 등 나쁜 짓을 했을 때, 이를 파악하거나 추적할 수가 있을 것이다.
따라서 앞으로 모든 AI에게 인간과 같은 법적인 아이디(Legal ID)를 부여하고 등록하도록 해야 한다.
즉 AI에게 법 인격을 부여해야 한다.
그렇게 해야, 어느 한 국가 내에 얼마나 많은 AI가 활동하고 있는지를 사전에 파악하고 관리하는 것이 가능하다.
즉 국가가 AI의 소유자, AI의 소재 지역, AI의 활동 상황, 생존 여부 등을 사전에 파악하고 있음으로써 유사시 관리 및 통제가 가능하다.
 
3. AI의 소유권 이전 등 AI의 소유권 변동 상황도 관리해야 한다.

셋째, 인간들 간에 AI를 사고파는 소유권 이전도 활발하게 생겨날 것이다.
이러한 AI 소유권의 이전도 AI를 등록해야, 누구에게서 누구에게로 이전했고, 소재지는 어디로 변경되었고, 어떤 활동을 하고 있는지, 생존은 하고 있는지 등에 대한 관리가 가능할 것이다.
사람들의 주민등록지 이전과 마찬가지로 AI의 소유자, 소재지, 활용 상황 등의 변동이 있으면 국가에 신고토록 해야 AI에 대한 추적도 가능하게 될 것이다.
이렇게 해야 AI의 변동 상황에 대한 국가의 관리가 가능하다.
4. AI가 생산한 새로운 창작물에 대한 지식재산권도 보호해야 한다.

넷째, 앞으로는 AI가 생산한 엄청난 새로운 창작물이 생겨날 것이다.
이는 분명하게 인류의 창작물과는 다른 법적인 보호 대상이다.
AI를 등록하여 법적인 아이디(Legal ID)가 부여되면, AI가 생산한 창작물에 대한 지식재산권(Copyright)도 인정할 수 있는 기반이 마련된다.
AI가 생산한 창작물의 지식재산권에 대한 권리 보호도 이루어질 수가 있다.
최근 과학기술정보통신부에 AI가 생산한 창작물에 대한 지식재산권(Copyright)을 보호하기 위한 사단법인을 등록했다.
즉 IACAI(International Agency for Copyright of AI)가 그것이다.
앞으로 다른 나라들도 동참시켜 AI가 생산한 창작물에 대한 지식재산권 문제를 다루는 국제기구로서 역할을 할 수 있도록 해 나갈 것이다.
 
5. AI의 지식재산권 활동 등에 의한 소득과 과세를 발생한다.

다섯째, AI가 생산한 창작물에 대한 지식재산권(Copyright) 등의 권리가 인정되면, 이를 통한 소득도 발생할 것이다.
물론 그 소득이 당장은 AI의 소유주에게 귀속되어 과세가 될 것이다.
그러나, 앞으로 AI가 생산한 지식재산권이 인정되고 이를 활용한 비즈니스 활동과 거래가 뒤따른다면, AI 자체에 대해 수익 즉 소득이 발생할 것이다.
그러면, AI가 창출한 수익에 대해서는 소득세를 내야 할 것이다.
드디어 인류가 꿈을 꾸어 온, AI가 일을 하고, AI가 돈을 벌고, AI가 세금을 내는 세상이 올 것이다.
그러면, 인류는 AI가 낸 세금으로 행복하게 살게 될 날이 실현될 것이다.
  
AI관련 UN기구를 한국에 유지하여, 한국이 AI 시대를 주도하자.
AI 시대는 인류가 예측하는 것보다는 훨씬 빠른 속도로 진전될 것이며, AI 시대가 인류에게 미칠 영향은 좋은 방향이든지, 나쁜 방향이든지 예측하는 것보다 엄청나게 클 것이다.
그런데, 앞으로의 관건은 인류가 AI가 미칠 부정적인 영향을 얼마나 잘 관리하고 통제하느냐다.
그런데, 아직은 인류가 AI가 가져올 나쁜(Bad), 부정적인(Negative) 영향에 대하여 UN 등을 중심으로 국제적인 논의가 제대로 이루어지지 않고 있는 상황이다.
대한민국이 앞으로 닥쳐올 AI 시대의 미래를 예측하고, AI 시대가 인류에게 가져올 나쁜 영향을 최소화하면서, AI가 인류에게 좋은 방향에서 활용되도록 관리, 통제하는 데 앞장서서 나가야 한다.
대한민국은 AI 시대의 기초가 되는 IT 인프라가 가장 잘 준비된 나라이다.
AI 관련 UN 기구를 한국에 유치하여, AI 시대를 한국이 주도하자. AI 시대는 대한민국에게 새로운 성장의 돌파구요, 대한민국의 나아갈 길이다.
 
구윤철 필자 주요 이력
△서울대 경제학부 특임교수 △전 국무조정실장 △전 기획재정부 차관