안전하고 신뢰할 수 있는 인공지능(AI)에 대한 연구가 국내에서도 'AI 안전연구소'를 축으로 본격적으로 이뤄진다.
향후 딥페이크 등 AI로 인한 부작용에 대응하기 위한 AI 위험 평가·정책 수립은 물론, AI 안전 윤리와 관련해 국제적으로 이뤄지는 논의에도 참여하게 된다.
과학기술정보통신부는 27일 경기 성남시 판교 글로벌 R&D센터에서 'AI 안전연구소' 개소식을 개최했다.
이날 행사에는 류광준 과기정통부 과학기술혁신본부장, 염재호 국가AI위원회 부위원장(태재대학교 총장)을 비롯해 삼성·LG·SK텔레콤·KT·네이버·카카오 등 정보기술(IT) 대기업과 라이너·뤼튼테크놀로지스·코난테크놀로지·트웰브랩스·포티투마루 등 AI 스타트업 관계자들이 참여했다.
연구소는 AI의 기술적 한계, 인간의 AI 기술 오용, AI 통제력 상실 등으로 발생하는 다양한 AI 위험에 체계적전문적으로 대응하기 위한 AI 안전연구 전담 조직이다.
영국·미국·일본·싱가포르·캐나다에 이어 여섯 번째로 설립됐다.
한국전자통신연구원(ETRI) 산하 연구소 형태로 초기 인력은 12명이다.
내년 1월까지 6명을 추가로 충원하고, 오는 2026년에는 30여명으로 인력을 늘릴 방침이다.
연구소는 AI 안전연구 허브이자, 국제 AI 안전연구소 네트워크의 일원으로 안전한 AI를 위한 글로벌 연대의 축이 될 전망이다.
국내 AI 안전 정책 고도화와 제도 확립, AI 기업의 안전 확보 지원 등에도 나선다.
개소식에서 김명주 소장은 "연구소는 규제 기관의 성격이 아니라, 글로벌 경쟁력을 확보하는 과정에서 장애가 되는 위험 요소를 최소화하는 등 국내 AI 기업들이 AI 관련 안전을 확보하는 데 많은 지원을 하겠다"고 말했다.
그러면서 히말라야 산맥을 등정하는 데 도움을 주는 '셰르파'처럼, AI 안전에 대해 잘 아는 연구 기관으로서 역할을 하고 싶다고 밝혔다.
AI 분야 세계적 석학 중 한 명으로 꼽히는 요슈아 벤지오 몬트리올대 교수도 영상을 통해 연구소 설립을 축하했다.
그는 연구소의 역할로 △업계와의 협업을 통한 위험 평가방법 연구발전 △AI 안전성 요건 수립 지원 △국제 협력을 통한 AI 안전체계의 상호 조화 등을 거론했다.
유상임 과기정통부 장관은 "연구소를 중심으로 산학연 연구역량을 결집해 AI 안전의 기술정책적 역량을 조속히 확보, 대한민국 AI 산업 혁신을 촉진할 튼튼한 안전 기반을 구축해 나가는 한편 글로벌 AI 안전 연대의 주도적 역할을 수행해 아시아·태평양을 대표하는 AI 안전 연구허브로 발전해 나갈 수 있도록 적극 지원하겠다"고 말했다.