포티투마루 LLM 'LLM42', 생성 AI 모델 최초 'AI 신뢰성 인증' 받아

한국정보통신기술협회(TTA)는 포티투마루의 인공지능(AI) 언어모델 'LLM42 v1.1'에 대해 생성 AI 모델 최초로 'AI 신뢰성 인증(CAT)'을 부여했다고 7일 발표했다.
TTA는 올해부터 본격적으로 CAT 서비스를 운영하고 있다.
이미 안전, 국방, 채용, 교육 4개 분야의 제품·서비스에 해당 인증을 보유한 바 있다.
포티투마루의 LLM42는 한국어 말뭉치 데이터를 학습하고 자체 명령어 집합을 통해 미세조정(파인튜닝)된 13B(130억 파라미터) 기반의 AI 언어모델이다.
이 모델은 주로 전문 도메인별로 특화해 질의응답, 요약, 분류, 초안 작성 등을 제공하는 B2B 서비스용으로 개발됐다.
유럽연합(EU)의 AI 법은 LLM42와 같은 '범용 AI(GPAI)' 모델을 별도의 범주로 정의하고 있으며 기술문서 작성과 투명성 의무 등을 요구하고 있다.
이에 범용 AI의 특수성과 고위험 용도로 사용될 가능성을 고려해 LLM42 모델에 필요한 신뢰성 기준을 충족하는지 심사했다.
TTA는 LLM42 모델의 신뢰성 인증 과정에서 개인정보 보호와 지식재산권 등 법규 위반으로 인한 손실(기업의 금전적 손실, 사용자 피해 등) 위험, 모델의 편향된 출력, 정보 투명성 부족(설명 가능성), 성능 저하(환각 현상 포함) 등을 주요 위험 요소로 식별했다.
 
또 모델의 위험 완화 또는 대응 방안을 확인하기 위해 거버넌스 체계 구축·운영, 레드팀 수행을 통한 취약점 점검·보안, 모델 정보의 문서화, 성능 수준 관리 등의 사항들을 심사하고 인증서를 발급했다.
향후 모델의 지속적인 신뢰성 보장을 위해서는 인증에서 확인한 사항들을 기반으로 기업의 지속적인 실천 노력이 필요하는 것이 TTA의 설명이다.
TTA는 글로벌 정책·연구(EU AI ACT, NIST AI RMF 등)와 관련 표준(ISO/IEC, TTA 단체표준 등)을 기반으로 AI 신뢰성 확보 체계를 평가하기 위한 인증 서비스를 제공하고 있다.
하지만 AI의 신뢰성을 평가하기 위한 기준은 세계적으로 아직 완전히 확립되지 않았으며, 급격한 기술 발달과 국제사회 논의에 맞춰 계속적 갱신이 필요하다.
손승현 TTA 회장은 "생성 AI는 국내 성공적 도입 시 연간 300조 원에 달하는 경제적 파급효과가 기대되지만, 이를 실현하려면 안전성과 신뢰성이 먼저 해결돼야 한다"며 "TTA는 모두가 안심하고 사용할 수 있는 AI 생태계를 만들 수 있도록 AI 안전성신뢰성 전문 시험 인증기관으로서의 역할에 최선을 다할 것"이라고 말했다.