 |
보도에 따르면 일본 아동가정청은 만성적인 인력부족에 시달리는 전국 아동상담소에 보급해 학대 판단, 일시보호 판정에 활용하려했던 AI의 도입을 연기했다.
해당 시스템은 일본 정부가 2021년부터 약 10억엔(약 97억원)을 투입해 개발했다.
AI에 약 5000건의 학대 기록을 학습시키고, 상처의 유무나 부위, 보호자의 태도 등 91개 항목을 입력해 학대의 가능성을 0∼100점으로 수치화하도록했다.
시제품이 거의 완성된 상태에서 10개 지방자치단체의 협력을 얻어 과거 학대 사례 100건의 리스크를 판정하도록 하는 방식으로 검증을 진행했다.
요미우리는 “(AI 판단의) 정밀도를 각 아동상담소 간부들이 확인한 결과 100건 중 62건에서 ‘현저히 낮다’는 판단이 내려졌다”고 전했다.
“엄마에게 반죽음 이상의 짓을 당했다”, “옷을 잡아 바닥에 머리를 내리쳤다”는 등의 아이 증언이 있는 경우에도 AI는 학대 가능성을 2∼3점으로 표시해 아주 낮게 봤다.
올해 도입을 목표로 했던 아동가정청은 시기상조라고 판단해 개발을 보류하기로 하고, AI발전 상황을 봐가며 개발을 재개할 지 등을 판단한다는 방침이다.
요미우리는 이같은 결과가 나온 이유로 “사례마다 양상이 다른 학대를 AI가 정밀하게 판정하는 것이 어렵다”며 “AI학습에는 방대한 양의 기록이 필요한데 (해당 AI 학습에 사용된) 5000건은 적은 것이기도 하다”고 지적했다.
아동가정청 관계자는 요미우리에 “아이도 체중 감소 같은 중요한 항목이 빠져 있다”고 설명했다.
또 AI에 입력되는 91개 정보항목에는 상처의 정도나 범위 등까지는 포함되지 않아 정밀도가 떨어졌다.
국립정보학연구소 관계자는 “AI는 무엇이든 할 수 있는 마법의 지팡이가 아니다.
개발 전에 실현가능성을 점검하고, 면밀하게 설계를 해야 한다”며 “AI는 관공서에서도 보급이 확산되고 있지만 이번의 실패를 공유해 앞으로는 이런 사례가 발생하지 않도록 해야 한다”고 강조했다.
도쿄=강구열 특파원?river910@segye.com
<본 콘텐츠의 저작권 및 법적 책임은 세계일보(www.segye.com)에 있으며, 뽐뿌는 제휴를 통해 제공하고 있습니다.>
등록안내
