아이티데일리 | [현장] “AI 만든 엔지니어 떠나도, 책임 전문가는 남는다”…국내 첫 AI 신뢰성 민간 전문가 시험장 가보니

씽크포비엘, 제1회 CTAP 시행…“AI 신뢰성은 산업 인프라”

“데이터를 어떻게 다뤄야 하는지, 신뢰성 관점에서 모델을 구축·평가하고 시스템을 어떻게 모니터링할 것인지에 대한 사고는 AI 기본법을 준수하는 AI 모델과 시스템을 만드는 데 필요한 핵심 역량입니다.”

지난 11일 오후 찾은 ‘AI 신뢰성 전문가 민간자격(CTAP, Certified Trustworthy AI Professional)’ 시험 현장 관계자의 말이다. 이날 서울교육대학교 인문관에서는 국내 최초의 AI 신뢰성 전문가 민간자격 시험이 치러졌다. CTAP는 지난해 11월 한국직업능력연구원에 정식 등록된 민간자격으로, 서울·부산·광주·충북 등 전국 네 곳에서 동시에 시행됐다.

자격을 관리하는 AI 신뢰성 기술 전문기업 씽크포비엘에 따르면 시험 내용은 ‘신뢰할 수 있는 인공지능(Trustworthy AI)’과 관련됐다. 구체적으로 AI 기본법 매트릭스와 관련해 어떤 문제(법적·기술적·주기적 관점)를 해결하기 위한 것인지 등에 관한 내용 등이 주를 이룬다.

이번 시험에는 지난 10월부터 열리고 있는 AI 신뢰성 해커톤 ‘제1회 트라이톤’ 참가자들을 비롯해 약 50여 명이 응시했다. 시험은 객관식 45문항으로 구성되며 100점 만점에 65점 이상을 받으면 합격이다. 합격자는 일반등급(FL) 자격을 취득한다.

문항은 AI 시스템의 전 생애주기를 전제로, 각 단계에서 발생할 수 있는 위험의 성격을 구분해 이해하고 판단하는지를 묻는 방식으로 구성됐다. 단순한 성능 문제나 기술 오류를 넘어 판단의 한계·책임 귀속·통제 필요성 등 위험이 왜 발생하는지와 이를 어떻게 관리해야 하는지를 구분하는 문제들이 출제됐다.

예컨대 의료 AI에서의 인간 감독 역시 막연한 불신이 아니라, 의료 환경에서 AI 판단이 갖는 특성과 한계에 따른 통제 장치로 이해하고 있는지를 확인하는 식이다.

특히 씽크포비엘은 CTAP가 단순히 자격 하나를 추가하는 데 목적이 있는 것이 아니라, AI 신뢰성을 둘러싼 산업 전반의 인식을 바로잡고 제도적 공백을 메우는 역할을 염두에 두고 설계됐다고 강조했다.

그간 국내에서는 AI 윤리와 신뢰, 안전에 대한 논의가 반복돼 왔지만, 정작 기업 현장에서는 “누가, 어디까지, 무엇을 해야 하느냐”는 질문에 답하지 못한 채 선언만 쌓여 왔다는 지적이다.

씽크포비엘 박지환 대표는 “지금 한국 AI 산업은 심각한 착시에 빠져 있다. ‘Trust AI’라는 말을 쓰면서 AI 자체를 믿게 만드는 기술만 있으면 되는 것처럼 행동한다”며 “해외에서는 Trust AI가 아니라 ‘Trustworthy AI’라는 용어를 사용한다. 이는 AI를 믿는게 아니라 AI를 설계·운영·감독하는 사람이 믿을 수 있어야 한다는 뜻이다”고 밝혔다.

이어 “가령 ‘이 시스템에서 위험은 어디서 감지되는가’, ‘감지된 위험은 누구의 판단으로 어떤 의사결정을 촉발하는가’ 등 브레이크가 달려 있느냐가 아니라, 그 브레이크가 실제로 작동하느냐를 묻는 것”이라며 “AI 신뢰성은 태도가 아니라 직무이자 역량이며 산업 인프라로, 그 인프라 없이 AI만 키우는 사회는 속도는 빠를지 몰라도 한 번은 크게 넘어질 수밖에 없다”고 덧붙였다.

그러면서 그는 “AI 기본법이 만들어지고 국제 규제가 강화되면서 AI는 이제 ‘AI를 왜 허용했는지 설명해야 하는 기술’이 됐다. 앞으로 모델도, 기술도, 회사도 바뀔테지만 책임을 설계하는 역할은 사라지지 않을 것”이라며 “AI를 만들고 나면 그 기술을 만든 엔지니어가 다시 밀려나는 시대에, CTAP는 누가 끝까지 책임을 지고 남게 되는지를 가르는 기준이 될 수 있는 자격이라고 생각”이라고 말했다

출처 : http://www.itdaily.kr/news/articleView.html?idxno=237370