AI타임스 | 국내 첫 ‘AI 신뢰성 해커톤’ 결과 공개…”낚시성·유해성 기사 필터링 서비스 많아”

‘신뢰할 수 있는 인공지능 국제연대(TRAIN)’와 AI 신뢰성 기술 전문 씽크포비엘(대표 박지환)이 서울교육대학교 사향융합체육관 그랜드홀에서 AI 신뢰성 해커톤 ‘트라이톤’ 시상식을 개최하고 관련 성과를 발표했다고 29일 밝혔다. 

트라이톤은 ‘정확도’ ‘성능’ ‘순위’ 등 기존의 해커톤이 중시하던 가치에서 벗어나, “AI가 틀린 답을 내놓았을 때, 우리는 이 결과를 설명할 수 있을 것인가”라는 질문에서 시작한 대회다. 

이번 신뢰성 해커톤에 참여해 본선을 통과한 후 결과물을 제출한 팀은 총 28개다. 그중 대부분은 낚시성 및 유해성 기사 콘텐츠를 필터링하는 서비스인 것으로 나타났다. 이 외에도 금융 사기성 및 금융 불법 홍보 게시글 탐지 AI 서비스, 유해 및 혐오 표현 탐지 AI 등이 결과물로 제출됐다.

1위는 과학기술연합대학원대학교(UST)와 경북대 AI 전공 대학원생으로 구성된 ‘TLV’ 팀(변재연·이제경·김보경)이 차지했다. TLV 팀은 ‘가디언 AI: 교육용 AI 안전성 평가 시스템’을 선보였다. SK텔레콤의 오픈소스 모델인 ‘에이닷엑스 4.0 라이트’를 활용했으며, 타 모델 적용 확장성도 열어두고 있다는 설명이다. 또, ‘클립 기반의 이미지 및 영상 썸네일 낚시 탐지 AI’로 확장하고 싶다고 밝혔다. 깃허브나 허깅페이스 등 오픈커뮤니티에 공개하는 방안도 검토 중이다.

가디언AI는 실제 서비스 환경을 가정한 구체적인 사례 설정과 충분한 근거 자료 바탕의 설계 구현, 일관되면서 기술적 완성도가 높은 서비스 수준 달성 등으로 높은 평가를 받았다. 천선일 트라이톤 멘토 겸 씽크포비엘 AI 신뢰성 선임 연구원은 “이번에 제출된 결과물들은, 학생치고 잘한 수준이 아니라 실무에서도 적용이 가능한 수준이었다”라고 강조했다. 

이 외 수상팀은 숨 쉰 채 발견 팀(2위, 서울시립대 인공지능학과), 성·신의 한 수 팀(3위, 성균관대 소프트웨어학과 및 성신여대 AI융합학부), SecurAI 팀(4위, 경상국립대 AI정보공학과), 이닦조 팀(5위, 가톨릭대 심리학과), GPS.dev 팀(6위, 성균관대 지능형소프트웨어학과) 등이 차지했다. 

이중 이닦조 팀은 가톨릭대 심리학과 학생들로 구성돼, AI 및 소프트웨어 관련 학과가 아닌데도 괄목할 만한 성과를 달성해 주목 받았다. 상금은 최대 420만100원에서 최소 52만5900원으로, AI 신뢰성 관련 국제 표준 번호를 상징한다. 상위 입상 참가자는 국내 IT 기업에서 정식 채용이 연계될 수 있는 인턴십 기회도 얻게 된다.

이번 대회와 관련해서는 기존 업계의 한계를 뛰어넘었다고 평가했다. AI의 위험에 대해 단순히 나열하는 방식이 아닌, 그 위험이 실제로 발생하는 조건을 구체화하는 데 초점을 맞췄다고 강조했다. 또, 특정 데이터의 편향이 AI의 최종 의사결정에 어떻게 개입하는지, 인간 감독이 모니터링에 실패할 경우 어떤 시나리오가 발생하는지도 고려했다는 설명이다. 

하지만, 이러한 AI 위험의 영향이 경미한지, 혹은 무거운지 등에 대한 측정은 보완돼야 한다고 의견을 제시했다. 또, 무엇이 문제인지 보다 “누가 어떻게 영향을 받는가”를 규명해야 한다고 덧붙였다. 

한편, 이번 대회는 AI 개발 절차 수행을 통해 내놓은 AI 신뢰성 입증 산출물을 평가해 순위를 가렸다. 지난해 10월1일 서울 삼성 코엑스에서 열린 오리엔테이션을 시작으로 4개월간 열린 대회에는 전국 대학 45개 팀 192명이 참여했는데, 예선을 거쳐 39팀(159명)이 본선에 진출했고 최종 28팀(117명)이 산출물을 제출하였다.

씽크포비엘은 기존 ‘레드팀’ 중심 해커톤과 비교해 범위 및 적용 기술에 차이가 있고 AI 신뢰성 기술 자체 또한 낯설었던 점을 고려해, 참여자가 중도 탈락하지 않게 자체 개발 교육 서비스를 제공한 것은 물론 AI 기술과 AI 신뢰성 개발 과정을 모두 경험한 10년 이상 경력 전문 연구인력이 나서는 1대 1 개별 멘토링을 제공했다. 덕분에 참여자의 실무 역량을 단기간에 끌어올릴 수 있었다는 설명이다. 

또, 소정의 교육 과정을 이수한 참여자에게 ‘AI 신뢰성 전문가 민간자격(CTAP, Certified Trustworthy AI Professional)’ 응시 기회를 제공했다. 지난 11일 전국 4개 시험장에서 치러진 제1회 시험에서 대회 참여자 40명이 합격했다.

박지환 씽크포비엘 대표는 “이번 대회를 통해 AI 신뢰성은 문헌이나 이론 학습만으로 습득할 수 있는 영역이 아니라 실제 현장에서 판단과 설명, 그리고 책임 있는 선택이 병행될 때 비로소 체득될 수 있다는 점이 명확히 입증됐다”라며 “참여자가 반복적인 검토와 설명 과정을 거치며 산출물을 고도화한 경험은 앞으로의 AI 신뢰성 교육과 인력 양성 방식에 시사하는 바가 클 것”이라고 말했다. 

출처 : https://www.aitimes.com/news/articleView.html?idxno=206121