농수축산신문 | 씽크포비엘, 제2회 트라이톤 개막

AI 개발 단계 'AI 신뢰성' 활동 전 과정 평가 대상

제2회 트라이톤이 지난 12일 서울 가톨릭대 옴니버스파크에서 개막됐다. [씽크포비엘 제공]

신뢰할 수 있는 인공지능(AI) 국제연대 한국 네트워크(TRAIN코리아)와 씽크포비엘은 지난 12일 서울 가톨릭대 성의교정 옴니버스파크에서 ‘제2회 트라이톤’의 개막을 알리는 오리엔테이션(이하 OJT)을 열었다.

OJT에는 100여 명이 참석했으며 AI 모델 성능과 AI 신뢰성의 차이, 예선·본선 목표, 제출물과 평가방식을 비롯해 팀 구성과 역할 분담, 교육·제공되는 도구 활용 방법 등이 소개됐다.

이번 대회의 부제는 ‘플레이 트라이톤 페스티벌 2026’으로 전국 36개 대학에서 모인 대학생과 대학원생 149명(37팀)이 참여한다. 참가자 전공은 컴퓨터·소프트웨어·AI 관련 뿐만 아니라 역사·경영·수학·어문 전공 참여자도 다수 포함됐다. 직전 대회에 이은 재도전 참가자도 나왔다.

참가자는 대회 기간 ‘AI 허브’에 있는 데이터와 SK텔레콤 AI 모델 ‘A.X’를 활용해 클릭베이트 탐지 AI 모델을 개발해야 한다. 또한 예선에서 팀별 주제와 서비스 방향을 구체화하고 사용자·영향·위험 분석과 신뢰성 활동 계획을 정리한다. 본선 진출자는 예선에서 수립한 계획을 실제 구현하고 검증하는 과정을 거쳐 최종 산출물을 완성해야 한다.

씽크포비엘에 따르면 클릭베이트 탐지 AI 모델 개발은 평가 대상이 아니지만 실제 AI 개발 과정에서 신뢰성 활동을 경험하기 위해 꼭 필요하다.

참가자는 AI가 자율적으로 판단·조치하고 필요하면 인간에게 판단을 넘기는 운영 구조를 함께 설계해야 한다. 또한 인간 감독 체계를 중심으로 AI 자율 판단 범위, 인간 검토 필요조건, 임계점과 인간 호출 조건 타당성, 운영자가 판단 과정을 확인할 대시보드나 대시보드 설계안 등도 고민해야 한다.

본선을 거쳐 결선에서 상위 6위 안에 들면 상장과 상금이 수여된다. 상금은 AI 신뢰성 관련 국제표준 번호 기준에 맞춰 최저 52만5900원부터 최대 420만100원까지 차등 책정됐다. 수상팀 참가자는 정보기술(IT) 기업의 채용 연계형 인턴십에 참여할 수 있다.

또한 본선 진출자 중 자격요건을 갖추면 AI 신뢰성 전문가 민간자격(CTAP) 일반등급(FL) 응시 기회가 제공된다.

평가는 산출물 수준은 물론 팀 참가자의 역할 정의·분담·이행 수준을 고려해 이뤄진다. 또한 무엇을 계획했는지뿐 아니라 실제로 무엇을 수행하고 관찰했으며 어떤 근거로 판단과 설계를 수정했는지를 따진다.

특히 이번 대회에는 처음으로 최신 AI 기술 동향을 반영해 ‘AI 에이전트’ 시스템의 신뢰성을 구동 단계에서 확보하는 과정이 평가 대상에 포함됐다.

여기에 산출물 수준을 가장 중요한 평가 지표로 삼았던 직전 대회와 달리 이번에는 개발 과정에서 예상과 실제의 차이를 발견하고 판단을 수정해 가는 과정을 중요하게 고려한다. 참가자에게 제공되는 다이어리와 워크시트는 사후 결과를 정리하기보다 예상‧관찰‧판단‧변화를 그때그때 기록하고 이를 다른 참가자와 나눌 수 있도록 설계됐다.

결선 현장 평가 방식도 달라졌다. 전문가 사전평가에 더해 참가팀이 서로 결과와 경험을 직접 살펴보고 투표하는 동료 평가(peer review)가 반영됐다. 단순히 많이 알리거나 많이 공유한 팀이 아닌 자신의 시행착오와 판단 과정을 의미 있게 나눠 다른 팀의 생각을 바꾸거나 새로운 시도를 이끌어야 높은 평가를 받는다.

올해 트라이톤은 참가자가 배우고, 시도하고, 발견하고, 나누고, 다시 판단‧수정하는 과정을 거치도록 했다. 결선 또한 완성된 답안을 놓고 승부를 가리기보다 여러 팀이 각자 실천 결과를 꺼내놓고 서로 배우며 함께 발전하는 장으로 꾸려진다. 트라이톤의 부제가 플레이 트라이톤 페스티벌인 이유다.

이를 위해 지난해 개별 멘토가 한 팀에 해답을 전달하는 방식에서 벗어나 여러 팀이 자신의 고민과 판단을 공유하고 서로 질문하는 동료 집단 멘토링·러닝이 강화된다.

AI 신뢰성은 모든 프로젝트에 하나의 정답이나 모범답안이 있는 게 아니라 각자가 실제 무엇을 시도했고 발견했는지를 나누는 과정에서 더 나은 판단이 만들어진다는 취지다.

예선에서는 영향평가, 위험관리, 투명성, 인간 감독 등 신뢰성 활동을 직접 적용하고 경험을 나누고 본선에서는 이를 실제 구현‧검증으로 발전시켜 처음 예상과 달랐던 부분을 근거에 따라 보완하도록 했다.

박지환 씽크포비엘 대표는 “모범답안을 가장 잘 따르는 것보다 한 팀의 경험이 다른 팀 질문이 되고 다른 팀 시행착오가 또 다른 팀의 판단을 바꾸는 것이 중요하다”며 “서로의 실천 결과를 의미 있게 공유해 각자 AI를 더 신뢰할 수 있게 발전시키는 과정 자체가 이번 대회가 추구하는 정답”이라고 밝혔다.

박 대표는 “사람이 쓰러졌을 때 착한 마음만으로는 살릴 수 없고 응급처치를 해야 하는 것처럼 AI 신뢰성 또한 기준을 안다고 해서 만들어지지 않는다”며 “이번 대회는 실제 프로젝트에서 위험을 발견하고 근거로 판단하며 필요하면 설계를 바꿀 수 있는 실천형 AI 신뢰성 인재를 키우는 과정을 경험하는 계기가 될 것”이라고 설명했다.

출처 : https://www.aflnews.co.kr/news/articleView.html?idxno=328227