테크월드 | UST·경북대 연합팀, 첫 AI 신뢰성 해커톤 ‘트라이톤’ 우승

판단·설명·책임을 겨룬 4개월…AI 신뢰성, 기술 아닌 ‘질서’의 문제로 부상

[테크월드뉴스=김승기 기자] 국내에서 처음 열린 인공지능(AI) 신뢰성 해커톤에서 과학기술연합대학원대학교(UST)와 경북대 AI 전공 대학원생으로 구성된 연합팀이 최종 우승을 차지했다. 기술 정확도가 아닌 판단 과정과 책임 구조를 평가 기준으로 삼은 첫 대회라는 점에서 의미가 크다는 평가다.

‘신뢰할 수 있는 인공지능 국제연대(TRAIN)’와 AI 신뢰성 기술 전문기업 씽크포비엘이 29일 오후 서울교육대학교 사향융합체육관 그랜드홀에서 ‘제1회 트라이톤(Triton)’ 시상식을 열고 ‘TLV’ 팀에 종합 1위 상패와 상금을 수여했다. TLV 팀은 ‘교육용 AI 안전성 평가 시스템(Guardian AI)’을 주제로 실제 서비스 환경을 가정한 사례 설계와 일관된 검증 구조를 제시해 높은 평가를 받았다.

이번 대회에는 전국 28개 대학에서 총 45개 팀, 192명이 참가했다. 예선을 거쳐 39팀이 본선에 진출했고 최종적으로 28팀, 117명이 4개월간의 프로젝트를 완주했다. 2위는 서울시립대 인공지능학과 ‘숨 쉰 채 발견’ 팀, 3위는 성균관대·성신여대 연합 ‘성·신의 한 수’ 팀이 차지했다. 상위 6개 팀에게는 상패와 상금이 수여됐으며 일부 참가자는 국내 IT 기업과 연계된 인턴십 기회도 얻게 됐다.

트라이톤은 기존 해커톤과 접근 방식이 달랐다. 단기간 성능 경쟁이나 취약점 공격 중심의 ‘레드팀’ 방식이 아니라 AI 개발 전 과정에서 신뢰성을 어떻게 입증할 것인가를 묻는 구조로 설계됐다. 참가자들은 모델의 정확도뿐 아니라 판단 기준 설정, 위험 인지, 설명 가능성, 책임 구조까지 포함한 ‘AI 신뢰성 산출물’을 제출해야 했다.

씽크포비엘은 AI 신뢰성이라는 낯선 주제를 고려해 참가자 전원에게 자체 교육 콘텐츠와 1대1 멘토링을 제공했다. 10년 이상 경력의 연구진이 직접 참여해 기술 구현뿐 아니라 판단 설계와 검증 과정을 지도했다. 그 결과 대회 참가자 중 40명이 AI 신뢰성 전문가 민간자격인 CTAP(Certified Trustworthy AI Professional)에 합격했다.

공공기관의 지원도 대회 성과를 뒷받침했다. 한국지능정보사회진흥원(NIA)은 ‘AI 허브’ 학습 데이터를 개방했고 한국산업기술시험원(KTL)은 그래픽처리장치(GPU) 컴퓨팅 자원을 무상 지원했다.

한국산업기술시험원 측은 “글로벌 규제 환경에서는 표준 기반으로 AI 신뢰성을 종합 평가할 수 있는 역량이 중요해지고 있다”며 “이번 지원은 AI 신뢰성 인재 양성을 위한 공공의 기반 역할을 강화하기 위한 것”이라고 밝혔다.

행사에서 박지환 씽크포비엘 대표는 AI 신뢰성의 본질을 기술 문제가 아닌 ‘질서의 문제’로 규정했다. 박지환 대표는 “앞으로 훨씬 더 많은 AI가 서로 다른 목표와 기준을 갖고 같은 상황에서 동시에 판단하고 개입하게 된다”며 “이때 무엇을 우선 보호하고 무엇을 포기할 것인지는 기술이 아니라 설계된 질서의 문제”라고 말했다.

박 대표는 또 “AI 신뢰성은 기술이 해답이 아니라 사회 안에서 안전하게 작동하도록 만드는 수단”이라며 “AI를 멈추게 하고 양보하게 만드는 기술, 이를 설계하고 관리하는 새로운 역할과 일자리가 등장할 것”이라고 전망했다.

이어 “트라이톤은 완성이 아니라 신뢰성 여정의 출발점”이라며 “AI 신뢰성 직무는 앞으로 분명한 비전을 가진 분야가 될 것”이라고 말했다.

축사에 나선 권종원 한국산업기술시험원 센터장은 “이번 대회는 1등을 가리는 경쟁이라기보다 정답이 없는 문제를 끝까지 고민하며 완주했다는 점에서 의미가 크다”며 “AI 신뢰성은 정확도 이상의 영역을 다루는 만큼 이런 시도가 지속적으로 확산되길 바란다”고 말하였다.

이번 대회는 AI가 틀렸을 때 그 결과를 설명하고 책임질 수 있는가라는 질문을 중심에 놓았다. 지난 22일부터 시행된 AI 기본법 역시 모델 성능보다 영향 범위, 위험 인지 여부, 사후 설명 가능성을 요구하고 있다는 점에서 트라이톤은 규제 환경 변화를 앞서 실험한 사례로 평가된다.

기술 경쟁을 넘어 판단과 책임을 묻는 무대로 설계된 트라이톤은 AI 신뢰성이 선언이나 윤리 강령을 넘어 실무와 직무 영역으로 확장되고 있음을 보여준 첫 출발점으로 남았다.

출처 : https://www.epnc.co.kr/news/articleView.html?idxno=327995