한국대학신문 | “대학·대학원생 AI 신뢰성 성과 한자리에”… 씽크포비엘, ‘제1회 트라이톤’ 개최

29일 서울교대서 씽크포비엘 ‘제1회 트라이톤’ 시상식 UST, 경북대 대학원생 연합팀 ‘TLV’, 종합 1위 차지 상위 6팀에 인턴십 기회도… 향후 정식 채용 연계 고려 박지환 대표 “인공지능(AI) 질서 위한 설계·관리·검증 중요”

[한국대학신문 임연서 기자] 전세계적으로 인공지능(AI) 열풍이 불면서 AI 신뢰성의 중요성도 강조되고 있는 가운데, 국내 대학(원)생들의 AI 신뢰성을 기반으로 한 성과들이 한자리에 모여 눈길을 끈다. 교육, 뉴스 환경 등 속에서 AI 신뢰성을 입증한 해당 성과물들은 완성도 높은 기술력 등을 토대로 긍정적 평가를 받았다.

29일 서울교대 사향융합체육관 그랜드홀에서 AI 신뢰성 기술 전문 기업 씽크포비엘과 ‘신뢰할 수 있는 인공지능 국제연대(TRAIN)’가 세계 최초 AI 신뢰성 해커톤인 ‘제1회 트라이톤’의 시상식을 개최했다. 트라이톤은 전국 대학(원)생들을 대상으로 진행된 AI 신뢰성(Trustworthy AI) 주제의 해커톤 대회다. AI 신뢰성 문제 예방에 초점을 맞춰, AI 개발 과정에서의 신뢰성 입증 산출물을 평가하는 데 목적을 둔다.

이날 최종 우승팀(ISO/IEC 경영관리상 수상)으로 과학기술연합대학원대학교(UST)와 경북대 AI 전공 대학원생(변재연·이제경·김보경)으로 구성된 ‘TLV’ 팀이 선정됐다. 이들은 ‘가디언(Guardian) AI: 교육용 AI 안전성 평가 시스템’ 개발 과정에서 만들어낸 AI 신뢰성 산출물로 종합 1위를 달성했다.

이 팀이 개발한 시스템은 교육용 챗봇(A.X-4.0)을 사용하는 학생을 대상으로, AI가 유해 콘텐츠로 이어지는 ‘관문(Gateway)’ 역할을 하지 않도록 차단하는 데 목적을 둔다. ‘TLV’ 팀은 실제 서비스 환경을 가정한 구체적인 사례 설정과 충분한 근거 자료 바탕의 설계 구현, 일관되면서 기술적 완성도가 높은 서비스 수준 달성 등이 높은 평가를 받았다.

이와 함께 특별상 NIA 원장상에 ‘성·신의 한 수’ 팀(성균관대 소프트웨어학과·성신여대 AI융합학부), ISO/IEC 23894 위험관리상에 ‘숨 쉰 채 발견’ 팀(서울시립대 인공지능학과), ISO/IEC 12792 투명성상에 ‘SecurAI’ 팀(경상국립대 AI정보공학과), ISO/IEC 5338 라이프사이클상에 ‘이닦조’ 팀(가톨릭대 심리학과), ISO/IEC 5259 데이터품질상에 ‘GPS.dev’ 팀(성균관대 지능형소프트웨어학과)이 선정됐으며 인기상, 베스트 발표상 시상도 이어졌다.

각 팀별로 상금은 최대 420만 100원에서 최소 52만 5900원으로, 이는 AI 신뢰성 관련 국제 표준 번호를 상징한다. 또 상위 입상 참가자는 국내 IT 기업에서 정식 채용이 연계될 수 있는 인턴십 기회를 얻는다.

이번 대회는 지난해 10월 1일, 서울 삼성 코엑스에서 열린 오리엔테이션을 시작으로 4개월간 열렸으며, 전국 대학 45개 팀 192명이 참여했다. 예선을 거쳐 39팀(159명)이 본선에 진출했고, 최종 28팀(117명)이 산출물을 제출했다.

해당 대회에는 총 28개 대학(가천대, 가톨릭대, 경북대, 경상국립대, 고려대(세종), 국립군산대, 국립금오공대, 대구대, 동아대, 동의대, 방송통신대, 서울과기대, 서울시립대, 성균관대, 성신여대, 원광대, 이화여대, 인하대, 제주대, 조선대, 중앙대, 충남대, 충북대, 한국해양대, 한라대, 한서대, UST(과학기술연합), ICT폴리텍대)이 참여했다.

씽크포비엘은 “기존 ‘레드팀’ 중심 해커톤과 비교해 범위·적용 기술에 차이가 있고 AI 신뢰성 기술 자체 또한 낯설었던 점을 고려해, 참여자가 중도 탈락하지 않게 자체 개발 교육 서비스를 제공했다”며 “또 AI 기술과 AI 신뢰성 개발 과정을 모두 경험한 10년 이상 경력 전문 연구인력이 나서는 1대1 개별 멘토링을 제공해 참여자의 실무 역량을 단기간에 끌어올릴 수 있었다”고 설명했다.

교육과정을 이수한 참여자에게 ‘AI 신뢰성 전문가 민간자격(CTAP, Certified Trustworthy AI Professional)’ 응시 기회도 부여돼 지난 11일 전국 4개 시험장에서 제1회 시험이 치러졌으며, 40명이 합격했다.

이번 대회를 후원한 한국지능정보사회진흥원(NIA)은 참여자에게 ‘AI 허브’ 학습용 데이터를 개방했고, 한국산업기술시험원(KTL)은 참가팀이 AI 신뢰성 산출물을 도출·검증할 수 있도록 GPU 컴퓨팅 자원을 무상 지원하다.

박지환 씽크포비엘 대표는 개회사를 통해 “인간에게도 질서 있는 삶을 위해 규범·법이 있듯이, AI도 AI끼리 지켜야 할 규범·법이 있을 수 있다. 그리고 규범 준수 등을 관리하는 경찰이 생길 것이며, 이러한 모든 연결 지점을 ‘신뢰성’이라고 표현할 수 있다. 이는 결국 AI가 사회 내에서 안전하게 작동하도록 관리하는 기술이 될 것”이라며 “현재 이러한 기술들이 많이 연구·적용되고 있다. 이제는 AI를 만드는 데 집중했다면, AI 설계·관리·검증이 더욱 중요해질 것이다. 또 향후에는 AI를 멈추거나 양보하게 하는 방법을 가르치고 기준을 설계하는 일자리가 생겨날 것”이라고 말했다.

이어 박지환 대표는 “이번 대회는 단순한 단기 성과 경쟁이 아닌, AI 신뢰성 본질이 ‘거버넌스 구축’에 있다는 점을 명확히 보여준 세계 최초 해커톤”이라며 “장기 프로젝트로 진행해 참여자가 문제 정의부터 판단 기준 설정, 책임 있는 의사결정과 검증까지 전 과정을 경험할 수 있었다”고 덧붙였다.

권종원 한국산업기술시험원(KTL) 센터장은 축사를 전하며 “수상 여부와 관계없이 다양한 고민, 시행착오를 겪으면서 완주했다는 점에 진심으로 축하를 전한다”며 “AI 신뢰성은 꾸준하게 학습·고민해야 될 부분이다. 트라이톤 활동을 지속적으로 확대해나가면 좋겠다”고 말했다.

출처 : https://news.unn.net/news/articleView.html?idxno=589354