한국대학신문 | [사람과 생각] ‘제1회 트라이톤 우승’ TLV팀, “교육 환경서 AI 신뢰성 강화 중요”

대학(원)생 대상 AI 신뢰성 해커톤 ‘제1회 트라이톤’서 1위 TLV팀, ‘가디언 AI: 교육용 AI 안전성 평가 시스템’ 선보여 “4개월 동안 AI 한계, 문제 정의·결과 등에 대해 깊이 고민”

세계 최초 AI 신뢰성 해커톤 ‘제1회 트라이톤’ 시상식에서 우승을 차지한 TLV팀(과학기술연합대학원대 한국원자력연구원(UST-KAERI) 인공지능학과 2학년 김보경 씨, 응용AI전공 1학년 변재연 씨, 경북대 대학원 인공지능학과 2학년 이제경 씨)을 30일 본지 인터뷰로 만났다. 이제경 씨는 아쉽게도 해외일정으로 인해 시상식에는 참석하지 못했다. (사진=임연서 기자)

[한국대학신문 임연서 기자] 세계 최초 AI 신뢰성 해커톤 ‘제1회 트라이톤’의 시상식이 열렸다. AI 신뢰성은 편향·오류 없이 일관되고 정확하게 작동하는 역량 등을 의미한다. 해당 대회에서는 AI 신뢰성 문제를 예방하고자 AI 개발 과정에서의 신뢰성 입증 산출물에 대한 평가가 이뤄졌고, 수상자를 가렸다.

이 대회 최초 영예의 우승팀은 과학기술연합대학원대(UST)·경북대 연합팀이 차지했다. 우승을 거머쥔 TLV팀은 ‘가디언 AI: 교육용 AI 안전성 평가 시스템’으로 심사위원들의 높은 평가를 이끌어냈다. 해당 플랫폼은 AI가 교육 환경에서 유해 콘텐츠를 막을 수 있는 역할을 할 것으로 기대를 모은다.

30일 TLV팀을 본지 인터뷰를 통해 만났다. 과학기술연합대학원대 한국원자력연구원(UST-KAERI) 인공지능학과 2학년 김보경 씨, 한국과학기술정보연구원(UST-KISTI) 응용AI전공 1학년 변재연 씨, 경북대 대학원 인공지능학과 2학년 이제경 씨는 “대구대 학부 시절부터 같은 연구실에서 함께 공부했다. 이번 대회를 통해 팀을 이뤄 AI 신뢰성 성과를 창출하고자 노력했는데, 좋은 결과가 있어 뿌듯하다”며 “4개월이라는 긴 시간 동안 AI 신뢰성에 대해 깊이 고민하고 성장할 수 있었다”고 했다.

이들은 학생들이 교육 환경에서 안전한 학습을 이어갈 수 있도록 AI의 정확하고 일관된 판단이 필요하다는 판단에, 이번 플랫폼을 개발하게 됐다고 설명했다.

TLV팀은 “학생들이 AI 답변을 학습 자료로 활용하기 때문에, 잘못된 정보나 유해 콘텐츠는 직접적 교육적 피해로 이어진다”며 “단순한 필터링을 넘어, AI가 일관성·신뢰성 있는 판단을 내릴 수 있는지 검증이 필요하다”고 했다.

플랫폼 개발 과정에서 어려웠던 점으로는 인간의 개입 지점 설정, 명확한 AI 수치화 등을 꼽았다. 이러한 점들을 개선하고자 AI 판단과 인간의 개입 영역을 분리하고, 다양한 방법 등을 적용하면서 시스템화했다.

김보경 씨는 “인간의 개입, 즉 휴먼 인풋(Human Input)을 어느 단계에서 어떻게 넣는 것이 가장 효율적인 지에 대해 고민했다. 완전히 자동화할 경우 놓칠 수 있는 부분이 있고, 반대로 인간 개입이 너무 많으면 시스템 확장성이 떨어지기 때문에 그 균형점을 찾는 것이 쉽지 않았다”며 “이를 극복하기 위해 AI가 스스로 판단할 수 있는 영역과, 사람이 개입해야 할 핵심 지점을 명확히 분리하는 방향으로 설계를 반복적으로 개선했다”고 설명하였다.

변재연 씨는 “단순히 AI 모델을 정성적으로 평가하기 쉽지만, 이를 최종적으로 발표하는 입장에서 수치적인 측면을 다른 사람들에게 설득시켜야 하는데, 이를 수치화하는 게 굉장히 어려운 것 같다. 그래서 다양한 논문들을 읽었고, 이번 대회에서 방법론들을 적용해서 시스템화 해 발표했다”고 말했다.

이번 수상에 이어 플랫폼을 더욱 폭넓게 활용할 수 있도록 발전시키고 싶다는 소망도 전했다. 실제 상용화 단계에 이르고, 보편적으로 쓰일 수 있도록 하는 데 힘쓰고 싶다는 설명이다.

TLV팀은 “이 시스템이 실제 프로덕션 환경에서도 쓰일 수 있도록 더욱 발전시키고 싶고, 교육 분야 뿐만 아니라 다른 분야로도 확대해 시스템을 개발하고 싶다”고 전했다.

출처 : https://news.unn.net/news/articleView.html?idxno=589384