한국대학신문 | [사람과 생각] 성신여대 AI융합학부 AI전공 김유진·한은지 씨 “인턴 통해 안전한 AI 활용 위한 ‘AI 신뢰성’ 중요성 알 수 있었다”

김유진·한은지 씨 소속 ‘성·신의 한 수’ 팀, ‘제1회 트라이톤’ 시상식서 NIA 원장상 수상 씽크포비엘, 대학(원)생 대상 AI 신뢰성 주제로 4개월 간 ‘트라이톤’ 해커톤 대회 실시 두 학생, AI 신뢰성 기술 전문 기업 씽크포비엘서 인턴 기회… 이번 학기동안 업무 수행 “실제 업무 통해 AI 신뢰성의 개념·중요성 등 배워… 기술·사회적 책임 함께하는 분야”

성신여대 AI융합학부 AI전공 4학년 학생 김유진 씨(왼쪽)와 한은지 씨. (사진=임연서 기자)

[한국대학신문 임연서 기자] “인공지능(AI) 신뢰성이 추상적인 개념으로만 머무는 것이 아니라 실제 업무와 연결된다는 점을 알게 된 것이 가장 의미 있었습니다. ‘투명성’이라는 개념도 이해관계자와 규제, 사용 목적에 따라 요구되는 내용이 달라졌습니다. 학교에서 배운 AI 지식 위에 이러한 관점을 더해야 실제 사회에서 안전하게 활용될 수 있는 AI를 생각할 수 있다는 점을 느꼈습니다.”

“인턴을 통해 기술 자체뿐만 아니라 오류를 어떻게 감지·대응할지, 사람이 언제 어떻게 개입해야 하는지, 사용자가 신뢰할 수 있는 구조를 어떻게 만들지에 대해 고민했습니다. 그런 점에서 AI 신뢰성은 기술과 사회적 책임을 함께 생각해야 하는 분야라는 점이 인상 깊었습니다.”

지난 2월 개최된 세계 최초 AI 신뢰성(Trustworthy AI) 해커톤인 ‘제1회 트라이톤 시상식’에서 3등에 해당하는 NIA 원장상을 수상한 성·신의 한 수’ 팀 소속 성신여대 AI융합학부 AI전공 4학년 학생 김유진·한은지 씨는 9일 본지와 인터뷰에서 AI 신뢰성 전문 기업 씽크포비엘에서 인턴을 하면서 느낀 AI 신뢰성에 대해 이같이 설명했다. AI 기술에 대한 것뿐만 아니라 AI 신뢰성에 대한 구체적 개념 등을 더욱 잘 알게 됐다는 설명이다.

트라이톤은 씽크포비엘이 지난해 10월부터 올해 1월까지 전국 대학(원)생들을 대상으로 진행한 AI 신뢰성을 주제로 한 해커톤 대회다. AI 신뢰성 문제를 예방하고 AI 개발 과정에서의 신뢰성 입증 산출물을 평가하는 데 중점을 둔다. 시상식에서 상위 순위에 입상한 참가자에게는 상금과 함께 국내 IT 기업에서 정식 채용으로 연계될 수 있는 인턴십 기회도 부여됐다.

두 학생들은 해커톤을 통해 ‘AI 신뢰성’이라는 낯선 분야에 도전했지만, 팀원과 함께 4개월동안 호흡을 맞추며 프로젝트를 끝까지 마무리할 수 있었다고 설명했다. 이후 학생들은 실제 근무 환경에서 다뤄지는 AI 신뢰성을 구체적으로 경험하고, 현장에서 요구하는 실무 역량을 쌓고자 씽크포비엘 인턴십에 참여했다. 씽크포비엘에 따르면 인턴십은 이번 한 학기(3개월)동안 진행되고, 대학 측과의 협의를 통해 근무평점 등을 고려해 채용 연계도 검토 중이다.

두 학생은 인턴을 하며 AI 신뢰성 전문가 민간자격 교육자 레벨인 ‘CTAP-E’ 개발에 참여하거나, 인간의 관점에서 AI 시스템을 설계하는 등 AI 신뢰성 관련 다양한 업무를 경험했다고 전했다.

김유진 씨는 “인턴십 초반에는 AI 신뢰성 전문가 민간자격 교육자 레벨인 ‘CTAP-E’ 개발 작업에 참여했다. 책임감 있는 AI 사용을 다루는 교재 집필을 도왔고, 현재는 데모 버전의 디자인 작업까지 거의 마무리된 상태다. 최근에는 프로모션용 특별 단원인 ‘트랜스페런시(Transparency)’를 맡아 AI 투명성에 관한 내용을 정리하고 있다”며 “AI 투명성을 확보하고 규제를 준수해야 하는 이해관계자, 또는 투명한 AI를 사용할 권리가 있는 이해관계자에게 필요한 내용을 유형별로 정리하고 가이드라인 형태로 제시하는 작업을 돕고 있다”고 말했다.

한은지 씨는 “인턴십 기간 특히 ‘휴먼 오버사이트(Human Oversight)’, 즉 인간 감독 관점에서 AI 시스템을 바라보고 설계하는 경험을 했다. AI 시스템의 의사결정 과정에서 발생할 수 있는 위험 요소를 식별하고, 자동화 수준에 따라 인간의 역할이 어떻게 달라져야 하는지 고민했다”며 “또 과도한 자동화 환경에서 인간 감독이 단순한 형식적 절차에 그치지 않으려면 어떤 설계가 필요한 지도 살펴봤다. 이를 통해 인간 감독은 단순한 ‘개입’이 아니라, 시스템 전반의 신뢰성을 확보하기 위한 중요한 장치라는 점을 이해하게 됐다”고 설명했다.

또 두 학생 모두 졸업을 앞둔 4학년인 만큼, 이번 인턴십을 통해 얻은 협업 능력 등을 남은 대학·사회생활에서 발휘하는 데 도움이 될 것으로 기대했다. 또 졸업 후 진로 방향을 구체화하는 데 도움이 됐다고도 전했다.

김 씨는 “이번 인턴십은 미래를 조금 더 진지하게 생각해보는 계기가 됐다. AI를 공부하는 학생으로서 단순히 기술을 잘 다루는 것뿐 아니라, 그 기술이 안전하고 책임 있게 쓰이도록 고민하는 역량도 필요하다는 점을 느꼈다. 업무를 처리하는 방식뿐 아니라 사람들과 관계를 맺고 협업하는 태도에 대해서도 많이 배웠다”며 “남은 학교생활에서도 팀 프로젝트나 진로 선택할 때 이번 경험이 도움이 될 것 같다”고 말했다.

그러면서 “졸업 이후 진로는 몇 가지 방향을 두고 고민하고 있다. 그중 하나가 AI 신뢰성 전문가”라며 “이번 인턴십을 통해 이 분야가 단순한 이론이 아니라 실제 산업 현장과 연결된 영역이라는 점을 알게 됐다. 앞으로 회사 생활을 하면서 더 진지하게 고민해보고, 기회가 된다면 도전해보고 싶다”고 덧붙였다.

한 씨는 “이번 경험을 통해 다양한 배경을 가진 사람들과 협업하는 법을 배웠다. 특히 외국인 팀원과 교류하면서 세상을 더 넓은 시각으로 바라보게 된 점이 인상 깊었다”며 “앞으로 학교생활에서는 팀 프로젝트나 과제를 더 유연하고 열린 태도로 수행하는 데 도움이 될 것 같다. 사회생활에서도 다양한 환경에 적응하고 협업하는 데 중요한 기반이 될 것”이라고 말했다.

이어 그는 “졸업 이후에는 은행권 진로를 생각하고 있다. 다만 이번 경험을 통해 AI 신뢰성의 중요성을 느끼면서, 금융 분야에서도 관련 역량이 점점 더 중요해질 것이라고 생각했다”며 “금융권에서도 AI 활용이 늘어나고 있는 만큼, 기회가 된다면 AI와 신뢰성을 함께 고려할 수 있는 방향으로 역량을 넓혀보고 싶다”고 설명했다.

학생들은 ‘AI 신뢰성 전문가’가 사회에 더욱 자리잡기 위해선 대학에서 관련 교육을 진행하고, 과목을 개설해 학생들이 해당 분야를 쉽게 접할 수 있도록 하는 것이 중요하다고 짚었다. 또 산업계 역시 안전한 AI 환경을 조성하고 AI 신뢰성 전문가 채용을 확대하는 등 노력을 기울여야 한다고 제언했다.

김유진 씨는 “트라이톤과 인턴십에 참여하기 전에는 학생이라 더 빠르고 성능이 좋은 AI를 어떻게 활용할 지에 대해서만 주로 생각했고, ‘신뢰성’은 깊게 고민해본 적이 많지 않았다. 저는 AI 전공이지만 학교 수업에서도 인공지능의 위험성을 개론 수준에서 잠깐 다루는 정도였고, 그것을 AI 신뢰성이라는 별도의 영역으로 인식하지는 못했다”며 “학생들이 AI 신뢰성의 필요성을 접할 수 있는 교육이 더욱 많아지면 좋을 것 같다. AI를 안전하게 사용해야 한다는 사회적 공감대가 커질수록, AI 신뢰성 전문가라는 직업군도 자연스럽게 자리 잡을 수 있다고 생각한다”고 말하였다.

한은지 씨는 “학교에서는 AI 신뢰성과 관련된 전공과목이나 커리큘럼이 더 마련될 필요가 있다고 생각한다. AI를 전공하는 학생들뿐 아니라 일반 학생들도 AI를 사용하는 시대인 만큼, 필수교양 형태로 AI 신뢰성 문제를 접할 기회가 마련되면 좋을 것”이라며 “산업계에서도 AI 신뢰성 전문가를 적극적으로 채용하고, 안전한 AI 환경을 만들기 위한 노력을 함께 해야 한다고 생각한다. 그래야 학생들도 해당 분야를 현실적인 진로로 인식하고 관심을 가질 수 있을 것 같다”고 전했다.

출처 : https://news.unn.net/news/articleView.html?idxno=593237