씽크포비엘 | 참가팀 인터뷰 - 제가 극찬한 팀

PLAY TRAITHON FESTIVAL 2026

참가팀 인터뷰 | 제가 극찬한 팀

"AI를 의심하는 사람이 되겠다"

“우승자는 ‘제가 극찬한 팀’입니다.”

심사위원이 이렇게 발표하는 순간을 상상하며 팀명을 지었다고 합니다. 서울과학기술대학교 인공지능응용학과 재학생 세 명이 뭉친 ‘제가 극찬한 팀’. 이름에서부터 범상치 않은 자신감이 느껴집니다.

그런데 세 사람의 이야기를 조금 더 들어보면, 장난기 어린 포부 뒤에 제법 진지한 고민이 숨어 있습니다. 인공지능(AI)의 판단을 어떻게 설명하고, 무엇을 기준으로 검증해야 하는지 끊임없이 질문하고 있기 때문입니다.

팀 내 역할도 분명합니다. AI 엔지니어는 김은주 씨, 데이터는 정진서 씨, 기획은 조권희 씨가 맡았습니다. 같은 전공을 공부하고 있지만 AI 신뢰성을 바라보는 출발점은 서로 다릅니다. 은주 씨는 ‘설명 가능한 AI’와 해석 가능성 연구에서, 진서 씨는 보안과 사회적 영향에서, 권희 씨는 인간의 검수와 논리적 정합성에서 AI 신뢰성의 의미를 찾습니다.

서로 다른 세 시선이 한 프로젝트 안에서 만난다면 어떤 결과가 나올까요? 직접 물어봤습니다.

팀 스토리(Team Story)

세 사람은 어떻게 한 팀이 됐나요? 팀명부터 예사롭지 않습니다.

• 김은주: 우리 모두 교내 인공지능 학술동아리 ‘A.ING’에서 임원진으로 활동하며 만났습니다. 진서와 권희의 상상력과 창의력이 워낙 뛰어나서 제가 빠르게 ‘납치’해 함께 대회에 참가했습니다.

• 정진서: AI 신뢰성을 좀 아는 친구가 함께하자고 제안했는데요. 그러자 아이디어 많은 친구가 자연스럽게 떠오르더군요. 그렇게 셋이 모였습니다. 팀명은 우승을 가정하고 만들었어요. 심사위원께서 “우승자는 제가 극찬한 팀입니다”라고 말씀해 주시면 정말 기분 좋을 것 같습니다.

• 조권희: 운명이라고 생각합니다. 저는 이 대회를 미리 알지 못했는데, 아리따운 선배님들이 친히 불러주셨고 저는 그 부름에 응했습니다. 나중에 극찬받아 마땅한 결과물을 낼 것이라고 믿습니다. 그렇게 확신했기 때문에 이름도 이렇게 지었습니다.

트라이톤에 참가한 계기는 무엇인가요?

• 김은주: 사실 지난 1회 대회에도 참가한 유경험자입니다. 당시 인기상을 받았어요. 그 경험을 통해 AI 신뢰성에 관심이 생겼고, 지금은 기계적 해석 가능성(Mechanistic Interpretability)을 주제로 학부연구생 연구도 진행하고 있습니다. 지난해 많은 것을 배우고 성장한 만큼, 올해도 한 단계 더 도약할 수 있는 즐겁고 유익한 경험을 만들고 싶어 다시 참가했습니다.

• ​정진서: 처음에는 AI 신뢰성을 보안의 관점에서 이해했습니다. 최근 AI 분야에서 보안의 중요성이 커지고 있어 더 공부해 보고 싶었습니다. 데이터를 받아 모델을 새로 만드는 방식이 아니라, 이미 정해진 모델을 활용해 서비스를 완성한다는 점도 재미있어 보였고요.

• ​조권희: AI가 인간이 쉽게 파악하기 어려울 만큼 복잡한 과정을 거치기 시작하면서, AI의 유용성과 위험성 사이를 중재하는 분야가 필요해졌다고 생각합니다. 그 역할을 하는 AI 신뢰성 공모전에 참여해 지능형 데이터 시대로 나아가는 토대를 만들 수 있다는 생각에 흥분됐습니다.

신뢰할 수 있는 AI에 관한 세 관점 (Three Views on Trustworthy AI)

AI 신뢰성을 처음 접했을 때, 무엇이 가장 흥미롭거나 어려웠나요?

• 김은주: 설명 가능한 AI(XAI)를 통해 처음 접했습니다. 성능만 추구하는 것이 아니라 모델이 왜 그런 결과를 냈는지까지 설명하려 한다는 발상이 낯설면서도 흥미로웠습니다. 데이터 분석 경진대회에 나갈 때마다 성능 자체보다 ‘왜 이런 성능이 나왔는지, 혹은 왜 나오지 않았는지’가 더 궁금했는데요. 그 가려운 부분을 긁어주는 분야라고 느꼈습니다.

• 정진서: AI가 발전할수록 오히려 사람의 역량이 더 중요해지는 분야라고 생각했습니다. 그래서 반드시 공부해야겠다는 마음이 들었습니다.

• 조권희: 가장 의아했던 부분은 ‘신뢰의 척도’였습니다. 무엇을 신뢰할 만하다고 볼지는 AI가 사용되는 분야와 목적에 따라 달라질 수 있기 때문입니다. 오리엔테이션(OT)을 거치면서 이번 과제에서는 AI 에이전트를 사람이 검수하고, 인간의 판단 기준으로 신뢰성을 살피는 것이 중요하다고 이해하게 됐습니다.

그렇다면 세 사람이 생각하는 ‘AI 신뢰성’은 무엇인가요?

• 김은주: 학문적으로는 역공학처럼 AI의 출력값이 만들어진 원인과 과정을 밝히는 것이라고 봅니다. 활용 측면에서는 사용자가 결과를 수긍하고, 의지하며 사용할 수 있는 서비스를 만드는 일이라고 생각합니다.

• 정진서: 무작정 성능을 높이는 일이 사업적으로는 좋아 보일 수 있습니다. 하지만 사회와 사람을 생각한다면 신뢰성도 함께 고려해야 합니다. AI 신뢰성은 앞으로 생길 수 있는 문제를 미리 살피고 예방하는 분야라고 생각합니다.

• 조권희: 신뢰에서 가장 중요한 것은 이해 가능성이라고 생각합니다. AI의 행동과 판단은 설명 가능해야 하고, 인간은 그 설명을 검수해 판단이 논리적으로 정합하고 타당한지 확인할 수 있어야 합니다. 결국 AI 신뢰성이란 인간이 AI의 판단을 검수하고, AI가 더 타당한 판단을 하도록 이끌 수 있다는 의미를 담고 있는 것 같습니다.

AI 신뢰성 전문가는 어떤 역할을 하는 사람일까요? 진로로도 생각하고 있나요?

• 김은주: 기업에서 AI 가드레일을 세우는 전문가와는 조금 다른 결일 수 있지만, 저는 해석 가능한 AI 연구자로 경력을 쌓아가고 싶습니다.

• 정진서: 기업을 자동차에 비유한다면 AI 신뢰성 전문가는 브레이크와 같다고 생각합니다. 자동차에 브레이크가 꼭 필요하듯, AI를 개발하고 활용하는 조직에도 신뢰성 전문가가 꼭 필요할 것입니다. 저 역시 진로의 하나로 생각해 보고 있습니다.

• 조권희: 논리적 정합성과 보안 문제에 집중하는 AI 개발자의 역할로 이해하고 있습니다. AI 성능이 높아지고 기존 연구의 많은 부분이 자동화될수록, AI 개발 연구의 무게중심도 신뢰성으로 옮겨갈 수 있다고 봅니다. 그런 점에서 충분히 하나의 진로가 될 수 있다고 생각합니다.

전략과 목표(Strategy and Goals)

이번 대회, 어떤 전략으로 풀어나갈 계획인가요?

• 김은주: 전공 지식과 창의력을 결합해 참신하면서도 완성도 높은 결과물을 만들고 싶습니다. 좋은 성적까지 이어질 수 있도록 밀도 있게 준비하겠습니다.

• 정진서: 대상을 어떻게 설정하느냐가 중요하다고 보고 있습니다. 클릭베이트를 다루는 과제라면 그 영향을 크게 받을 수 있는 어린이를 핵심 사용자로 설정하는 방안을 생각하고 있습니다. 새로운 경험과 지식을 얻는 데서 그치지 않고, 서비스가 사회에 미칠 영향을 여러 시각에서 분석하는 능력도 키우고 싶습니다.

• 조권희: 데이터 분석과 처리, AI 모델 설계 등 전공에서 배운 수단을 총동원할 생각입니다. 각자 연구하고 학습하면서 아이디어를 만들고, 이를 바로 공유해 서비스를 빠르게 구체화하고 있습니다.

솔직하게 묻겠습니다. 목표 성적은 어디까지인가요?

• 김은주: 3위 이내 입상이 목표입니다. 지난 대회에서 인기상을 받은 만큼, 자연스럽게 그 이상의 성적을 바라보게 됐습니다.

• 정진서: 저도 상위 3위 안을 목표로 하고 있습니다. 이미 이 분야를 잘 아는 팀원이 있고, 세 사람 모두 열정이 있으니 끝까지 방법을 찾아보겠습니다.

• 조권희: 목표는 ‘화성 개척을 넘어 목성 개척 수준’의 압도적 우승, 그리고 창업입니다. 이번 대회 한 번으로 끝나는 것이 아니라, 이런 경험을 계속 쌓고 지식을 종합한다면 못 할 일이 없다고 믿습니다.

이번 대회를 통해 이것만큼은 꼭 얻어 가고 싶다면 무엇이 있을까요?

• 김은주: 좋은 성적을 추구하는 과정에서 얻게 될 다양한 경험과 실력 향상, 그리고 새로운 네트워크입니다.

• 정진서: 새로운 분야의 지식과 경험을 얻고 싶습니다. 특히 서비스가 사회에 끼칠 영향을 여러 관점에서 분석하는 능력을 기르고 싶습니다.

• 조권희: AI를 바라보는 제 세계관을 넓히고 싶습니다. 새로운 식견을 얻고, 결과물을 공유하고, 새로운 사람들을 만나 더 큰 꿈을 갖는 계기가 됐으면 합니다.

팀워크(Teamwork)

이번에는 서로 자랑할 차례입니다. 팀원들의 강점을 소개해 주세요.

• 김은주: 진서와 권희는 엉뚱한 상상력과 남들과 다른 시각을 가진 친구들입니다. 동시에 무척 열정적이어서 함께 있으면 늘 재미있고, 무엇이든 더 같이해 보고 싶어집니다.

• 정진서: 한 명은 꼼꼼하고, 바쁜 일정 속에서도 맡은 책임을 다합니다. AI에 대한 지식과 리더십도 갖추고 있습니다. 다른 한 명은 열정과 아이디어가 넘칩니다. 우리가 미처 생각하지 못한 문제를 계속 제시하는 창의적인 사람입니다.

• 조권희: 둘 다 한 번 들은 내용을 잊지 않고, 하나를 물으면 열을 답할 만큼 지식이 풍부합니다. 한 명은 컴퓨터 비전과 설명 가능한 AI 연구를 실제로 진행하고 있고, 다른 한 명은 AI 기초를 탄탄히 다지며 GPT 에이전트 프로젝트를 탐구하고 있습니다. 이런 팀에 함께한다는 것 자체가 영광입니다.

  
  

역할 분담과 일정 관리는 어떻게 할 계획인가요?

• 김은주: 각자 맡은 일에는 책임감과 열정을 다하되, 서로 도울 수 있는 부분은 함께 해결하는 방식으로 진행하려 합니다.

• 정진서: 현재는 각자 AI 신뢰성 관련 논문을 읽고 아이디어를 자유롭게 제시하는 단계입니다. 논의가 구체화하면 세부 일정도 함께 정리할 계획입니다.

• 조권희: 각자의 특기에 맞춰 연구하고 학습해 아이디어를 만든 뒤, 곧바로 공유하며 서비스를 구체화하고 있습니다.

  
  

멘토를 만나면 가장 먼저 무엇을 묻고 싶나요?

• 김은주: 우선 “함께 놀러 가면 고기를 사주시는지”부터 묻고 싶습니다. 진지하게는 오프라인에서 교류할 기회가 더 많았으면 좋겠습니다.

• 정진서: 그때까지 세운 계획에 어떤 문제가 생길 수 있는지, 또 어떤 사회적 영향을 추가로 고려해야 하는지 묻고 싶습니다.

• 조권희: AI 에이전트 서비스별 답변 특성과 성능 차이, 서비스 업데이트를 추적·관리하는 방법, 에이전트에 적용할 스킬과 도구를 탐색하거나 제작할 때 주의할 점, 그리고 보안 문제를 묻고 싶습니다.

  
  

운영팀이나 멘토에게 바라는 지원도 있나요?

• 김은주: GPU를 많이 지원해 주셨으면 좋겠습니다. 참가자들이 오프라인에서 만나 교류할 기회도 다시 마련되면 좋겠습니다.

• 정진서: 좋은 대회를 마련해 주셔서 감사합니다. 기회가 된다면 팀원들과 함께 씽크포비엘 사무실에도 방문하고 싶습니다.

• 조권희: 운영팀이 생각하는 AI 신뢰성의 구체적인 범위를 가늠할 수 있도록 관련 연구나 통계 자료가 명시적으로 제공되면 좋겠습니다.

트라이톤 이후(After TRAITHON)

인턴십이나 ‘CTAP’ 등 대회 이후 이어지는 기회에도 도전하고 싶나요?

• 김은주: 인턴십과 협력 연구 등으로 인연이 계속 이어지면 좋겠습니다. 기회가 된다면 학교 특강으로도 다시 만나고 싶습니다.

• 정진서: 도전해 보고 싶습니다. 아직 세부 관심 분야를 정하지는 않았지만, 대회를 경험하면서 차근차근 찾아가고 싶습니다.

• 조권희: 관심은 있지만, 아직 1학년이라 인턴십이나 자격 취득, 자격시험 등이 구체적으로 와닿지는 않습니다. 우선 관련 교육 프로그램이나 공모전에 더 참여해 보고 싶습니다.

  
  

트라이톤이 끝났을 때, 가장 크게 달라질 부분은 무엇일까요?

• 김은주: AI 시스템을 만들 때 성능만 추구하지 않고, 신뢰성까지 함께 고려하게 될 것 같습니다.

• 정진서: 이전에는 AI를 활용해 성능을 높이는 데 집중했다면, 앞으로는 그 선택이 미칠 영향을 먼저 꼼꼼히 따져보게 될 것 같습니다. 우리 팀은 대회가 끝날 때쯤 AI를 더 비판적으로 바라보고, 끊임없이 의심할 줄 아는 사람들이 돼 있을 것 같습니다.

• 조권희: 이번이 사실상 첫 프로젝트 경험이어서 프로젝트를 진행하는 방법 자체를 많이 배우게 될 것 같습니다. 새로운 인연도 많이 만들고 싶고요. 한편으로는 살짝 걱정도 됩니다. 대회가 끝날 무렵 최고의 서비스를 완성한다면, 우리 팀이 조금은 ‘오만해지는’ 게 아닐까 싶어서요.

진지한 이야기는 충분히 들었습니다. 서로에 대해 살짝 ‘폭로’해 볼까요?

• 김은주: 둘 다 이상형이 무척 독특합니다. 한 사람은 ‘척추 미인’을, 다른 한 사람은 자신만 바라보는 잘생긴 미소년을 이야기하곤 합니다. 혹시 주변에 그런 분이 있다면 연락 부탁드립니다.

• 정진서: 제가 이번 대회를 계기로 조금 더 계획적인 사람이 될 가능성은 70%라고 봅니다. 40%는 대회가 길러줄 계획성, 나머지 30%는 요즘 제가 ‘J’가 되기 위해 기울이고 있는 노력입니다.

• 조권희: 우리 팀은 예술을 사랑합니다. 특히 미술관 탐방을 정말 좋아합니다. 다른 참가자들이 이번 과제를 어떻게 해석하고, 어떤 서비스를 상상하는지도 궁금합니다. 대회를 통해 적극적으로 친해지고 싶습니다.

마지막입니다. 대회 시작하는 각오를 들려주세요.

• 김은주: 트라이톤이 끝날 때쯤 우리 팀은 정말 극찬받고 있을 겁니다. 드가자!

• 정진서: 낯선 분야지만 끝까지 최선을 다해봅시다!

• 조권희: 싸우자. 나가자. 이기자.

출처 : https://blog.naver.com/thinkforbl/224418688603