황의종&서창호 교수 연구팀, 신뢰할 수 있는 인공지능을 위한 새로운 학습 기법 개발

우리 대학원 겸임교수이신 황의종 및 서창호 교수님 연구팀이 신뢰할 수 있는 인공지능을 위한 새로운 학습 기법을 개발하였습니다.

본 연구는 노유지 박사과정(지도교수 황의종)이 주저자로 참여했고, 위스콘신 매디슨 전기컴퓨터공학부 이강욱 교수님과의 공동 연구로 진행되었습니다.

 

현대 사회에서 머신러닝 기술은 인간에게 더욱 편리하고 정확한 시스템을 제공하지만, 그 이면에 다양한 신뢰성 문제가 존재함이 최근 드러나고 있습니다.

이에 따라 단순히 높은 정확도를 가지는 것을 넘어서, 공정성(fairness), 견고성(robustness), 투명성(transparency), 설명가능성(explainability) 등의 요소를 갖춘 인공지능의 필요성이 대두되고 있습니다.

 

본 연구팀은 신뢰성의 여러 요소 중 학습 데이터와 직접적인 관련이 있는 공정성(fairness)과 견고성(robustness)을 하나의 프레임워크 내에서 함께 높일 수 있는 학습 기법인 FR-Train을 제안합니다.

FR-Train은 공정하고 견고한 학습을 동시에 달성하는 첫번째 프레임워크로, 이에 대한 상호정보이론 기반의 해석을 제공하고 실제 어플리케이션에서의 다양한 활용 방안을 논의합니다.

 

연구팀은 해당 기술을 활용하여 공정하고 견고한 인공지능 시스템 구축의 발판을 마련할 수 있을 것이라고 설명했습니다. 또한 인공지능의 신뢰성 문제에 대한 중요도가 더욱 높아짐에 따라, 해당 학습 기법에 대한 활발한 후속 연구가 진행될 것으로 예상됩니다.

본 연구 성과는 머신러닝 최고 권위 학회인 ICML (International Conference for Machine Learning) 2020에서 발표되었습니다.

자세한 연구 내용은 하단의 링크에서 확인하실 수 있습니다.

 

[Paper information and Links]

Title: FR-Train: A Mutual Information-Based Approach to Fair and Robust Training

Authors: Yuji Roh (KAIST EE), Kangwook Lee (Wisconsin-Madison Electrical & Computer Engineering), Steven Euijong Whang (KAIST EE), and Changho Suh (KAIST EE)

논문 링크: https://proceedings.icml.cc/paper/2020/hash/52c5189391854c93e8a0e1326e56c14f-Abstract.html

학회 발표 영상: https://icml.cc/virtual/2020/poster/6025