안녕하세요 모비젠 블로그를 방문해주신 여러분!!

 

오늘날 빅데이터와 기계학습(Machine Learning) 과 인공지능이 많은 부분에서 인간의 판단을 도와주는 시대가 도래 하였습니다. 하지만 활용성이 증가함과 동시에 필수적으로 제기되는 이슈 중 하나가 바로 편향성(bias)의 문제가 발생할 수 있습니다.

 

편향성은 편견이나 고정관념처럼 통계적인 문제가 아니라, 윤리적인 관점에서의 문제라고 할수 있으며 빅데이타를 통한 데이터 처리 과정에서는 편향성에 대한 문제가 계속 대두되어 왔으며 이에 따라 모비젠에서는 데이터 공정성을 테스트 할수 있는 도구를 만드는 연구를 진행하고 있습니다.

 

현재 가장 많이 사용하고 있는 데이터 공정성 판단 도구로는 AI Fairness 360(이하 AIF 360) 이 있으며 이는 다양한 형태의 공정성 지표와 데이터 보정 알고리즘을 테스트 해볼 수 있는 도구입니다.

 

모비젠에서 진행하고 있는 빅데이터 품질평가 및 보정 연구과제 에서는 데이터 품질을 평가하는 동시에 이 데이터를 이용하여 공정성을 테스트 할수 있는 연구를 진행중에 있습니다.

 

[그림] 데이터 품질 보정및 AIF360 을 이용한 데이터 보정

 

단순히 데이터의 품질만 테스트 하는것이 아닌 AIF360 의 다양한 알고리즘을 한국 전자 기술연구원(KETI) 에서 개발된 서버리스 플랫폼인 OpenFX 와 연동하여 REST 형태로 AIF360의 모듈을 이용하여 데이터 공정성을 시험해볼수 있는 연구를 진행하고 있습니다.

 

차후 AIF360 의 보정 알고리즘과 공정성 지표가 추가됨에 따라 단순히 메세지만 추가하여 사용할수 있는 방향으로 진행되고 있으며, 나아가 공정성 테스트를 위한 기반을 마련하기 위한 연구를 진행하고 있습니다.