인공지능은 공정할까요?

본 글은 과학기술정보통신부 네이버 블로그의 리뷰 스크랩입니다.

원본 기사: https://blog.naver.com/with_msip/222456479878

인공지능은 공정할까요?

---

인공지능의 차별적 편향을 보여준 대표적인 예시

내용요약:

• 인공지능은 인간처럼 생각하고 행동하도록 프로그래밍된 기계를 의미
• 인공지능이 인간과 유사한 행동 결과를 내놓기 위한 가장 효율적인 방법은 인간의 데이터로 학습을 진행하는 것
• 스스로 학습하는 인공지능에서는 큰 문제가 존재, 인공지능 신경망의 구조나 학습 방법 또는 학습에 이용하는 계수에 따라 학습의 효율은 변화하지만, 학습에 결과에 직접적인 영향을 주는 것은 데이터 그 자체
• 인공지능이 원하는 수준의 성능을 내기 위해서는 상당히 많은 데이터가 필요, 인공지능의 편향성은 올바른 데이터가 입력되지 않아서 발생
• 데이터의 편향이 단순한 세대나 기호 차이를 넘어서 사회의 불공평도 포함
• 기사에 논란이 되었던 인종차별, 성차별의 예시가 나와있다. 읽어볼 것.

---

기사를 이해하는 데 필요한 개념:

• 인공지능에서 학습이란 인간이 어떻게 행동하는지를 인간이 분석하여 수식이나 알고리즘으로 컴퓨터에 입력하는 대신 컴퓨터 스스로가 데이터 사이의 관계를 파악하여 특정 행동을 출력하는 방식
• 사진 인식 등의 분야에서는 CIFAR 등의 데이터셋과 데이터 어그멘테이션(data augmentation)이라는 방법을 사용하여 부족한 데이터셋을 보충.

CIFAR란?

CIFAR-10 dataset과 CIFAR-100 dataset 존재

CIFAR-10 dataset은 32x32픽셀의 60000개 컬러이미지가 포함되어있으며, 각 이미지는 10개의 클래스로 라벨링이 되어있다.

MNIST와 같이 머신러닝 연구에 가장 널리 사용되는 dataset중 하나

 

데이터 어그멘테이션이란?

원본 이미지에 인위적인 변화를 주는 것이다. 그리고 인위적으로 변화를 준 이미지는 충분히 학습에 활용될 수 있는 데이터가 된다.

단순히 편향된 학습은 오류를 발생시키지만, 여기서의 목적은 적당한 힘으로 학습 면적을 아주 조금 골고루 넓히자는 의미

원본 이미지에 인위적인 변화를 주는 데이터 어그멘테이션

공정한 인공지능을 위한 연구:

• 컴퓨터는 도덕적으로 옳고 그름을 판단할 수 있는 양심이 없다. 인공지능의 성능에만 초점을 맞추는 것이 아니라 학습 과정과 도출된 결과가 정말 적합한지 판단하는 연구가 필요. 그리고 실제로 진행 중
• 기계학습에서 편향성을 발생시키는 주요원인) 편향된 표본, 오염된 사례, 제한된 기능, 표본 크기 불균형, 대리 변수의 존재
• 2020년에 황의종, 서창호 교수 연구팀이 발표한 논문 (FR-Train: A Mutual Information Based Approach to Fair and Robust Training)은 신뢰할 수 있는 인공지능을 위한 새로운 학습 기법을 보여줌
• IBM에서 2018년 발표한 ‘AI Fairness 360’은 인공지능의 편향성을 줄이기 위해 제작된 오픈소스 서비스

---

예상되는 어려움:

• 알고리즘을 개선하여 편향성을 제거하는 데에는 한계 존재, 인공지능의 편향성은 데이터로부터 출발하기 때문
• 학습 이후 옳지 않은 출력 결과를 고치는 것보다는 원래부터 올바른 학습을 하도록 돕는 편이 효율적

---

해결 방안:

• 공정한 데이터셋 구축을 위한 새로운 기술의 개발 필요
• 공정에 대한 구체적이고 실효성 있는 사회적 논의와 변화가 필요

---

TMI...

처음 올렸던 기사 스크랩인 SAOT(https://itmomomomo.tistory.com/3) 와 비교해보면 형식이 많이 바뀌었음을 알 수 있다.

PT면접 대비를 위해 스터디에 들어가서 형식을 잡고 정리했던 것이 그 이유다.

 

그냥 기사를 요약하고 느낀점 한줄 적는거보다는 이 기술에 어떤 어려움이 있을지, 그 해결방안은 무엇이 있을지

생각해보는것이 많은 도움이 되었다.

 

꼭 전문적이지 않아도 좋다.

생각해보는 과정 자체가 면접을 위해 많은 도움이 된다.