본문 바로가기

칼럼서비스

4차 산업혁명의 전문 칼럼을 소개하는 코너입니다.

칼럼

AI 윤리란 무엇인가?

작성자 : tychung1 분류 : AI | 공통 작성일 : 2020.03.09 15:01:39 추천 : 0 조회 : 562 키워드 : 투명성,윤리,공정성,설명가능성,견고성

AI를 활용한 기술이 넘쳐나는 세상이지만 AI의 과도한 활용을 걱정하는 목소리도 동시에 커지고 있다.

AI 학습 데이터에 인간의 편견이 반영되는 사례가 속속 공개되고 있어서다.

AI의 윤리적 결함을 보완하려면 어떻게 해야할까.

AI 윤리란 무엇인가.
사람에게 기대하는 특성을 AI가 갖추도록 하는 것이다.

AI는 결국 사람이 더 나은 결정을 하도록 돕는 기계다. 그만큼 신뢰할 수 있어야 한다.

IBM 원칙상 신뢰하기 위해선 4개의 기준을 충족해야 한다.

.

.

▶공정성(Fairness) ▶설명 가능성(Explain ability) ▶견고성(Robustness) ▶투명성(Transparency)이다.

공정성은 서로 다른 집단을 차별하지 않는 '편견 없는 알고리즘'이다.

설명 가능성은 AI가 왜 이런 결정을 내렸는지 설명할 수 있어야 한다는 것이다.

견고성은 오류에 대처하는 능력이다. AI는 학습한 것은 잘 알지만, 아주 작은 차이에도 큰 오차를 내는 기계다.

마지막은 투명성이다. 어떻게 데이터를 모으고 교육했는지, 개발자와 디자이너의 결정이 어땠는지 공개해야 한다는 것이다.

(원문보기) 중앙일보 https://news.joins.com/article/23725218