2020호(211027)_인공지능 편향성 이슈와 신뢰성 확보 방안

1. 인공지능 정의

인공지능의 3가지 형태

• 인공지능의 일반적인 정의: 인간이 만든 지능적인 존재, 명시적인 지시 없이 지능적으로 작업을 수행할 수 있으며, 합리적이고 인간적으로 사고하고 행동할 수 있다.
• 좁은(Narrow) 인공지능: 단일 문제를 해결하도록 설계되어 단일 작업을 효율적으로 실행할 수 있는 인공지능
• 일반(General) 인공지능: 언어 처리, 이미지 처리, 계산 기능 및 추론 등과 같은 다양한 영역에 걸쳐 인간 수준의 인지 기능을 갖는 인공지능을 말하는 것으로 인간의 추론을 모방하기 위해 서로 통신하고 협력하여 작동하는 수천 개의 인공지능 시스템으로 구성
• 슈퍼(Super) 인공지능: 인간의 모든 능력을 능가할 수 있으며, 여기에는 의사결정, 합리적인 결정을 내리는 것이 포함되며 더 나은 예술작품을 만들고 감정적인 관계를 구축하는 것 등이 포함

 

2. 인공지능 개발 프로세스

인공지능 개발 4단계

1. 데이터 준비: 모델을 교육하기 위한 입력, 모델에서 데이터를 이해할 수 있도록 사전 처리하고 모델에 공급되는 데이터의 올바른 레이블 지정을 보장
2. 인공지능 모델링: 데이터가 입력으로 사용되고 모델이 해당 데이터에서 학습하는 단계
3. 시뮬레이션과 테스트: 실제 세계에 배포하기 전에 인공지능 모델이 작동하는지 확인하는 단계
4. 배포: 배포하고자 하는 장치에 적합한지를 판단하고 코드를 자동으로 생성하고 해당 플랫폼에서 코드를 효율적으로 실행할 수 있는지 확인

 

3. 인공지능 편향성 이슈와 신뢰성 확보 방안

가. 인공지능 편향

인공지능 편향

나. 인공지능 신뢰성 확보 방안

인공지능 편향성 다루기

1. 인공지능을 배포할 때 편향된 시스템의 이전 예나 편향된 데이터가 있는 영역과 같이 잠재적으로 불공정한 편향이 발생하기 쉬운 영역을 예상,
2. 인공지능 시스템의 편견을 테스트하고 완화하기 위한 프로세스와 관행을 수립,
3. 인간의 결정에 잠재적인 편향성이 있다는 사실에 기반한 대화에 참여,
4. 인간과 기계가 함께 가장 잘 협업할 수 있는 방법을 완전히 탐구,
5. 편향성 연구에 더 많이 투자하고 연구에 더 많은 데이터를 제공(프라이버시를 존중)하여 다양한 접근 방식을 채택,
6. 인공지능 분야 자체를 다각화하는 데 더 많은 투자가 필요

 

다. 인공지능 신뢰성 개발과제

인공지능 신뢰성 원천기술 개발과제