정확한 머신러닝 모델 결과물로 불균형한 예측과 왜곡된 의사 결정 문제를 해결합니다.

과적합 모델은 학습 데이터에서는 매우 성능이 높지만 현실 데이터는 정확하게 예측하지 못합니다. 모델이 지나치게 복잡하거나 편협하여 현실 데이터에서 나타날 가능성이 높은 노이즈를 파악하지 못할 경우에 일반적으로 발생하는 현상입니다. 따라서 모델이 새로운 데이터를 일반화하는 데에 어려움을 겪습니다.

AI 모델을 학습시킬 “새 데이터”가 충분하지 않은 경우가 많습니다. LLM 같은 일부 모델은 방대한 양의 학습 데이터를 요구하는데, 데이터 수집은 매달 급속하게 변해가는 사회, 정치, 경제 상황을 따라잡지 못할 때도 있습니다.

확증 편향은 AI 시스템이 기존 신념의 영향을 받을 때 발생합니다. 모델 구축자가 무의식적으로 본인의 인식과 맞지 않는 데이터를 무시하게 되면, 해당 모델은 새로운 패턴을 찾아내는 대신에 기존 신념을 강화할 가능성이 높아집니다.

알고리즘 편향은 컴퓨터 시스템이 차별적이거나 부당한 편향된 결과를 도출할 때 발생합니다.

선택 편향은 AI 시스템을 학습시킬 때 사용된 데이터가 적용 분야의 진정한 의도를 반영하지 않을 때 발생합니다. 자동차 대출 승인용 AI 모델을 구축하는데 소득 1%의 데이터만 수집하는 것을 예로 들 수 있습니다. 부분 집합이 아니라 인구 계층별로 다양한 데이터를 수집해야 합니다.

어노테이션 집단이 라벨링된 데이터에 무의식적으로 자신들의 편견을 주입하여 여러 집단이 차별받는 결과로 이어지는 편향 현상입니다.

배제 편향은 AI 모델 학습에 사용되는 데이터에서 특정한 특성의 집단이 체계적으로 배제될 때 발생합니다.

문맥 편향은 데이터가 수집된 맥락이, 모델이 적용되는 맥락과 다를 때 발생합니다. 영국의 AI 기업이 영국식 영어와 용어를 핵심 학습 데이터세트로 사용하여 미국 시장용 모델을 개발하고 학습시키는 것을 예로 들 수 있습니다. 이렇게 되면 미국식 말, 용어, 지역적 차이가 잘 반영되지 않을 수 있습니다.

개인이 고정관념으로 이어지는 몇 가지 특성으로 집단화될 때(예: 나이, 인종, 수입, 지역 등에 따른 데이터 일반화) 흔히 발생하는 편향입니다.