디지털 부사장인 Margrethe Vestager(사진)는 “인공 지능에서 신뢰는 있으면 좋은 것이 아니라 필수입니다. 이러한 획기적인 규칙을 통해 EU는 AI를 신뢰할 수 있도록 새로운 글로벌 표준 개발을 주도하고 있습니다. 표준을 설정함으로써 우리는 윤리적인 길을 열 수 있습니다. technology 전 세계적으로 EU가 경쟁력을 유지하도록 보장합니다. 미래 지향적이고 혁신 친화적인 우리의 규칙은 꼭 필요한 곳에, 즉 EU 시민의 안전과 기본권이 위태로워질 때 개입할 것입니다.”
규칙은 고위험, 제한된 위험, 최소 위험 AI 애플리케이션을 구분합니다.
AI 시스템 고위험으로 식별된 항목에는 다음과 같은 분야에 사용되는 AI 기술이 포함됩니다.
- 시민의 생명과 건강을 위험에 빠뜨릴 수있는 중요한 인프라 (예 : 운송)
- 교육 및 직업 교육에 대한 접근성을 결정할 수있는 교육 또는 직업 훈련 (예 : 시험 채점)
- 제품의 안전 구성 요소 (예 : 로봇 보조 수술의 AI 응용);
- 고용, 근로자 관리 및 자영업에 대한 액세스 (예 : 채용 절차를위한 CV 분류 소프트웨어);
- 필수 민간 및 공공 서비스 (예 : 시민의 대출 기회를 거부하는 신용 점수)
- 사람들의 기본 권리를 침해 할 수있는 법 집행 (예 : 증거의 신뢰성 평가)
- 이주, 망명 및 국경 통제 관리 (예 : 여행 문서의 진위 확인);
- 정의 및 민주적 절차의 관리 (예 : 구체적인 사실에 법 적용).
고위험 AI 시스템은 시장에 출시되기 전에 엄격한 의무가 적용됩니다.
- 적절한 위험 평가 및 완화 시스템
- 위험과 차별적 인 결과를 최소화하기 위해 시스템에 공급하는 고품질 데이터 세트
- 결과의 추적 성을 보장하기위한 활동 로깅
- 시스템에 필요한 모든 정보를 제공하는 상세한 문서와 당국이 규정 준수를 평가하기위한 목적
- 사용자에게 명확하고 적절한 정보
- 위험을 최소화하기위한 적절한 인간 감독 조치
- 높은 수준의 견고성, 보안 및 정확성.
특히 모든 원격 생체 인식 시스템은 위험도가 높은 것으로 간주되어 엄격한 요구 사항이 적용됩니다. 법 집행 목적으로 공개적으로 접근 가능한 공간에서 실시간으로 사용하는 것은 원칙적으로 금지됩니다.
좁은 예외가 엄격하게 정의되고 규제됩니다(예: 실종 아동 수색, 구체적이고 임박한 테러 위협 방지, 심각한 범죄의 가해자 또는 용의자를 탐지, 위치 파악, 식별 또는 기소하기 위해 엄격히 필요한 경우).
이러한 사용에는 사법 기관이나 기타 독립 기관의 승인이 있어야 하며 시간, 지리적 범위 및 검색되는 데이터베이스에 대한 적절한 제한이 적용됩니다.
제한된 위험 AI 시스템에는 특정한 투명성 의무가 있습니다. 예를 들어 챗봇과 같은 AI 시스템을 사용할 때 사용자는 기계와 상호 작용하고 있다는 사실을 인식하여 계속할지 또는 뒤로 물러날지 결정을 내릴 수 있어야 합니다.
규제가 필요 없는 최소 위험 AI 시스템에는 AI 지원 비디오 게임 또는 스팸 필터가 포함됩니다. 대부분의 AI 시스템이 이 범주에 속합니다.
유럽 인공 지능 위원회(European Artificial Intelligence Board)는 규정 시행을 촉진하고 AI 표준 개발을 추진할 것입니다.
금지 또는 데이터 요구 사항을 준수하지 않는 회사의 경우 수익의 6%에 해당하는 벌금이 부과될 것으로 예상됩니다.
새 규칙에 명시된 다른 요구 사항을 준수하지 않는 회사의 경우 더 작은 벌금이 예상됩니다.
이 규칙은 고위험 AI 시스템의 개발자와 사용자 모두에게 적용됩니다.
위험한 AI 제공자는 배포 전에 적합성 평가를 받아야 합니다.
고위험 AI에 대한 기타 의무에는 고품질 데이터 세트 사용, 결과 추적성 보장, 위험 최소화를 위한 인간 감독이 포함됩니다.
'고위험' 애플리케이션의 기준에는 의도된 목적, 잠재적으로 영향을 받을 수 있는 사람의 수, 피해의 되돌릴 수 없는 정도가 포함됩니다.
이 규칙은 법으로 제정되기 전에 유럽의회와 회원국의 승인이 필요하며, 이 과정에는 몇 년이 걸릴 수 있습니다.