AI 시스템 도입 영향 평가서 [AI 패키지]

AI 도입 영향 평가서는 사람의 권리, 안전, 생활에 중대한 영향을 미칠 수 있는 AI 시스템을 도입하기 전 잠재적 리스크를 사전에 평가하고 경영진의 도입 결정을 지원하기 위한 서식입니다.

❓ 고영향 AI란 무엇인가?

AI 기본법은 기존에 사용되던 "고위험 AI"라는 표현 대신 "고영향 AI"라는 용어를 사용합니다. 고영향 AI는 단순히 위험한 AI가 아니라 사람의 생활, 권리, 안전에 중대한 영향을 미치는 AI를 의미합니다. 채용 합격, 불합격을 자동으로 결정하는 AI, 의료 진단을 보조하는 AI, 금융 신용을 자동 평가하는 AI, 학생 성적을 자동 채점하는 AI가 대표적인 고영향 AI에 해당합니다. 고영향 AI를 도입할 때는 일반 AI 도구보다 더 엄격한 검토와 관리가 필요하며 이 서식은 그 절차를 문서화하는 역할을 합니다.

💡 작성 팁

1. 고영향 AI 해당 여부가 불분명하면 법무팀에 먼저 확인하세요.

AI 기본법상 고영향 AI의 범위는 시행령, 고시로 구체화되고 있습니다. 해당 여부가 불명확한 경우 자체 판단보다 법무팀 또는 전문가 검토를 먼저 받는 것이 안전합니다.

2. 리스크 경감 방안은 도입 조건으로 명문화하세요.

리스크가 발견됐더라도 경감 방안이 충분하다면 조건부 승인이 가능합니다. 경감 방안을 승인 조건으로 명문화해두면 도입 이후 관리 기준이 생겨 추후 감사나 법적 대응 시 근거로 활용됩니다.

3. 영향을 받는 대상자 관점에서 리스크를 검토하세요.

조직 내부 편의 중심으로만 평가하면 실제 영향을 받는 고객, 지원자, 환자 관점의 리스크를 놓치기 쉽습니다. 해당 AI 결정으로 불이익을 받을 수 있는 대상자 입장에서 한 번 더 검토하세요.