최보윤 토론회 장애우권익문제연구소 등 체크리스트 발간 데이터 구축부터 인공지능기본법 의무까지 단계별 。검 발달장애인에 '형식적 동의' 넘어 "쉬운 설명 이해 도와야" ▲ 13일 국회 토론회에서 공개한 '장애 포용적 AI를 위한 기업 자율 .검 체크리스트' 표지 이미지. 자료=최보윤 의원실 '장애 포용적 AI(인공지능)를 위한 기업 자율 。검 체크리스트'가 국회에서 공개됐다. 기업이 AI를 개발하고 운영하는 전 과정에서 장애인의 접근성 배제와 인권침해를 스스로 。검할 수 있도록 33개 체크리스트를 만들고 각 항목마다 해설과 사례를 붙였다. 이날 최보윤 국민의힘 의원은 사단법인 장애우권익문제연구소, 법무법인 디엘지와 함께 국회에서 토론회를 열고 체크리스트 활용 방안에 대해 논의했다. 이날 김아람 장애우권익문제연구소 인권센터 팀장은 “AI는 희망과 위험이 교차하는 역설적인 공간”이라며 “장애인 의사소통 장벽을 낮추고 자립을 돕고 접근성을 높이는 강력학 역량강화 도구이지만 설계단계에서 장애인 이용을 고려하지 않으면 접근성 배제나 왜곡 데이터 학습에 따른 차별·인권침해가 벌어져 새로운 차별의 통로가 될 수 있다”고 말했다. 장애인이 AI의 각 단계에서 참여 기회를 보장받지 못하고, 피해가 생겨도 효과적인 권리구제 절차가 미흡하다는 。도 문제로 거론된다. 체크리스트는 4개 영역 총 33개 문항이다. 1~5번은 데이터 입력과 개발 단계 관련 항목이고, 6~17번은 결과 산출과 운영·활용 단계로 가장 항목이 많다. 18~21번은 AI 리터러시 교육 관련 항목이고 22~23번은 인공지능기본법상 사업자 의무를 이행하는 과정에서 장애인 인권과 접근권은 .검하는 항목이다. 이번 체크리스트는 AI 개발·운영자의 상시 .검표이자 교육 안내서, 정부의 관리·감독 참고자료로 쓸 수 있고, AI 이용 장애인이 권리구제를 요청할 때도 활용할 수 있다. 모바일바다이야기 발달장애인에게 형식적 동의보단 이해하기 쉬운 설명 필요 체크리스트에선 AI를 사용할 때 장애인들의 '정보 접근성'을 높이면서 실질적으로 참여할 수 있도록 만드는 것을 중요하게 고려했다. 체크리스트 1번에선 AI 학습 데이터에서 장애인을 배제하거나 일부 유형만 제한적으로 포함할 경우 AI가 장애인의 특성을 '오류'나 '예외'로 인식할 가능성이 높다고 경고했다. 음성인식 AI의 경우 전체 사용자에겐 95%의 정확도를 보이지만 발화가 명확하지 않은 장애인에겐 인식률이 낮아지는 경우 등이 존재할 수 있다. 의사소통 과정에서 장애인이 제대로 이해했는지 확인해야 하는 내용도 포함했다. 체크리스트 2번 “장애 관련 민감정보 수집 시 수집 목적을 명확히 안내하고 실질적 동의와 프라이버시를 보장하는가”에서는 장애인에게 '형식적인 동의'만 받는 것이 아니라 내용을 이해하고 스스로 선택할 수 있는 방식의 '실질적 동의'가 필요하다고 지적한다. 이를 위해 “쉬운 언어, 반복 설명, 이해 여부 확인 등 장애 특성을 고려한 절차가 필요하다”고 했다. 특히 발달장애인의 경우 “데이터 수집 동의를 받으면서 어려운 법률 용어로 작성된 서면 설문지만 제공하고 쉬운 언어 설명이나 이해 여부 확인 없이 형식적으로 서명만 받는 경우”와 “동의 과정에서 쉬운 언어 설명, 시각 자료, 반복 안내 등 이해를 돕기 위한 절차 없이 일괄적으로 동일한 방식의 동의 절차를 적용하는 경우” 등을 예시로 들었다. 발달장애인에게 쉬운정보가 필요하듯 청각장애인에게 문자통역이나 수어통역을 제공하지 않아 충분한 정보를 통해 동의 여부를 판단하기 어려운 경우도 지적했다. 이러한 문제를 예방하기 위해 체크리스트 3번에서는 장애인 당사자나 단체의 참여가 구조적으로 보장돼야 한다고 했다. 바다이야기동영상 AI로 만든 산출물의 접근성 문제도 확인해야 할 뿐이다. 체크리스트 7번에선 “AI 산출물은 장애인의 감각·인지적 특성, 의사소통 방식·보조기기 사용 환경 등을 고려해 제공하고 장애 특성으로 인해 산출물에 접근하거나 이용하는 데 어려움이 발생하지 않도록 다양한 제공 방식과 접근 가능한 형식을 지원할 필요가 있다”고 했다. 농인이나 청각장애인의 경우 AI 추천 알고리즘이 자막이나 수어 통역을 제공하지 않은 영상만 추천하도록 하지 않아야 하고, 시각장애인에겐 AI 생성 이미지에 대체 텍스트나 음성 설명을 제공해야 한다. 또한 AI 생성 안내문이 복잡한 문장이나 전문용어 위주로 제공되면 발달장애인 등 인지적 어려움이 있는 사람들이 이해하기 어려울 수 있다. 이의제기와 구제 역시 실질적으로 가능한지 따져봐야 이의제기와 구제절차는 형식적으로 가능하냐의 문제를 넘어 실질적으로 가능한지를 확인해야 한다. 13번에선 AI 자동화 결정에 오류나 차별이 발생하면 이용자가 이의를 제기하는 절차를 반드시 마련해야 한다고 규정하고 있다. 이는 장애 유형을 고려해 음성안내와 수어상담, 쉬운언어 안내 등 다양하게 제공해야 한다. 예시로는 AI 복지수급 심사 결과에 이의를 제기할 때 온라인 양식만 제공돼 시각장애인이 접근하기 어렵거나 이의제기 절차에 복잡한 서류 제출이 요구돼 인지장애인이나 중증장애인이 사실상 이용하기 어려운 경우 등을 제시했다. ▲ 13일 국회 토론회에서 공개한 '장애 포용적 AI를 위한 기업 자율 。검 체크리스트' 중 AI 리터러시 교육 관련 항목. 자료=최보윤 의원실 AI 리터러시 관련 내용도 체크리스트에 포함했다. 21번은 교육 내용이 장애 유형과 이해 수준을 반영해 설계했는지, 그래서 장애인이 실제 이해하고 이용할 수 있는 형태로 제공되고 있는지 확인하는 항목이다. 황금성포커 예시로는 “발달장애인을 고려하지 않은 복잡한 설명 중심 교육으로 이해가 어려운 경우”, “시각 중심 자료만 제공돼 시각장애인이 파악하기 어려운 경우”, “화면낭독기 미지원 온라인 교육 콘텐츠가 제공되는 경우”, “자막 없는 교육 영상으로 청각장애인이 배제되는 경우” 등을 들었다. AI를 사용하는 건 결국 사람들이다. 마지막 33번 항목에선 “AI가 장애인에게 반복적으로 불리한 결과를 산출할 경우 이를 감지하고 개입하는 구체적 기준을 마련하고 이를 운영하는 임직원이 장애인 차별 문제를 실제 인식하고 대응할 만한 교육을 받고 있는가”를 체크하도록 했다. “임직원 교육이 AI의 기술적 성능 중심으로만 구성돼 있어 채용·대출·복지급여 심사 등 고영향 영역에서 장애인에게 발생하는 간접 차별 사례를 차별로 인식하지 못하는 경우”를 우려했다. 이 항목은 또 “장애인 차별 방지 교육이 연 1회 형식적으로 실시되고 있지만 실제 서비스 운영 상황과 연계되지 않아 임직원들이 현장에서 장애 관련 불이익을 목격하더라도 개입 여부를 판단하지 못하는 경우”를 경계했다. 이번 체크리스트를 법에서 의무화해야 한다는 주장이 나왔다. 이날 토론회에서 이재흥 국가인공지능전략위원회 위원(시민기술네트워크 상임이사)은 “많은 전문가와 시민이 참여하고 공공기관이 완성도 높은 영향평가결과를 내어도 보고서로만 게시되고 잠들면 무슨 소용이냐”며 “이행반영 여부를 부처기관 성과평가 항목이나 공무원 인사평가 항목에 반영했으면 한다”고 했다. AI 개발자 입장에서는 이번 체크리스트를 현장에서 테스트할 수 있도록 발전시켜야 한다고 조언했다. 김정원 AIWORKX AI신뢰성팀 AI기술총괄은 “현재 체크리스트가 '충족' '미충족' '해당없음' 세 단계인데 어느 정도가 '충족'이고 '미충족'인지 또는 테스트가 불가능한 경우인지 현장에서 적용하기 어려운 부분이 있는데 이를 개선해야 한다”며 “지금보다 한 단계 나아가기 위해선 장애인 당사자들이 주인공이 되고 개발사들이 함께 해서 테스트 평가 자동화 툴을 만들어야 할 텐데, 이는 새로운 AI 시대에 장애인 일자리를 창출할 수 있는 부분일 수도 있다”고 말했다.