- 감정·심리 분석의 공공 활용, 기술 정확성만으로 정당화 어려워
- 인간 재검토와 이의제기·정정 절차 마련 요구▲ 김길영 서울시의원.
[세계뉴스 = 윤소라 기자] 인공지능이 시민의 언어와 감정을 분석해 행정서비스에 활용하는 시대가 다가오면서 판단 권한과 책임 소재를 명확히 해야 한다는 목소리가 나왔다. 기술이 높은 정확도를 보인다는 사실만으로 시민에 대한 공적 판단의 정당성이 확보되는 것은 아니라는 지적이다.
서울시의회 김길영 의원은 지난 6일 열린 'AI 감정해석과 시민권리 보호를 위한 정책적 과제' 토론회에서 공공 AI 활용에 따른 시민 권리 보호 장치를 논의했다. 참석자들은 AI 해석 결과가 행정 판단에 반영될 경우 판단 근거 공개, 독립적인 인간 재검토, 시민의 이의제기 및 정정 절차가 필요하다는 의견을 제시했다.
쟁점은 AI 도입 자체보다 그 결과를 누가 어떤 근거로 사용하는지에 있다. 시민이 자동화된 분석의 존재를 모른 채 불이익을 받거나, 담당 기관이 알고리즘을 이유로 책임을 회피하는 상황을 막을 제도적 장치가 필요하다는 것이다.
서울시 공공 AI 사업의 성과평가도 처리 속도와 효율성뿐 아니라 권리 구제 절차의 실효성까지 포함해야 한다는 과제가 제기됐다. 토론회 제안이 실제 조례와 행정 지침으로 이어질지가 관건이다.