“기술 정확성이 판단 정당성 보장 못 해”… 서울시의회, 공공 AI 속 시민 권리 보호 모색

이정윤 기자 발행일 2026-11-07 14:43:50 댓글 0
▲정책토론회 후 관계자들과 기념사진
[데일리환경=이정윤 기자]인공지능(AI)이 시민의 감정과 심리까지 판독해 행정서비스에 적용하는 시대가 다가오면서, 효율성 뒤에 가려진 ‘시민 권리 침해’와 ‘행정 책임성’ 문제를 짚어보는 공론의 장이 열렸다. 기술 도입의 속도전 속에서 정작 시민이 AI의 잘못된 판단에 대응할 권리는 소외되고 있다는 지적이다.

서울특별시의회가 주최하고 김길영 시의원(강남6)과 광운대학교 인간-AI 거버넌스 연구소가 공동 주관한 ‘AI 감정해석과 시민권리 보호를 위한 정책적 과제 토론회’가 6일 시의회 제1대회의실에서 개최됐다.

정확도가 곧 정당성은 아니다… ‘해석 권한’의 전도 경계


이번 토론회는 공공영역에서 AI 기술 활용이 급격히 확대되는 가운데, AI의 해석과 판단이 행정적 결정으로 이어질 때 발생하는 법적·제도적 공백을 점검하기 위해 마련됐다.

발제를 맡은 김상백 광운대 연구교수는 ‘AI 감정해석과 해석 권한의 이동’을 주제로 발표하며 기술 발전이 행정 주체와 시민 간의 권력 관계를 어떻게 바꾸고 있는지 짚었다.

이어 권덕철 전 보건복지부 장관, 이경일 인간-AI 거버넌스 연구소 설립위원장, 문인철 서울연구원 연구위원, 주성환 서울AI재단 본부장, 조지연 한국전자통신연구원(ETRI) AI안전연구소 선임연구원 등 행정·복지·기술 분야 전문가들이 참여해 심도 있는 논의를 이어갔다.

참석자들은 AI의 데이터 분석이 기술적으로 정교하더라도, 이를 시민을 대상으로 한 공적 판단이나 복지·행정 서비스의 기준으로 삼는 문제는 차원이 다른 영역이라고 입을 모았다. 알고리즘의 결론이 곧 행정 처분의 정당성을 담보하지 않는 만큼, 기술 만능주의에 기대 행정적 책임을 AI 뒤로 숨겨서는 안 된다는 비판적 시각이다.

“이의제기·독립적 재검토 권리 필수”… 제도적 통제 장치 주문

토론회에서는 AI 도입에 따른 부작용을 막기 위한 구체적인 제도적 장치가 제안됐다. 주요 과제로는 ▲행정 과정에서 AI 활용 여부 및 판단 근거의 투명한 공개 ▲AI 결과에 불복할 수 있는 시민의 이의제기 및 정정 절차 보장 ▲독립적인 인간 감사·재검토 기구 설치 등이 제시됐다.

특히 서울시가 추진하는 각종 공공 AI 사업의 성과 평가 기준에 단순한 업무 처리 속도나 비용 절감 같은 기술적 효율성뿐 아니라, 공공기관의 책임성과 시민 권리 침해 여부를 의무적으로 반영해야 한다는 주문도 나왔다.

김길영 대표의원은 “AI 기술을 통한 행정 혁신은 필수적이지만 기술의 정확도가 곧 시민에 대한 판단 권한의 정당성을 부여하는 것은 아니다”라며 “AI 해석이 공적 판단에 쓰이더라도 최종 책임은 반드시 사람과 공공기관에 귀속되어야 한다”고 강조했다.

아울러 “시민이 AI의 분석 결과와 그것이 행정에 적용되는 과정 전반에 대해 의문을 품고 재검토를 요구할 수 있는 실질적 권리가 주어져야 한다”며 “토론회에서 나온 제언들을 바탕으로 조례 정비 등 서울시 공공 AI 정책의 투명성과 책임성을 담보할 수 있는 입법적 뒷받침을 마련하겠다”고 밝혔다.

함께 보면 좋은 기사

댓글

(0)
※ 댓글 작성시 상대방에 대한 배려와 책임을 담아 깨끗한 댓글 환경에 동참에 주세요. 0 / 300