[이수영의 IT 칼럼] 빠르고 똑똑한 'AI 복지' ... 모두에게 안전한가

AI는 복지를 더욱 빠르고 똑똑하게 만들고 있다. 위기가구를 조기에 발견하고, 복지서비스를 개인에게 맞춤형으로 추천하며, 행정의 효율성을 높이는 데 AI는 이미 중요한 역할을 수행하고 있다. 그러나 기술이 발전할수록 또 하나의 질문이 제기된다.

AI 복지는 과연 모든 국민에게 안전한 복지일까? 우리는 흔히 디지털 보안을 해킹이나 개인정보 유출을 막는 기술로 이해한다. 물론 그것도 중요하다. 하지만 복지에서 말하는 안전은 조금 다르다. 복지의 안전은 단순히 시스템을 보호하는 것이 아니라 사람을 보호하는 것에서 시작해야 한다.

AI 시대의 디지털 보안은 서버가 안전한가를 묻는 것이 아니라, 국민이 안심하고 AI 복지를 이용할 수 있는가를 묻는 개념으로 확장되어야 한다. 가장 취약한 사람이 가장 먼저 보호받아야 한다. 복지는 본질적으로 사회적 약자를 위한 제도다.

고령자, 장애인, 저소득층, 독거노인, 디지털 활용이 익숙하지 않은 국민일수록 복지의 필요성은 더욱 커진다. 그러나 역설적으로 AI 기반 복지서비스가 확대될수록 이들은 새로운 위험에 가장 먼저 노출될 가능성이 있다.

예를 들어 AI 챗봇을 활용한 복지 상담이 일반화된다면, 스마트폰 사용이 어려운 고령층은 필요한 정보를 얻지 못할 수 있다. 모바일 인증이 기본 절차가 된다면 디지털 기기 이용이 익숙하지 않은 국민은 신청 단계부터 어려움을 겪을 수 있다. 기술은 모두에게 동일하게 제공될 수 있다. 그러나 동일한 제공이 곧 공정한 이용을 의미하지는 않는다.

복지는 가장 편리한 사람을 위한 제도가 아니라 가장 어려운 사람도 이용할 수 있는 제도여야 한다. 디지털 전환은 새로운 복지 사각지대를 만들 수도 있다. AI는 기존의 복지 사각지대를 줄일 수 있다. 하지만 잘못 설계된다면 새로운 사각지대를 만들 수도 있다. 이른바 디지털 사각지대(Digital Divide)다.

과거 복지 사각지대가 정보 부족이나 행정 접근성에서 비롯되었다면, AI 시대에는 디지털 역량과 접근성의 차이가 새로운 불평등으로 이어질 수 있다. 특히 고령층, 장애인, 농어촌 거주자, 정보취약계층은 AI 기반 복지서비스가 확대될수록 오히려 복지로부터 더 멀어질 위험도 존재한다. 따라서 AI 복지는 기술을 도입하는 것만큼이나 누구도 배제되지 않도록 설계하는 것이 중요하다.

국제사회 역시 AI 시대의 포용성을 중요한 원칙으로 제시하고 있다. 유엔의 「장애인권리협약(CRPD)」은 디지털 환경에서도 장애인의 동등한 접근권을 보장해야 한다고 규정하고 있으며, 유네스코 「인공지능 윤리 권고」는 AI가 사회적 약자를 배제하거나 새로운 불평등을 만들어서는 안 된다고 강조한다.

OECD 또한 AI 정책의 핵심 가치로 포용적 성장(Inclusive Growth)을 제시하며, AI의 혜택이 특정 계층이 아니라 사회 전체에 공정하게 돌아가야 한다고 권고하고 있다. 이는 디지털 시대의 기본권 보장에 관한 문제다.

포용적 디지털 보안(Inclusive Digital Security)은 새로운 복지 원칙이 되어야 한다. 필자는 AI 복지에서 앞으로 가장 중요해질 원칙 가운데 하나를 포용적 디지털 보안이라고 생각한다. 이는 단순히 개인정보를 안전하게 보호하는 것을 의미하지 않는다. 모든 국민이 자신의 능력이나 환경에 관계 없이 안전하게 AI 복지서비스를 이용할 수 있도록 보장하는 사회적 안전체계를 의미한다.

이를 위해서는 몇 가지 원칙이 필요하다.

첫째, AI 복지서비스는 디지털 이용이 어려운 국민을 고려한 대면 서비스와 비대면 서비스를 함께 운영하는 '디지털 플러스 원(Digital Plus One)' 원칙을 가져야 한다.

둘째, 장애인과 고령자, 정보취약계층을 고려한 유니버설 디자인과 접근성 기준을 AI 시스템 개발 단계부터 의무적으로 반영해야 한다.

셋째, AI 기반 복지서비스는 누구나 이해할 수 있는 언어와 절차로 제공되어야 하며, 국민이 쉽게 도움을 요청할 수 있는 인간 상담체계를 항상 함께 유지해야 한다.

넷째, AI의 보안은 시스템을 지키는 데서 끝나서는 안 된다. 국민이 자신의 데이터를 신뢰하고 서비스를 안심하며 이용할 수 있도록 개인정보 보호, 사이버 보안, 알고리즘 안전성을 하나의 통합된 신뢰체계로 설계해야 한다.

기술의 발전은 모두를 위한 것이어야 한다. AI는 앞으로 복지를 더욱 정교하게 만들 것이다. 그러나 기술의 발전이 누군가를 남겨두는 방식으로 이루어진다면 그것은 진정한 혁신이라고 말하기 어렵다. 복지는 가장 빠른 사람을 위한 제도가 아니다. 가장 늦게 도착하는 사람도 함께 갈 수 있도록 만드는 제도다.

AI도 마찬가지다. AI는 가장 디지털에 익숙한 사람만을 위한 기술이 아니라, 가장 도움이 필요한 사람에게 가장 먼저 다가가는 기술이어야 한다. AI 대전환 시대의 복지국가는 가장 뛰어난 기술을 가진 국가가 아니라, 기술을 통해 누구도 소외되지 않도록 만드는 국가여야 한다.

그것이 필자가 말하는 포용적 디지털 보안의 의미이며, AI 시대에도 변하지 않아야 할 사람 중심 복지국가의 새로운 원칙이다.