국가 AI 안전 종합계획 만든다 … 산업계·전문가 25명 참여, 12월까지 마스터플랜 수립

정이든 청년기자 기자 발행일 2026-10-03 21:56:26 댓글 0
- 과기정통부, 10월부터 민·관 실무협의체 본격 가동
- ‘국가 관리체계·첨단 AI 대응·국민 일상 안전’ 3대 전략 점검
[데일리환경=정이든 기자] 인공지능(AI)이 검색과 문서 작성에서 의료·금융·제조 등 산업 전반으로 빠르게 확산하면서 정부가 국가 차원의 AI 안전관리 체계를 마련한다. 단순히 AI 사용을 제한하는 규제보다는 기술 발전 과정에서 나타날 수 있는 위험을 미리 살피고, 기업과 시민이 AI를 보다 안전하게 활용할 수 있는 생태계를 만드는 데 초점이 맞춰질 전망이다.

▲ AI의 보안·안전·품질·편향·성능·거버넌스 등 여러 위험 요소를 평가하는 체계를 설명하는 모습(출처=한국전자통신연구원(ETRI) 웹진)

과학기술정보통신부는 지난 9월 30일 ‘국가 AI 안전 생태계 조성 마스터플랜(가칭)’ 마련을 위한 민·관 실무협의체를 구성해 10월부터 본격 운영한다고 밝혔다. 협의체에서 나온 의견과 관계부처 협의를 거쳐 오는 12월까지 국가 AI 안전 종합계획을 완성한다는 목표다. 

이번 실무협의체에는 과기정통부와 국가인공지능전략위원회를 비롯해 AI 안전 관련 기관, 국내외 AI 기업과 협회, AI 기술 및 법·제도 전문가 등 25명 안팎이 참여한다. 인공지능안전연구소와 한국지능정보사회진흥원(NIA), 정보통신정책연구원(KISDI), 한국정보통신기술협회(TTA) 등도 참여한다. 산업계에서는 국내외 주요 AI 기업뿐 아니라 중소기업과 스타트업, 관련 협회가 현장에서 겪는 문제와 의견을 제시한다. 


‘AI를 막는 안전’보다 ‘안전하게 쓰는 체계’ 만든다

정부가 검토하는 마스터플랜의 큰 방향은 세 갈래다. ① 국가 AI 안전 관리체계 구축 ② 첨단 AI 안전 대응역량 강화 ③ 국민 일상의 AI 안전 환경 조성이다. 실무협의체는 이들 3대 전략과 핵심과제를 살펴보고 해외 AI 안전정책과 산업·기술 변화에 따라 추가로 필요한 과제도 발굴한다. 

AI 안전은 단순히 인공지능이 틀린 답을 내놓지 않도록 하는 문제에 그치지 않는다. 고도화된 AI가 어떤 위험을 일으킬 수 있는지 평가하고, 악의적인 이용이나 사이버 공격 등에 대응하는 기술과 제도, AI 모델의 위험을 사전에 시험하는 평가체계 등을 폭넓게 포함한다.

정부가 앞서 AI안전연구소 설립 과정에서 제시한 정책 방향에도 AI의 통제력 상실 등에 대응하는 정렬(Alignment) 기술과 편향 완화 기술, 아직 알려지지 않은 위험을 찾아내는 기법, 미래 AI 위험에 대한 시나리오 분석 등이 포함됐다. 국제 AI안전연구소 네트워크를 통해 합성 콘텐츠와 기반모델 평가, 위험평가 방식 등을 논의하는 국제협력도 추진해 왔다.

시민의 일상에서는 조금 다른 모습으로 나타난다. 생성형 AI가 사실과 다른 내용을 그럴듯하게 만들어내거나 사진·음성·영상이 실제인지 AI로 만들어진 것인지 구분하기 어려워지는 문제, 개인정보가 의도하지 않은 방식으로 활용되는 문제 등이 대표적이다. 특히 의료·금융 등 AI의 판단 결과가 시민의 생활에 직접 영향을 줄 수 있는 분야에서는 기술의 정확성뿐 아니라 문제가 발생했을 때 누가 어떻게 대응할 것인지에 대한 체계도 중요해진다.

기업 규모에 따라 다른 AI 안전 부담도 과제

이번 종합계획에서 주목할 부분 가운데 하나는 산업 현장의 목소리를 계획 수립 단계부터 반영한다는 점이다.

대규모 AI 모델을 자체 개발하는 글로벌 기업과 AI 서비스를 활용해 사업을 하는 중소기업·스타트업의 기술력과 인력, 비용 부담은 크게 다르다. 동일한 방식의 안전조치를 일률적으로 요구할 경우 작은 기업에는 상당한 부담으로 작용할 수 있는 만큼 산업 현장에서 실제 적용할 수 있는 안전정책을 만드는 것이 중요하다.

정부도 이번 협의체에 국내 주요 AI 기업뿐 아니라 글로벌 기업, 중소·스타트업과 관련 협회를 포함시켰다. 기술·정책·법제 전문가들은 각각의 관점에서 안전정책을 검토한다. 과기정통부는 이를 통해 현장의 수용성과 세계 AI 안전정책 및 기술 동향을 반영한다는 방침이다. 

이진수 과기정통부 인공지능정책기획관은 인공지능기본법 시행 등 AI 혁신과 안전의 균형을 위한 기반을 마련해 왔다면서도 첨단 AI 위험에 대한 국가 대응역량을 더욱 강화할 시점이라고 설명했다. 정부는 협의체 논의를 토대로 실효성 있는 AI 안전 생태계 조성 방안을 마련한다는 계획이다. 

AI 기술이 빠르게 발전할수록 안전정책 역시 기술을 뒤따라가는 방식만으로는 한계가 있다. 이번 마스터플랜이 완성되면 정부의 AI 안전관리와 기술개발, 기업의 안전조치, 전문기관의 평가와 연구, 시민의 안전한 AI 이용을 하나의 국가 체계 안에서 연결하는 밑그림이 제시될 것으로 보인다.

함께 보면 좋은 기사

댓글

(0)
※ 댓글 작성시 상대방에 대한 배려와 책임을 담아 깨끗한 댓글 환경에 동참에 주세요. 0 / 300