건강 증상, 이직 고민, 부부 싸움, 회사 기밀이 섞인 보고서 초안. 요즘 사람들이 ChatGPT 같은 AI에게 털어놓는 것들이다. 검색창에는 못 치던 이야기를 AI에게는 한다. 문장으로 대답해주고, 판단하지 않는 것처럼 보이니까. 그래서 질문이 생긴다. 그 이야기들은 어디로 갔을까.
우선 원리부터. AI에 입력한 내용은 내 폰이 아니라 그 회사 서버에서 처리된다. 여기까지는 이메일과 같다. 다른 점은 그 다음이다. 서비스와 설정에 따라 내 대화가 다음 모델을 만드는 학습 재료로 쓰일 수 있다.
내 문장이 그대로 박제된다는 뜻은 아니지만, 내 이야기가 모델이라는 반죽에 섞여 든다는 뜻이다. 한번 반죽에 들어간 밀가루는 골라낼 수 없다. 삭제 버튼은 내 화면의 기록을 지울 뿐, 반죽을 되돌리지 못한다.
사고도 이미 있었다. 2023년 5월, 삼성전자에서 직원들이 내부 소스코드 등을 ChatGPT에 입력한 사실이 알려져 사내 생성형 AI 사용이 제한된 일이 있었다. 해킹이 아니었다. 직원이 자기 손으로, 업무를 잘하려고 넣었다. 악의가 아니라 편의가 사고의 경로였다. 회사들이 뒤늦게 "AI 사용 지침"을 만들기 시작한 이유다.
그러면 뭘 조심해야 하나. 기준선은 간단하다. 병원 대기실에서 큰 소리로 말해도 되는 내용인가. 된다면 AI에게도 된다.
구체적으로 세 가지만 걸러내면 된다. 남의 정보(고객 명단, 동료 평가), 회사의 정보(미공개 실적, 소스코드, 계약서), 나를 특정하는 정보(주민번호, 계좌, 병명과 실명의 조합). 고민 상담이 문제가 아니라 상담에 실명을 붙이는 게 문제다. "우리 팀장이"까지는 익명이지만 "OO전자 OOO 팀장이"부터는 기록이다.
설정도 1분이면 된다. 주요 AI 서비스에는 대화를 학습에 쓰지 않게 하는 옵션이 대부분 있다. 메뉴 이름은 서비스마다 다르지만, 설정에서 '학습', '데이터' 같은 단어를 찾으면 된다. 회사 업무라면 학습 배제가 계약된 기업용 서비스를 쓰는 게 맞고, 그게 없다면 그 업무는 AI 없이 하는 게 맞다.
AI에게 아무것도 말하지 말자는 게 아니다. 요지는 AI를 일기장이 아니라 대화 상대로 대하라는 거다. 일기장은 나만 보지만 대화는 상대가 있다. "AI는 비밀을 지켜주지 않는다. 지킬 비밀이 뭔지 정하는 건 당신 몫이다."
*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.















![[이수영의 IT 칼럼] AI시대, 노동시장의 변화에서 장애인은 어느 위치에 서게 되는가](/data/dlt/image/2026/08/05/dlt202608050016.230x172.0.png)







































댓글
(0)