업무 미팅, 사적 모임 할 것 없이 인공지능(AI)가 화제다. 인공지능 대전환은 시대의 흐름이며, 산업 전반과 일상을 혁신적으로 바꾸고 있다.
AI의 성능은 방대한 데이터 학습에 달려있다. 그러나 AI가 똑똑해질수록 개인정보 침해 위험 역시 비례하는 딜레마가 발생한다. 생성형 AI는 학습데이터에 포함된 정보를 ‘영구 기억’(memory) 형태로 내재화하는 기술적 특성이 있으므로 더욱 그렇다.
AI, 개인정보 학습의 '회색지대'
AI를 이용해 본 사람이라면 아래와 같은 의문을 가져보았을 것이다. 공개된 개인정보를 AI 학습에 활용하는 것이 무제한으로 허용되는 것일까. 이용자들이 프롬프트에 입력한 각종 개인 정보를 LLM 성능을 개선하기 위하여 학습 데이터로 수집, 재이용 하는 것은 개인정보보호법상 문제 없을까. 정보주체의 동의 없이 의료 AI 연구 개발을 할 수 있을까. 자율주행 기업이 수집한 영상정보를 가명처리 없이 영상 원본을 활용하고자 하는데 가능한 것일까.
개인정보보호법은 개인정보의 ‘최소한의 수집’과 ‘목적 내 이용’을 기본 원칙으로 정하고 있다. 무엇보다 개인정보보호법은 태생부터 동의를 원칙으로 하여 제정되었다. 반면 AI 시대에서는 양질의 데이터를 활용하여 학습할수록 AI 발전이 이루어진다.
AI 시대의 데이터 처리방식 또한 개인정보보호법이 예상한 것과 완전히 다르다. 전통적인 개인정보보호법은 수집 목적 및 항목을 특정하여 ‘정보주체의 동의’를 득한 이후 데이터를 처리하는 단편적인 방식을 전제로 하였다. 그러나 AI 시대에는 특정 서비스 매개 없이 인터넷 공간에서 개인정보를 스크랩핑 하는 경우 동의, 계약과 같은 근거를 요구하는 것이 원천적으로 불가능한 경우가 많다. 학습 추론 과정 또한 데이터를 분석하고 결합하는 방식이어서 동의 규정과 어울리지 않는다. 데이터 종류 및 양에 있어서도 개인정보보호법 제정 당시에는 예상할 수 없을만큼 대규모이다.
규제와 발전의 묘 찾아야
개인정보보호위원회로서도 AI를 통한 효용의 증대, 글로벌 AI산업 경쟁력 확보를 고려하면 개인정보보호만을 금과옥조로 삼을 수만은 없는 형편이다. 개인정보보호위원회는 2024. 7. ?인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서?, 2025. 8. ?생성형 AI 개발, 활용을 위한 개인정보 처리 안내서? 등을 발간하면서 개인정보 처리 이슈의 기준을 제시하고 있다. 이에 의하면 공개된 개인정보를 AI 학습에 활용하는 것은 정보 활용의 이익이 정보 보호의 이익보다 명백하게 우선하는 경우 개인정보를 수집·이용할 수 있다. 이용자들이 프롬프트에 입력한 각종 개인 정보를 대규모언어모델(LLM) 성능을 개선하기 위하여 학습 데이터로 수집하는 것은 개인정보의 추가적 이용을 근거로 해 가능하다. 가명처리하는 경우 우리나라의 풍부한 자기공명영상(MRI) 데이터를 활용하여 의료 AI 연구 개발을 할 수 있다. 가명정보로는 서비스 향상에 어려움이 있는바 규제실증특례 제도를 통하여 자율주행 기업이 수집한 영상정보를 가명처리 없이 영상 원본을 활용이 가능하다.
AI 대전환을 예상할 수 없었던 2011년 제정된 이후 현재에 이르기까지, 개인정보보호법은 개인정보자기결정권이라는 헌법상 권리를 보호하고 있다. 그 후 몇 차례의 개인정보보호법 개정 및 개인정보처리안내서 발간을 통하여 데이터 활용 요구에 부응하고 있다. 최근 대법원 또한 과학적 연구, 통계, 공익적 기록보존 목적을 위한 개인정보의 가명처리를 정지할 것을 구하는 사건에서 이를 기각하면서 데이터 활용과 산업발전을 중시하는 의미있는 판결을 하기도 하였다(대법원 2025. 7. 18. 선고 2024다210554). 글로벌 AI 강국으로 도약하고자 하는 이 시대에 데이터 학습과 개인정보 보호의 균형점을 찾으면서 변화하는 환경에 맞추어 법과 제도를 유연하게 발전시켜 나가야 할 것이다.
정희원 기자 tophee@hankyung.com
관련뉴스
