 |
| 진승헌 ETRI AI보안연구실 책임연구원 |
편리하다. 그러나 질문이 생긴다. 나는 '여행을 준비해 달라'고 했을 뿐인데 AI가 내 이메일과 카드 내역을 어디까지 들여다봐도 되는 것일까? 부모님과 자녀의 개인정보까지 이용해도 되는가? 여행 준비를 부탁했다고 결제나 외부 정보 제공까지 모두 맡긴 것으로 봐도 될까?
이것이 에이전틱 AI(Agentic AI) 시대의 새로운 문제이다. 생성형 AI가 주로 질문에 답하고 콘텐츠를 만드는 데 초점을 뒀다면, AI 에이전트는 목표를 받아 정보를 찾고 계획을 세우며 다른 서비스와 연계해 행동까지 수행한다. 개인정보 문제도 'AI가 무엇을 알고 있는가'에서 '그 정보로 무엇을 하는가'로 이동하고 있다.
지금까지 개인정보보호는 개인정보를 왜 수집하고, 어디에 이용하며, 누구에게 제공하는지를 통제해 왔다. 가명처리, 암호화 같은 기술도 중요한 역할을 해왔다. 하지만 에이전틱 AI 시대에는 보호 범위를 '데이터'에서 '데이터를 이용한 AI의 행동'까지 넓혀야 한다. 에이전틱 AI에서는 개인정보 최소처리도 '필요한 때에 필요한 만큼만 이용한다'는 방식으로 구현되어야 한다. 부모님의 구체적인 건강정보 대신 '엘리베이터와 가까운 객실이 필요하다'는 요청이면 충분할 수 있다. AI는 필요한 정보에만 접근하고 외부에는 목적 달성에 필요한 내용만 전달해야 한다. 가족 등 제3자의 개인정보라면 적법한 처리 근거와 정보주체의 권리도 별도로 고려해야 한다.
개인정보를 적법하게 처리할 수 있다는 것과 AI에게 어디까지 행동을 맡길지는 별개의 문제이다. 일정 정보를 이용할 수 있다고 해서 이메일 전체를 읽거나 가족 정보를 외부에 제공하고 한도 없이 결제해도 되는 것은 아니다. 캘린더는 읽기만, 이메일은 여행 관련 검색만 허용하고 일정 금액을 넘는 결제에는 재승인을 요구할 수 있다. 개인정보의 외부 제공은 별도로 통제하고, 중요한 정보 접근과 실행 내역은 기록으로 남겨야 한다. 에이전틱 AI 시대에는 동의가 통제의 끝이 아니라 시작이다.
개인정보보호위원회도 AI 프라이버시 정책의 무게중심을 대규모 데이터 수집·학습에서 '서비스 흐름의 복합적 리스크'로 옮기고 있다. 제3차 개인정보 보호 기본계획도 에이전틱 AI에 의한 처리 등 의사결정의 책임구조와 피지컬 AI의 상시적 정보 수집에 대응한 권리보장·위험평가를 과제로 담았다. 정부의 '에이전틱 AI 이니셔티브'도 권한 오남용을 새로운 위험으로 보고, 안전·신뢰 가이드라인 마련과 에이전트 신원확인·책임소재 검토를 과제로 제시했다. 영국 정보위원회(ICO)도 Tech Futures 보고서에서 처리 목적이 지나치게 넓어지거나 필요한 범위를 넘어 개인정보를 처리할 위험을 지적하고, 접근할 도구와 데이터를 제한하거나 개인정보 접근 시 사람의 승인을 받는 방안을 제시했다.
결국 에이전틱 AI 시대의 개인정보보호는 '데이터 보호(Protect the Data)'에서 멈춰서는 안 된다. 데이터를 보호하는 동시에 AI가 그 데이터로 무엇을 할 수 있는지를 통제하는 'AI 행동의 통제(Govern the Agent's Actions)'로 확장되어야 한다. 누가 어떤 권한을 AI에 부여했고, AI가 어떤 개인정보에 접근해 무엇을 추론·제공했으며 어떤 행동을 했는지 확인할 수 있어야 한다.
AI가 나를 많이 알수록 더 편리해질 수 있다. 그러나 신뢰할 수 있는 AI는 나를 가장 많이 아는 AI가 아니다. 허용된 범위에서 정보를 이용하고, 내가 맡긴 범위 안에서 행동하며, 필요할 때 다시 묻는 AI이다. 에이전틱 AI 시대 개인정보보호가 지켜야 할 것은 데이터만이 아니다. AI가 내 정보와 권한으로 어디까지 행동할 것인지를 결정하는 인간의 통제권이다. /진승헌 ETRI AI보안연구실 책임연구원
중도일보(www.joongdo.co.kr), 무단전재 및 수집, 재배포 금지
