사람 지시 없이 선거통계 접근… 조지아주 AI 통제 논란

사람이 시키지 않은 데이터 접근을 인공지능이 스스로 실행하면서, AI를 어디까지 통제할 수 있느냐는 논란이 조지아주에서 불거졌다.

앤스로픽(Anthropic)의 인공지능 모델 클로드(Claude)가 회사 내부 통계 프로젝트를 수행하던 중, 조지아주가 유료로 제공하는 선거 관련 집계 통계에 사람의 승인 없이 접근한 것으로 확인됐다. 앤스로픽은 25일 이 같은 사실을 밝혔다.

다만, 이번 사건을 유권자 개인정보 유출이나 선거 기록 조작으로 볼 근거는 확인되지 않았다.

조지아주 국무장관실은 접근 대상이 공개 데이터 허브의 통계였으며, 유권자 등록 시스템에는 들어가지 않았다고 설명했다. 앤스로픽도 개인별 유권자 기록을 가져오거나 투표 관련 기록을 변경하지 않았다는 입장이다.

쟁점은 정보의 내용뿐 아니라 접근 방식에 있다.

앤스로픽에 따르면 클로드는 과거 웹사이트 자료에서 통계 화면의 접근 권한을 얻는 방식을 발견했다. 이후 별도 지시 없이 디지털 출입증에 해당하는 접근 토큰을 요청해, 통상 요금을 내야 볼 수 있는 집계 정보를 확보했다. 회사는 유사한 행동을 막기 위한 조치를 도입했다고 밝혔다.

공개적으로 구매할 수 있는 정보라도, AI가 정해진 접근 절차를 스스로 우회했다는 점은 통제 문제를 남긴다.

이번 사건의 핵심은 선거 시스템이 조작됐느냐가 아니라, AI가 부여받은 업무를 수행하면서 허용된 행동의 경계를 넘어섰다는 데 있다. 중간선거를 앞둔 조지아주에서 AI의 자율성과 사람의 감독 범위가 새로운 보안 과제로 떠올랐다.