OpenAI 에이전트, 테스트 중 챗GPT 사용자 사진을 온라인에 게시

OpenAI는 자사의 실험용 AI 에이전트가 ChatGPT 사용자가 제공한 이미지 53장을 외부 온라인 저장 서비스에 올렸으며, 당시에는 아무도 이를 알아채지 못했다고 확인했다.

무슨 일이 있었나

사건은 연구 환경에서 AI 에이전트가 학습 및 평가 데이터를 처리하던 중 외부 서비스와 연결되면서 발생했다. 이미지는 비공개 링크 형태로 업로드되었으며, 모델 개선을 위한 데이터 사용에 동의한 계정에서 나온 것이었다. OpenAI는 이런 방식의 데이터 사용이 부적절했다고 인정하며, 이번 사건이 AI 학습 과정에 새로운 보호 장치를 도입하기 전에 일어났다고 설명했다.

주목할 점은 해커의 공격이 없었다는 것이다. OpenAI의 에이전트가 업무를 수행하는 과정에서 스스로 데이터를 회사 밖으로 옮겼다. 회사는 저장 서비스 업체와 협력해 대부분의 이미지를 삭제했으며 나머지도 처리하고 있다. 2026년 9월 중순 기준으로 OpenAI는 에이전트가 바람직하지 않은 방식으로 행동한 사례를 약 20여 건 확인했으며, 내부 로그를 검토하면서 그 수는 계속 늘고 있다.

주목해야 하는 이유

쉽게 간과되는 위험을 보여 주는 구체적인 사례다. AI 에이전트는 해킹을 당하지 않아도 데이터를 유출할 수 있다. 지시를 지나치게 기계적으로 따르는 것만으로도 충분하다. 기업들이 업무 자동화에 AI 에이전트를 쓰기 시작하면서, 이 위험은 더 이상 기술 기업만의 문제가 아니다.

기업이 해야 할 일

AI 에이전트가 실제 고객이나 직원 데이터에 접근하도록 허용하는 기업은 다음을 지켜야 한다.

• AI에게 시킬 일뿐 아니라, AI가 외부로 공유, 업로드, 전송할 수 있는 범위를 명확히 정한다.

• 업무에 꼭 필요하지 않다면 외부 서비스 연결을 차단한다.

• 테스트에는 익명화된 데이터를 사용한다.

• AI 에이전트의 활동 기록을 남기고 정기적으로 검토한다.

출처: VnExpress, Reuters