Copilot은 사용자 개인 메일을 검토하면서 보호를 우회합니다—Microsoft는 이를 실수로 인정했습니다

마이크로소프트가 Copilot에서 비밀 메일을 요약하는 버그를 발견했습니다

회사 내부 알림에 따르면 Microsoft 365 Copilot의 버그는 1월 말부터 시작되어 AI 보조자가 사용자 이메일 내용을 자동으로 요약하도록 했습니다. 이 과정에서 조직이 민감 정보를 보호하기 위해 사용하는 데이터 손실 방지(DLP) 정책을 우회했습니다.

문제가 된 내용
* CW1226326번 버그는 1월 21일에 확인되었으며 Copilot 작업 탭의 채팅 기능에 영향을 미칩니다.
* 결과적으로 알고리즘이 보낸 편지함과 초안 폴더에 있는 이메일을 잘못 읽어들였고, 비밀로 표시된 메시지도 포함되었습니다(비밀 표시는 자동화 도구 접근을 제한하도록 설계되었습니다).
* 마이크로소프트는 “비밀 라벨이 붙은 사용자 이메일은 Microsoft 365 Copilot Chat에서 부정확하게 처리됩니다”라고 밝혔으며, AI가 비밀 태그나 DLP 정책이 있더라도 메일을 요약한다는 점을 강조했습니다.

마이크로소프트의 대응
* 이후 회사는 원인이 코드 오류임을 확인하고 2월 초에 패치를 개발하기 시작했습니다.
* 현재 주 중반 기준으로 마이크로소프트는 수정을 배포하는 과정을 모니터링하며, 문제를 겪은 사용자와 연락해 업데이트 품질을 평가하고 있다고 전했습니다.

아직 알려지지 않은 사항
마이크로소프트는 버그 완전 해결 시기를 아직 명시하지 않았으며, 피해를 입은 사용자 또는 조직 수량도 공개하지 않았습니다. 보고서에 따르면 조사 진행 중 문제 규모가 변동될 수 있다고 기재되었습니다