구글은 최초로 0일 AI 익스플로잇을 발견하고 차단했으며, 이는 이중 인증을 우회합니다

구글이 AI로 만든 제로데이 익스플로잇을 발견했습니다

*사실 요약*

Google Threat Intelligence Group(GTIG)은 처음으로 새로운 제로데이 익스플로잇을 식별하고 차단했습니다. 익스플로잇은 사람이 수작업으로 작성한 것이 아니라 인공지능을 사용해 생성되었습니다. 공격 대상은 오픈소스 시스템 관리 웹 애플리케이션의 이중 인증(2FA) 시스템에 대한 대규모 침입입니다. AI 흔적을 어떻게 식별했는가? Python 코드에서 '서명'이 있었는데, 이는 가짜 CVSS 평가, 전형적인 '학습용' 포맷팅 및 대형 언어 모델(LLM)에 특유의 패턴이었습니다. 취약점 원인: 논리 오류입니다. 개발자는 특정 시스템 구성 요소가 항상 안전하다고 가정하고 검증하지 않았습니다. 이 검증되지 않은 요소를 통해 공격자는 2FA를 우회했습니다. 공격 대상: 구글은 구체적인 애플리케이션을 공개하지 않았습니다. Gemini 역할: 연구자들은 Gemini 모델이 익스플로잇 제작에 사용되지 않았다고 말합니다. 예방 조치: 공격은 대규모가 되기 전에 차단되었습니다.

GTIG가 추가로 발견한 내용
1. 새로운 공격 방법
해커는 악성 코드를 만들 뿐만 아니라 AI 시스템 자체의 인프라를 '우회'하기 위해 AI를 사용하고 있습니다.

2. 역할 속임수
해커는 자신이 보안 전문가인 것처럼 요청을 구성하여 모델이 제한 사항에 따라 행동하지 않도록 유도합니다.

3. 대용량 데이터베이스 로딩
모델 내부에는 전체 취약점 카탈로그가 로드되고, 이후 OpenClaw 도구를 사용해 실제 배포 전에 통제된 환경에서 악성 프로그램을 디버깅합니다.

결론
구글은 코드 분석과 머신러닝 '서명' 인식을 통해 AI로 만든 익스플로잇을 식별하고 중화할 수 있었습니다. 이는 애플리케이션 논리를 지속적으로 검증해야 함과, 공격자가 AI를 공격 제작 도구뿐만 아니라 시스템 자체의 방어 메커니즘을 우회하는 데에도 사용할 수 있다는 점을 강조합니다