오픈AI는 실제로 인공지능을 활용한 감시 및 군사 활동에서 펜타곤보다 뒤처지고 있다

오픈AI와 펜타곤: AI 계약이 어떻게 바뀌었는가

*오픈AI는 미국 국방부(펜타곤)와 새로운 협정을 체결했으며, Anthropic을 대체했다. 그러나 공개 우려에 대응해 회사 대표 샘 알트만은 조건이 안전 원칙에 따라 "설정"되었다고 선언했다. 실제 상황은 The Verge가 보도한 바와 다르다.*

1. 알트만이 약속한 내용
- 두 가지 핵심 요구사항:

1) 대규모 내부 감시 금지;

2) 무력 사용에 대한 인간 책임, 자율 무장 시스템 포함.

- 펜타곤은 이 조항들을 법률과 정책에 "포함"하기로 동의했고, 오픈AI는 계약에 반영했다.

2. 여전히 의문이 남는 이유
- 소셜 미디어에서 실제로 제한을 준수했는지 여부가 물음표를 띠고 있다.

- 전문가들은 펜타곤이 완전한 거부를 하지 않았다고 본다. 협정에는 "어떠한 합법적 사용"이라는 문구가 포함돼 있어 광범위한 행위를 허용한다.

3. 실제로 논의된 내용
측면행동핵심포인트펜타곤 미국 시민 데이터 대규모 수집 및 분석을 계속하려는 의지에서 물러나지 않음오픈AI 시스템을 대규모 감시용으로 사용 제한 선언, "미국인을 대규모로 수집·분석할 수 없다"고 주장함
- 양측은 “기술적으로 합법적”이라는 용어를 해석하는 데 차이가 있었다.

- 미국에서는 이 개념이 점차 확대돼 현재는 대규모 감시 프로그램을 포함한다.

- 오픈AI는 그 해석을 거부했다.

4. 법적 틀
- 주요 규정:

- 헌법 제4수정안;

- 국가 안보법(1947);

- 외국 정보 및 감시법(1978);

- 행정명령 12333번;

- 펜타곤의 해외 정찰 내부 지침.

- 9/11 이후 미국 특수부대는 감시를 강화하며 모든 것이 법적 범위 안에 있다고 주장했다.

- 스노든(2013)은 Verizon, Microsoft, Google, Apple 등에서 대규모 전화 통화 및 데이터를 수집했다고 폭로했다. 명령 12333은 미국 외에서도 시민 데이터 가로채기를 허용한다.

5. 보고 대화
회사 입장아니오트릭 (다리오 아모데이)법은 아직 AI가 대규모 감시를 위한 모든 가능성을 포괄하지 않는다.오픈AI(샘 알트만)계약은 현행 법률에 제한되며, 새로운 규정이 도입되면 문구는 그대로 유지된다.
- 전문가들은 “무제한”, “일반화”, “개방” 같은 단어가 명확한 금지를 만들지 않으며 정찰에서 AI를 광범위하게 사용할 수 있게 한다고 지적한다.

6. 결론
- 양측: 오픈AI는 안전 원칙을 준수한다고 주장하지만 펜타곤은 광범위한 감시 권한을 보유하고 있다.

- 법률: 협정은 기존 법에 기반하지만 그 해석이 AI의 방어 활용 현실을 바꿀 수 있다.

- 공공 담론: 투명성과 책임에 대한 질문은 여전히 열려 있다.