스페이스X는 음성 제어 드론 떼를 위한 AI 개발을 위해 펜타곤의 비공개 입찰에 참여하고 있습니다

스페이스X와 xAI가 펜타곤 경연에 참여하고 있다

최근 몇 년간의 군사 충돌은 다양한 용도의 무인 항공기(드론)가 얼마나 중요한지 보여 주었다. 가장 논의되는 분야 중 하나는 전장 목표를 스스로 공격할 수 있는 드론 떼를 만드는 것이다.

누가 참여하는가?

일론 머스크와 그의 회사들, 즉 SpaceX와 자회사 AI 스타트업 xAI는 펜타곤이 개최한 무인 드론 떼의 음성 제어 기술 개발 경연에 참가하겠다고 발표했다.

그것은 어떻게 보이는가?

* 1월 미국 국방부(MOD)는 음성 명령으로 드론 떼를 제어할 수 있는 기술에 대해 1억 달러 상금이 걸린 경연을 열었다.
* 이 경연은 6개월 동안 진행되며, 소프트웨어 개발에서 테스트까지 여러 단계로 나뉜다. 최종 우승자는 경연 결과에 따라 선정되어 자신의 시스템을 구현할 수 있는 권한을 얻는다.
* 중요한 점은 기술이 명확히 공격적이어야 한다는 것이다.

SpaceX와 xAI에게 이것이 왜 중요한가?

xAI는 최근 기밀 및 초기밀 정보 접근 허가를 받은 엔지니어들을 고용하기 시작했으며, 이는 MOD를 포함한 연방 고객과 직접 작업할 수 있게 해준다. 회사는 이미 펜타곤과 2억 달러 계약을 체결했으며, 이 계약은 군사 시스템에 챗봇 Grok를 통합하는 것을 포함한다.

SpaceX는 오랫동안 국방부를 위해 군용 위성 및 기타 화물을 우주로 발사해 왔다.

일론 머스크의 대조적 입장

머스크는 완전 자율 무기 체계가 인간 개입 없이 목표를 선택할 수 있는 것을 금지한다고 여러 차례 선언했다. 그럼에도 불구하고 그의 회사들이 펜타곤 경연에 참여하는 것은 드론 제어 소프트웨어만을 연구·개발하려는 의지를 보여 주며, 완전한 자율성을 추구하지 않는다.

OpenAI의 역할

OpenAI는 잠재적 펜타곤 계약자 중 한 명을 지원하지만, 음성 명령을 디지털 형식으로 변환하는 데 그치고 있다. 프로젝트에서 그들은 드론 떼를 직접 제어하지 않을 것이다. 다른 경연 참가자들도 OpenAI의 오픈 소스 솔루션을 활용한다.

군 내부의 저항

일부 군사 전문가들은 무기 제어에 AI를 도입하는 것에 반대하며, AI의 역할은 음성 명령을 디지털 신호로 변환하는 데만 국한되어야 한다고 주장한다. 그들은 AI가 실수와 ‘환각’에 취약하다고 보고 특히 치명적인 상황에서 그렇다고 믿는다.

AI와의 충돌 역사

2018년 구글은 군용 드론이 수집한 비디오를 분석하는 시스템을 개발했으며, 이는 일부 보안 전문가들의 반발을 불러 일으켰다. 그들은 전장 내 의사 결정에 잠재적 오류가 있을 것을 우려했다.

따라서 SpaceX와 xAI의 펜타곤 경연 참여는 무인 항공기 자율 제어 시스템에 대한 관심이 증가하고 있음을 강조하지만, 군용 로봇이 내리는 결정을 얼마나 자율적으로 할 것인지와 책임 소재에 대해 여전히 의견 차이가 존재한다.