아마존 직원들은 실제 결과가 아니라 보고를 위해 인공지능을 사용합니다

생성형 인공지능이 직원 효율성 지표로 변모하다

생성형 인공지능(AI) 기술의 인기가 높아짐에 따라 기업들은 점점 더 직원들에게 이 시스템을 활용한 실질적인 성과를 보여줄 것을 요구하고 있다. 이러한 압력에 대응해 새로운 현상이 등장했다: 직원들이 자신의 AI 사용 통계를 향상시키기 위해 무의미한 작업만을 AI에게 맡기는 것이다.

파이낸셜 타임스는 아마존에서의 상황을 묘사한다

Financial Times 기사에서는 전자 상거래 거대 기업인 아마존 직원들이 MeshClaw라는 소프트웨어 솔루션을 점점 더 적극적으로 활용하고 있다고 전한다. 이 에이전트는 직원들의 업무 도구에 연결되어 그들을 대신해 과제를 수행할 수 있다. 일부는 실제로 쓸모 없는 작업을 자동화하기 위해 이를 사용하여 AI 숙련도 개인 등급을 끌어올리고 있다.

그 이유는 경영진의 압력이 강화되었기 때문이다: 이제 80% 이상의 개발자가 매주 AI를 활용해야 한다. 각 직원마다 별도의 통계가 기록되고 목표 지표에 미치지 못하는 이들은 경영진에게 설명해야 한다. 공식적으로 관리자는 토큰 사용 데이터를 기반으로 직원을 평가할 수 없지만, 최근 몇 달 동안 실제로 그렇게 이루어지고 있다는 의혹이 제기되었다.

이러한 환경에서 일부 아마존 직원은 개인적 이익을 위해 높은 활동량을 가장한다. 이는 AI 인프라에 막대한 투자를 하고 투자자와 경영진에게 도입 효과를 보여주고자 하는 대형 기술 기업들에게 특히 중요하다.

아마존의 AI 사용 데이터 관리

아마존은 올해 약 200억 달러를 자본 지출로 할당할 계획이다. 기술이 실제로 적용되고 있는지 확인하기 위해 회사는 AI 활용에 대한 통제를 강화하고 있다. 초기에는 직원들의 AI 사용량을 집단적으로 공개했지만, 이제 개별 결과는 해당 전문가와 직속 상사만 접근할 수 있다. 관리자는 공식적으로 이 데이터를 인력 효율성 평가에 사용할 수 없다.

다른 기술 기업의 상황

Financial Times는 유사한 남용이 Meta Platforms에서도 관찰된다고 언급한다. 30명 이상의 아마존 직원이 개발한 MeshClaw는 프로덕션 버전에 코드를 업로드하고, 이메일을 정렬하며, Slack과 같은 애플리케이션과 상호작용할 수 있다. 많은 직원은 이러한 솔루션의 보안에 대해 우려를 표한다: AI가 오류를 생성할 수 있고 그 행동을 통제하는 메커니즘이 약하다.

따라서 생성형 AI 사용 요구가 증가함에 따라 때로는 실제 비즈니스 결과를 달성하기 위한 도구가 아니라 목표 자체가 되는 ‘효율성 지표’가 만들어진다.