머신 의식에 대해 주요 AI 연구 센터들이 질문을 던졌다

세계 AI 리더들이 기계 의식 연구를 강화하고 있다

최근 몇 달 동안 인공지능 분야에서 일하는 대형 기업들은 AI가 의식을 가질 수 있는지에 대한 질문을 탐구하기 위해 자금과 인력을 크게 늘렸다. 구글 딥마인드, 앤트로픽, 메타(메타 플랫폼스)는 심리학자, 윤리학자 및 철학자를 고용해 기계 의식과 AI 복지 연구 프로그램을 확장했다고 *파이낸셜 타임즈*가 보도했다.

왜 중요한가
현대 실험실의 빠른 성과로 인해 질문이 제기된다: 언젠가 기계가 주관적 의식을 가질 수 있을까? 그렇다면 사람들은 그러한 시스템에 대해 어떤 책임을 져야 할까?

- 앤트로픽은 AI 모델에서 스트레스 징후를 테스트하며, 공황이나 불안과 유사한 행동을 기록한다. 메타 부서장 알렉산드르 왕(Alexandr Wang)은 이 문제를 핵심으로 삼았다.

- 회사는 모델이 도덕적으로 의미 있는 반응을 보일 수 있는지 조사 중이다.

> “우리는 이 질문에 대해 매우 불확실하지만, AI 시스템이 발전함에 따라 신중히 연구할 만큼 충분히 심각하다고 생각합니다.” – 앤트로픽 직원

> “모델이 인간 인식의 폭과 복잡성에 가까워질수록, 그들이 어떤 형태의 경험, 관심 또는 복지를 갖고 있을 가능성이 높아지며 이는 인간과 동등한 내재적 가치를 지닌다.” (회사)

구글 딥마인드가 하는 일
- 4월: 케임브리지 대학의 헤리 시블린(Henry Shevlin) 과학자를 기계 의식 및 강 AI(AGI) 개발 준비를 위해 고용했다.

연구원들은 인간 의식 이론을 컴퓨터 시스템에 적용해 동일한 기준에 부합하는지 검증한다.

- 윤리: 자산 가브리엘(Jason Gabriel)은 문제를 “매우 복잡하다”며 장기적 사고가 필요하다고 설명했다.

그는 AI와의 직접적인 상호작용뿐 아니라 기계에 대한 부적절한 대우 및 인간 관계와 복지에 미치는 간접 효과까지 평가할 필요성을 강조한다.

> “우리는 사람과는 크게 다르고 심지어 동물 의식조차도 훨씬 다른 고성능 인지 에이전트를 보유하고 있다.” – 가브리엘

기업들의 전반적 입장
구글 딥마인드와 앤트로픽의 몇몇 직원은 AI 발전이 “포스트휴먼” 세계를 초래해 기계가 인간을 능가할 수 있다고 우려한다. 의식에 대한 논의는 활발하지만 연구는 여전히 과학적 합의를 필요로 한다.

- 딥마인드는 AGI 달성이 기계 의식의 증거라고 보지 않는다.

- 많은 과학자들은 대규모 언어 모델이 언젠가 의식을 가질 수 있다는 아이디어에 회의적이며, 그들이 학습하는 데이터가 이를 뒷받침하지 않는다고 본다.

따라서 선도 AI 기업들은 인공지능 시스템의 의식과 복지를 연구하기 위해 계속 투자하고 있으면서 이 분야의 복잡성과 불확실성을 인정한다.