AI 통제 불능 가능성 제기…앤트로픽 연구원 퇴사하며 경고

미국 AI 기업 앤트로픽의 연구원이 AI가 인류를 파멸시킬 수 있다는 경고와 함께 회사를 떠났다.

월스트리트저널(WSJ)은 현지 시각 8일, 앤트로픽을 퇴사한 제이컵 콕슨(27)이 AI 시스템 개발 경쟁 속에서 안전 문제가 간과될 수 있다고 우려하며 이 같은 목소리를 냈다고 보도했습니다. 영국 출신인 콕슨은 대규모 데이터를 활용해 AI 모델을 학습시키는 분야를 연구해 왔습니다.

그는 AI 업체들이 인간의 개입 없이 스스로 성능을 향상시키는 시스템 개발에 매진하면서, AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성을 제기했습니다.

콕슨은 "가장 공격적인 시나리오 상당수가 현실화하고 있으며, 내년 말이면 이미 통제가 불가능한 상황에 이를 수 있다"고 경고했습니다. 그는 오픈AI를 거쳐 앤트로픽에 합류했지만, 결국 개별 기업의 노력만으로는 AI의 위험성을 통제할 수 없다고 판단했습니다.

인간의 능력을 초월하는 범용인공지능(AGI) 개발이 소수 엔지니어의 결정에 좌우되는 현실에 대해 콕슨은 "일종의 광기"라고 비판했습니다. 그는 책임감 있는 AGI 개발을 위해 정부의 개입과 AI 업계의 공동 대응이 필수적이라고 주장했습니다.

앞서 콕슨은 각국 정부에 AI 개발 속도 조절을 위한 국제적 체계 마련을 촉구하는 연구자들의 성명에도 참여했습니다. 이 성명에는 앤트로픽 CEO와 오픈AI 수석 과학자를 포함한 약 1천 명의 연구자가 서명한 바 있습니다.

자료 출처: KBS (네이버 많이 본 뉴스)