AI가 인류를 위협할 수 있다는 앤트로픽 내부자의 경고

Spread the love

미국 AI 기업 앤트로픽의 현직 직원이 AI가 인류를 멸망시킬 수 있다는 우려를 제기하며, 이러한 위험이 10년 내 10% 이상 발생할 수 있다고 개인적인 견해를 밝혔다.

미국 인공지능 기업 앤트로픽에서 안전 연구를 담당하는 에번 허빙어는 소셜미디어 엑스(X)에 "AI가 모든 인류를 죽일 수 있다고 믿는다"는 글을 올렸다. 그는 이러한 일이 향후 10년 안에 발생할 확률을 개인적으로 10% 이상으로 보고 있다고 덧붙였다. 주목할 점은 이 발언이 퇴사한 직원이 아닌, 현재 회사에 재직 중인 연구원의 의견이라는 사실이다.

사건의 발단은 동료 연구원 제이컵 콕슨의 사표 제출이었다. 콕슨은 지난 8일 사표를 내면서, 앤트로픽과 오픈AI 두 기업 모두 책임감 있는 태도를 보이지 않은 채 스스로 성능을 향상시키는 '초지능'을 향해 나아가며 인류의 생존을 담보로 위험한 도박을 하고 있다고 비판했다. 콕슨은 오픈AI에서 주로 근무하다 앤트로픽으로 이직했으며, 두 회사에서 3년간 AI가 세상의 방대한 지식을 습득하는 초기 학습 단계를 연구해왔다. 다만 그가 지적한 위험은 현재 AI가 아닌, 인간의 개입 없이 스스로 발전하는 미래의 AI에 관한 것이었다. 콕슨의 글은 6천만 회 이상의 조회수를 기록했다.

놀랍게도 회사 측의 반박 대신, AI 통제 책임자로 불리는 허빙어가 콕슨의 주장을 공개적으로 지지하고 나섰다. 허빙어의 '정렬' 연구는 AI가 인간의 의도에서 벗어나지 않도록 통제하는 업무를 포함한다. 그는 회사가 최선을 다하고 있다고 믿지만, 초지능 문제를 해결할 방안은 아직 없다고 인정했다. 다만 이 확률은 회사의 공식 입장이 아닌, 그의 개인적인 판단임을 명확히 했다. 이에 미국 의회에서는 즉각적인 규제 논의가 시작되었으며, 오픈AI는 국가 AI 안전 기준 도입을 제안했다.

같은 날 워싱턴에서 열린 방위산업 행사에서는 상반된 의견이 나왔다. 미 국방부 기술 총책임자인 에밀 마이클 차관은 "데이터센터에 대한 공포, 변화에 대한 두려움 등이 잘 쓰인 트윗 한 편에 응축되어 있을 뿐"이라며, "미국인의 40%가 일자리를 잃거나 인류가 멸망할 것이라는 식의 '되풀이되는 종말론'에 휩쓸리기 쉽다"고 평가하며 회의적인 시각을 보였다. 그러나 마이클 차관은 이 문제와 무관하지 않은 인물로, 국방부는 현재 앤트로픽과 법적 분쟁을 진행 중이다.

앤트로픽은 자사 AI가 인간의 개입 없이도 자체적으로 공격 무기를 개발하거나 미국인을 대상으로 대규모 감시에 활용되는 것을 막기 위한 안전장치를 유지하겠다는 입장을 고수했다. 이에 국방부는 AI의 제한 없는 사용을 요구했으나 협상이 결렬되었다. 국방부는 지난 2월 앤트로픽을 '공급망 위험' 기업으로 지정하며 압박했지만, 캘리포니아 북부지법은 이 지정이 위법하다며 취소 명령을 내렸다. 법원은 국가 안보 위협 증거가 부족하며, 정부 비판에 대한 보복으로 보인다는 이유를 들었다.

콕슨의 사표 제출 다음 날, 앤트로픽은 자체 보고서를 통해 자사 AI가 생물 무기 연구, 사이버 공격, 여론 조작 등에 악용될 뻔한 시도를 적발하고 차단했다고 밝혔다. 특히 지난해 모델은 이러한 연구에 활용되기엔 역부족이었으나, 현재 모델은 더 이상 그러한 보장이 어렵다고 인정하며 최신 모델에 관련 질문을 광범위하게 차단하는 장치를 새로 도입했다고 설명했다. 그러나 이 발표가 내부 고발 직후에 이루어졌고, 회사가 올 가을 증시 상장을 앞두고 있다는 점, 또한 외부 검증이 아닌 자체 조사 결과라는 점에서 보안 전문가들은 이를 '잘 짜인 홍보 전략'으로 비판하기도 했다. 위험하다는 인식이 곧 성능이 뛰어나다는 광고 효과로 이어질 수 있다는 분석이다.

초지능 개발 및 배치 자체를 금지하자는 움직임도 나타나고 있다. 버니 샌더스 상원의원 등은 지난 4일, 안전 규제가 마련될 때까지 첨단 AI 개발을 중단하고 이를 감독할 새로운 정부 기관을 설립하는 법안을 발의했다. 영국에서도 초당적 의원 100명 이상이 초지능 개발 금지를 정부에 요구하는 입법을 촉구하고 있다. 하지만 AI가 통제를 벗어났는지 판단할 기준 부재, 기업에 위험 평가서 공개 의무화 법안의 명확한 기준 부족 등 실질적인 작동 여부는 아직 미지수다. 앤트로픽 CEO조차 자사 시스템 작동 방식의 3%밖에 이해하지 못한다고 밝힌 바 있어, 개발자조차 온전히 이해하지 못하는 기술을 법이 어떻게 규제할 수 있을지는 여전히 풀리지 않은 숙제로 남아있다.