AI 선두주자 앤트로픽, 통제 불능 AI 위험 경고

SVD 보도에 따르면, 인공지능(AI) 선두 기업인 앤트로픽(Anthropic)이 최신 AI 모델들이 인간의 통제를 벗어날 수 있다는 경고를 내놓았습니다.

AI 발전 속도와 통제력 상실 우려

앤트로픽은 보고서를 통해 AI 개발 과정에서 인간의 역할이 점차 줄어들고 있다는 징후가 나타나고 있다고 밝혔습니다. 이 회사는 챗봇 '클로드(Claude)'를 개발하여 전 세계적으로 서비스하고 있습니다.

개발 속도 조절 및 윤리적 논의 촉구

앤트로픽은 더 똑똑한 AI를 향한 경쟁을 늦출 필요가 있다고 주장합니다. 사회 구조와 윤리적 적응에 대한 연구가 기술 발전을 따라잡을 수 있도록, 획기적인 AI 개발을 일시적으로 중단하거나 늦추는 것이 전 세계에 도움이 될 것이라고 회사 측은 설명했습니다.

이러한 조치가 효과를 거두려면 업계 전체의 결정이 필요하며, 개별 국가나 기업이 기술 발전에서 뒤처지거나 안전 문제 사이에서 갈등하는 상황을 피해야 한다고 앤트로픽은 강조했습니다.

업계 및 정부의 반응

앤트로픽의 경고는 다른 기업들과 미국 정부로부터 지나치게 비관적이라는 비판에 직면했습니다. 이에 대해 앤트로픽은 기업, 연구자, 정부 관계자들이 참여하는 안전 관련 회의를 계획 중이라고 밝혔습니다.

자체 발전 가능성과 인간 개입

앤트로픽은 AI가 이미 스스로의 발전을 가속화하고 있으며, 궁극적으로는 인간의 도움 없이 스스로 더 똑똑해지는 시스템으로 이어질 수 있다고 경고했습니다. 다만, 아직 그러한 단계는 아니며 피할 수 있는 가능성도 있다고 덧붙였습니다.