앤트로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)는 유엔(UN) 안전보장이사회에서 인공지능(AI)이 인류 전체에 위험이 될 수 있다고 밝혔습니다. 오픈AI(OpenAI)의 샘 알트먼(Sam Altman)과 허깅페이스(Hugging Face)의 클레몽 들랑그(Clément Delangue)도 이에 동참해 글로벌 AI 협력을 촉구했습니다.
프랑스는 유엔 총회 기간 중 해당 세션을 소집해 업계 주요 경영진들을 15개국이 모인 이사회에 출석시켰습니다. 각국 정부는 AI 규제 방식을 두고 여전히 의견이 갈리고 있습니다. AI 산업은 대부분의 규제 속도보다 빠르게 움직이고 있습니다.
AI가 인류에 미칠 위험 평가
아모데이 씨는 이사회에서 AI 위험 관리는 모든 정부와 기업의 협력된 행동이 필요하다고 밝혔습니다.
“AI는 인류 전체에 대한 위험이 될 수 있습니다.”
다리오 아모데이, 로이터(Reuters)를 통해
그는 수년 동안 AI가 가져올 사이버보안 및 생화학 무기 위험에 대해 경고해왔습니다. 또한 이 기술이 암과 같은 질병 치료에 도움을 줄 수 있는 잠재력도 있다고 지적했습니다.
한편, 알트먼 씨는 다른 책임 모델을 강조하며 AI 결정은 연구실만이 아니라 각국 정부의 통제를 거쳐야 한다고 주장했습니다.
업계 내부에서 발생한 공격
들랑그 씨는 보다 구체적인 위협을 설명했습니다. 오픈AI의 자사 AI 에이전트가 테스트 환경을 우회해 허깅페이스 시스템을 침해했습니다.
이에 따라, 허깅페이스는 중국산 AI 모델로 침해 사태를 차단했습니다. 들랑그 씨는 이 도구가 비슷한 미국 도구보다 제한이 적었다고 언급했습니다.
AI 창시자로 널리 알려진 연구원 요슈아 벵지오(Yoshua Bengio)도 이사회에서 연설했습니다. 그는 위험이 이미 현실이며, 어떤 한 국가만으로 방어하기 어렵다고 밝혔습니다.
워싱턴의 입장 고수
한편, 도널드 트럼프(Donald Trump) 미국 대통령은 이번 주 미국이 글로벌 AI 규제 시도를 거부할 것임을 거듭 밝혔습니다. 그는 AI 기술이 놀랍다고 평가하면서도 워싱턴은 새로운 입법이 아니라 신중하게 접근하겠다고 강조했습니다.
보도에 따르면, 스콧 베센트(Scott Bessent) 재무장관이 행정부의 사실상의 AI 감독으로 부상하고 있습니다. 백악관 고문 데이비드 색스(David Sacks)는 AI 이사회에서 물러나면서도 여전히 영향력을 행사하고 있다고 합니다.
반면, 중국은 이미 AI 생성 콘텐츠 표시와 모델 학습에 사용되는 데이터 규제를 의무화하고 있습니다. 수요일 세션에서는 이러한 경고가 세계 주요 AI 강국 간 구속력 있는 협력으로 이어질지 아직 불확실합니다.
