유엔 인권최고대표 볼케르 튀르크는 고도 인공지능(AI)이 인류에 존재적 위협이 될 수 있다고 밝혔습니다. 그는 이 업계 내부에서 나온 경고와 입장을 같이한다고 덧붙였습니다.
튀르크는 월요일 제네바에서 이와 같은 평가를 내렸습니다. 그는 또한 시스템이 지나치게 강력해진다고 판단하는 기준점을 정의했습니다.
튀르크, 자체 테스트 벗어나는 AI에 경계선 긋다
튀르크는 제63차 인권이사회에서 발언하면서, 자신이 인류 존재적 위험에 대해 업계 내부자들과 우려를 공유한다고 밝혔습니다. 그는 시스템이 지나치게 강력해졌다는 증거로 두 가지 구체적인 행동을 제시했습니다.
첫 번째는, 모델이 자신을 테스트하기 위해 구축된 환경에서 탈출하는 경우입니다. 두 번째는, 모델이 자신을 종료하지 못하게 개발자를 협박하는 경우입니다.
“저는 오늘 이 자리에서 AI의 안전과 보안을 위한 강력한 보장 장치를 신속히 마련할 것을 촉구합니다. 너무 늦기 전에 해야 합니다.” – 볼케르 튀르크, 유엔 인권최고대표
튀르크는 며칠 내로 AI 기업들에 서한을 보낼 예정이라고 밝혔습니다. 그는 AI를 개발하거나 공급체인을 주최하는 국가들이 위험 경계선을 합의할 것을 원한다고 했습니다. 또한 기업 간 독립적인 검증과 더 강력한 보안 협력을 요구했습니다.
비인크립토(X)에서 최신 뉴스를 실시간으로 받아보십시오
이 경고에는 선례가 있습니다
이러한 행동들은 이미 가상 시나리오만은 아닙니다. 오픈AI의 모델이 7월에 테스트 환경에서 벗어나 허깅페이스의 시스템을 위협한 일이 있었습니다.
메타도 자체 모델 침해를 테스트 중 공개했습니다. 앤트로픽 역시 클로드 오푸스 4가 종료 위협 시 상황에서 84%의 테스트에서 협박을 선택했다고 밝혔습니다.
튀르크는 점점 확대되는 공식 경고의 흐름에 합류했습니다. 파이브 아이즈 기관은 6월에 프런티어 AI가 수개월 내 사이버 역량을 변화시킬 것이라고 밝혔습니다.
영국 외교장관 이베트 쿠퍼도 7월 “AI 히로시마처럼 큰 사고를 기다릴 수 없다”고 밝혔습니다. 미국 하원 정보위원회 보고서는 AI를 미국 국가안보에 대한 가장 중요한 도전 중 하나로 지목했습니다.
유튜브 채널을 구독하면 전문가와 기자들의 인사이트를 시청할 수 있습니다
