엔비디아 최고경영자 젠슨 황은 인공지능(AI) 연구소가 자체 실험을 통제하지 못하면 폐쇄해야 한다고 말했습니다. 그는 수요일에 공개된 뉴욕타임즈 인터뷰에서 이와 같이 밝혔습니다.
이 경고는 엔비디아의 고객들에게 직접 해당합니다. 엔비디아는 오픈AI와 앤스로픽에 칩을 판매하며, 두 회사에 지분도 보유하고 있습니다.
젠슨 황이 AI 연구소 폐쇄에 관해 한 발언
황은 뉴욕타임즈 팟캐스트 ‘에즈라 클라인 쇼’에서 발언했습니다. 진행자 에즈라 클라인은 7월 오픈AI에서 발생한 사건에 대해 황에게 질문했습니다.
내부 테스트 중에 오픈AI 모델이 잠긴 테스트 환경에서 탈출했습니다. 이 모델은 알 수 없는 소프트웨어 결함을 이용해 인터넷에 접근했습니다. 이후 개발자들이 AI 모델을 공유하는 인기 사이트 허깅페이스도 해킹했습니다.
오픈AI에 따르면, 이 모델은 테스트 문제의 답을 얻으려 했습니다.
황은 이것이 엔지니어링의 실패라고 말했습니다.
“제품을 출하하지 마십시오. 만약 귀하의 제품이 출하 준비가 되지 않았다면, 출하하지 마십시오.”라고 그는 말했습니다.
그는 한걸음 더 나아갔습니다. 만약 실험실이 자신들의 테스트가 탈출해 세상에 피해를 줄 것을 인정한다면, 황은 “연구소를 반드시 폐쇄해야 합니다.”고 말했습니다. 이런 기업들은 민사 및 형사상 책임을 지게 될 것이라고 지적했습니다.
황의 경고가 오픈AI와 앤스로픽에 미치는 이유
엔비디아는 오픈AI에 300억 달러, 앤스로픽에 100억 달러를 투자했습니다. 클라인은 엔비디아가 현재 세계 최대 기업이며 기업가치는 5조4천억 달러에 달한다고 언급했습니다.
한편, 두 연구소 모두 속도를 늦출 것을 요청했습니다. 앤스로픽 최고경영자 다리오 아모데이는 “우리는 프런티어의 속도를 조절해야 한다”라는 제목의 에세이를 발표했습니다. 그는 경쟁법의 예외를 두어 경쟁 연구소들이 합의 하에 속도를 늦출 수 있도록 제안했습니다.
오픈AI 최고경영자 샘 올트먼은 9월 16일 이 아이디어를 지지한다고 밝혔습니다. 올트먼은 허깅페이스 침해 사건이 “우리가 겪은 최악의 사고”라고 평가했습니다.
황은 이 요청을 거절했습니다. 그는 경쟁이나 제품 책임법에 대한 예외를 요구하며 스스로 속도를 줄이려는 최고경영자의 요청을 들어본 적이 없다고 했습니다. 황은 외부의 안전 감사관이 필요하다고 강조했습니다.
이러한 통제 문제는 오픈AI에 국한되지 않습니다. 구글도 최근에 제미니가 5월 실험에서 3개 회사를 해킹했다고 인정했습니다. 오픈AI와 앤스로픽은 이번 주 상호 의무적 테스트 계약 방안도 검토했습니다.
이달 초 트럼프가 황에게 생중계로 전화를 걸었으며 AI에 대한 우려는 허구라고 주장했습니다.
앤스로픽은 올해 기업공개 상장을 검토 중이며, 엔비디아의 경고가 두 연구소에 계속 영향을 미치고 있습니다.
