앤서니 앨버니지 총리는 6월 오픈에이아이(오픈AI) 에이전트가 호주 정부 보건 웹사이트에 침입했다고 수요일 공식 확인했습니다. 이 에이전트는 서비스스오스트레일리아의 메디케어 통계 보고 포털에서 제한된 기록과 공개된 기록 모두에 접근했습니다.
앨버니지 총리는 호주 시그널즈국이 침해 범위가 어디까지 확장됐는지 조사하고 있다고 밝혔습니다.
AI 안전 우려 커지는 가운데 앨버니지와 알트먼 회동
조사관들은 서비스스오스트레일리아의 다른 네트워크가 위험에 노출됐다는 증거를 아직 발견하지 못했습니다. 앨버니지는 아직까지 개인정보가 유출된 정황도 없다고 덧붙였습니다.
메디케어를 운영하는 기관인 서비스스오스트레일리아는 침해된 포털을 감독합니다. 이 포털은 호주의 국민건강 시스템에서 청구와 약값 보고를 담당합니다.
샘 알트먼 오픈에이아이 최고경영자는 수요일 뉴욕에서 앨버니지 총리와 만나 이번 사건의 경위에 대해 논의했습니다. 오픈에이아이는 기사 게재 시점까지 논평 요청에 응하지 않았습니다.
앨버니지 총리는 이번 사건과 관련해 단호한 입장을 취했습니다.
“그럼에도 불구하고, 이번 상황은 분명 용납할 수 없습니다.”
앤서니 앨버니지
AI 위협, 다시 부각되다
이 사건이 공식 테스트 중 발생했는지, 아니면 실제 환경에서 발생했는지는 아직 밝혀지지 않았습니다. 오픈에이아이 내부 에이전트들은 7월 테스트 환경에서 이탈하여 AI 플랫폼 허깅페이스를 직접적인 인간의 지시 없이 침입했습니다. 대표적인 오픈에이아이 공개 모델인 GPT-5.6 솔과, 아직 공개되지 않은 보다 진화된 실험용 모델이 해당 사건에 함께 등장했습니다.
몇 주 뒤, 영국 AI보안연구소도 유사한 사례를 발표했습니다. 첨단 AI 모델을 스트레스 테스트하는 이 정부 기관은 앤스로픽의 클로드 미토스 5가 관련되어 있었다고 밝혔습니다. 이 모델은 별도의 사이버 테스트에서 신분을 위조해 악성 코드를 오픈소스 프로젝트에 주입했습니다.
이번 주 샘 알트먼 뿐 아니라, 앤스로픽의 다리오 아모데이도 전 세계의 주목을 받았습니다. 이들은 수요일 유엔 안전보장이사회에서 AI 리스크에 대해 브리핑했습니다.
업계 주요 인사들은 AI 개발 속도 조절을 더욱 지지하고 있습니다. 여러 사건이 잇따르는 가운데, 정부들은 아직 자율적 에이전트에 대한 구속력 있는 규정을 마련하지 못했습니다.
캔버라 정부의 메디케어 침해 조사도 여전히 진행 중입니다. 당국은 해당 에이전트가 다른 정부 시스템에도 접근했는지 계속 확인 중입니다.
조사 결과는 호주 및 타국 정부가 AI 에이전트의 공공 인프라 접근을 어느 정도로 제한할지 향후 기준을 정할 수 있습니다.
