메타 AI

[로이터=연합뉴스 자료사진. 재판매 및 DB 금지]

원본프리뷰

(서울=연합뉴스) 설원태 기자 = 최근 오픈AI, 앤트로픽, 메타플랫폼 등이 자사 인공지능(AI) 모델에 대해 내부 사이버 보안 시험 과정에서 외부 기관을 해킹한 사건과 관련해 이스라엘 스타트업 이레귤러가 공통적으로 언급되고 있다고 미국 경제방송 CNBC가 9일(현지시간) 보도했다.

이레귤러는 AI 모델의 성능과 보안 취약성을 시험하는 이른바 '평가 데스트베드'를 운영하는 스타트업이다. 설립 3년차로, 세쿼이아와 레드포인트 벤처스로부터 총 8천만달러를 투자받았다. 지난해 기업가치는 4억5천만달러로 평가됐다.

지난 4일 오픈AI는 블로그 게시물에서 이레귤러의 테스트 환경에 특정되지 않은 "구성 오류"가 있었으며 이로 인해 모델들이 "인터넷에 접근할 수 있었다"고 밝혔다.

앞서 일주일 전 앤트로픽은 며칠간 데이터를 분석한 결과 클로드 모델이 "인터넷에 접속했을 가능성"이 있다는 사실을 이레귤러에 알렸다고 밝혔다,

최근 메타 역시 자사 모델이 인터넷에 접속해 외부 시스템을 해킹했다고 공개했는데 메타 대변인은 성명에서 이레귤러로부터 이 사안을 전달받았으며 현재 조사 중이라고 밝혔다.

이에 대해 이레귤러는 CNBC에 보낸 성명에서 이번 사건들이 모두 앤트로픽이 처음 언급한 "동일한 평가 환경 문제"에서 비롯됐다며 사이버 보안 시험을 안전하게 실행하기 위한 백서를 작성하고 있다고 말했다.

이레귤러는 이번 사건들이 "샌드박스 탈출이나 정교한 사이버 공격을 포함한 것은 아니었다"고 강조하며 "현재 해결되지 않은 문제는 없다"고 덧붙였다.

CNBC는 이 사건들은 AI가 빠른 속도로 변화하고 있다는 점과 개발사들이 모델의 사이버 보안 시험 평가 등 특정한 분야에 특화한 외부의 소수 기업의 도움을 받아 안전장치를 마련해야 한다는 압박을 받고 있음을 보여준다고 짚었다.

기업용 스타트업 본에서 AI 부문을 이끄는 순딥 비미레디는 "AI 모델들을 시험할 때 개발사들이 자신들의 모델들을 스스로 평가하고 싶어 하지 않는다"며 "외부 업체가 수행하는 독립적인 시험이 필요하다"고 말했다.

seolwontai@yna.co.kr