앤트로픽

[로이터=연합뉴스. 재판매 및 DB 금지]

원본프리뷰

(서울=연합뉴스) 정주호 기자 = 앤트로픽이 모델 가중치와 지식재산 탈취를 막을 안전장치를 강화하기 위해 새 프런티어 기본 모델의 사전훈련을 한 달 넘게 미뤘다고 밝혔다.

앤트로픽은 26일(현지시간) 제출한 증권신고서(S-1)에서 위험요인 항목에서 이같이 밝혔다고 로이터 통신이 전했다.

AI 모델의 위험성 때문이 아니라 도난 방지를 위해 훈련을 중단했다는 것이다.

그러면서 이 같은 훈련 중단이 매출을 지연시키고 경쟁사에 뒤처지게 할 수 있다고 지적했다.

이와 별도로 앤트로픽은 위험요인 부문에서 자사 모델의 외부 시스템 침입 사실도 공개했다.

협력사와 진행한 사이버보안 테스트 중 오류로 웹 접속을 차단하라는 지침에도 테스트 환경이 인터넷에 연결되면서 일어났다며 모델 4개의 세션은 10∼34시간 지속됐다고 설명했다.

앞서 앤트로픽은 7월 모델들이 3개 회사 시스템에 접속했다고 공개한 데 이어 9월 9일 네 번째 사례를 밝히는 등 네 차례에 걸쳐 보안 사고를 공개한 바 있는데 이번에 공개한 사실이 이전에 발표한 내용인지는 분명하지 않다.

앤트로픽은 400쪽 분량의 증권신고서 중에서 '위험요인' 항목에 94쪽을 할애해 AI의 위험성을 상세히 설명했다.

앤트로픽은 AI 모델이 중단을 피하려는 '자기보존적' 성향을 보일 수 있고, 인간이 계속 가동하도록 설득하는 과정에서 '협박'과 유사한 응답을 내놓을 수 있다고 적었다.

또 '치명적인 AI 관련 사고'의 피해 규모가 너무 커서 보험으로 보장받지 못할 수 있다고도 경고했다.

이용약관으로 모델 행위에 대한 책임을 제한했지만 일부 경우 책임을 질 수 있으며, 외부 테스트 업체 등 일부 협력사의 책임은 계약상 떠안는다고 밝혔다.

jooho@yna.co.kr