오픈AI 로고 [로이터 연합뉴스 자료사진. 재판매 및 DB 금지]
(서울=연합뉴스) 주종국 기자 = 오픈AI가 인공지능(AI) 모델 개발 초기 단계부터 외부 기관이 모델의 안전성 위험을 검증할 수 있도록 할 계획이다.
오픈AI에서 외부 전문가와의 안전성 검토 협력 업무를 맡고 있는 라마 아흐마드는 22일(현지시간) 블룸버그 통신과 인터뷰에서 앞으로 AI 모델의 훈련, 평가, 배포 단계에서 제3자 기관이 기술적 안전성 평가를 수행할 수 있도록 허용할 계획이라고 밝혔다.
지금까지는 신모델 출시 직전 단계에서 안전성 평가나 성능 검증을 위해 외부 기관을 참여시키는 수준이었다.
그는 "AI 기술의 중요성과 파급력이 커짐에 따라, 실제 서비스 배포 단계뿐만 아니라 그에 못지않게 중요한 학습 및 평가 단계에서도 안전성을 면밀히 검토하고자 한다"고 말했다.
오픈AI는 또 이런 외부 검토가 효과적으로 작동하기 위한 핵심 우선순위로 "강력한 독립성 보장 장치, 과학적 엄밀성, 철저한 보안 관행, 명확한 책임 소재"를 제시했다.
오픈AI는 모든 주기에 외부 전문가의 검증을 받겠다는 방침을 곧 발표할 계획이다.
아흐마드는 가장 민감한 작업의 경우 외부 평가자를 오픈AI 사무실로 직접 데려와 작업을 진행할 수도 있다면서 과거에도 시도했던 방식이라고 덧붙였다.
오픈AI는 게시글에서 현재 이런 평가 작업을 수행할 수 있는 기관들과 논의를 진행 중이라고 밝혔다. 외부기관에는 오픈AI 모델의 허깅페이스 해킹 사건을 조사했던 AI 연구 그룹 METR과 레드우드 리서치도 포함된다.
오픈AI는 "AI 연구소들은 민감한 정보를 보호하는 동시에 의미 있는 검증이 이루어질 수 있도록 해야 할 책임이 있다"고 밝혔다.
경쟁사인 앤트로픽의 다리오 아모데이 최고경영자(CEO)는 최근 AI 개발 속도 조절 필요성을 제기하며 제3자 평가기관 도입 등 새로운 안전 조치를 시행하겠다고 밝혔고, 샘 올트먼 오픈AI CEO도 이에 동의한다고 밝힌 바 있다.
앤트로픽은 지난 18일 상주 독립 안전 평가기관으로 액센추어를 지정하고 이들 평가단이 앤트로픽 임직원과 유사한 수준의 시스템 접근권을 갖고 자사 최첨단 AI 모델 안전성 검증에 투입하겠다고 발표했다.
