AI 개발 속도를 둘러싸고 실리콘밸리 주요 기업 수장들의 입장이 엇갈리고 있다. 메타 최고경영자 마크 저커버그는 각 AI 기업이 자체적으로 안전성을 확보하고 독립적인 평가기관을 활용하는 방식에 무게를 뒀다. 이는 최근 앤트로픽 CEO 다리오 아모데이가 AI 개발 속도를 늦추고 업계가 공동으로 안전기준을 마련해야 한다고 제안한 것과는 다른 접근이다.
저커버그는 자신의 X를 통해 각 AI 연구소가 모델을 안전하게 학습시킬 책임과 이를 실행할 역량, 그리고 그렇게 해야 할 충분한 유인을 갖고 있다고 주장했다. 그는 메타 역시 AI 모델의 안전성과 보안을 확인하기 위해 ‘뮤즈’ 출시를 수개월 늦춘 사례를 언급하며, 필요하다면 기업이 스스로 개발 일정을 조정할 수 있다는 점을 강조했다.
저커버그가 강조한 또 다른 방법은 독립적인 평가자와 자문위원을 활용하는 것이다. 그는 외부 전문가들이 AI 모델의 안전성을 점검하는 것이 업계의 모범적인 방식이라고 설명했으며, 메타의 메타슈퍼인텔리전스랩스 역시 여러 분야에서 이러한 방식을 활용하고 있다고 밝혔다. 더 많은 평가기관과 평가자가 등장해 서로 다른 관점에서 AI 시스템을 점검하는 생태계가 필요하다는 취지다.
반면 아모데이는 최근 ‘프런티어 AI의 속도를 조절해야 한다’는 내용의 글을 공개하며 업계 차원의 안전장치를 제안했다. 그는 독립적인 안전 평가자가 AI 기업 내부 시스템에 접근해 안전조치 준수 여부와 사고를 확인할 수 있도록 하고, 주요 AI 기업들이 안전기준 마련을 위해 협력하며 국제적인 공조 체계를 구축해야 한다고 주장했다.
저커버그는 AI 개발 방향에서도 차이를 보였다. 그는 AI가 스스로를 반복적으로 개선하는 방향으로 경쟁하기보다, 현재 확보한 연산 자원의 상당 부분을 사람들에게 실제 서비스를 제공하는 데 사용하는 것이 안전한 개발 방식 가운데 하나라는 입장을 밝혔다. 즉 AI의 성능 경쟁 자체를 멈추기보다는 실제 서비스와 안전성 확보를 함께 추진하는 방식을 강조한 셈이다.
이번 발언으로 AI 업계에서는 개발 속도와 안전성을 어떻게 조화시킬지를 둘러싼 논쟁이 더욱 선명해지고 있다. 아모데이의 제안에는 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO 등이 공개적으로 호응했지만, 저커버그는 업계 전체의 공동 속도조절보다는 각 기업의 책임과 외부 평가를 통한 안전관리 방식을 제시했다. 앞으로 AI 기업들이 실제로 어떤 안전기준과 개발 원칙을 채택할지에 관심이 쏠리고 있다.