AI 빅3, 자체 안전 기준 마련 논의
AI 빅3, 업계 주도 안전 규제 논의 가속
인공지능(AI) 개발을 선도하는 오픈AI, 앤트로픽, 구글이 AI 안전성 확보를 위한 공동의 기준을 마련하기 위해 논의를 진행 중인 것으로 알려졌다. 블룸버그가 보도한 바에 따르면, 이들 빅3 기업은 지난 7월부터 AI 모델의 사전 테스트 및 감사 절차에 대한 산업 주도 표준 제정 방안을 논의하는 실무 그룹 회의를 가져왔다. 이러한 논의는 앤트로픽 최고경영자(CEO)인 다리오 아모데이가 AI 기술 개발 속도 조절과 안전성 협력을 촉구한 공개 발표보다 앞서 진행된 것으로 확인됐다.
구글 딥마인드 CEO 데미스 하사비스는 지난 7월 14일 미국 금융산업규제기구(FINRA)와 유사한 형태의 '프론티어 AI 표준 기구' 설립을 제안한 바 있다. 오픈AI CEO 샘 올트먼 역시 내부 회의에서 자체적인 테스트 및 감사 기구 구축을 지지하며, 정부 지원이 없을 경우 주요 기업들이 직접 나서야 할 것이라는 입장을 보였다. 이는 AI 안전성 논의가 단발성 발표를 넘어 구체적인 실행 방안 모색 단계로 진입했음을 시사한다.
정부 개입 수준 놓고 입장 차이 주목
AI 안전성 규제에 대한 빅3 기업 간의 접근 방식에는 미묘한 차이가 존재한다. 앤트로픽은 정부 기관과의 긴밀한 협력을 통한 파트너십 구축에 더 무게를 두는 경향을 보였다. 실제로 앤트로픽의 레드팀 책임자는 지난 7월 규제 당국과의 공동 표준 개발 필요성을 공개적으로 피력하기도 했다. 반면 오픈AI는 연방 정부의 조치와 별개로 자발적인 산업 표준 발전을 강조하면서도, 일부 주 차원의 AI 감독 관련 입법은 지지하는 이중적인 태도를 보이고 있다.
이러한 입장 차이는 향후 업계 주도 표준 기구의 운영 방식 및 정부와의 관계 설정에 영향을 미칠 수 있다. 각 사의 내부적인 안전성 평가 프레임워크는 이미 존재하나, 이를 어떻게 통합하고 외부 감사까지 연계할지는 주요 과제로 남을 전망이다. 앤트로픽은 '책임감 있는 확장 정책'을, 오픈AI는 '준비성 프레임워크'를 운영 중이며, 구글 딥마인드 역시 자체적인 안전 프로토콜을 보유하고 있다.
과거 사례와 향후 시장 영향 전망
AI 안전성 확보를 위한 업계 차원의 협력 시도는 이번이 처음은 아니다. 지난 2023년 출범한 6개 주요 AI 기업 연합체인 '프론티어 모델 포럼'은 1,000만 달러 이상을 투자하여 독립적인 안전성 연구를 지원해왔다. 또한 2025년 12월 설립된 리눅스 재단의 '에이전틱 AI 재단'은 앤트로픽의 모델 컨텍스트 프로토콜 등 여러 개방형 표준 프로젝트를 통합했다.
이번 논의가 최종적으로 공식적인 표준 기구 설립으로 이어질지, 또 그 권한과 정부 지원 수준은 어느 정도가 될지는 아직 불확실하다. 하지만 이번 협의가 성공적으로 진행될 경우, 대형 AI 기업들은 규제 당국의 개입 전에 선제적으로 안전 기준을 확립함으로써 규제 관련 위험을 줄이고 기업 가치를 유지하는 데 긍정적인 영향을 받을 수 있다. 반대로, 높은 초기 투자 비용과 인프라 구축 부담은 신생 기업이나 인프라 제공업체에게 진입 장벽으로 작용할 수 있어, 향후 시장 경쟁 구도 변화를 예의주시할 필요가 있다.
