우리가 유럽의 정책 동향에 주목해야 하는 이유는 브뤼셀 효과 때문이다. 유럽연합(EU)은 당면한 과제에 대해 오랜 기간 공론화 과정을 거쳐 엄격한 규제 방안을 선도적으로 마련해 왔다. 이렇게 도출된 EU의 규제는 역외 적용을 통해 전 세계 기업들에도 적용되는 한편, 다수 국가들의 동조화를 통해 일종의 표준과 같은 역할을 한다. 개인정보 보호와 관련해서는 EU의 일반정보보호규정(GDPR)이 대표적인 사례이다.

AI 윤리가 대두되면서 이를 규제하려는 입법도 EU에서부터 시작됐다. 기본권 침해를 막고, 신뢰 가능한 AI 생태계를 구축하기 위해 EU는 오랜 논의를 거쳐 작년 3월 인공지능법을 제정했다. AI 시스템의 위험도를 4단계로 분류하고, 적합성 평가 의무, 기본권 영향평가 의무 등을 차등적으로 부과했다.

그사이 미국에서의 논의는 조금 달랐다. 알고리즘 책임법안이 의회에 상정돼 있기는 했지만, AI 개발을 주도하는 빅테크들을 품고 있는 미국의 경우에는 산업의 이익과 국가안보가 중시됐다. 우리나라도 작년 말 AI 기본법을 제정했다. 규제와 진흥을 동시에 담고 있지만 산업육성 차원에서 기업들에 실질적인 도움을 주기 위해서는 부처 간 장벽을 넘는 노력이 필요해 보인다.

한편 AI 경쟁력 확보를 위한 각국의 노력도 가속화되고 있다. 경쟁열위를 자각한 유럽 국가들은 작년 하반기 이후 연구개발 투자 확대, 인재 양성, 기술혁신 지원 등을 정책적으로 보완하는 한편, 대규모 재원을 투입하는 유럽판 스타게이트를 추진하기로 했다. 나아가 파리 AI 정상회의를 계기로 유럽의 규제를 완화해야 한다는 주장까지 제기되고 있다. 트럼프 2기 정부는 규제를 포함한 기존 행정명령을 철회했고, 우리나라도 딥시크 충격을 겪으면서 규제보다는 생태계 조성, 인프라 투자 등을 통한 경쟁력 확보에 우선순위를 둘 것으로 보인다.

그러나 규제 완화 논의에도 불구하고 우리 기업들은 AI 규제를 충족시키려는 노력을 늦춰서는 안 된다. 각국은 AI 시스템에 대해 공통적으로 투명성, 안전성, 책임성, 인권 보장, 프라이버시 보호 등을 요구하고 있고, 이를 준수하지 못하면 징벌적 손해배상이나 서비스 중단 등 치명적인 제재를 받기 때문이다. 법적 위험(legal risk)을 최소화할 수 있는 기업은 그렇지 않은 기업들에 비해 압도적인 경쟁우위를 확보하게 된다.

이를 위해 우리 기업들은 AI 거버넌스를 선제적으로 마련하고 정비해 나가야 한다. 기업 차원의 AI 방침과 정책 수립, 리스크 분석 및 평가 프레임 구현, AI 영향평가 수행, AI 시스템 수명주기 전반에 걸친 프로세스 확립, 정보보호체계 구축, 직원 교육 등이 포함돼야 한다. 이와 병행해 AI 거버넌스와 제품 및 서비스에 대해 제3자로부터 객관적인 평가를 받아 소비자의 신뢰를 확보하는 것도 중요하다.

구조를 개편하고 평가를 받는 것은 번거롭고 비용이 드는 일이다. 하지만, 시장 형성 초기에 국제적인 기준에 부합함을 증명하는 것은 신뢰를 확보하고 시장을 선점하는 데 매우 효과적인 전략이다.

ISO 42001(인공지능경영시스템)의 경우 우리나라에서는 전자산업의 글로벌 리더 기업 두 곳을 포함해 총 11개 기업 등이 인증을 받았거나, 진행 중인 것으로 파악된다. 해당 기업의 AI 거버넌스가 국제표준에 따라 수립되고 운영되고 있다는 것을 엄격한 심사를 통해 확인받은 것이다. 제품과 서비스의 경우에는 AI 기술이 적용된 품질과 성능을 평가받는 방법도 있다.

평가는 '자기 객관화의 과정'이기도 하다. 글로벌 기준을 지키고 있는지 살펴보고, 미흡한 부분을 지속 개선해 나가는 활동은 지속가능 성장의 핵심이다.

[문동민 한국표준협회 회장]