오픈AI·구글·네이버 등 '서울 AI 기업서약'…"안전한 AI 사용"

▲한덕수 국무총리가 22일 오전 서울 성북구 한국과학기술연구원(KIST)에서 열린 'AI 글로벌 포럼 개회식' 에서 이종호 과학기술정보통신부 장관, 조태열 외교부 장관 및 참석자들과 기념촬영 하고 있다. (김나리 기자)

정부가 ‘인공지능(AI) 서울 정상회의’를 통해 글로벌 AI 규범을 만드는데 주도적인 역할을 하게 됐다. 정부는 AI 룰세팅을 통해 디지털 신질서를 주도하고 글로벌 표준 정립에 유리한 고지를 점해 기술 주도권을 확보하겠다는 구상이다.

22일 서울 성북구 과학기술연구원(KIST)에서 열린 AI 글로벌 포럼에서 삼성전자, 네이버, 카카오, SK텔레콤, KT, LG AI연구소, 구글, 오픈AI, MS, 엔트로픽, IBM, 세일즈포스, 코히어, 어도비 등 총 14개 기업이 책임감 있는 AI 개발과 활용을 위한 ‘서울 AI 기업 서약’을 발표했다.

이종호 과학기술정보통신부 장관은 “AI의 책임 있는 개발과 활용을 위해 AI 안전연구원과 협업을 강화하고 지속가능한 발전과 혁신을 위한 국제표준 개발을 위해 워터마킹 등 AI가 생성하는 콘텐츠를 파악하고 협력을 강화하기로 약속했다”고 강조했다.

이는 전날 발표한 서울선언의 연장선으로 정부는 안전·혁신·포용을 3대 원칙으로 하는 글로벌 AI 거버넌스에 대한 정상 간 첫 합의를 도출한 데 이어 안전한 AI 사용을 위해 글로벌 기업의 참여를 끌어냈다는 점에서 고무적이라는 평가가 나온다.

전 세계적으로 AI의 영향력 확대로 딥페이크를 활용한 가짜뉴스와 디지털 격차 등 AI 부작용에 대한 우려가 커지고 있다. 이에 많은 국가와 국제기관이 새로운 규제를 시도하고 있지만 서로 조화되지 않고 표준화되지 않은 상황이다. 이에 정부가 안전·혁신·포용이라는 AI의 방향성을 제시하며 국제사회에 AI 거버넌스 논의의 새로운 기준을 제공한 것이다.

조태열 외교부 장관은 “한국은 AI 소프트웨어와 하드웨어의 선도적인 생산국이자 강력한 토종 AI 생태계를 갖춘 국가로서 새롭게 부상하는 글로벌 AI 거버넌스 흐름에서 고유한 역할과 책임을 맡을 수 있는 좋은 위치에 있다”며 “한국은 인권, 법치주의, 표현의 자유와 같은 기본 가치에 부합하는 글로벌 규칙을 만드는 데 기여할 수 있다”고 강조했다.

장관 세션에서는 AI 안전 연구소의 네트워킹 등 글로벌 협력 방안과, 에너지, 환경, 일자리 등 AI의 잠재적 부작용에 대해 회복 탄력성을 확보하기 위한 방안을 심도 있게 논의했으며 이를 토대로, 28개국이 동참한 'AI 안전, 혁신, 포용 증진을 위한 서울 장관 성명'을 채택했다. 여기에는 저전력 반도체 등 AI 확산에 따른 막대한 전력 소모에 대응하기 위한 대한민국의 AI･반도체 비전이 포함돼 있다.

전문가 세션에서는 디지털 권리 장전과 이를 위한 AI 규범 정립의 필요성이 제기됐다. 이성웅 아마존웹서비스(AWS)코리아 AI/ML 정책 책임자는 “디지털 권리 장전을 이해하는 좋은 방법은 하나의 가이드를 제시하는 것이다. AI의 안전한 발전에 있어 규제가 중요하다고 생각한다”면서도 “동시에 혁신과 기술을 실질적으로 적용할 수 있는 것도 중요하다. 디지털 권리와 AI의 발전, AI의 개발은 사실 서로 상반된 것이 아니다”라고 설명했다.

▲이해진 네이버 글로벌투자책임자(GIO)가 AI 서울 정상회의에서 발언하고 있다. (뉴시스)

생성형 AI가 일상과 사회 전반에 새로운 혁신을 불러일으킨 동시에 AI의 위험과 부작용에 대한 우려도 커지는 상황에서 AI의 종속화를 경계해야 한다는 지적도 나왔다.

네이버 이해진 GIO(글로벌투자책임자)는 21일 서울 정상회의 정상 세션에 참가해 안전한 AI를 위해서는 각 지역의 문화적, 환경적 맥락을 이해하는 책임감 있는 다양한 AI 모델들의 등장이 필요하다고 강조했다. 이 GIO는 ‘과거를 지배하는 자는 미래를 지배한다: 현재를 지배하는 자는 과거를 지배한다’는 조지 오웰의 소설 '1984'의 구절을 인용하며 “극소수 AI가 현재를 지배하게 되면 과거 역사, 문화에 대한 인식은 해당 AI의 답으로만 이뤄지게 되고, 결국 미래까지 해당 AI가 큰 영향을 미치게 된다”고 지적했다.

‘AI 4대 천왕’으로 알려진 앤드류 응 스탠퍼드대 교수는 “정부는 기술과 애플리케이션(앱)을 구분하고 기술이 아닌 앱을 규제해야 한다”고 강조했다. 그는 “범용 기술인 전기모터를 적용해 블렌더나 전기차, 유도폭탄 등을 만들 수 있듯, AI 기술로 의료기기나 소셜미디어, 챗봇, 딥페이크 등에 활용할 수 있다”며 “기술 자체가 아니라 기술을 활용한 앱이 위험한지, 나쁜지 구분해서 규제할 필요가 있다”고 설명했다. 그러면서 “기술 자체를 규제하면 기술의 발전이 더뎌질 수 있다”고 우려했다.