‘생성형 AI’ 규율 방향 7월 나온다…고학수 “리스크 평가 기준 필요”

▲23일 서울 더 플라자 호텔에서 열린 ‘인공지능(AI)과 데이터 프라이버시 국제 컨퍼런스’에서 고학수 개인정보보호위원회 위원장이 기조연설을 하고 있다. (사진제공=개인정보보호위원회)

정부가 내달 생성형AI 등 전반적인 ‘AI 정책 방향’을 제시한다. 생성형AI의 비약적인 발전에 따른 개인정보 보호 문제 등을 막기 위해서다. 영국과 독일, 일본 등 세계 주요국 또한 AI 규율 필요성에 공감하고, 세계적으로 머리를 맞대기로 했다.

개인정보보호위원회(개인정보위)는 디지털플랫폼정부위원회와 함께, 23일 서울 더 플라자 호텔에서 열린 ‘인공지능(AI)과 데이터 프라이버시 국제 컨퍼런스’를 개최했다. 이날 컨퍼런스에는 한국, 영국, 독일 일본 등 주요국 개인정보 감독기관과 국제기구(EU·OECD), 국내외 인공지능(AI) 관련 전문가 및 관련 업계, 약 300여 명의 산·학·연 관계자 등이 참여했다.

이번 컨퍼런스는 우리나라 개인정보위가 인공지능(AI) 영역에서 세계적인 규율 체계에 관한 논의를 주도하고 있는 영국, 독일, 프랑스 등 유럽 핵심국 개인정보 감독기관들과 AI 규율 방향에 관한 논의를 본격적으로 시작했다는 점에서 의미가 크다.

이날 개인정보위는 인공지능 관련 이슈에 대응하기 위한 세 가지 주요 정책 방향을 제시했다. △인공지능 서비스 제공자에 대한 안전장치 제공 △규정 중심(rule-based)에서 원칙 중심 (principle-based)으로 규제 패러다임 전환 △인공지능의 리스크 기준으로 차등적인 규제 도입이다.

인공지능(AI) 서비스 제공자에 대한 안전장치가 제공돼야 한다는 건 사업자의 책임성 확보가 중요하다는 생각에서 시작했다. 사업자는 인공지능 모델 개발, 서비스 과정에서 정보주체의 권익이 부당하게 침해되지 않도록 사전·사후적 조치 등 최선의 노력을 기울여야 한다는 설명이다.

규정 중심(rule-based)에서 원칙 중심(principle-based)으로 규제 패러다임 전환이 이뤄진다. 인공지능은 다양한 형태로 다양한 산업에 적용되어 구현되기 때문에, 핵심 원칙을 제시하고 상황별로 원칙을 현실에 맞게 적용할 필요가 있다는 의도다.

인공지능(AI)의 리스크를 기준으로 차등적인 규제를 도입한다. 정부와 민간이 함께 유형별·사안별 민감성과 리스크를 평가할 수 있는 기준과 모델 구축 필요가 있어서다.

고학수 위원장은 “초국가적으로 데이터가 처리되고 서비스가 제공되는 AI 환경에서는 개별 국가의 규제만으로는 한계가 있다”며 “개인정보 감독기관 간 AI 관련 이슈를 공유하고, 대응방안을 모색하기 위해 국가 간 AI 관련 처분사례 등 정보를 공유하는 체계를 구축하는 것과 국가별 AI 프라이버시 이슈를 담당하는 소통 채널을 마련해야 한다”고 제안했다.

그는 이어 “인공지능은 초거대 모델을 비롯해 자율주행, 의료 등 다양한 분야에서 역동적으로 성장하면서 사회 전반에 막대한 변화를 일으키고 있다”면서도 “인공지능의 부작용과 리스크에 대한 우려가 공존한다. 기존의 개인정보 보호 법률 원칙을 인공지능 영역에 어떻게 적용할 것인지에 대한 고민이 필요한 시점”이라고 말했다.

아울러 “급변하는 인공지능 환경에서 개인정보 보호 원칙을 어떻게 적용할 수 있는지에 대해서 인공지능 환경에서도 목적 범위에서 적합하게 개인정보를 수집·처리하고 안전하게 관리해야 한다”며 “개인정보 처리 목적과 내용 등을 투명하게 공개해 설명 가능한 AI를 구현할 수 있도록 해야 한다는 원칙은 반드시 준수돼야 한다”고 강조했다.

이날 영국, 독일, 일본 등 주요국 감독기구 수장들은 AI 규율 필요성에 대해 공감했다. 존 에드워즈(John Edwards) 영국 개인정보 감독기구 위원장은 “이 자리에 모인 우리는 규제기관으로서 생성형 AI의 윤리적이고 책임 있는 사용을 보장하기 위해 노력해오고 있다”며 “이러한 기술이 프라이버시에 대한 리스크와 일반 대중의 신뢰에 미치는 영향을 고려해야 한다”고 말했다.

고 위원장은 “데이터 보호를 위한 법과 기술의 영향력을 이해하기 위한 방안도 존재하지만, 본질적으로 투명성 확보와 정보에 입각한 동의 및 보호장치 마련이 매우 중요하다”면서 “새로운 이슈 대응을 위한 협력할 필요가 있다”고 덧붙였다.

울리히 켈버(Ulrich Kelber) 독일 개인정보 감독기구 위원장은 “AI 규제를 통해 관련 시스템이 투명성을 갖출 수 있도록 해야 하고, AI 시스템에 따른 차별의 영향을 받는 사람들이 스스로를 방어할 수 있어야 한다”며 “AI 법제를 통해 침해신고 메커니즘 확립 및 적절한 법적 조치 시행이 가능하도록 해야 한다”고 강조했다.

유지 아사이(Yuji Asai) 일본 개인정보보호위원회 위원은 “6월 20일부터 21일까지 도쿄에서 일본 개인정보보호위원회가 개최한 제3차 G7 데이터 보호 및 개인정보 보호 당국 회의에서 생성형 AI에 관한 성명서가 실행계획과 함께 채택됐다”면서 “생성형 인공지능AI 사용 맥락에서 데이터 보호

및 프라이버시 문제에 대한 더 많은 논의와 협력이 필요하다”고 말했다.