백악관, AI 권리장전 청사진 발표...“책임감 있는 AI 만들어야”

▲알론드라 넬슨 백악관 과학기술정책실장 대행이 2021년 1월 16일 미국 델라웨어주 윌밍턴 퀸극장에서 열린 행사에 참석해 발언하고 있다. 윌밍턴/AP뉴시스

미국 백악관이 4일(현지시간) 기업들의 보다 책임감 있는 인공지능(AI) 개발을 위한 지침인 ‘AI 권리장전’ 청사진을 발표했다.

이날 CNN방송에 따르면 AI 권리장전 청사진은 미국인의 권리 보호를 위한 AI 개발과 사용, 배치에 대한 기본 원칙을 담고 있다. 기업과 정부 기관에 대한 권고안에 가까우며 법적 구속력은 없다.

최근 실업 수당 신청에 필요한 신원 확인부터 질병 진단까지 AI 활용은 급증했지만 AI 편향성과 프라이버시 침해를 규제할 법은 마련되지 못했다는 문제 의식이 커졌다고 CNN은 설명했다.

청사진에는 안전하고 효과적인 시스템, 알고리즘 편견 방지, 개인정보 보호, 충분한 고지와 설명, 대인 서비스 제공 등 5가지 원칙이 포함됐다.

이에 따르면 사람들은 안전하지 않고 비효율적으로 간주되는 시스템으로부터 보호받아야 하며 기업은 AI 알고리즘이 편향되지 않도록 해 이용자들이 차별을 겪지 않도록 주의해야 한다.

또 사람들이 AI가 작동 중인 상황을 인지할 수 있도록 기업은 충분한 안내와 설명으로 이를 고지해야 하고, AI 시스템 내부에는 데이터의 오남용을 방지하는 안전장치가 마련돼야 한다.

무엇보다 사람들이 원할 경우 AI 대신 대인 서비스를 받을 수 있어야 한다.

알론드라 넬슨 백악관 과학기술정책실장 대행은 언론 브리핑에서 “AI 권리장전 청사진은 단순 지침을 넘어 미국인들이 더 나은 기술을 기대할 수 있고, 또 기술에 더 많은 요구를 할 수 있도록 하는 배경이 될 것”이라고 설명했다.

얼굴 인식 소프트웨어와 같은 AI는 인권을 침해한다는 이유로 많은 비판을 받았지만 이를 규제하는 연방법은 아직 마련되지 않고 있다. 몇몇 흑인 남성은 이로 인해 부당하게 체포를 당하기도 했다.

백악관은 “조 바이든 대통령이 취임 첫날 불평등 근절, 공정한 의사 결정 등을 위해 노력할 것을 촉구했다”며 “기술 진전은 중요하지만 미국의 기본 원칙인 시민의 기본권을 침해해선 안 된다”고 강조했다.

일부 주에서는 AI 규제가 이뤄지고 있기도 하나 연방정부 차원의 규제는 없다. 알렉산드라 리브 기븐스 민주주의와정보통신센터 회장은 성명에서 “AI를 감시하는 기관 활동도 가치 있지만 연방 차원의 법이 마련된다면 훨씬 더 효과적일 것”이라고 지적했다.