지난 6월 제네바에서 개최된 제41차 유엔 인권이사회는 우리나라 주도로 상정된 ‘신기술과 인권’ 결의를 총 86개국의 공동제안국 참여 하에 컨센서스로 채택했다.

최근 인공지능, 빅데이터 등 신기술과 그 파급효과에 대한 국제적 관심은 증대되고 있으나 신기술 전반이 인권에 미치는 광범위한 영향을 다룬 결의는 없었던 만큼, 이번 결의는 총체적, 포용적, 포괄적 논의를 위한 유엔 차원의 기반을 처음으로 마련했다는 의미를 가진다.

하지만 ‘인권’은 여전히 4차 산업혁명에서의 주도권을 놓고 경쟁하는 정부와 기업에게 부담스럽고 민감한 영역으로 인식되고 있다. 4차 산업혁명을 논의함에 있어 많은 이들의 관심이 과학·정보 기술의 혁신, 그리고 이를 통한 경제와 산업 측면에서의 경쟁력 확보에 집중되고 있다는 것이 이를 방증한다.

그러나 실제로 인공지능, 빅데이터 등 신기술은 우리가 생각할 수 있는 모든 인권 분야에 대해 이미 광범위한 영향을 미치고 있다. 최근 미얀마에서 소수민족인 로힝야족에 대한 폭력과 탄압을 선동하기 위한 매체로서 페이스북이 활용된 사례, 지난 3월 뉴질랜드 크라이스트처치에서 발생한 총기 테러가 페이스북을 통해 생중계되고 이후 영상이 급속히 확산된 사례는 소셜미디어가 인종차별과 혐오발언을 얼마나 ‘효과적으로’ 확산시킬 수 있는지를 잘 보여주었다.

더 나아가, 생체정보, 얼굴인식 등 빅데이터를 활용한 인공지능은 인종과 성별에 대한 자동 프로파일링을 통해 구조적인 차별을 야기할 수 있으며, 2016년 마이크로소프트(MS)가 발표한 인공지능 챗봇 테이가 극우 성향의 이용자들로부터 ‘학습’한 인종차별 발언을 쏟아내어 16시간 만에 중단된 사례는 일단 개발되고 난 인공지능이 어떻게 개발자의 의도를 벗어나 활용될 수 있는지를 잘 보여준다. 특히 이러한 자동화된 결정으로 인해 법적 피해가 발생할 경우, 보상과 구제에 있어 개발자, 공급자, 이용자의 법적 책임이 각각 어디까지인지 역시 매우 복잡한 문제다.

신기술이 인권 보호와 증진을 위해 긍정적 효과를 실현할 수 있도록 바람직한 정책과 법제를 마련해야한다는 것에는 많은 이들이 공감하고 있지만, 전문적이고 복잡한 신기술의 설계, 개발, 활용에 적용될 수 있는 국제적 조약이나 가이드라인이 조만간 마련되기를 기대하기 어려운 것도 사실이다.

현재로서는 개인정보를 포함한 데이터 보호 분야에서 유럽연합의 개인정보 보호규정(GDPR), 미국의 클라우드법(CLOUD Act), 중국의 인터넷안전법 등 다양한 국내법제가 나타나고 있는 상황이며, 국제적으로는 유엔 사무총장이 임명한 ‘디지털 협력에 관한 고위급 패널’이 지난 6월 보고서를 발표하면서 신기술과 인권 이슈와 관련한 대응 필요성을 강조하는 등 논의가 점차 활성화되고 있는 단계다.

이러한 상황에서 향후 신기술과 인권과 관련한 국제적 논의와 규범이 어떻게 형성되느냐에 따라 정보통신기술 선도국으로서 우리 정부의 정책과 기업 활동에도 영향을 미칠 수밖에 없다. 우리 역시 정부, 산업계, 시민사회, 학계 등 다양한 이해관계자의 참여 하에 보다 적극적으로 관련 논의를 전개해 나갈 필요가 있다.

특히, 개인정보보호를 비롯한 인권 관련 정책과 법제가 기업의 혁신을 저해하는 불필요한 규제라는 인식을 벗어나, 인권 분야와 디지털 분야 전문가들이 활발하게 교류함으로써, 이들의 전문성이 중첩되는 영역을 확대해 나가는 것이 중요하다. 이러한 측면에서 MS가 지난 2013년 ‘기술과 인권 센터’를 세워 운영하고 있으며, 페이스북 역시 최근 인권 정책을 전담하는 고위급 직위를 신설하는 등 인권 이슈에 적극 대응해 나가고 있다는 사실은 우리에게도 시사하는 바가 크다고 하겠다.

 

 

 

/김찬 주제네바대표부 2등서기관

저작권자 © 법조신문 무단전재 및 재배포 금지