인류의 정신세계와 가치관의 정립에 영향을 준 사상에 대해서 ‘ism’이라는 말을 붙인다. 요즘 알고리즘(algorithm)이 그렇다. 알고리-이즘이라고 바꾸어 부를 기세다. 알고리즘이 우리 사회에 미치는 영향은 엄청나며, 신뢰 또한 높다. 인공지능(AI) 법관이 나온다니까 “전관예우는 없겠네”라는 반응은 밑바닥에 중립성에 대한 신뢰를 깔고 있다.

그런데 생각지도 않은 일이 알고리즘에 대한 무한신뢰를 생각해 볼 계기를 주었다. 여당 의원이 포털에 야당 기사가 많다는 어필을 하면서 지켜야 할 선을 넘었다. 그런데 회사 측도 답을 하면서 “기사편집은 AI가 합니다”라고 이야기했다. 기사편집은 중립적이고 객관적이라는 뜻이다.

알파고의 승리에 이어, 얼마 전 베테랑 조종사와 AI 조종사가 공중전을 벌여 AI가 5전 5승 완승을 했다. 그 활약이 눈부시다. 통계, 투자, 거래 등에서도 그렇고 지금은 공행정 영역에서도 완전자동화된 행정의 가능성이 논의되고 있다. 독일은 이미 행정절차법을 개정하여 완전자동화된 행정을 위한 근거 조문을 만들었다.

알고리즘은 AI의 뇌이다. 알고리즘이 일도 잘하고 똑똑하기는 한데, 한 가지 관심을 가져야 하는 부분이 있다. 바로 중립성이다. 알고리즘에는 여전히 시스템 설계자의 의사가 반영될 수 있기 때문이다. 그러다 보니 미국에서는 인종차별적 결과를 내는 등 사고가 나기도 하고, 교사들이 AI를 통한 성과보수 평가를 거부하고 소송을 제기하기도 하였다. 핵심은 평가 알고리즘을 공개하라는 것이다. 공개요구는 다양한 분야에서 제기되고 있다.

알고리즘을 공개하면 다 해결될까? 알고리즘이 점점 더 복잡해지면서 공개한다고 한들 이해하기가 어려운 경우들이 나타나고 있다. 심지어 개발자조차도 알고리즘이 산출한 결과를 이해하기 어려운 경우도 있다. 알고리즘 자체가 공개하기 어려운 경영상 비밀 내지 자산인 경우도 많다.

공행정 영역에서 AI의 활용은 관세분야 등 대량행정서비스에서 그 수요가 높다. 하지만 공행정 영역은 사적 영역과 달리 침익적일 경우 반드시 그 이유를 제시해야 한다. AI를 통한 완전자동화된 행정이라면 때때로 이유 제시가 어려운 경우도 발생할 수 있다. 미국에서는 AI를 통해 산출된 데이터를 다른 AI가 알고리즘에 의해 활용하고 결과를 내었는데 두 개의 알고리즘이 겹치면서 어떠한 경로를 통해 특정 결과가 나왔는지에 대해서 설명하는 것이 난제인 상황도 발생했다.

정말 알고리즘은 중립적일까? 점점 더 발전하는 AI를 통해 효율이 높아갈수록 질문의 답을 확인하는 일은 점점 더 어려워지는 상충적 상황이다. 결국 사람은 설명 가능한 정도만큼 AI를 활용할지 아니면 그 이상이라도 허용할 것인지를 선택할 수밖에 없다. 쉽지 않은 일임은 분명하다. 손도끼를 사용했던 선사시대나 알고리즘을 활용하는 지금이나 정의와 공정에 대한 갈망은 여전하기 때문이다.

/최승필 한국외대 법학전문대학원 교수