최근 인공지능 발달에 따라 일반 인공지능(AGI: Artificial General Intelli gence)에 대한 기대와 우려가 교차하고 있다. 기존 인공지능처럼 특정 영역이나 업무만이 아니라 인간처럼 어떤 분야든 스스로 학습하여 결정할 수 있는 인공지능이 어느 순간 특이점을 지나면 인간보다 천배 이상 뛰어난 지능을 가진 초인공지능(ASI:Artificial Super Intelligence)이 되어 인간과 공존하게 될 것이라는 것이다.

빛조차 빠져나올 수 없는 블랙홀의 특정 지점인 특이점 너머의 영역은 우리가 인식하기조차 어렵다. 미래에서 온 터미네이터가 남긴 중앙 처리 장치가 사이버다인사의 손에 들어가 인공지능 연구가 진행되었듯 우연히 특이점에 도달할지도 모르고, 그 이후의 세상은 인류 누구도 가보지 못한 신세계가 될 것이다. 다만, 그 세계가 유토피아보다는 디스토피아일 것이란 우려도 있다.

인공지능의 롤모델인 인간 역시 불완전한 존재다. 대학 경영전략 시간에 신제품 개발 중 경쟁사가 먼저 개발에 성공해 더 이상 투자를 할 필요가 없게 된 경우, 100만 달러 중 75만 달러를 투자했다면 개발을 중단하지만, 1000만 달러 중 750만 달러를 투자했다면 계속 개발하겠다는 기업 경영자들이 많았다는 하버드 비즈니스 리뷰 자료가 생각난다. 그 개별적 이유야 확증편향, 사내 정치 등 다양하겠지만, 매몰비용의 루비콘 강을 건넜다면 합리적 판단이 힘들어진다.

소송을 하다보면 비슷한 경험을 한다. 의뢰인이 상담하면서 한 말과 정면으로 배치되는 증거가 갑자기 소송 중 현출되었는데, 이미 우리의 주장과 논리는 한창 흘러가버린 상황일 때가 있다. 이런 경우 기존 주장을 유지하느냐, 새로운 증거에 맞춰 절묘하게 주장을 변경하느냐 고민을 하지만 주장의 일관성 때문에 할 수 없이 비합리적인 주장을 고수하는 사투를 벌이기도 한다.

결과가 디스토피아가 되길 바라는 의뢰인은 한명도 없을 것이다. 그렇다면 제발 특이점을 지나기 전에 변호사를 믿고 고해성사를 하시길 부탁드린다.