인공지능(A.I)의 거짓말에 대해 우리는 무엇을 준비하고 있는가

비욘드 법률 사무소 대표 변호사 박지훈

요즘 시대의 핵심 화두는 단연 인공지능(A.I, 이하 인공지능)이다. 실제로 현재 일반인들뿐만 아니라 세무사, 회계사, 변호사, 건축사 등 전문자격자들 조차도 자신의 업무영역에 적극적으로 인공지능을 활용하는 방법을 모색하는 중이다.

인공지능의 발달은 정말 무서울 정도로 빠르게 이루어지는 중이고, 이미 단순한 숫자의 정리, 기본 자료의 통계화, 수치화, 사례의 검색 등 단순 사무보조 업무영역은 인간을 넘어서고 있다는 평가도 많다. 이로인해 법무법인, 건축사 사무소, 회계사무소, 세무사 사무소 등 단순히 부수적인 자료정리나 선례를 찾아보는 일이 많은 업종들은 적극적으로 인공지능을 활용하고 있는 중이다.

우리들이 인공지능을 사용할 때 항상 염두에 두어야 하는 생각은 “인공지능의 답변에는 오류가 없을까”이다. 필자는 법률가로서 의뢰인들과 상담하는 과정이나, 소송을 준비하는 과정에서 의뢰인들이 먼저 인공지능의 답변을 들고 와서 그 내용대로 소송을 진행해달라고 하거나, 그 내용의 오류를 물어보는 경우를 종종 겪게 된다. 그리고 실제 주변 변호사들 중에도 법률 전문 인공지능 프로그램을 사용하여 서면 작성을 하고 있다는 얘기가 심심치 않게 들리고 있다.

그런데 문제는 의뢰인들이 맹신하는 인공지능의 답변이 오류가 있는 경우가 종종 있고, 인공지능의 답변은 의뢰인들이 질문을 할 때 사실관계를 진실인 것으로 전제하고 입력한 것임을 기초로 나온 답변이라는 것이다. 심지어 소송 과정에서 받은 변호사의 답변서, 준비서면 등에 인용되는 법령이나 판례가 생소하여 찾아보면 전혀 존재하지 않는 법령 또는 판례인 경우가 종종 발견된다는 것이다. 이런 사례는 변호사가 인공지능의 도움을 받아 서면을 작성한 후 그 내용의 진위를 확인하지 않고 만연히 제출하는 경우에 왕왕 발견된다.

인공지능은 심심치 않게 거짓말을 한다. 심지어 적극적으로 판례번호를 만들어 내거나, 사례를 구성해 내거나 허위의 법령을 만들어내어 거짓말을 하는 경우가 종종 보인다. 물론 일반인들의 입장에서는 그 인공지능의 답변의 진위여부를 판명하기 어려울 것이라 생각한다. 그러나 법률전문가인 변호사가 인공지능의 답변에 오류가 존재한다는 점을 검증하지 않거나, 인식하지 못하고 제출한 서면에 따라 재판이 진행되어 결국 패소하는 경우에는 그 법률전문가의 주의의무 위반을 문제삼아 손해배상책임이 성립할 가능성은 있어 보인다. 그럼 일반인이 인공지능의 답변을 맹신해 오류가 존재함에도 그 내용대로 소송을 제기해 패소했을 경우에는 그 인공지능을 운영하는 업체에 손해배상책임을 부담시킬 수 있을까?

만일 법률전문 인공지능의 경우에는 비용을 지급하며 인공지능 프로그램을 이용하고 있고, 해당 업체가 법률전문 인공지능으로서 정확성과 전문성을 적극적으로 광고하여 소비자들을 유인하는 등 사정이 있다면 손해배상책임도 부담할 수 있을 것으로 보인다. 그러나 일반적인 인공지능의 경우에는 어플의 사용 전 주의사항에 인공지능의 허위 답변가능성에 대하여 고지를 하고 있고, 인공지능이 완벽하지 않은 상태라는 점에 대해 고지를 하고 있다면 손해배상책임을 부담시키기는 어려워 보인다.

현재 투자에 관한 생성형 인공지능, 세무 및 회계에 관한 인공지능 등 전문적인 업무영역에 관한 다양한 인공지능이 개발되어 사용되는 중이고, 그러한 인공지능 프로그램의 사용으로 인해 허위 답변 또는 오류가 있는 답변에 따라 다양한 문제가 발생할 것으로 예상된다. 그러나 이러한 문제들에 대해 인공지능 운영 업체의 책임소재에 대한 가이드라인이나, 구제방법에 대한 제도적 정비는 이루어 지지 않고 있다. 향후 인류의 미래는 인공지능의 활용에 달려있다고 여겨질 만큼 중요한 문제인 만큼 그 인공지능의 올바른 사용이 이루어져 무고한 피해자가 발생하는 걸 막아야 한다.

기사링크 : https://www.m-i.kr/news/articleView.html?idxno=1269346