AI 서비스와 인간의 상호작용

이 글을 쓰고 있는 2024년 가을, 스마트폰으로 접근 가능한 AI 알고리즘이 이메일이나 긴 글을 요약해주고, 자동으로 통화 내용도 요약해주는 세상을 우리는 이미 맞이하고 있다. 마치 사람과 대화하듯 자연스럽게 이야기를 나누며 우리가 알고자 하는 것을 손쉽게 알려주는 거대 언어 모델을 탑재한 ‘챗봇’이 서비스를 하고 있는 것. 이제 사람들이 정보를 검색하고 알아 내는 방식에 큰 변화를 줄 것이라는 기대감이 가득하다. 조금만 더 기다리면 몇 년 후에는 진정한 의미의 자율주행차가 나와서 사람이 운전하지 않고 차에서 하고 싶은 일을 하면서 이동하는 날이 올 것이라 상상하게 한다. 이런 식으로 인간이 할 수 있는 일을 대신 해줄 수 있는 AI가 탑재된 서비스·상품·기기가 우리의 일상을 풍요롭게 하고, 우리는 그로 인해 더 많은 여가 시간을 향유하며 인생을 즐기면서 살 수 있을 것만 같다. 하지만 과연 그럴까? 현재 우리와 AI와의 관계를 점검해보자.

● 챗-GPT로 대변되는 챗봇과 진정 하루 종일 키보드를 통해 일하면서 그 어디에서도 얻지 못할 도움을 받고 있는가?

● 그리고 이 챗봇과의 키보드를 통한 대화가 진정 즐거운 경험인가?

● 챗봇으로부터 그다지 고급스러운 정보도 아닌, 해당 분야의 전문가에게는 그야말로 평범한 정보를 얻기 위해 많은 수고를 한 경험은 없는가?

● AI 기술자가 나와서 시범을 보이고 그 성능을 자화자찬하며 즐거워하는 홍보 영상만큼 일상생활에서 여러분의 AI 비서는 여러분의 말을 잘 알아듣는가?

● 소음이 심한 야외에서 AI 비서에게 대화를 시도하다 좌절한 경험은 없는가?

굳이 미국의 대형 프랜차이즈인 맥도날드에서 AI 챗봇을 이용해 드라이브스루(drive-through) 주문을 받으려고 2021년부터 3년간 시도하다가 최근에 이를 포기한 예를 들지 않더라도, 우리의 일상 경험은 분명 지금의 AI가 우리 생활을 예전보다 더 낫게 만들고 있는지 물었을 때 이에 대해 긍정적 답을 내놓지 못할 것이다.

그렇다면 왜 AI 기술은 눈부시게 발전했다고들 하고 챗봇은 사람 말을 정말 잘 이해하고 답을 내놓는 것 같은데, 기계와 사람과의 자연스러운 상호작용은 아직도 불편하기만 한 것일까?

뇌인지과학자로서 필자에게 그 이유는 너무도 분명하다. 바로 인간이 인간의 뇌 기능을 너무나 과소평가하고 있기 때문이다. 어찌 보면 우리는 우리 자신에 대해서도 잘 모를지 모른다. 우리 뇌를 조금만 이해하면 바로 알고리즘화해 기계와 컴퓨터에 프로그램 형식으로 탑재할 수 있을 것 같지만, 아무리 단순한 뇌 기능도 그 기전을 연구해보면 매우 복잡하기 때문에 현재의 과학적 방법론과 기술로는 아직도 완전한 이해 혹은 공학적 구현이 어렵다. 챗봇이 목표로 하는 인간과의 자연스러운 의사소통 역시 이러한 측면에서 접근할 수 있다. 인간은 여러 형태로 다른 사람과 상호작용하고, 이 과정에서 서로에게 의사를 전달하기 위해 언어를 사용하기도 하지만, 표정이나 말투의 변화 같은 비언어적 표현을 훨씬 더 많이 한다. 챗봇과 의사소통하는 과정에서는 비언어적 표현을 할 수 없기 때문에 쉽게 피곤해지기 마련이다. 이것은 비단 챗봇과의 의사소통뿐 아니라 사람과 사람 사이에서도 마찬가지다. 문자나 메신저를 통해 의사소통을 하다 보면 글로 전달될 수 없는 목소리 톤이나 뉘앙스 등이 결여되면서 자신의 의도와 다르게 메시지가 잘못 이해되며 오해를 낳는 경우도 많다. 즉, 인간과 상호작용 한다는 것은 단순히 정보를 주고받는 것 이상의 매우 복잡한 무언가를 구현해야 하는 것이다.

AI의 한계, 인간과의 공생

AI가 탑재된 기계가 인간과 자연스럽게 상호작용하기 위해서는 뇌의 자연스러운 정보처리 방식에 맞추어 기계가 작동해야만 한다. 물론 기계의 수준이 이에 미치지 못하더라도 인간이 기계에 맞출 수 있다. 산업화 시대에 나온 기계들은 모두 인간이 기계에 맞추었다고 해도 과언이 아니다. 하지만 이처럼 인간이 기계에 맞추어야 하는 부분이 커질수록 진정한 AI가 탑재된 기계라고 부르기 어렵다. 과거 가전제품이나 전자 기기의 기능은 복잡한 사용법을 익힌 사람에게는 많은 도움이 되지만, 그러지 못한 사람에게는 별 쓸모가 없는 기능이었다. 하지만 적어도 진보된 AI 기술이 탑재된 기기라면 기계적 지식이 전혀 없는 세 살짜리 어린아이도 자연스럽게 상호작용할 수 있어야 한다. 그리고 이러한 기계가 나왔을 때 우리는 진정한 ‘인공지능’이 출현했다고 할 수 있을 것이다.

무엇이든 자연스럽다는 것은 그 존재를 인식하지 못하고 사용할 정도의 수준을 의미한다. 아쉽지만 우리는 이처럼 자연스러운 AI의 기술 구현 단계에 이르기까지 앞으로도 많은 세월을 보내야 할 것으로 예상한다. 그렇게 예상하는 이유는 여러 가지가 있지만, 간단히 말하면 크게 두 가지를 들 수 있다.

첫째, 인간의 뇌가 어떤 알고리즘으로 작동하는지에 대해서 아직 뇌인지과학적으로 밝혀내야 할 것이 너무 많기 때문이다. 둘째, 세포들로 구성된 인간 뇌의 작동 방식을 기계적으로 구현하는 기술 개발이 아직은 뚜렷한 한계를 지니고 있기 때문 이다. 쉽게 말하면 뇌가 어떻게 작동하는지 정확히 알아내야 하고, 이를 기계적으로 구현하기 위한 혁명적 기술 개발이 필요한 것이다.

뇌와 자연스럽게 상호작용할 수 있는 진보된 미래의 AI가 나타날 때까지 현대의 인류는 현재의 기계 학습 기반 AI와 공생해야 할 것으로 보인다. 현재의 AI는 변화무쌍한 일상 환경에서 온전한 기능을 발휘하기 어렵다. 빅데이터를 기반으로 다소 단순한 방식으로 패턴을 학습하는 AI 기계 학습법의 한계라고 볼 수 있다. 하지만 우리는 AI의 기계 학습을 보며 우리 인간 뇌의 학습에 대해 새삼 깨달은 것이 많다. 인간 뇌는 기계 학습처럼 수많은 반복을 통해 패턴을 학습하는 시스템도 갖추고 있지만, 한 번만 벌어지는 일을 순간적으로 경험하고도 이를 기억 형태로 학습해 미래의 행동과 의사 결정에 활용하는 일화기억 (episodic memory) 능력을 발휘할 수 있다. 주로 뇌의 해마 (hippocampus)를 중심으로 해마와 연합된 신경망들에 의해 펼쳐지는 이러한 뇌의 학습 능력은 변화가 극심한 환경에서 두 번 다시 반복되지 않을 원타임 이벤트(onetime event)를 학습할 수 있게 함으로써 적응력을 높여준다. 또한 이렇게 학습된 내용을 자유롭게 재생해보거나 이의 변형된 형태를 시뮬레이션해볼 수 있는 능력 또한 해마를 비롯한 학습 시스템에서 가능하다. 이로 인해 우리는 경험한 내용에만 학습이 국한되지 않고 다양하게 변형된 일에 대해 내 머릿속에서 학습하는 것이 가능하다. 이러한 시뮬레이션 능력은 인간의 상상력과 창조성의 근원이기도 하다.

진정한 AI 기술 개발, 그리고 인간다움

현재의 기계 학습 기반 AI가 인간 뇌의 핵심 기능을 대체하는 것은 아직 요원하다는 예측은 어쩌면 보기 좋게 빗나갈지 모른다. 하지만 뇌의 작동 방식과 거리가 먼 학습법을 탑재했다고 해서 지금의 기계 학습 기반 AI가 인류에게 영향력이 없는 것은 절대 아니다. 평범한 회사원보다 훨씬 더 빠르게 무언가를 계산하고 정보를 검색해서 알려주며, 평범한 창작물일지라도 인간 창작자가 제작하는 작업량과는 비교가 되지 않을 만 큼 엄청난 양의 창작물을 쏟아내는 AI는 분명 평균적 수준의 작업을 하는 수많은 회사원이나 창작자의 자리를 위협할 것이 분명하다.

그리고 애초에 인간보다 뛰어날 수밖에 없는 패턴 인식 분야(예: 방사선 사진 판독이나 CCTV 영상 판독 등)의 직업군은 아마도 머지않아 AI 기술이 인간 작업자를 모두 대체할 가능 성이 아주 높다. 어느 직업군이고 수많은 자료에서 패턴을 읽어내는 작업은 이제 인간이 AI를 따라갈 수는 없다. 이 부분은 인간이 AI 기술에 자리를 내주어야만 할 것이고, 우리는 진정한 인간다움이 무엇인지에 대해 고민해야 한다.

사람은 기계와는 차별화된 생명체로서 존중감과 자존감을 갖고 싶어 하며, 자신이 사회에 쓸모 있는 사람이길 바란다. 진정한 AI 기술은 인간의 이러한 인간다움을 해치지 않는 범위 내에서 작동해야 하며, 이는 AI 기술 개발을 하는 연구자와 이 기술을 활용해서 돈을 벌고자 하는 기업인, 그리고 정책과 관련한 행정가와 법률가 모두 머리를 맞대고 고민해야 하는 부분이다.