지난 4월 15일, 도서관 한복판에서 마을포럼을 열었습니다.

‘인공지능 시대, 인간답게 산다는 건 뭘까?’라는 주제로 이웃들과 이야기 나눴습니다.

포럼의 길잡이가 되어줄 레퍼런스 패널로 겨울서점의 김겨울 작가, 다정한 물리학자로 이름난 김상욱 교수가 함께했습니다.

마을포럼에서 함께 나눈 이야기를 전합니다.

 

 

 

 

 

행사의 시작을 알리며 도서관 이용자 이여은 님이 리처드 파인만의 『과학이란 무엇인가』를 낭독했습니다.

 

 

 

# 이루다부터 챗GPT… 인공지능이란 뭘까?

김상욱: 현재 우리가 접하는 인공지능은 인간을 모방하는 데 초점이 맞춰져 있다. 인간은 생명체 중 비인간동물의 지능은 거의 고려하지 않고, 인간의 지능만이 유일하다고 생각하는 것 같기도 하다. 인간과 비슷하게 생각하는, 인간이 만들어낸 어떤 기계를 인공지능이라고 일컫는 것 같다. 

 

김겨울: 우리가 대중적으로 접한 인공지능으로 전에는 알파고가 있었고, 최근에는 챗GPT를 접했다. 둘 다 같은 인공지능이지만, 만들어진 목적도 다르고 작동 방식도 다르다. 1980년대에 존 설(John Rogers Searle)이라는 철학자는 인공지능을 약인공지능과 강인공지능으로 분류하자고 주장했다. 강인공지능은 흔히 SF 영화에서 접하는 것처럼 사람처럼 어떤 목적이나 욕구를 가지고 행동할 수 있는데, 오늘날 우리가 주로 접하는 것들은 약인공지능에 가깝다. 약인공지능은 주로 인간의 지능을 모방하는 방식으로 작동한다. 인공지능이 정말로 인간처럼 다양한 지적 활동을 해낼 수 있다고 확신하고, 그로부터 파생될 일을 우려하기는 아직 이른 것 같다.

 

 

# 인공지능은 왜 ‘모른다’고 답하지 않을까?

김겨울: 챗GPT 같은 인공지능은 왜 모른다고 대답하지 못하고 자꾸만 거짓말을 할까?

 

김상욱: 왜냐하면 정말로 답을 ‘알고 있지’ 않기 때문이다. 챗GPT는 무엇인가를 정확하게 이해한 상태에서 대답하지 않는다. 챗GPT의 알고리즘은 대규모 언어 모델(LLM, Large Language Model)이다. 어떤 단어들이 나열되었을 때 그다음에 어떤 단어가 나오는 것이 가장 좋을지 확률적으로 예측하는 것이다.

예를 들어서 ‘김상욱은 경희대학교에서 학생들을 가르치는 OOO이다.’라고 문장 일부가 비어 있을 때, 이 빈칸 안에 ‘직장인’, ‘농부’ 등 여러 단어가 들어갈 수 있는데 확률적으로 ‘물리학과 교수’가 들어갈 확률이 가장 높으므로 그렇게 문장을 완성한다. 인터넷에 있는 저와 관련된 수많은 글에서 확률을 추출하여 맞추는 것이다. 원래 챗GPT를 만든 목적은 정확한 답을 주기 위함이 아니고, 인간처럼 말하는 모델을 작동시키는 것이었다. 그렇다면 결과는 성공이다. 우리가 보기에 충분히 인간처럼 말하지 않는가.
남은 문제는 정확도를 높이는 것인데, 이미 여러 가지 방법이 제시되고 있다. 지금 같은 속도로 기술이 발전하고 많은 기업이 뛰어들어 연구한다면 빠른 시일 내에 지금보다 훨씬 더 정확히 답하는 인공지능이 나올 거라고 예상한다. 지금 우리가 주목할 부분은 챗GPT가 정확한 답변을 하지 않는다는 사실이 아니라, 챗GPT가 인간처럼 문장을 만들고 말할 수 있다는 것이다.

 

 

김겨울: ‘모른다’고 대답하지 못하는 걸 뒤집어 ‘안다’고 말하는 것의 의미를 생각해 보자. 예를 들어 ‘내가 저기에 책이 있는 것을 안다’고 했을 때 그것은 곧 나라는 주체가 저기에 책이 있다는 사태를 보고 그에 대응하는 명제를 만들 수 있다는 걸 의미한다. 이처럼 세상에 존재하는 것에 대해 사실(true)인 진리값을 갖는 문장을 만들어낼  때 그것을 ‘안다’고 부른다.

이것을 ‘진리 대응설’이라고 하는데, 말하자면 ‘안다’고 말할 수 있으려면 말하는 주체가 그 주체 밖에 있는 세상에 존재하는 것과 사실을 대응시킬 수 있어야 하는 것이다.

하지만 챗GPT는 대상과의 진리값을 대응시켜 옳고 그름을 따지는 방식으로 작동하지 않기에 진리 대응설의 개념으로는 ‘안다’고 말하기 어렵다.

 

김상욱: 말씀하신 것처럼 챗GPT는 자기가 그걸 아는지 모르는지조차 모르니 ‘모르면 말하지 말라’고 요구할 수도 없다.

그 대신 ‘신문이나 주요 과학 저널에 나와 있는 내용만 말해줘!’ 같은 여러 단서를 달아주면 꽤 정확한 답이 나온다.

인간의 언어는 생각보다 대단한 게 아니었다고 생각하게 된다. 요즘에 과학자들은 인간의 언어가 우리 생각보다 심오하고 이해할 수 없는 그런 대상이 아니라,

확률 모형으로 어느 정도 풀 수 있는 정도의 도구였다는 사실을 깨닫고 있는 것 같다.

 

 

# 인공지능과 인간을 구분하는 기준, ‘인간성’이란 무엇일까?

김겨울: 인공지능이 지금보다 더 발전해 인간과 비슷한 뭔가를 할 수 있게 된 존재라고 가정했을 때, 인공지능과 인간을 구별하는 기준은 무엇일까?

 

김상욱: ‘인간성이란 무엇인가’라는 질문은 최소 5000년 이상은 된 질문이 아닌가. 철학, 인문학 전 분야에서 끝없이 던져왔던 질문인데,

오늘날 인공지능이라는 새로운 존재가 우리에게 새로운 시각을 제시했을 뿐이다. 그러나 이 질문에 대한 답을 구했는지는 잘 모르겠다.

보통 ‘인간답다’고 말할 때는 좋은 뉘앙스로 쓴다. 그런데 인간적이라는 말이 꼭 좋은 뜻은 아니지 않나.(웃음) 

예를 들어 누군가 화내거나 감정적으로 행동할 때, ‘저 사람도 인간적이네?’라고 말하기도 한다. ‘인간적이다’라는 말에는 단순히 인간의 지능 측면만 아니라

감정적인 면의 의미도 담겨있는 것 같다. 인간은 때로는 탐욕스럽기도 하고 이기적이기도 한데, 이런 것들까지 기계에 가르쳐야 하는 걸까? 가르칠 수는 있는 걸까?
물론 오늘 포럼의 주제가 인공지능이다 보니 인간의 합리적 측면 위주로 생각하게 되지만,

오히려 그렇지 않은 면 또한 인간에게 중요한 것일 수도 있다는 생각을 한다. 그런 것은 기계가 가질 수 없는 것이고,

그런 것들이 상당히 가치 있다고 생각하기 때문에 ‘인간답다’고 부르는 것에는 기계가 하지 못하는 많은 것들이 있다는 얘기를 꼭 하고 싶다.

 

# 인공지능과 윤리

김겨울: 한 가지 우리가 중요하게 생각할 것은, 도덕적이고 윤리적인 주체로서 인공지능이다. 인간과 인공지능을 구별하는 매우 중요한 기준 중 하나가 ‘윤리적 주체가 될 수 있는가’이다.

인간은 자신의 목적을 세울 수 있고, 그에 맞는 행동을 하기에 윤리적인 책임을 진다. 이처럼 인공지능이 도덕적인 주체가 되려면,

자기 욕망을 가지고 목적을 세워 그것에 따른 행위를 할 수 있어야 한다. 그러나 지금까지 개발된 인공지능은 아직 그럴 수 없고,

그렇기에 인공지능과 인간 사이에는 넘을 수 없는 선이 존재한다. 만약 나중에 강인공지능이 나오게 된다면 윤리적인 주체로서 책임을 져야 하지는 않을지.

 

김상욱: ‘욕심’과 관련된 재밌는 주장들이 있다. 만약 우리에게 육체가 없고 정신만 있어도 욕심을 가질까? 육체를 가지고 있기 때문에 자원이 유한한 환경 속에서

욕심, 경쟁심이 생기는 것이다. 우리 욕망의 근원은 상당 부분 육체와 관련되어 있다. 속이 안 좋으면 당연히 기분이 좋지 않은 것처럼,

상당한 신경조직이 내장 기관에 있기 때문에 내장 기관에서 보내는 신호가 뇌에서는 감정, 기분으로 해석된다.

육체가 없고 정신만 있는 인공지능이 욕심을 부리거나 화를 내는 인간의 영역, 그리고 윤리적인 부분을 따라갈 수 있을지 상당히 의문스럽긴 하다.

 

 

 

# 인공지능 시대, 예술가의 역할

김겨울: 화가의 화풍까지 베껴 창작하는 인공지능이 최근에 주목받았다. 그림뿐만 아니라 문체, 음악 스타일까지 인공지능이 취할 수 있는 시대가 되었다.

이런 시대에 예술가의 역할에 대해 어떻게 생각하시는지.

 

김상욱: 미술 분야는 그 어떤 분야보다 먼저 기술의 위협을 받았다. 사진기가 나왔을 때 미술의 첫 번째 위기가 왔다고 한다.

19세기 미술에서 핵심이 사물과 사람의 이상적인 형태를 그리는 것이었는데, 사진기가 등장한 것이다. 그때 바로 우리가 지금 하는 고민이 시작되었을 것이다.

‘나보다 내 일을 더 잘할 수 있는 기계가 나왔을 때 우리는 무엇을 해야 하는가?’ 이 문제는 1850년대에 시작되어 20세기 초 정도가 되었을 때,

비로소 사람들이 답을 찾은 것 같다는 생각이 든다. 사진기가 오히려 그림의 도구로 사용되면서 새로운 방식의 미술을 가르치기도 했다.

또 예술가들은 보이는 것 그대로를 묘사하는 것에서 벗어나 추상주의를 창시하기도 했다.

물론 추상주의 작품을 보며 일반인들은 ‘이게 뭐지?’ 싶을 때도 있지만, 핵심은 ‘이것이 예술이다’라고 인정하면 된다는 걸 깨달은 것이다. 

곰브리치의 『서양미술사』에 나오는 말이 있다. “미술은 존재하지 않는다, 다만 미술가가 있을 뿐.” 저는 이 말을 ‘미술가가 하는 게 곧 미술이다’라는 의미로 이해했다.

언제든 인간이 예술이라고 하면 예술이 되는 것이고, 모종의 이유로 인공지능이 만든 건 예술이 아니라고 하면 예술이 아니게 된다.

언제나 인간은 권리를 만들기도 하고 없애기도 했다. 자동차는 인간보다 훨씬 빠른데, 우리는 왜 100미터 달리기에 환호하는가. 우리가 거기에 가치를 부여했기 때문이다.

‘이것이 예술일까?’라는 질문은 잘못되었다. ‘이걸 예술로 쳐줄 것인가?’를 논의해야 한다.

인공지능 작품을 예술로 인정해도 문제가 없을 것 같다면 그렇게 하면 되고, 불안하다면 인정하지 않기로 결정하면 된다.

지금이야말로 방어적인 입장이 아니라 다 같이 목소리를 내야 한다고 생각한다. 인간과 예술가의 행복, 직업의 안정성을 위해 인정할 것인지 판단해야 하고

인공지능과 인간의 작품을 구별할 수 있도록 기술이 개발되어야 한다.

이렇게 인간을 보호하도록 나아가야지, 인간이 기계랑 경쟁하자는 논의로 접근하면 정작 올바른 합의는 나오기 힘들 것이다.

 

 

 

 

레퍼런스 패널 두 분이 이야기를 마치고, 현장에서 열띤 질문이 이어졌습니다.  

 

“인공지능 시대라지만 여전히 아날로그를 고집하는 사람도 있는데, 그래도 될까?” 
“빅 데이터를 다루는 주체가 사람의 감정과 일상생활까지 파악하여 심판자 노릇을 할 수도 있지 않을까?” 
“아이들 교육이 고민이다. 전문가들은 앞으로는 데이터를 연결하는 능력을 키워야 한다고 말하는데,

부모 세대는 입시 위주의 교육만 받아와서 어떻게 교육해야 할지 모르겠다. 인공지능 시대에 어떻게 하면 아이들이 자신의 가치를 느끼며 행복하게 살아갈 수 있을까?” 

······.

질문을 듣고 김상욱 교수는 “우리 사회는 변화에 적응하지 못하는 사람을 루저로 보고 배려하지 않는 성향이 강한 것 같다. 예를 들어 키오스크에 적응하지 못하는 이들을 도와줄 사람이 필요하다. 다수가 어딘가로 옮겨갈 때, 따라오지 못하는 사람은 늘 있다. 기술 시대에 존재하는 소수자가 있고 우리 모두가 언제든 소수자의 입장에 놓일 수도 있다.”며 사회적 조치가 필요함을 이야기했다. 또 인공지능 시대의 교육에 대해 “코로나 바이러스로 인해 비대면 수업을 3년간 했는데 크게 느낀 건 결국 얼굴을 보며 이야기해야 한다는 것이다. 결국 인간은 대면으로 소통해야 한다. 보고 싶은 사람을 눈앞에서 보는 건 지난 수십만 년 동안 인간이 관계를 맺는 가장 본능적인 방법이었다. 기술은 교육에 보조적인 역할을 할 뿐이다.”라며, “입시 위주의 교육 현실에서 모두가 깨어나기를 바란다. 입시 위주 교육 체계가 아닌 다른 나라도 많다. 우리도 해결할 수 있다. 이렇게 얘기를 나누고 더 많은 사람이 생각을 공유하면 인식이 바뀔 가능성이 생길 것이다.”라고 답했습니다.

김겨울 작가는 빅 데이터 기업에 대해 “많은 대기업에서 개인정보를 수집하고 있다. 그런 데이터로 일종의 감시 또는 사생활 침해 수준의 프로파일링을 구축하는 건 이미 일어나고 있는 일이다. 이런 일을 할 수 있는 건 결국 대기업뿐인데, 사람들이 의사결정을 하는 데 대기업의 입김이 점점 커질 수밖에 없다.”고 우려를 말했습니다. 
교육에 대해서도 의미 있는 이야기를 해주었습니다.

 

“인공지능 시대에 연결하는 능력을 어떻게 키울 것인지에 대한 고민도 있는 것 같다. 우리가 무언가를 연결할 때 같은 것끼리 연결하지는 않는다. 연결이라는 건 다른 것끼리 잇는 능력이다. 결국 연결하려면 내가 알지 못했던 다른 것에 대해 알아야 한다. 내가 원래 알던 삶, 방식, 가치만 가지고는 연결할 수 없다. 또 확장될 수 있는 존재라는 것이 인간만이 가진 특성이라고 생각한다. 내가 내 안에 갇히지 않고 다름을 알게 되는 것이다. 다른 것들을 연결하게 되려면 다름을 알아야 하고, 다른 사람을 만날 수 있어야 하고, 그 사람과 열린 마음으로 말할 수 있어야 한다. 그런 경험이 반복되면 아주 작았던 개별적인 한 인간의 정신이 점점 보편적인 방향으로 고양돼 가는 과정을 거치게 된다. 바로 이것을 ‘교양’이라고 부른다. 교양이라는 말뜻에는 ‘형성’이라는 의미도 있다. 다른 사람을 만나고 많은 책을 읽으면서 계속해서 경험을 넓혀가도록 하면 좋겠다.” 

 

 

포럼 자리 가운데에는 사서들이 AI시대 달라질 사회 모습과 도서관의 역할을 고민하며 꾸린 컬렉션을 전시했습니다. 

 

이번 마을포럼도 역시 많은 분들이 함께 만들어주셨습니다.

현장의 생생한 기록을 사진으로 남겨주신 문지희 님, 패널과 참여자들의 말소리를 글로 옮겨주신 AUD협동조합의 전승욱 통역사님이 함께 해주셨습니다.
십시일반으로 모아주신 간식은 모두가 함께 맛있게 나누어 먹었습니다.

 

함께 치열하게 고민한 모두에게 박수를 보내고,
최근 어려운 상황에 처한 도서관에 든든한 응원을 보내며 포럼을 마쳤습니다.

“느티나무도서관을 지켜라!”

 

 

 

 

 

#컬렉션 버스킹: AI 시대, 우리에겐 로컬이 필요해 

 

도서관은 포럼을 마무리하고, 이야기를 차곡차곡 담아 도서관 바깥으로 떠납니다.

목적지는 용인시 처인구에 있는 ‘뚝플레이스’! 지역에서 활동하는 크리에이터와 만나, 인간다운 삶의 방식을 고민합니다.

 

◇ 마을포럼과 컬렉션 버스킹은 도서문화재단씨앗의 후원으로 진행합니다.