2023년 04월

오픈AI의 챗GPT를 둘러싸고 인류의 생각이 갈리고 있다. AI의 미래가 새로운 기회를 제공할 것이라는 자들과, AI를 경계하는 이들이다.

물론 제3지대도 있다. AI를 받아들일 수 밖에 없다는 것은 인정하지만 이른바 속도조절이 필요하다는 주장을 한다. 이들은, 천사일까? 악마일까?



 

AI에 쏟아지는 견제
오픈AI의 GPT-4가 등장하는 한편 마이크로소프트가 포털 사이트 빙에 챗GPT를 지원하기 시작했다. 어도비도 엔비디아와 함께 AI 이미지 전략을 가동하는 한편 바드의 구글을 필두로 메타와 아마존, 한국의 네이버 및 카카오도 AI 대전략에 드라이브를 걸었다. 독일의 디엡은 아예 성경의 바벨탑을 재건하는 중이다.

AI가 대세로 부각되며 이를 견제하려는 이들도 나타났다. 미국 비영리단체 ‘삶의 미래 연구소(FLI)’가 “최첨단 AI 시스템의 개발을 일시 중단하자”는 공개 서명에 돌입한 것이 단적인 사례다.

유발 하라리 교수 및 일론 머스크 테슬라 CEO 등이 참여한 공개 서명의 핵심은 'AI의 개발을 6개월 미루자'는 메시지다. 이들은 '강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 한다'면서 '세계의 모든 AI 연구소는 GPT-4를 압도하는 강력한 AI 개발을 최소 6개월 멈춰야 한다'고 주장했다.


영화 알피에 등장하는 AI 로봇. 사진=갈무리
 

AI를 보는 인류의 충돌
AI는 쓰기에 따라 유토피아를 건설할 수 있지만, 자칫 노스트라다무스의 예언에 나오는 앙골라 대마왕의 강림으로 이어질 수 있다. 인류의 사고범위를 넘어서는 AI가 인류를 지배할 것이라는 오래된 공포가 선명하기 때문이다.

이와 관련해 많은 갑론을박이 있었다. 대표적인 사례가 2017년 페이스북의 마크 저커버그와 테슬라의 일론 머스크의 설전이다.

시작은 머스크가 했다. 그는 트위터와 언론 인터뷰를 통해 AI를 두고 '선제적으로 대응해야 한다. 문제가 생기고 대응하는 것은 늦다'고 우려했다. AI의 위험성을 경고한 셈이다.

저커버그가 즉각 반박하고 나섰다. 그는 'AI에 반대하거나 종말론적 시나리오를 만드는 사람들을 이해할 수 없다'면서 '그러한 생각은 너무 부정적이고 무책임하다는 생각이 든다'고 반박했다. 그러나 머스크도 지지 않았다. 그는 저커버그의 말에 대해 '제한적인 생각'이라면서 'AI에 대한 이해가 부족하다'고 지적했다. 그는 심지어 'AI는 북한보다 더 많은 위험을 감수해야 한다'는 글을 트위터에 남기기도 했다.


마크 저커버그(좌), 일론 머스크(우). 사진=갈무리
 

찬성론자, 반대론자
오픈AI의 챗GPT가 등판했으나, 냉정하게 말해 지금은 '약'AI의 시대다. 대부분의 AI가 '엄청나게 방대한 데이터를 빠르게 해결하는 수준’에 머물러 있고, 아직은 인간의 손을 통해 학습하는 수준이기 때문이다. 챗GPT도 인간의 데이터 라벨링이 존재하지 않고 AB 테스트를 거치지 않으면 제대로 작동하지 않는다.

그렇다면 '강'AI의 시대가 열리면 어떨까. AI가 영혼을 가진다면? 즉 자아를 가진다면? 결론적으로 해프닝을 끝났으나 지난해 글로벌 ICT 업계를 달궜던 구글 람다가 정말 인류처럼 생각하고 답한다면? 

여기서 저커버그와 같은 AI 찬성론자들은 '더욱 밝은 미래를 보자'고 주장하는 셈이다. 강AI 시대가 도래해도 인류는 AI를 통제할 수 있으며, 이를 통해 한 단계 높은 진화를 이뤄낼 수 있다고 믿는다. 

손정의 소프트뱅크 회장도 마찬가지다. AI를 두고 '훌륭한 인류의 파트너'라 명명한 그는 슈퍼인텔리전스(Super Intelligence)를 강조하며 30년 후 IQ 1만의 AI가 등판, 싱귤래리티(특이점/Singularity)의 시대가 올 것이라 장담하기도 했다. 나아가 이들은 AI에 대한 우려가 지나치게 과장됐다고 주장한다.

그러나 반대론자들은 AI, 즉 강AI가 인류를 지배할 것이라 믿어 의심하지 않는다. 세계적인 물리학자인 고(故)스티븐 호킹은 비즈니스인사이더 인터뷰에서 'AI가 급성장하며 사람의 힘으로 통제할 수 없는 시점이 다가오고 있다'고 경고했으며 더타임즈 인터뷰에서는 '세계가 총괄정부를 만들어 AI의 대재앙을 막아야 한다'고 주장했다. 그는 작고하는 순간까지 AI의 공포를 알렸다.


오픈AI. 사진=갈무리
 

제3지대가 있다
저커버그는 AI 찬성론자, 스티브 호킹은 AI반대론자다. 그렇다면 FLI와 머스크는 어디에 해당될까? 이들은 찬성론자도, 반대론자도 아니다. 제3지대다.

오픈AI와 머스크라는 인물에 대해 입체적으로 살필 필요가 있다. 

많은 사람들이 간과하고 넘어가지만, 현재 GPT-4로 글로벌 AI 시대를 흔들고 있는 오픈AI는 당초 'AI의 공포에 대항하기 위해 탄생한 곳'이다. 쉽게 풀어쓰면 '강AI의 공포가 세상을 멸망으로 이끌기 전 우리가 먼저 AI 기술을 개발해 대응한다'로 볼 수 있다. 믿기 어렵겠지만 스티브 호킹과 머스크 모두 오픈AI 설립에 주도적인 역할을 하기도 했다. 

2017년 AI 찬성론자 저커버그와 논쟁을 벌인 머스크는 더욱 입체적 인물이다. AI 공포를 우려하면서도 오픈AI 설립에 힘을 더했고, 테슬라의 AI 전략을 키우면서 뉴럴링크를 통해 AI와 인류의 결합까지 노리고 있기 때문이다. 심지어 AI의 위기를 경고하면서 AI 23원칙을 발표한 것도, AI 킬스위치 제도에 가장 찬성한 것도 머스크다.

머스크는 제3지대로 분류해야 한다. AI 기술 발전의 필요성을 느끼지만 그 부작용에 대비해야 하며, 이를 위해 AI에 대한 경계심을 늦춰야 한다고 보기 때문이다. 무조건적인 AI 찬성론자가 아니면서 반대론자도 아니다.

6개월간 AI 발전을 멈추자는 FLI도 마찬가지다. 이들은 AI 개발을 영구적으로 폐기하자는 것이 아니라 단순한 속도조절을 주장하고 있다. 폭주할 수 있는 AI 기술개발에 인류의 제어권을 강화하기 위함이다.

결국 제3지대는 AI를 인정하면서도 인류의 제어를 강하게 만들 수 있는 시간을 벌자는 진영으로 정의할 수 있다. 심지어 더 현실적인 제안을 하는 이들도 있다. AI가 발전하며 인류의 일자리를 빼앗는다면? 여기에서 AI 반대론자에 가까운 빌 게이츠 마이크로소프트 창업주는 로봇세라는 화두를 꺼내기도 했다. AI 발전을 막을 수 없고 일자리 침탈을 저지할 수 없다면 그들에게 세금을 매기자는 발상이다.

제3지대는 구원이 될까

지금의 상황에서 AI의 발전을 물리적으로 막을 수 없기 때문에, AI 제3지대의 제안은 그 자체로 매력적으로 다가오는 것이 사실이다.

그러나 악마는 디테일에 있는 법이다. 합리적인 방식으로 보이는 제3지대의 주장에도 리스크는 있다. 특히 이들이 자신들의 주장을 관철시키기 위해 AI에 대한 통제를 시사하며 그 권력의 핵심을 스스로에게 향하게 하는 것은 반드시 짚고 넘어갈 필요가 있다. 

AI에 대한 주도권을 잡는 것이 전체 인류인가, 아니면 기술력을 가진 소수의 특권층인가. 거듭 강조하지만 머스크는 AI에 대한 통제를 주장하며 오픈AI 설립에 힘을 더했지만, 오픈AI 자체가 기술 특권층이라는 것도 잊지 말아야 한다. 머스크가 오픈AI를 떠나고 GPT가 등장한 현재, 누가 큰 그림을 그리는지도 살펴야 한다. 
그렇다고 AI에 대한 통제권과 권력을 불특정 다수인 인류에게 돌리는 것도 불가능한 일이다. 결국 제3지대가 그리는 그림도 결국 위험천만한 도박일 수 있다. 뉴럴링크로 AI와 인간의 결합을 통한 신인류의 등장을 꿈꾸며 화성으로의 이주를 꿈꾸는 몽상가 머스크의 FLI 서명이 섬뜩한 이유다.