AI 시대에, 평범한 우리는 무엇을 할 수 있을까?

AI 때문에 기본소득을 지급해야 한다?

우선 월드코인이 지향하는 기본소득 정책에 대한 비판이다. 월드코인의 슬로건은 “세계 경제는 모두에게 속한다”이다.

실제로 오픈 AI 최고경영자이자 월드코인의 공동 대표 샘 알트먼(이하 알트먼)은 기본소득을 주창한 정치 후보에 정치자금을 댄 사례가 있다. 지난 미국 대선에서 민주당 대통령 경선 후보로 나선 앤드루 양(Andrew Yang)이다. 양은 기본소득을 주창하면서 빅테크 기업의 세율을 높이는 한편, 연방 부가가치세를 신설하자는 주장을 펼치기도 했다.

알트먼의 ‘기본소득 신념’은 진심이다. 오픈AI가 비영리 단체이던 시절, 수천만 달러의 용처를 보편적 기본소득 파일럿 프로그램 자금 지원으로 해놓기도 했다. 그러나 보편적 기본소득 정책은 코로나 시기, 전 세계에서 일시적으로 실험되면서 비판과 검증의 대상이 됐다.

기본소득을 저소득층에 지급할 수 있는 기술을 논의하기 전에 ‘재원을 어디에서 가져올 것인가’부터 먼저 논의해야 한다. 앤드루 양은 빅테크 기업에게 로봇세를 걷자는 주장을 했다. 하지만 빅테크 기업이 이런 세금 신설을 반길 이유도 없거니와, 신설된다고 해도 조세 저항이 클 것이 분명하다. 즉 기본소득이 국가정책으로 작동하려면 국가 운영 철학 자체가 바뀌어야 한다. 단순히 테크 기업의 시혜적 조처나 혁신 기술만으로는 바꿀 수 없다.

보다 근본적인 문제는 기본소득 논의 자체가 기술 발전을 전제로 하고 있다는 점이다. 모두가 “AI 기술의 발전은 필연적이고 자연스러운 현상이며, 많은 부를 창출할 것이니 브레이크 없이 달려가도록 놔두는 게 맞다”고 수긍할 수 있을까?

알트먼의 행보를 비판하는 사람들은 그의 의도와 별개로, 기술이 대중에게 풀리는 순간 고삐 풀린 말이 되는 건 시간문제라고 지적한다. 챗GPT를 오픈할 때 알트먼은 부작용을 알고 있었다. 그걸 알면서도 왜 대중에 공개했느냐는 질문에 알트먼은 “일단 대중이 쓰게끔 하여 부작용이 있는지 보는 게 인류에게 더 도움이 된다고 믿는다”고 답했다.

이렇게 집중된 관심을 월드코인 운영으로 이어가는 건 과연 인류에게 어떤 이득이 있을까? 크립토-탈중앙화-NFT 등 지난 2년 동안의 기술 투자 테마가 파리를 날리는 가운데, 알트먼에 대한 폭발적 관심에 힘입어 월드코인이 기록적인 VC 자금을 모았다는 사실 하나는 확실하다.

효율적 이타주의, 장기주의와의 연결점

알트먼이 설립을 주도한 두 회사는 결국 ‘무엇이 인류를 위해 이로운가’에 대한 실리콘밸리적 해석이라고 할 수도 있다.

• 오픈AI: 인류에게 해를 줄 수 있는 일반 인공지능을 막고, 안전한 AI를 개발
• 월드코인: 기본소득을 위한 기술

2011년부터 실리콘밸리 투자가 사이에서는 ‘효율적 이타주의(Effective Altruism, EA)’와 ‘장기주의(Longtermism)’라는 단어가 등장하기 시작했다. 효율적 이타주의는 당장의 작은 문제를 해결하는 자선활동보다 ‘인류의 존폐를 좌우할 수 있는 위기(existential risk)’에 자원을 효과적으로 집중해야 한다는 사상이다.

효율적 이타주의(EA) 옥스포드 대학 철학과 교수인 윌리엄 맥어스킬(William MacAskill)은 효율적 인류 문제 해결을 위해 자잘하게 여기저기 기부하기보다는 장기적인 큰 이슈에 집중하여 기부해야 한다는 주장을 펼쳤다. 예를 들어 루게릭병 솔루션 자선기금을 모으기 위한 아이스 버킷 챌린지에 참여한 이들은 다른 이슈에 기부하지 않게 될 수 있으므로, 인류의 존폐를 결정할 수 있는 더 크고 장기적인 문제 해결 노력에 집중해야 한다는 논리다.

효율적 이타주의는 일론 머스크의 화성 정복론이나 인류를 멸망시킬 수도 있는 일반 인공지능 등장 대비에 자원을 집중해야 한다는 논리를 펼칠 근거가 된다. 특히 이 사상은 인류 위기를 해결하려면 일단 ‘엄청나게 많이 벌어서 기부한다(earn to give)’는 방법론을 정당화한다. 이 사상이 비판받는 이유 중 하나는 월스트리트의 탐욕 자본이든, 환경오염을 시키는 화학 회사든 ‘아직 도래하지 않았지만, 미래 세대에 올 엄청나게 큰 위기에 대한 투자’만 한다면 괜찮다는 논리로 이어지는 데 있다.

효율적 이타주의를 주창한 옥스포드 교수들의 주도로 만들어진 효율적 벤처스 재단(Effective Ventures Foundation)에서는 실제로 ‘AI와 인간 가치의 일치(AI alignment)’에 대한 연구를 재단 연구 주제 중 하나로 택하고 있다. 그 이유는 다음과 같다.

선도적인 AI 연구소의 궁극적인 목표는 모든 작업에서 인간만큼 뛰어나거나 인간보다 더 뛰어난 AI를 개발하는 것입니다. 최악의 경우 AI 시스템 자체에 대한 통제력을 잃을 수도 있습니다. 우리보다 훨씬 뛰어난 능력을 갖춘 존재를 통제할 수 없다면 (...) 우리도 우리의 미래를 통제할 수 없게 될 것입니다.

언론의 시선이 집중된 적도 있었다. 2022년 크립토 거래소를 운영하며 고객 예금을 유용한 샘 뱅크먼-프리드 FTX 대표가 효율적 이타주의의 열렬한 옹호자라는 사실이 밝혀지면서였다. 그리고 이는 목적을 위해 수단을 정당화하는 사상이 많은 투자자들의 손실로 이어졌기 때문이다.

장기적으로만 바라볼 때 간과하는 것들

장기주의는 ‘장기적인 문제 해결을 도덕적 우선순위로 삼는다’는 철학이다. 역시 효율적 이타주의와 연결된다.

장기주의에도 비판은 존재한다. 철학자, 역사학자인 에밀 토레스(Emile Torres)는 효율적 이타주의, 장기주의가 “미래 세대를 위한다는 명분으로 당장 어려움을 겪는 이들을 외면하게 되는 결과를 낳을 수 있다”고 말한다.

“언젠가 스카이넷(터미네이터에 나오는 AI)이 등장할 수 있으니 인간에게 이로운 AI의 개발을 가속화해야 한다.” 메레디스 휘태커(Meredith Whittaker)는 이와 같은 효율적 이타주의 재단의 논리를 언급하며, 일부 엘리트 실리콘밸리의 의도에 말려들어 가는 것의 위험을 경고하기도 했다. 그는 구글 워크아웃을 주도한 이유로 회사에서 해고됐으며, 현재 개인정보가 암호화된 메시징앱을 운영하는 시그널의 CEO다. 즉, 비판의 요지는 지금 당장의 AI 편향성이나 AI로 인한 부작용으로 고통을 받는 이들이 ‘덜 중요한 이슈’가 되어서는 안 된다는 점이다.

AI 규제를 외치는 알트먼이 AI 개발 속도를 늦추거나 멈추는 건 안 된다고 말하는 것도 위선적이라는 지적이 나오고 있다. 알트먼이 생각하는 AI 기술의 종착역은 ‘기계가 사람들을 자유롭게 하여 더 창의적인 일을 하도록 하는 새로운 세계 질서 구축’이다. 그 과정에서 AI를 일반에 공개하고 정부가 허가한 면허증 있는 기업들만이 그 피드백을 받아 ‘책임 있는 AI’를 개발하여 위험한 ‘일반 인공지능’의 부작용을 막을 수 있다는 논리 자체가 매우 엘리트적 또는 대기업 중심적이기 때문이다.

휘태커는 “챗GPT는 결국 마이크로소프트가 자사의 제품을 일반 소비자, 기업 고객, 정부, 군대 등에 판매하기 위한 마케팅 목적”이라고 일갈한다. 심지어 AI를 ‘인공지능’이라고 부르는 것조차 단어가 주는 공포와 환상을 통해 조장하는 일종의 마케팅이라며 ‘딥러닝’으로 바꿔 불러야 한다고도 주장한다.

소셜미디어가 만든 장기 부작용의 교훈

지난 5월, 미국에서는 크게 주목받는 발표가 또 있었다. 비벡 머시(Vivek Murthy) 미 연방 공공 보건서비스 부대 의무총감(Surgeon General)이 5월 26일 기자회견을 통해 ‘소셜미디어와 청소년 정신건강 자문위원회’의 연구조사 결과를 발표한 것이다.

주요 연구 결과 내용은 아래와 같다.

• 13~17세 청소년 95%가 소셜미디어를 이용하고,
• 3분의 1 이상은 ‘거의 끊임없이’ 소셜미디어를 들여다보고 있으며,
• 3시간 이상 소셜미디어를 사용하면 우울증 비율이 2배 높아진다.

소셜미디어는 특히 10대 여자 청소년 사이에 ‘자신의 몸에 대한 불만족, 기형적인 식습관, 남들과의 비교, 낮은 자존감’을 유발한다는 조사 결과도 나왔다. 사람들을 서로 연결하겠다는 아름다운 목표 아래 탄생한 소셜미디어가 아이들의 정신건강을 해치고 있는 게 현실이다. 이는 이 기술을 만든 이들도 처음엔 상상하지 못했을 것이다.

리나 칸은 뉴욕타임스 기고문에서 이렇게 말했다.

웹 2.0 시대에 커뮤니케이션을 혁명적으로 바꾸었던 페이스북이나 구글 같은 회사들이 가져온 긍정적 영향도 있지만 공짜인 줄 알았던 서비스가 사실 우리의 정보를 대가로 제공됐다는 걸 간과해선 안 된다.

미국 주요 언론들이 미국 기업들이 AI 기술을 독점하고 있는 상태임에도 불구하고 생성 AI의 확산을 경계의 눈빛으로 바라보는 이유는 바로 여기에 있다. 베테랑 테크 언론인 카라 스위셔는 최근 한 대학의 졸업 축사에서 “기술 발전이 미칠 사회 영향을 비판적으로 바라보자. 소셜미디어 시대의 과오를 AI 시대에 되풀이해서는 안 된다”고 말했다.

평범한 우리는 무엇을 할 수 있을까?

휘태커는 AI 규제 논의를 보면서 “현실에 집중하고 당장 노동자로서 할 수 있는 일을 하자”고 주장한다. 그는 최근 있었던 할리우드의 작가 노조 파업을 예로 들었다. 할리우드 작가 노조는 “AI 대본 작성을 제한하라”는 요구를 하며 파업에 나섰다. 제작자들이 AI를 활용해 새로운 대본을 임의로 만들거나 작가들에게 AI 대본을 수정하라고 요구해서는 안 된다는 것이 요구의 핵심이다.

또한 그는 “기술 흐름에 저항하는 게 나쁘다”는 생각에서 벗어나야 한다고 말한다. 이로운 기술이 맺은 열매를 누가 가져가는지, 기술이 사회에 어떤 장기적 영향을 주는지 주의 깊게 지켜보는 것도 중요하다.

따지고 보면 인력을 줄이는 데 큰 경제적 유인이 존재한다. 미국의 연방세법도 사람 고용보다 로봇 사용에 세금을 덜 매긴다. 많은 이들은 이들 빅테크 기업을 해외 주식 투자 대상으로만 보는 경향이 있다. 아울러 이들 빅테크를 모델로 하는 기업을 유니콘으로 부르며 그들의 성공 방정식을 따라 하면 환호한다. 특히 이들 기업들이 인력을 줄여 이익이 높아지면 투자자로서 수익을 낼 수 있으니 “바람직하다”고 보는 경향이 있다.

그런데 이렇게 극단의 인력 효율이 계속돼 AI가 상당수의 노동자를 대체해 더 이상 세금 낼 노동자가 없고, 테크 기업이 만든 기본소득 배분 툴에 기대야 하는 상황이 정말로 온다면 어떨까? 그것이야말로 아이언맨이 되고픈 일론 머스크도, 테크 구루 반열에 오른 알트먼도 풀 수 없는 난제 중의 난제가 될 것이다.

AI의 발전에 적응하기 위해 공부하는 것도 좋다. 다만 ‘평범한 내가 뭘 할 수 있겠어’라며 체념하고 기술 변화에 우리의 몸을 수동적으로 맡기는 대신, 기술이 사회와 인간에 미칠 영향을 주의 깊게 살펴보고, 당장 할 수 있는 것이 무엇일지 찾아보는 건 어떨까.

예를 들어, 월드코인 홍보차 지난 6월 한국을 방문한 알트먼을 한국 미디어가 얼마나 깊이 있게 다뤘는지 살펴보는 것도 좋겠다. 물론 AI와 기술에 대해 이해가 깊은 정치인들의 이야기를 살피며 지지하고 후원하는 것도 다른 한 방향이 될 것이다.

Writer 키티 커피팟에 [키티의 빅테크 읽기]를 쓰고 있다. 키티의 한글 이름은 홍윤희이다. 대표적인 이커머스 기업에서 커뮤니케이션 업무를 리드했고, 소셜임팩트를 담당했다. 딸의 장애를 계기로 장애를 무의미하게 하자는 취지의 협동조합 무의(Muui)를 운영하며 2021년 초 카카오임팩트 펠로우로 선정됐다. IT, 미국 정치, 장애, 다양성, 커뮤니케이션 등의 주제를 넘나들며 페이스북과 브런치에 글을 쓴다.

한국일보, 아웃스탠딩 등의 미디어에 정기 기고와 출연 중이며, 지식 커뮤니티 ‘시에라소사이어티’에서 <빅테크와 미국 정치> 독서클럽도 진행하고 있다.

Edit 손현 Graphic 함영범

본 글은 2023년 5월 28일에 발행된 커피팟 뉴스레터에 기반해 2023년 7월 18일(화) 기준으로 재편집되었습니다.