샘 알트먼은 왜 의회에 나가 “AI를 규제해 달라”고 했을까?
ㆍby 커피팟
요즘 미디어에서 샘 알트먼(Sam Altman)이란 인물이 자주 보여요. 그는 챗GPT를 개발한 오픈AI의 CEO로 잘 알려져 있지만 월드코인의 공동 대표이기도 해요. 말 그대로 ‘월드 투어’를 돌고 있는 샘 알트먼은 테크 업계에서 가장 영향력이 큰 인물로 부상했고, 그의 모든 발언이 주목받고 있어요.
하지만 그의 말을 온전히 이해하기란 쉽지 않아요. AI 붐은 체감상 작년 말과 올해 초에 커지기 시작했고, 많은 사람들은 “나는 이제야 챗GPT를 써봤는데….”라고 하는 중이거든요. 동시에 AI는 규제가 꼭 필요한 위험성을 지닌 기술로도 알려지고 있어요. AI 기술의 장단점, 이로움과 위험성에 대한 논의는 점점 격화되고 있는 와중에, AI가 우리 삶을 어떻게 바꿀지 일반 대중이 구체적으로 실감할 수 있는 상황은 아니에요.
AI 산업의 폭발적인 성장과 아직 보이지 않는 장단기 리스크가 모두 예상되는 지금, 더 늦기 전에 꼭 해야만 하는 몇 가지 질문이 있습니다.
- 샘 알트먼은 지난 5월 16일, 왜 미 의회의 AI 청문회에 나서서 “AI를 규제해 달라”고 했을까요?
- AI를 어떤 방식으로 규제하겠다는 걸까요?
- 과연 AI의 발전 속도를 늦추지 않으면서 위험을 없애는 적정 규제가 만들어질 수 있을까요?
너무 빠르게 진행되는 변화 속에서 우리가 꼭 짚고 넘어가야 할 문제들입니다. 이번 글은 커피팟에 발행된 [키티의 빅테크 읽기]를 2편으로 나누어 재편집하였습니다.
워싱턴에 간 알트먼의 뇌 구조 들여다보기
Q. 새로운 AI 부서에 본인이 적합한 것 같습니까? (상원 의원) A. 저는 제가 하는 일이 좋습니다. (샘 알트먼) (좌중 웃음)
지난 5월 16일, 미국 상원 법제사법위원회 개인정보·기술·법소위에서 열린 ‘AI 청문회’에서 오픈AI의 최고경영자 샘 알트먼(이하 알트먼)이 받은 질문 아닌 질문이다. 이 질의가 드러내듯 청문회의 분위기는 자못 독특했다.
그동안 청문회장에 선 테크 기업 대표들과 임원들은 호된 질타를 받기 일쑤였다. 그런데 이 자리만큼은 의원들이 바른길로 가도록 알트먼에게 가르침을 받고 격려받으러 온 듯한 느낌이었다. 오픈AI 최고경영자는 이 자리에서 “민주적 가치에 의거하여 AI가 개발돼야 한다”*며 AI 규제에 대한 방법론까지 청산유수로 답변했다. * 이는 중국이 사회주의적 가치에 의해 AI를 개발 규제한다는 내용과 대비를 이룬다.
알트먼이 챗GPT라는 폭탄을 투하해 AI 규제 논의를 수면 위로 끌어올린 장본인이란 점을 감안하면 그에 대한 워싱턴 정가의 평가는 이례적으로 후한 편이다. 그것도 민주당, 공화당 양쪽 모두에서 후하다는 점이 특이하다. 최근 인사이더 기사에서는 알트먼을 “비행기 추락(AI로 인한 재앙)에서 세계를 구한 인물로 우상화되고 있다”고 지적하기도 했다.
알트먼이 제시한 정책 방향은 크게 두 가지다.
- 미국 내 정책은 행정부에서 AI 규제 기준을 정하고 개발 기업에 일종의 라이선스를 부여하는 별도 정부 부처를 만들자는 것. AI 개발 기업들의 외부 감사를 의무화해야 한다는 내용도 들어 있다.
- 국제적으로 원자력개발기구(IAEA)와 같은 국제 AI 기구를 만들자는 내용이다.
“AI 규제해 달라”는 제안의 속내
알트먼에 대한 워싱턴 정가의 호감도가 높긴 하지만, 실제 그가 말한 대로 이루어질지는 미지수다. 우선 새로운 부처를 만들려면 의회 승인과 예산, 시간이 필요하다.
사실 “규제를 해달라”며 신기술을 가진 테크 CEO가 적극적으로 청문회까지 나와서 요청하는 경우는 매우 드물다. 페이스북 CEO 마크 저커버그도 예전에 소셜미디어를 “규제해 달라”는 표현을 공식적으로 사용한 적이 있지만, 그때는 소셜미디어 산업이 한창 성장하면서 장단점이 모두 드러났을 때의 얘기다. 알트먼이 워싱턴의 호감을 산 이유 중 하나다.
그러나 알트먼이 마냥 이타적 의도만 갖고 주장을 펼친 건 당연히 아니다. 특히 많은 테크 미디어들은 알트먼식 AI 규제가 “결국 자사 이익을 위한 것”이라며 비판한다. 요지는 다음과 같다.
첫째, 알트먼식 규제에는 AI 데이터 출처를 업체들이 밝혀야 한다는 내용이 없다. 인터넷의 방대한 자료를 기반으로 개발한 것으로 추정*되는, 대규모 언어 모델(LLM)의 가장 큰 맹점을 간과한 규제 방안이란 지적이다. * AI 개발 빅테크들은 대규모 언어 모델의 소스를 밝히지 않고 있다.
알트먼의 속내는 열흘도 안 돼 밝혀졌다. EU는 무분별한 인공지능 사용 규제법안 초안을 통해 생성 AI가 만들어 낸 콘텐츠에 표기를 의무화하는 방안을 추진 중이다. 즉, 챗GPT 등 생성 AI 모델 개발사는 시스템 개발에 사용된 저작권이 있는 모든 자료를 공개하라는 거다. 이에 알트먼은 지난 5월 말 “EU가 AI 사용 법안을 현재대로 이행한다면 유럽에서 철수할 수밖에 없다”고 발표했다가 다시 철회하는 해프닝을 벌였다.
물론 기업들이 데이터 출처를 밝히기 어려운 이유가 있다. 비용과 법적 리스크 때문이다. 출처를 밝히면 데이터 생성자들에게서 비용을 내라는 요구를 받을 것이다. 불공정 이용으로 소송당할 수도 있다.
둘째, 중소 스타트업들의 AI 개발이 어려워질 수 있다. 알트먼식 규제의 핵심인 라이선스 제도는 정부가 자격을 마련해 AI 개발 라이선스를 부여하고 박탈하자는 내용이다. 당연히 법무팀이 대규모로 포진했고 각종 자원이 풍부한 기존 빅테크에게 유리하다.
빅테크와 연방거래위원회(FTC)의 동상이몽
부처 신설보다 더 현실적인 방안도 있다. 뉴욕타임스의 테크 전문 기자 세실리아 강은 실제로는 “기존 법 제도로 규제”하는 방향으로 움직일 것 같다고 예상한다. 이는 청문회에서 현 IBM의 CPO(Chief Privacy and Trust Officer, 최고 정보보호 책임자) 크리스티나 몽고메리가 제시한 방안이다. 세실리아 강은 “그러는 편이 기존 대기업들에게는 유리하기 때문일 것”이라고 설명했다.
흥미로운 사실은 일명 ‘빅테크 저승사자’인 연방거래위원회(FTC) 리나 칸 위원장 또한 “기존 법 제도로도 AI를 충분히 규제할 수 있다”고 주장한다는 점이다. 칸 위원장은 새로운 부처 신설은 “의회에서 결정할 사항”이라며 반대했다. 칸의 의도는 무엇일까?
칸은 기존의 법 제도로 규제하는 게 중요하다고 주장한다. AI가 새로운 도구는 맞지만 기존 수집 데이터 기반으로 운영되고 있기 때문이다. 특히 경쟁 정책을 총괄하는 부처 수장인 만큼 AI 컴퓨팅 파워가 몇몇 기업에 집중되고 있음을 짚는다.
그리고 대규모 AI 기술과 클라우드를 가진 업체들을 중심으로 결국 부와 자원의 재분배가 불평등해진다는 점에 초점을 맞춘다. 따라서 기존 경쟁법상에서 규제하는 사항들, 즉 담합, 가격 불평등, 합병, 독점, 불공정 경쟁이 AI 산업이라고 해서 예외가 될 수 없다는 논리다.
칸이 주목하는 또 하나의 현상은, 이미 AI 기술을 악용한 사기가 만연하다는 점이다. 이는 FTC의 기존 규제 영역이기도 하다. 신기술이 이미 부작용을 일으키고 있는 현실인데, 혁신 기술을 위한 새로운 룰을 만든다면서 규제나 처벌을 느슨하게 적용하는 건 어불성설인 셈이다. 특히 미국은 양당이 테크 정책에 대해 제대로 된 합의나 법안을 만들어 내지 못해 기술 대비 정책이 지체되는 경향을 보인다. 새로운 부처를 만들자는 논의가 늘어지면 어부지리로 대기업들만 덕 볼 가능성이 크다.
갑자기 월드코인이 다시 나온 이유
챗GPT에 대한 폭발적 관심에 이어 “AI를 규제해 달라”며 선도적으로 치고 나가는 놀라운 정계 소통 기술을 보여 준 알트먼은 미국뿐 아니라 전 세계에서 AI 선두 기업인의 이미지를 확실히 굳혔다. 이런 알트먼의 다음 행보는 ‘월드코인’을 홍보하기 위한 월드 투어다. 월드코인은 알트먼의 숙원 프로젝트다.
월드코인은 개인 정보 없이 홍채 인식만으로 본인 인증을 거쳐 ‘모두에게 오너십을 부여하는, 세계 최대의 아이덴티티/금융 네트워크’라고 스스로를 설명한다. 특히 알트먼의 오랜 관심 요소였던 기본소득과 연계하여, 저소득층들이 기존 금융거래 없이도 기본소득을 지급받을 수 있다고 말한다.
월드코인이 새로운 프로젝트는 아니다. 굳이 말하자면 성과보다 잡음이 더 많았다. 2022년에는 ‘사기극’이란 비난을 받기도 했다. 월드코인은 인터넷이라고는 스마트폰에 깔린 페이스북이 전부인 인도 저소득층 주민들을 대상으로 홍채를 등록하면 코인을 지급한다는 마케팅을 펼쳤다.
그러나 당초 월드코인의 슬로건과는 달리 홍채를 등록하는 이들 저소득층의 개인정보를 지나치게 많이 수집한 것. 세계 데이터보호의 금과옥조가 된 일반정보보호규정(GDPR)에서 정하는 수준보다 더 많은 정보였다.
월드코인의 이런 행태에 대해 미국 국가안보국(NSA) 내부 고발자 에드워드 스노든은 이미 2021년에 일침을 날렸다.
안구를 카탈로그화 하지 말아라. 사기를 방지한답시고 생체인증을 쓰면 안 된다. 애초에 생체인증 정보를 어떤 용도로도 사용하지 말아야 한다. 인간의 몸은 검표 기계가 아니다. Don’t catalogue eyeballs. Don’t use biometrics for anti-fraud. In fact, don’t use biometrics for anything. The human body is not a ticket-punch. — 에드워드 스노든
잠깐, 여기서 의문이 생길 수 있을 것이다. 챗GPT가 대량 실업을 유발할 수 있는 기술이라면, 월드코인은 이런 실직 사태로 인해 소득이 없어진 이들에게 기본소득을 지급하는 기술로 들린다. 병 주고 약 주는 느낌인데, 어쨌든 알트먼의 진정성이야말로 인정해야 하는 게 아닐까?
여기에 두 가지 방향의 비판이 있다.
(2편에서 계속)
Writer 키티 커피팟에 [키티의 빅테크 읽기]를 쓰고 있다. 키티의 한글 이름은 홍윤희이다. 대표적인 이커머스 기업에서 커뮤니케이션 업무를 리드했고, 소셜임팩트를 담당했다. 딸의 장애를 계기로 장애를 무의미하게 하자는 취지의 협동조합 무의(Muui)를 운영하며 2021년 초 카카오임팩트 펠로우로 선정됐다. IT, 미국 정치, 장애, 다양성, 커뮤니케이션 등의 주제를 넘나들며 페이스북과 브런치에 글을 쓴다.
한국일보, 아웃스탠딩 등의 미디어에 정기 기고와 출연 중이며, 지식 커뮤니티 ‘시에라소사이어티’에서 <빅테크와 미국 정치> 독서클럽도 진행하고 있다.
Edit 손현 Graphic 함영범
본 글은 2023년 5월 28일에 발행된 커피팟 뉴스레터에 기반해 2023년 7월 6일(목) 기준으로 재편집되었습니다.
