초인류적 소송
지난 2월 29일 테슬라의 CEO 일론 머스크가 요즘 ChatGPT로 유명해진 인공지능회사 OpenAI(오픈에이아이)를 상대로 샌프란시스코 소재 캘리포니아주 지방법원에 계약위반 등의 이유로 소송을 제기했다.
표면적으로 보면 이 소송의 원고는 일론 머스크 개인이고, 피고는 OpenAI의 CEO 샘 알트만과 사장 그렉 브록만을 비롯한 OpenAI의 전체 계열사들이다. 그런데 조금 더 깊이 들여다보면, 이 소송은 정치, 경제, 기술, 안보 문제와 관련해 세계 강대국들의 안보 문제가 얽혀 있고, 구글, 마이크로소프트 등 빅테크 기업들의 이익과 맞닿아 있다. 그리고 더 나아가 인류의 미래를 좌우할 인공지능 기술에 대한 중대한 이슈들이 관련되어 있다. 특히 수퍼인공지능(ASI)이 인간의 통제를 벗어나거나, 적대국의 손에 들어갈 경우 인류의 멸망을 초래할 수도 있기 때문에 이 소송의 파괴력을 감안하면 인류의 사활이 걸린 세기적인 소송이라 할 만한다. 따라서 본지에서는 35쪽에 달하는 일론 머스크의 소장의 내용을 바탕으로 독자들이 이해하기 쉽게 정리해 소개한다.
OpenAI의 설립
일론 머스크는 기술의 발전이 인류 전체의 이익을 위해 사용되어야 한다고 강조해왔다. 특히 제4차 산업혁명의 핵심 기술인 인공지능(AI) 기술은 구글과 같은 영리회사가 독점하는 대신, 그 기술을 전세계인들에게 오픈해 누구나 활용할 수 있게 하자고 주장했다. 그런데 구글이 이에 반대하며 2014년에 딥러닝 연구 그룹인 딥마인드(DeepMind)를 인수하자 머스크는 깊은 고민에 빠졌다. 그는 인공지능 기술을 구글과 같은 영리기업이 독점하면 인류에게 심각한 위협이 된다고 생각했다.
이때 샘 알트만이 인공지능 기술에 대한 머스크의 우려에 공감을 표하며, 함께 힘을 합쳐 인공지능 경쟁에서 구글을 따라잡을 비영리 인공지능 연구소를 설립하자고 제안했다. 그 결과 2015년에 일론 머스크, 샘 알트만, 그렉 브록만 세 사람이 비영리 인공지능 연구소를 설립하게 된다. 이들은 이 새로운 연구소가 주주의 이익을 극대화하는 영리회사가 아닌, 인류의 이익을 위해 범용인공지능(AGI)을 개발하는 비영리 기관이 될 것이며, 기술의 안전사항을 고려한다는 전제 하에서 오픈 소스를 제공하고, 상업적 목적으로 기술을 비공개나 비밀로 하지 않겠다는 점에 합의했다. 머스크는 이런 창립정신을 반영하여 연구소의 이름을 ‘OpenAI’라고 명명했다. 이들의 합의 내용은 후에 2015년 12월 8일자 법인정관에 포함되었으며, OpenAI의 기술은 일반 대중에게 이익이 되게 사용될 것이며, 공공의 이익을 위해 오픈 소스 기술을 추구할 것이라는 점을 명확히 밝히고 있다.
참고로 이들의 합의는 먼저 구두로 이루어졌으며, 그 내용이 차후에 법인정관에 포함되었기 때문에 계약서가 없다고 주장하는 사람들도 있다. 하지만 미국법에는 ‘프라미스 에스토펠(promissory estoppel)’이라는 법리가 있다. 한국어로는 ‘금반언의 원칙’이라고 하는데, 쉽게 말해서 이전의 말이나 행동에 상반되는 주장을 하는 상대로부터 피해자를 보호하는 법이다. 예를 들어 시부모가 첫째 며느리에게 “네가 우리 노후를 끝까지 책임진다면 이 집을 너희에게 상속해주겠다”라고 약속했고, 그에 따라 첫째 며느리가 17년 동안 시부모를 봉양했다. 그런데 갑자기 둘째 아들의 사업이 어려워져 둘째 아들이 시부모에게 도움을 요청하자, 시부모가 그 집을 팔아 둘째 아들의 사업을 도와주겠다고 말한다면 이는 금반언의 원칙에 어긋나는 것이다. 따라서 계약서 없이 구두로 합의가 이루어졌다 하더라도, 한 쪽 당사자가 그 약속을 믿고 그에 따른 책임과 의무를 성실히 이행했다면 다른 쪽 당사자는 그 약속에 반하는 말이나 행위를 해서는 안 되는 것이다.
머스크는 당시 샘 알트만을 비롯한 공동창립자들과의 이런 합의와 신뢰를 바탕으로 OpenAI의 창립을 주도하고, 초기 여러 해 동안 대부분의 자금을 지원했다. 또한 수석과학자인 일리아 서츠케버를 비롯한 세계적인 과학자들과 엔지니어들을 OpenAI로 데려오는 데 성공했다. 당시 구글의 딥마인드가 인공지능 분야의 세계 최고 인재들을 채용하기 위해 엄청난 보상 공세를 펼치고 있었기 때문에 OpenAI의 인재 채용 과정은 구글과의 인재 전쟁을 방불케하는 힘든 작업이었다. 이처럼 OpenAI의 창립에 있어 머스크의 초기 리더십과 자금 지원이 없었다면 오늘날의 OpenAI는 존재하지 않았을 것이고, ChatGPT 같은 인공지능 기술도 지금처럼 일반에 무료로 공개되어 널리 사용되지 못했을 것이다.
머스크는 창립시부터 2020년 9월 14일까지 OpenAI를 지원했다. OpenAI의 초기 연구는 공개적으로 수행되어 인공지능 내부 디자인, 언어 모델 및 코드에 대한 무료 공개 액세스를 제공했다. OpenAI 연구자들이 트랜스포머를 이용하여 명시적 훈련 없이 많은 자연어 작업을 수행할 수 있다는 사실을 발견했을 때, 전체 커뮤니티가 이 모델의 향상과 확장을 위해 협력했다.
계약 위반
2019년에 샘 알트만이 OpenAI의 CEO가 되었다. CEO가 된 후 알트만은 이사회를 설득해 이제부터는 OpenAI가 수익을 창출해야 한다고 주장했다. 또한 인공지능의 위험성을 우려해 안전에 대한 연구를 강조한 머스크와 달리, 이사회는 이제 다른 연구에 집중하고 싶어했다. 회사의 발전방향에 대해 OpenAI 이사회와 의견 불일치가 계속되자 결국 머스크는 회사를 떠나기로 결정한다. 테슬라와 스페이스X의 CEO로서 업무량이 많아 OpenAI에 충분한 시간을 할애할 수 없었던 것도 한 가지 이유였다.
머스크가 떠난 이후 OpenAI는 2020년 9월에 마이크로소프트와 계약을 체결하고, 인공지능 GPT-3 언어모델에 대한 독점 라이선스를 부여했다. 그리고 동시에 GPT-3의 내부 디자인 및 교육 데이터를 설명하는 자세한 논문을 발표하여 커뮤니티가 유사한 모델을 직접 만들 수 있도록 모든 정보를 공개했다.
그런데 2023년에 이 소송의 피고들인 알트만, 브록만, OpenAI는 창립시의 약속을 명시적으로 위반하는 행위를 하게 된다. 2023년 3월 OpenAI는 역대 가장 강력한 인공지능 모델인 GPT-4를 출시했다. GPT-4는 GRE 시험의 언어영역에서 99점, 변호사 시험에서 90점을 받을 만큼 일반 인간보다 뛰어난 추론 능력을 가진 인공지능이었다.
그런데 알트만은 OpenAI가 범용인공지능(AGI)에 대한 지식과 기술을 대중에게 공개한다는 원래의 사명에서 벗어나 GPT-4와 관련된 정보를 공개하지 않고 오직 마이크로소프트에게만 제공했다. 그 결과 GPT-4는 마이크로소프트의 독점 알고리즘이 되었으며, 마이크로소프트 오피스 제품군에 통합되었다. 이후에도 OpenAI는 GPT-4의 내부 디자인 설계를 설명하는 어떤 과학적 출판물도 공개하지 않았다. 오직 GPT-4의 성능을 자랑하는 보도자료만 내보냈을 뿐이다.
이 비공개 결정은 기술의 안전성이 아닌, 주로 상업적인 고려에 의해 결정되었다. 이는 OpenAI의 창립정신에 명백히 반하는 일이었다. 공공의 이익을 위해 머스크를 비롯한 여러 사람들의 지원을 바탕으로 GPT-4가 개발되었지만, 이제 사실상 마이크로소프트의 이익만을 극대화하는 기술이 된 것이다. 이는 또한 2020년 9월의 독점 라이선스 범위를 명시적으로 벗어난 것이었다.
참고로 인공지능은 성능에 따라 크게 세 단계로 구분할 수 있다. 이를 독자들이 이해하기 쉽게 간단히 설명하자면 다음과 같이 이해할 수 있다.
① 인공지능(AI : Artificial Intelligence) : 특정 영역에서는 인간보다 뛰어나지만, 전체적으로는 인간의 능력에 미치지 못하고 부족한 면이 많은 인공지능
② 범용인공지능(AGI : Artificial General Intelligence) : 여러 영역을 넘나들며 인간과 비슷하거나 인간보다 뛰어난 역량을 보여주는 인공지능
③ 수퍼인공지능(ASI : Artificial Super Intelligence) : 모든 영역에서 인간보다 10000배 이상 뛰어난 능력을 가진 인공지능
범용인공지능(AGI) 기술은 수퍼인공지능(ASI) 기술의 근간이 되기에 OpenAI의 GPT-4가 범용인공지능(AGI) 수준에 도달했는지 판단하는 것은 매우 중요한 일이었다. 그리고 2020년 9월에 OpenAI와 마이크로소프트 간에 체결된 독점 라이선스 계약은 OpenAI의 범용인공지능(AGI) 이전 단계 기술에만 한정된 것이어서 이 또한 중요한 이슈였다.
그런데 마이크로소프트 연구원들은 “GPT-4 기능의 폭과 깊이를 고려할 때, 이것은 합리적으로 범용인공지능(AGI) 시스템의 초기 버전으로 볼 수 있다고 믿는다”라고 공개적으로 밝혔다. 그렇다면 이는 범용인공지능(AGI) 기술을 마이크로소프트에게 독점적으로 제공한 것이며, 2020년 9월에 체결한 독점 라이선스 계약을 벗어난 것이었다. 이 사건을 계기로 OpenAI에서는 이사회의 쿠데타가 일어나게 된다.
알트만의 해임과 복귀
2023년 11월 17일, OpenAI 이사회는 “샘 알트만이 이사회에 지속적으로 솔직하지 않았다. 그가 OpenAI를 계속 이끌 수 있는 능력에 대한 자신감을 잃었다”며 알트만을 CEO에서 해임했다.
그러자 알트만과 브록만은 마이크로소프트와 협력해 즉각 반격에 나섰다. 그들은 OpenAI에 대한 마이크로소프트의 상당한 영향력을 악용하여 수석과학자 일리아 서츠케버를 포함한 이사회 구성원 대다수를 사임하도록 압박했다. 그리고 해임된지 4일만에 다시 CEO로 복귀했다. 새 이사회 구성원은 알트만이 직접 선출했으며 마이크로소프트의 환영을 받았다. 새 이사회의 구성원들은 인공지능 기술에 대한 전문지식이 부족해 OpenAI가 범용인공지능(AGI) 수준에 도달했는지, 그래서 마이크로소프트와의 라이선스 계약의 범위를 벗어났는지 독립적으로 판단할 능력이 부족했다.
OpenAI의 웹사이트는 지금도 범용인공지능(AGI) 기술이 “모든 인류에게 이익이 되도록” 보장하는 것이 자사의 헌장이라고 공언하고 있다. 그러나 실제로는 세계 최대 빅테크 회사 중 하나인 마이크로소프트의 비공개 소스 자회사로 전락했다. 게다가 OpenAI는 현재 ‘Q*(큐스타)’라는 더 강력한 인공지능 모델을 비밀리에 개발하고 있다. 새 이사회 체제에서 OpenAI는 인류의 이익이 아닌 마이크로소프트의 상업적 이익을 극대화하기 위해 인공지능 기술을 개선하고 있는 셈이다.
일론 머스크는 OpenAI가 창립시의 약속을 준수하고, 피고들이 개인 및 세계 최대 기술 회사인 마이크로소프트의 상업적 이익을 위해서가 아니라 인류 전체의 이익을 위해 범용인공지능(AGI) 기술을 개발한다는 원래의 사명으로 돌아가도록 강제하기 위해 이 소송을 제기한다고 밝혔다. 또한 비영리기관으로 그동안 후원자들의 자금지원과 정부의 세금혜택을 모두 누리며 기술을 개발한 회사가 몇 년만에 소기의 성과를 달성하자 손바닥 뒤집듯 영리기관으로 탈바꿈해 개인들의 이익을 챙기는 악의적인 선례를 허용하지 말아야 한다는 사회정의도 담겨 있다.
