스스로 프로그래밍 하는 인공지능의 등장, 특허권은 누구에게?│앨런 튜링 지능에 관하여 (Seminal Writings on Artificial Intelligence)│자유의지
오늘날 인공지능, 머신러닝, 빅데이터와 같은 기술들은 20세기 초 영국 런던에서 출생한 과학자 ‘앨런 튜링’에 의해 제안된 아이디어로부터 탄생했습니다. 튜링의 아이디어는 책 ‘지능에 관하여’를 통해 자세히 알아볼 수 있으며 이 책에는 튜링의 주요 논문과 보고서 몇 편을 간추려 놓았습니다. 독자를 이해시키기 위해 전문용어나 수학기호를 다소 많이 사용하는 편이지만, 이번 영상에서는 그런 것들 없이 책을 이해할 수 있도록 각 장을 정리해보았습니다.
지능을 가진 기계 (Intelligent Machinery)
① 스스로 생각하는 만능기계를 만들 수 있을까?
20세기 중반만해도 대부분의 사람들은 ‘기계가 지능을 가지고 스스로 행동할 수 있을까?’ 라는 질문, 더 나아가 ‘사람이 풀지 못하는 문제를 기계가 해결할 수 있을까?’라는 질문에 부정적인 반응을 보였습니다. 인공지능을 자연스럽게 받아들이고 있는 요즘과 확연히 다른 모습이었죠. 당시 대중들이 알고 있던 기계가 19세기 산업혁명형(形) 공장기계에 그쳤음을 고려한다면, 이런 반응이 이해가 가기도 합니다.
보고서가 나오기 몇 년 전인 세계 2차대전 당시, 앨런 튜링은 디지털 컴퓨터 ‘콜로서스 마크’를 직접 개발하였습니다. 콜로서스는 인간이 해독하지 못한 독일군의 군사암호를 풀어 연합군을 승리로 이끌었죠. 다만 전쟁 당시만 해도 국가기밀이었기 때문에 디지털 컴퓨터의 존재를 아는 사람은 많지 않았습니다. 따라서 20세기 중반임에도 19세기 프로그래머 ‘러브레이스’의 주장대로 ‘기계는 사람이 입력한 데이터를 반영하는 데에 지나지 않는다’는 인식이 여전했죠. 그런 사람들에게 튜링은 보고서를 통해 스스로 생각하는 기계를 충분히 만들 수 있음을 주장하였습니다.
② 만능기계를 만들기 위해 필요한 것들?
스스로 생각하는 만능기계를 만들기 위해서는 무엇을 해야 할까요? 앨런 튜링은 기계를 교육할 줄 알아야 한다고 말합니다. 교육에는 단 두가지만 있으면 됩니다. 기가바이트 수준의 저장용량(10⁹)을 가진 디지털 컴퓨터와 프로그래밍 능력을 지닌 공학자죠. 이 두 가지만 있어도 인간은 직접 기계를 교육할 수 있으며 더 나아가 기계와 기계를 서로 교육시키도록 유도할 수도 있습니다. 오늘날엔 이를 머신러닝이라고 부르죠.
③ 인간의 뇌를 기계라고 말할 수 있을까?
기계를 교육하기에 앞서 우선 인간의 뇌를 이해할 필요가 있습니다. 지난 번 리뷰했던 책 ‘10대의 뇌’에서 우리는 뇌가 패턴을 그리며 성장한다는 사실을 알아보았는데요, 무작위하게 떨어져 있던 뇌 속의 정보가 교육을 받으면 서로 연결되면서 인간의 사고방식과 행동을 결정한다는 내용이었습니다. 사람의 뇌가 패턴 연결을 통해 발달한다고 보는 관점은 뇌가 일종의 기계라는 의미로서, 앨런 튜링도 이와 같은 입장을 보이고 있습니다.
④ 교육을 받은 기계가 할 수 있는 일
앨런 튜링이 제시하는 교육을 거친 기계는 인간이 예측하지 못한 전혀 새로운 답변을 내놓을 가능성이 큽니다. 사람의 뇌가 찾지 못하는 정보를 탐색하여 새로운 결론을 도출할 수 있기 때문이죠. 앨런 튜링은 기계로 할 수 있는 흥미로운 탐색 세 가지를 언급했습니다. 첫번째는 유전적 탐색, 두번째는 진화적 탐색으로 생존에 유리한 유전자 조합을 찾는 것입니다. 세번째는 문화적 탐색입니다. 인간은 20년간 직접 온갖 문화에 부딪혀야만 온전히 사고할 수 있는 반면, 기계는 단 1분 혹은 1초만에 익히고 사고 할 수 있다는 장점이 있습니다.
계산 기계와 지능 (Computing Machinery and Intelligence)
① 이미테이션 게임 : 기계가 사람을 속일 수 있을까?
이번 논문에는 ‘이미테이션 게임’이 등장합니다. 한글로는 흉내 게임이라고 부르는데요, 이 게임엔 답변자 둘과 질문자 한 명이 등장합니다. 세 명은 모두 격리된 방에 있는 상태이며 모든 대화는 전신 타자기로 진행합니다. 방과 방 사이엔 전달자가 있죠. 질문자는 참여자의 성별을 알아맞히기 위해 생김새나 취향에 관해 질문합니다. A는 자신의 성별을 질문자가 알아맞히지 못하도록 유도하는 반면, B는 질문자가 답을 맞출 수 있도록 도와주는 역할을 합니다.
만약 A를 기계로 대체한다면 어떻게 될까요? 스스로 생각하고 답변하는 기계가 만들어진다면 기계는 질문자를 속이기 위해 자신을 여자 혹은 남자로 생각하게끔 유도할 것입니다. 질문자는 자신이 기계와 대화하고 있다는 사실 조차 알아차리지 못할 것입니다. 여기서 기계는 진짜 여자 혹은 남자처럼 생길 가능성이 없고 설령 그렇게 만든다고 하더라도 기계는 기계일 뿐임으로 질문자는 남자와 여자 중 어떤 답변을 내놓아도 틀릴 것입니다.
② 기계의 행위 무능력
사람들은 기계와 대화할 경우 정체를 쉽게 파악할 수 있을거라 자신합니다. 몇 가지 계산문제를 던져주면 기계는 빠르고 정확하게 연산할 것이기 때문에 바로 구분해낼 수 있다고 말하죠. 그러나 튜링은 기계에도 ‘행위 무능력’이 존재한다고 주장합니다. 기계는 1초도 안되서 9자리가 넘는 두 숫자의 곱을 계산해낼 수는 있지만, 사람처럼 머뭇거리다 대답함으로서 상대방을 속일 수 있죠.
지능을 가진 기계라는 이단적 이론 (Intelligent Machinery, a Heretical Theory)
우리는 기계가 인간의 일자리를 모조리 대체해 버릴까봐 우려합니다. 그런 사람들에게 튜링은 오해를 풀라고 말하는데요, 기계가 내 놓은 답이 어떤 의미가 있는 것인지 해석하는 능력이 점점 중요해지기 때문입니다. 기계가 인류를 통제하는 상황이 일어나길 원하지 않는다면 지금 우리가 무엇을 해석하고 행동해야 할 것인 지에 관해 생각해 보아야 한다 말합니다. 튜링이 던진 화두에 관해서는 영상의 후반부에서 다뤄보겠습니다.
디지털 컴퓨터가 생각할 수 있을까? (Can Digital Computers Think?)
이번 장은 저번에 리뷰한 책 ‘호모데우스’에서 다룬 적이 있었던 자유의지를 기계에 대입해봅니다. 앞서 튜링이 인간의 뇌를 일종의 기계로 간주했던 점 다들 기억하시죠? 사람들은 자신이 자유롭게 선택을 내리는 것 같다고 느끼겠지만, 튜링은 이 감각이 환각일 수도 있다고 보았습니다. 만약 인간에게 진짜 자유의지가 존재하더라도 행동만으로 자유의지가 있다는 속단을 할 수 없다고 말하죠. 그렇기에 사람처럼 행동하는 기계가 나온다고 하더라도 자유의지를 갖고 있다는 결론을 내릴 수는 없습니다.
그럼에도 튜링은 만능기계를 만들 땐 반드시 자유의지를 가진 것처럼 행동하게 교육해야 한다고 말합니다. 그가 말하는 교육이란 정확히 무엇일까요? 기계를 ‘임의의 상황'에 처하게 해서 답이 없는 문제라도 직접 헤쳐나갈 수 있도록 프로그래밍하는 것을 의미합니다. 교육을 받은 기계는 씨앗이 발아하여 새싹을 틔우듯 자연스럽게 행동하게 될 것입니다.
스스로 생각하는 기계가 나오려면 천 년은 더 넘게 걸릴 것이라 예측했던 튜링의 아이디어는 알파고의 등장으로 이제 막 싹을 틔웠습니다. 수백만년이 지나면 기계가 인간을 지배하는 상황이 발생할 지도 모르지만 지금 당장은 우리 스스로의 존재 자체를 돌아볼 수 있다는 점에서 긍정적으로 생각할 필요가 있다고 튜링은 말합니다.
체스 (Chess)
마지막 장 체스는 앨런 튜링이 동성애 혐의로 체포되어 자살하기 1년 전에 쓴 에세이입니다. 체스를 두는 기계를 어떻게 만들어야 하는 지에 관한 그 나름대로의 논리를 펼치고 있죠. 20세기 중반만 해도 프로그램을 구현할 기술이 존재하지 않았기 때문에 몇 년 전까지 이 장은 실체 없는 답보상태였습니다. 지금은 알파고를 만들어 낸 ‘심층 큐 네트워크(DQN)’라는 기술 덕에 실체를 갖춘 상황입니다.
마지막으로 튜링은 우리에게 흥미로운 화두를 던집니다. 기계가 뇌처럼 정보를 조합하여 완전히 새로운 무언가를 발명하게 된다면 이 공을 누구에게 돌려야 할까요? 2018년 10월 영국 서레이 대학교의 라이언 애벗 교수팀은 인공지능 DABUS가 디자인한 음료수 용기와 신호등에 관한 특허를 영국과 미국 그리고 유럽연합에 출원했습니다. 유럽 특허청은 2019년 12월 발표한 판결문을 통해 DABUS에게 특허권을 줄 수 없으며 이에 대한 근거는 2020년 1월 내에 발표하겠다고 밝혔습니다.
만약 유럽 특허청이 특허권을 인공지능에게 부여하는 선례를 남겼다면 어떤 일이 벌어지게 될까요? 아마도 인공지능 기술을 보유한 특정 대기업 혹은 연구기관에게 모든 특허권이 돌아갔을 지도 모릅니다. 현재 인공지능 기술에 결함이 발생할 경우 누가 책임을 질 것인 지에 대한 논의가 충분히 이루어지지 않은 상황이기 때문에 논란이 가중되었을 수도 있죠.
인공지능이 인공지능을 만들어 낼 경우 이에 대한 소유권은 회사가 가져야 할까요? 아니면 인공지능이 가져야 할까요? 인공지능에 대한 기업의 특허권이 만료되면 인공지능을 하나의 개인으로 인정해야 할까요? 인공지능에 관한 논쟁이 최근 몇 년 사이에 활발히 진행되고 있는 점을 보면, 인간과 기계가 공존하기 위해선 판단해야 할 점이 많음이 분명해 보입니다. 질문들에 어떻게 답변할 지에 대해서는 특허청의 역할이 중요해질 것으로 보고 있긴 하지만, 우리들도 한 번쯤 생각해 볼 문제이지 않나 싶습니다.