인공지능은 창작계에서 가장 뜨거운 이슈 중 하나입니다. 아니, 2023년을 달구고 있는 이슈들 중에는 가장 뜨거운 문제라고 할 수 있습니다. 거의 전 분야에 걸쳐 논의와 논란을 만들고 있는 만큼 관심도 쏠리고 있는데, 그 중에서도 각국 정부와 빅테크 기업들이 가장 심혈을 기울이고 있는 분야는 어디일까요?

‘창작과 저작권’이라고 생각하셨다면 틀렸습니다. 그건 아주 부수적인 주제 중 하나일 뿐입니다. 지금 정부와 빅테크 기업에서 가장 심혈을 기울이고 있는 분야는 바로 다름아닌 ‘개인정보 보호’ 분야입니다.

그래서일까요? 지난 23일, 개인정보보호위원회 주최로 삼성전자, 마이크로소프트, 구글, 메타 등 유수의 기업과 이탈리아, 일본, 영국 등 다양한 개인정보보호와 관련된 업무를 하는 기관들이 참여한 ‘AIxData Privacy’ 컨퍼런스가 열렸습니다. 이 내용은 이미 기사로 다루었으니 컨퍼런스 이야기를 들려드리기보다, 거기서 나온 이야기를 이해하기 위한 배경지식부터 지금 벌어지는 논의들을 이해할 수 있게 한번 썰을 풀어보겠습니다. (기사 : https://webins.co.kr/F/A/9206) 

* 개인정보 보호 타령이 웬말이냐! 다 이유가 있습죠.

우리 입장에선 약간 어이없게 들릴 수도 있습니다. 지금 밥줄 때문에 고민하고 있는 와중에 개인정보 타령이라니! 하면서 말이죠. 그런데, 이 개인정보 문제가 인공지능 분야에서는 굉장히 중요한 이유가 있습니다. 바로 국가의 존속 위기까지 가져올 수 있는 문제이기 때문입니다.

한국 사람들은 쉽게 상상하지 못하는 것이 하나 있습니다. 바로 모든 나라가 우리나라처럼 개인정보를 중앙 국가에서 관리할 것이라는 착각입니다. 우리나라는 태어난 순간 주민등록번호가 부여되고, 만 18세가 되면 사진과 지문 정보를 국가에 등록한 후 주민등록증을 발급받습니다. 

이렇게 ‘내’가 ‘나’임을 증명하는 번호가 디지털화 되어 저장될 수 있게 되고, 그걸 바탕으로 공인인증서로 고통받기도 했죠. 그런데, 대부분의 국가에선 이런 ‘디지털화 할 수 있는 개인인증 시스템’ 자체가 흔하지 않습니다. 많은 국가들에서 우리나라의 주민등록증을 대체하는 것이 바로 운전면허증이나 여권 등이죠. 미국만 해도 사회보장번호(Social Security Number)가 있지만 한국보단 사용처가 제한적입니다. 사실 가까운 일본만 해도 2015년 하반기쯤부터 ‘마이넘버’라는 제도를 도입해 주민등록번호처럼 사용하려고 했지만, 사실상 효용은 떨어진다고 하네요.

그러니까, 많은 국가들에서 개인이 누구인지 쉽게 파악하지 못하게 되어 있다는 것이 이 문제의 핵심입니다. 심지어 일부 국가들에서는 국가가 개인 정보를 알게 되는 것에 극도로 거부감을 가지고 있기도 합니다. 프랑스라던지, 미국과 같은 나라들 말이죠. 이런 상황이다 보니, 일반적인 글로벌 시각에서 가장 시급한 문제는 개인정보 문제입니다. 국가도 함부로 수집하지 못하는 데이터를 기업이 수집하는 문제와 더불어, 국가가 인공지능을 활용해 개인의 정보를 모으려고 할 때 생길 문제들을 논의해야 한다는 거죠.

사실, 한국인 입장에선 ‘그게 큰 대수야?’ 싶을 수도 있습니다. 농담처럼 ‘개인정보가 공공재’라고 말하면서도 잘 살고 있는 입장에선 ‘관리만 똑바로 하면 되는거 아닌가?’하는 생각을 할 수도 있고요. 그러나 앞서 말씀드렸듯, 대부분의 국가들에선 이런 생각을 해본 적도, 관리에 뭐가 필요한지 알지도 못합니다.

그래서 앞서 말한 이 컨퍼런스가 한국에서 열린 거 같더라구요. OECD 국가중에 신뢰할 수 있는 국가, 그 중에서 중앙 정부부처가 효율적으로 개인정보를 디지털화 해 운용하고 있는 유일한 국가가 대한민국이라고 합니다. 왠지 주모 찾게 되는 것 같은…?

* 개인정보보호 가이드 없이 무제한으로 풀면 무슨 일이 생기나

6월 14일, EU에서는 인공지능법(AI Act) 초안을 통과(https://webins.co.kr/F/A/9203)시켰습니다. 이 초안의 핵심은 크게 다섯가지로, 그 중 세가지가 ‘개인정보’와 관련이 있습니다. 그 세 가지는 1) 감정인식 인공지능 금지, 2) 공공장소에서 실시간 생체인식 및 예측 치안 금지, 3) 소셜 스코어링 금지입니다. 나머지 두 가지는 4) 생성형 AI 신규 규제: 저작권 있는 자료 전면 사용 금지, 원천콘텐츠 출처 표기 의무화, 5) 소셜미디어 추천 알고리즘 규제 입니다.

크게 보면 ‘개인정보 보호’, ‘저작권 보호’, 그리고 ‘알고리즘 투명화’라는 꼭지로 정리할 수 있겠네요. 그 중에서도 정리가 필요한 건 ‘개인정보 보호’ 문제 뿐입니다. EU 의회에선 ‘전세계 최초로 가이드라인을 제정했다’며 자축했는데, 법안 시행까지는 최소한 2년이 걸릴 것으로 예상되는데 벌써 자축하는 이유가 있습니다. 이런 가이드라인까지 없다면 정말 혼파망이기 때문입니다.

먼저 감정인식 인공지능, 이건 우리나라에서 아주 익숙한 문화에서 이유를 찾을 수 있습니다. “너 표정이 왜 그러냐?”, “눈 안깔아?”와 같은 질문들을 국가나 기업이 개인에게 할 수 있기 때문입니다. 예를 들어 어떤 정책에 대해서 나오는 반응을 실시간으로 수집할 수 있다면, 여론조사가 따로 필요 없겠죠? 바로 궁극의 포퓰리즘까지 가능해지는 미래를 그릴 수 있습니다.

공공장소에서 실시간 생체인식 및 예측치안 금지 세번째 소셜 스코어링과 묶일 수 있는 주제입니다. 소셜 스코어링(Social Scoring)이란 사회에서의 개인의 행동에 점수를 매기고 등급을 매기는 걸 말합니다. 여기엔 이런 문제가 있습니다. 만약 이게 가능해지면 CCTV에 찍히는 줄 모르고 늦은 밤 무단횡단을 한 사람에게 사회점수 -1점을 부과한다거나 하는 식이죠. 이게 왜 나쁜가 싶죠? 그런데 그게 ‘사회 신용도’ 점수이기 때문에 대출과 연결되거나, 공무원 채용에 불이익을 주는 식으로 발전할 수 있습니다.

또한 개인의 행동을 제약할 수 있다는 문제 역시 큰 문제입니다. 앞서 표정에까지 이 점수를 매길 수 있다면? 어떤 독재자는 이런 생각을 할 수 있겠죠. “위대한 영도자가 말씀하시는데 표정이 썩어? 너 사회점수 -40점” 이런 식으로요. 아주 무시무시한 디스토피아 아니겠습니까?

일단, 현장에 온 기업들이 무조건적인 규제 완화! 규제는 악! 이라고 외치지는 않았습니다. 각 빅테크 기업들의 입장에서 인공지능을 다룰 때 가이드라인이 필요하다는데에 동의했죠. 당연히 그런 디스토피아를 막자는 법안에 반대를 할 수는 없고, 가장 급진적인 주장이 ‘실험까지 막지는 못하게 할 수 있는 규제 샌드박스를 만들자’정도였습니다.

사실 이건 상상력도 마찬가집니다. 무제한적인 방임은 상상을 자극하지 못합니다. 일정 수준의 제약이 있어야 새로운 가능성을 상상하는 것이 인간의 창의력이 가진 가장 강력한 점이라고 생각하는 에디터는, 일단 개인정보 보호 문제가 가장 시급한 문제라는 웹툰업계 바깥의 이야기가 오히려 신선하게 느껴졌습니다.

일단, 최초로 이렇게 민간과 기관이 모여 글로벌하게 이야기하는 자리가 마련되었으니 앞으로도 논의를 이어가게 될 것으로 보입니다. 에디터가 수 차례 ‘정책은 느리다’고 말씀드렸는데, 이 정도로 느립니다. 앞으로 이게 실효성 있는 정책으로 자리잡기까지는 짧게는 몇 개월, 길게는 몇 년이 넘게 걸릴 가능성이 높습니다. 다행인 건, 그나마 빠르게 강제성은 없지만 ‘상식적인 업계인’들이 동의할 수 있는 가이드라인은 나왔고, 그 가이드라인이 앞으로 인공지능 시장을 규정할 것으로 보인다는 점입니다.

한동안 뜨겁게 끓어올랐던 것이 조금 식고 있는 분위기도 바로 이 때문에 만들어진 것으로 보입니다. 거기서 선 넘어가는 사람들을 잡아내는 것, 그게 지금부터 진짜 중요한 일이 될 겁니다. 이제부터가 진짜 시작이고, 사실 정말로 관심이 필요한 시점입니다.