[중앙뉴스= 박주환 기자] “AI는 고속도로다. 모두의 AI를 만들겠다” 는 이 말은 한 대선 후보가 한 말이다. AI는 지금 한국에서 산업정책의 핵심 키워드다. 그러나 지금처럼 AI를 산업 기술로만 바라보는 시선에는 근본적인 맹점이 있다. AI는 산업이면서, 동시에 안보이기도 하다.

▲언어는 생각을 통제한다

사피어-워프 가설(언어가 사고방식을 결정한다는 언어학 이론)은 더 이상 이론에 머물지 않는다. AI는 언어를 분석하고, 재구성하고, 생성할 수 있다. 이제 AI는 정보를 넘어, 인간의 인식과 사고 형성까지 영향을 미치는 도구가 되었다.

대표적인 사례가 챗GPT다. 도서 5억 권에 달하는 수 페타바이트(PB) 규모의 데이터를 학습했지만, 그 데이터가 어디에서 왔고, 어떤 알고리즘으로 가공·재조합됐는지는 사용자 입장에서 거의 알 수 없다. 사람이 이해할 수 있는 범위를 넘어선 인지 시스템이, 지금 우리의 언어와 사고를 형성하는 데 관여하고 있는 셈이다.

그런데 우리는 이 도구를 외국 플랫폼, 외국 기술 인프라에 전적으로 의존하고 있다. AI는 사고 체계를 좌우할 수 있는 기술이고, 때문에 이는 국가안보의 문제다.

▲보이지 않는 설득, 다크 마케팅

문제는 이 방식이 누가 어떤 정보를 접했는지 아무도 확인할 수 없다는 데 있다. 

자신이 보고 있는 정보가 누구에게도 공유되지 않는 고립된 메시지라는 점에서, 설득당하고 있는 사실조차 인지하지 못한다.

캠브리지 애널리티카는 수천만 페이스북 이용자의 데이터를 무단 수집해 유권자 심리를 조작했고, 감정에 호소하는 맞춤형 정치 광고로 여론을 은밀히 조작했다는 비판을 받았다.

미국 전자담배 회사 Juul은 2015~2018년 사이, 소셜미디어와 팝스타 이미지, 세련된 디자인을 앞세워 청소년과 젊은 층을 겨냥한 마케팅을 펼쳤고, 결국 청소년 중독이라는 공중보건 위기를 초래했고, 그 부담은 사회 전체의 비용으로 돌아왔다.

이제 여기에 AI가 결합된다. 개인의 성향과 감정 패턴을 실시간으로 분석해, 무엇을 믿고, 무엇을 느낄지조차 설계하는 시대가 도래했다.

문제는 이 기술이 우리 손에 있지 않다는 데 있다. 외국 기업의 서버, 외국의 알고리즘 위에서 우리의 일상, 우리의 판단이 가공되고 있다.

그들은 지금 우리의 언어를 학습하고, 우리의 사고 방식을 설계하고 있다. 이것은 단지 기술의 문제가 아니다.

우리가 어떤 세상에서 살 것인지를 누가 결정하는가의 문제인 것이다. 

▲과거의 지혜, 미래의 시스템으로

이 땅의 강점은 '유사시에도 행정은 돌아간다'는 굳건한 믿음에 있다. 고구려 동천왕 때 수도가 함락돼도, 고려가 대몽항쟁할 때도, 조선이 임진-정묘-병자 3난 속에서도 행정이 유지됐던 것처럼 말이다.

조선은 유사시를 대비해 규장각 사고본을 물리적으로 네 지역에 나눠 보관했다. 수도가 함락돼도 기록과 행정은 이어졌던 것이다.

이 시스템은 오늘 날의 블록체인과 분산저장 시스템이라고 할 수 있다. 디지털 시대의 규장각 사고본인 것이다.

AI 학습과정과 알고리즘 변경 이력을 투명하게 기록하고, 특정 정권이나 기업이 이를 일방적으로 통제하지 못하며, 모든 국민이 그 기록을 열람할 수 있고, 혹여 천재지변으로 국가기능이 정지해도 기록을 남길 수 있는 그런 시스템 말이다.

AI가 안보문제이고, 국민주권 문제라서 국가가 나서서 관리한다고 해도 문제는 정치이슈다. 정권이 바뀌었을 때 이걸 누가 조작하거나, 사용해서 이득을 취하지는 않을까하는 걱정말이다. 디지털 규장각이 바로 그 해법이다.

정치에서 독립되고, 기술적으로 위변조가 불가능한 이 시스템은 디지털 주권을 지키는 최소한의 장치이자, AI 시대의 새로운 국가 인프라다.

이 시스템은 특정 정권이나 기업이 통제할 수 없는 구조여야 한다. 디지털 규장각은 민·관·군이 공동으로 운영하는 헌법기관 내지는, 독립적 합동 거버넌스 형태로 설계돼야 한다.

이렇게 해야 기술적 투명성과 정치적 중립성을 동시에 확보할 수 있으며, AI 시대의 주권과 안보를 감시하고 수호하는 최소한의 수단이란 역할에 집중할 수 있다.

▲산업인가, 안보인가? 이 질문이 틀렸다

AI는 산업이면서도, 안보다. 기술적 효율성과 주권적 통제를 동시에 고려하는 복합 정책으로 접근해야 할 시점이다. GPU 확보, 인재 양성, 민간 투자 유치 모두 필요하다. 그러나 그것만으로는 부족하다.

이제는 물어야 한다. 이 AI는 누구의 데이터를 학습하고, 누구의 기준으로 판단하며, 누구의 통제 하에 있는가.

AI 시대에 주권은 데이터에 있고, 그 통제권은 곧 생각의 통제권이다. AI 개발 전 과정의 기록·감시를 의무화하는 디지털 주권 법제화가 필요하다. 이것이 우리 손에 없다면, 우리는 기술을 가진 것이 아니라, AI강점기에 살게 되는 것이다.