2026년 2월에 쓴 글을 2026년 8월에 고쳐 쓴다. 두 가지가 달라졌다. 넷째 자리에 주권을 놓고 자동화를 셋째로 옮겼으며, 자동화를 통째로 환상이라 부르던 것을 여섯 층의 스펙트럼으로 나누었다. 무엇이 왜 바뀌었는지는 글 끝에 적어 둔다.
‘AI 민주주의(AI Democracy)’라는 말이 유령처럼 떠돌고 있다. 학계와 기술 업계, 그리고 시민사회는 저마다의 이유로 이 단어를 사용하지만, 그 속내를 들여다보면 서로 다른, 심지어 상충하는 이야기들이 뒤엉켜 있다.
누군가는 기술이 가져올 혁신을 이야기한다. 누군가는 기술이 파괴할 진실을 우려하고, 누군가는 판단을 기계에 넘기자고 말한다. 그리고 그 모든 이야기의 밑바닥에는 좀처럼 물어지지 않는 질문이 하나 있다 — 그 AI를 누가 소유하고 누가 결정하는가.
이 혼란스러운 개념들을 명확히 구분하는 것이야말로 AI 민주주의 논의를 시작하는 첫걸음이다.
1. 확장 — 참여와 숙의의 한계를 넘어서 (AI for Democracy)
첫 번째 얼굴은 ‘민주주의를 돕는 도구로서의 AI’다. 이는 “디지털 기술이 민주주의를 혁신하리라” 믿었던 2000년대 초반 ‘디지털 민주주의’와 ‘시빅테크(Civic Tech)’ 흐름의 연장선에 있다.
과거 인터넷과 소셜미디어가 참여의 문턱을 낮춰 직접 민주주의의 가능성을 열었다면, 지금의 생성형 AI는 ‘숙의(Deliberation)의 물리적 한계’를 극복할 도구로 기대받는다. 수십만 명의 시민이 동시에 토론할 때 발생하는 비용과 시간, 정보 처리의 불가능성을 AI가 해결해 줄 수 있어 보이기 때문이다.
여기서 AI는 시민들의 방대한 의견을 실시간으로 요약하고, 중재하며, 공통된 합의점을 도출하는 ‘집단지성의 조력자’ 역할을 수행한다. 이 관점은 AI가 인간의 협력을 돕는 강력한 비서로서 기능하는 미래를 그린다.
2. 신뢰 — 무너지는 공론장을 지켜라 (Protecting Democracy from AI)
두 번째 얼굴은 정반대로, ‘민주주의를 위협하는 AI에 대한 방어’다. 이는 기존 디지털 미디어와 추천 알고리즘이 초래한 ‘필터버블’, ‘확증편향’, ‘양극화’에 대한 깊은 문제의식과 맞닿아 있다.
생성형 AI의 등장은 디지털 미디어가 야기한 ‘확증편향’에 더해, 민주주의의 위기를 ‘탈진실(Post-Truth)’의 단계로 격상시켰다. 딥페이크와 환각(Hallucination)이 난무하는 세상에서 사실(Fact)은 힘을 잃고, 공론장은 봇(Bot)과 허위정보로 오염된다. 무엇이 진실인지 합의할 수 없는 사회에서 민주주의는 작동할 수 없다.
따라서 여기서 말하는 ‘AI 민주주의’는 알고리즘에 의한 여론 조작을 감시하고, AI가 생성한 편향과 허위정보로부터 시민들이 건전하게 토론할 수 있는 ‘신뢰할 수 있는 공론장’과 ‘신뢰와 협력이라는 사회적 자본’을 지켜내려는, 사회의 붕괴를 막으려는 투쟁이 된다.
3. 자동화 — 어디까지 맡길 것인가 (Automated Democracy)
세 번째 얼굴은 ‘AI가 숙의와 결정을 대신하는 방향’이다. 앞의 둘과 달리 이 얼굴은 경계하자는 뜻으로 쓴다.
가장 극단에는 이런 주장이 있다. “인간 정치인은 비효율적이고 편향되었으니, 방대한 데이터를 학습한 AI에게 판단을 맡기자.” 이들은 AI가 빅데이터 분석을 통해 개별 시민의 욕망과 행동을 완벽하게 파악하고, 루소(Rousseau)가 말한 ‘일반의지(General Will)’를 추출하여 최적의 정책을 실행할 수 있다고 믿는다. 번거로운 토론과 갈등 조정 과정, 투표마저 없이 ‘모두가 만족하는 정답’을 찾을 수 있다는 것이다.
하지만 민주주의는 가장 효율적인 ‘정답’을 찾아내는 계산 과정이 아니라, 시민들이 서로 다른 의견을 부딪치며 타협하는 ‘합의의 과정’ 그 자체다. 설령 AI가 계산한 정책이 수학적으로 완벽할지라도, 구성원들의 동의가 없다면 그것은 폭력이다. 반대로 시민들이 치열한 토론 끝에 내린 결론이 비록 비효율적이거나 틀린 답일지라도, 그것은 구성원들이 함께 짊어지기로 합의했다는 사실만으로 AI의 정답보다 ‘더 나은 답’이 된다.
다만 자동화를 한 덩어리로 보면 답을 그르친다. 보조에서 대체까지 층이 있고, 층마다 답이 다르다.
| 단계 | 태도 | 요지 | |
| ① | 모더레이션 보조 | 적극 활용 | 혐오·위반 감지와 수정 제안. 판정과 책임은 사람과 커뮤니티, 이의제기 절차 공개 |
| ② | 요약·분류·의견 지형 | 투명하게 활용 | 수천 목소리를 정제해 합의점과 갈림을 드러냄. 최종 의제는 사람이 확정 |
| ③ | 퍼실리테이션 | 조건부 활용 | 발언권 관리·실시간 요약·진행 보조. 진행 규칙의 공개가 조건 |
| ④ | 대리 참여 | 신중한 실험 | 에이전트가 나 대신 숙의에 참여 — “나를 얼마나 나답게 대표하는가”는 열린 질문 |
| ⑤ | 합의 도출·여론 판정 | 경계 | 요약·분류와 합의 도출은 전혀 다르다. 합성 페르소나의 합의는 누구의 합의인가 |
| ⑥ | 결정 대체 | 선을 긋는다 | “AI에 물어봤다”는 판단의 외주화, 책임의 실종 |
①~④는 설계의 문제, ⑤~⑥은 선택의 문제다. 그리고 그 선을 긋는 것은 기술이 아니라 인간이다. 앞서 말한 ‘일반의지’의 공상은 ⑥에 놓인다 — 그 자리에서만 이 얼굴은 환상이라 불릴 만하다.
우리가 직면한 진짜 어려움은 현실의 토양이 허약하다는 데 있다. 공론장은 오염되고 시민적 통제의 기반은 아직 여리다. 이 혼란 속에서 시민들은 점차 인간의 민주주의에 대한 믿음을 잃어가고 있다. 바로 이 틈을 기술낙관론으로 무장한 빅테크 기업의 CEO들이 파고든다. 그들은 인간의 불완전성은 강조하고 기술의 무결성은 과장하며, 마치 새로운 종교의 선지자처럼 행동한다. 불편부당하고 유능하며 사심 없이 24시간 작동하는 ‘AI라는 새로운 신’이 인류의 모든 문제를 해결해 줄 것이라는 이 위험한 복음은, 신도들을 늘려가면서 시민사회의 기반을 허물며 민주주의의 종말을 재촉하고 있다.
그런데, 여기 다른 이야기가 하나 더 있다
앞의 셋은 문법이 같다. AI가 주어이고 민주주의가 목적어다 — AI가 민주주의를 돕고(①), 위협하고(②), 대신한다(③). 셋을 나란히 놓으면 「AI를 어떻게 다룰 것인가」의 목록이 된다.
넷째에서 주어와 목적어가 바뀐다. 민주주의가 주어가 되고 AI가 목적어가 된다.
4. 주권 — 통제와 소유 (Democratizing AI)
네 번째 얼굴은 ‘AI 권력에 대한 민주적 통제와 공유’다. AI가 노동, 불평등, 기본권 등 사회 전반에 막대한 영향을 미치는 현실에서, 그 통제와 소유권을 소수 기술 기업의 손에서 시민과 공동체로 가져오려는 시도다.
이 시도는 기업이 따라야 할 윤리적·법적 책임을 정의하는 것에서 시작해, 근본적으로는 ‘소유와 분배’의 문제로 확장된다. 시민사회가 AI의 개발 방향과 데이터 활용 방식에 대해 구속력 있는 결정을 내릴 수 있는 실질적인 거버넌스 체계를 구축해야 하고, 시민의 데이터로 학습된 AI가 창출하는 부에 대해 시민들은 ‘주권자’로서 개입해야 한다. 데이터 제공자인 시민과 노동자, 사용자가 플랫폼의 지분을 공유하고 운영에 참여하는 모델이 필요하다.
이 얼굴은 네 가지 권리로 펼쳐진다.
| 권리 | 무엇인가 |
| 알 권리 | 도입한 AI가 어떻게 작동하는지 — 학습 데이터·작동 기준·판단 근거를 들여다볼 수 있다 |
| 결정·개발에 참여할 권리 | 무엇을 만들고 어떻게 쓸지 함께 정한다. 도입·변경은 자문을 넘어 구속력 있는 절차를 거친다 |
| 책임을 묻고 멈출 권리 | 오작동·해악에 이의를 제기하고, 돌이키고, 필요하면 중단한다. 최종 판단자는 사람이다 |
| 성과를 함께 나눌 권리 | AI가 만드는 이로움 — 효율·통찰·자원 — 이 모두에게 닿는다 |
앞의 세 권리가 ‘누가 결정하는가(by)’를 이루고, 마지막이 ‘누구에게 이로운가(for)’를 이룬다. 여기에 ‘누구의 것인가(of)’가 더해질 때 기술은 온전히 민주적이 된다. for만 갖춘 기술도 소중한 공익 기술이고, of와 by가 더해질수록 민주적 기술에 가까워진다.
공익을 위해 작동하고, 윤리적 지침을 엄수하며, 부를 공동체와 나누도록 AI를 통제하는 가장 단단한 방법은 그 AI가 ‘공동체의 것(Commons)’이 되는 것이다. 소유와 운영이 일치하는 ‘사회연대경제(Social and Solidarity Economy)’가 이를 실현하는 구체적인 모델로 주목받는 이유다. 그리고 이 모든 노력의 궁극적인 지향점은 AI 기술이 창출하는 풍요가 모든 시민의 기본적 삶을 보장하는 토대가 되는 사회, 즉 ‘AI 기본사회’로 나아가는 길이다.
| 구분 | 정의 및 역할 | 영문 | 자리 |
| ① 확장 | 숙의 민주주의의 한계(규모·시간)를 극복하는 기술적 조력자 | AI for Democracy | 도구 |
| ② 신뢰 | 알고리즘에 의한 여론 조작과 탈진실을 방어 | Protecting Democracy from AI | 방패 |
| ③ 자동화 | 보조에서 대체까지 여섯 층. 층마다 답이 다르다 | Automated Democracy | 경계 |
| ④ 주권 | AI의 사회적 영향력과 이익 분배, 개발과 운영을 공동으로 결정 | Democratizing AI | 토대 |
[표] AI 민주주의의 네 얼굴
결론: ④가 서야 ①②③이 모두 가능하다
우리가 “AI 민주주의”라는 용어를 사용할 때, 다음을 명확히 구분해야 한다.
우리는 AI라는 도구(①)를 활용하여 민주주의의 한계를 넓힐 수 있다. 동시에 그 기술이 초래할 공론장과 사회적 자본의 붕괴(②)를 막아내기 위해 방어선을 구축해야 한다. 자동화(③)에 대해서는 층을 갈라 답하고, 결정을 대체하는 자리에는 선을 그어야 한다.
그리고 이 셋 모두가 주권(④) 위에 선다. 도구로 쓰는 AI도, 방패로 쓰는 AI도 남의 것이면 언제든 거두어질 수 있고, 자동화의 선조차 결국 그 AI를 소유한 쪽이 긋기 때문이다.
그렇다면 무엇을 할 것인가. 세 가지를 제안한다.
- 거버넌스 안에 시민의 자리를 만들자. 영향받는 사람이 결정 과정에 들어간다. 의제를 제기하고 사실을 확인하고 대화하는 시민 광장이 그 자리를 연다.
- AI를 공동의 자산으로 만들자. 서비스·데이터·모델·컴퓨트 네 층 모두가 공유지로 열린다. 데이터는 시민의 삶과 노동이 쌓인 공동 자산이다.
- 삶을 두텁게 하는 권리로 보장하자. 노동·복지·교육·금융·문화·안전·환경 — 삶의 필수 영역의 디지털 서비스를 권리로. 사전·사후 이익 분배 구조가 그것을 떠받친다.
한 문장으로 줄이면 이렇다. AI를 시민이 소유하고 결정해, 시민의 삶을 두텁게 하는 민주적 인프라로. 그렇게 해 내지 못한다면 우리는 인류 역사 속에서 200여 년으로 잠시 반짝였던 민주주의의 퇴장을 지켜보는 세대가 될 것이다.
갱신 이력 — 2026년 2월 최초 발행. 2026년 8월 개정: ① 넷째 자리를 ‘주권’으로 옮기고 자동화를 셋째로 두었다. 앞의 셋은 AI가 주어이고 넷째에서 주어와 목적어가 뒤집히므로, 넷째는 나란한 칸을 넘어 다른 이야기가 된다. ② 자동화를 통째로 ‘환상’이라 부르던 것을 여섯 층의 스펙트럼으로 나누었다. ③ 네 얼굴의 이름을 확장·신뢰·자동화·주권으로 통일하고, 주권의 네 권리와 세 가지 제안을 더했다.
(끝)
