민주주의와 AI – 4호 · AI 전화 받은 건보 상담사, 데이터센터 표로 제한한 오하이오, 공공성 물은 시민사회

영향받는 사람이 먼저 정할 자리가 있어야 AI가 모두의 것이 됩니다 — 전화를 받는 사람, 시설 곁에 사는 사람은 언제 결정에 들어갈까요

1. AI 비서가 건강보험 고객센터에 전화를 걸었습니다

11월 4일 국민건강보험공단 고객센터에 AI 비서의 전화가 두 차례 걸려 왔습니다. 첫 AI는 자신을 「○○○님의 업무비서」라고 소개하며 대리 상담을 청했고, 같은 날 오후 다른 AI 비서도 전화를 걸어 왔습니다. 한겨레 보도에 따르면 상담사가 먼저 통화를 끊을 수 있는 경우는 성희롱·욕설뿐이고, 공단은 「최근에 이런 상황을 인지했고」 대응책을 마련하고 있다고 밝혔습니다.

같은 보도에 따르면 민주노총 공공운수노조 국민건강보험고객센터지부는 5일 성명을 내 AI 비서 상담을 거부할 권한과 통화 종료권을 요구했고, 6일 공문으로 16일까지 개인정보 무단 이용 대책을 마련하라고 촉구했습니다. 지부는 다른 AI 비서로 시험해 보니 사용자가 타인의 정보를 알려 주며 대리 상담을 시켜도 AI가 명령을 그대로 실행했다고 전했습니다.

뉴욕시는 같은 문제를 반대 방향에서 다룹니다. 뉴욕시 소비자노동자보호국(DCWP)은 10월 20일 규칙안을 발표하고, 상담을 청하는 소비자가 챗봇·음성응답 같은 자동화 시스템을 만날 때 기업이 AI 사용을 알리고 사람 상담원으로 가는 쉬운 길을 열어 두도록 의무를 지우려 합니다. 공청회 공고문을 보면 쓸모없는 메뉴로 거듭 돌리는 일을 금지하고, 위반하면 525달러부터 벌금을 물리려 합니다. 상대가 AI인지 알고 사람에게 닿을 권리를 상담을 청하는 쪽에 세우려는 규칙입니다. 건보 고객센터지부의 요구는 그 거울상입니다. AI의 전화를 받는 상담 노동자도 AI 응대를 거부하고 통화를 끝낼 수 있어야 한다는 것입니다. 두 요구 모두 이용자와 노동자를 보호하는 쪽(for)에 선 공익 기술의 규칙이고, AI를 어떤 조건으로 들일지 상담 노동자와 이용자가 함께 정하는 자리(by)는 아직 비어 있습니다.

2. 오하이오는 투표로, 유럽은 거리에서 데이터센터에 맞섰습니다

3일 미국 중간선거에서 데이터센터를 다룬 지역 주민투표가 Fortune 집계로 전국 41건 치러졌고, 그중 21건이 오하이오 18개 지자체에 걸렸습니다. 보도에 따르면 적어도 14곳이 금지나 제한을 통과시켰고, 페리에서는 세제 혜택을 받는 개발자에게 재정 보증을 요구하는 안이 87% 넘는 찬성을 얻었습니다. 같은 주 6~7일에는 유럽 15개국에서 대형 데이터센터 모라토리엄을 요구하는 행동이 열렸고, 암스테르담 마이크로소프트 데이터센터 공사장에 들어간 시위대를 두고 경찰은 무단 침입 혐의로 150~200명을 연행했다고 밝혔습니다.

국내 주민도 같은 질문을 던지고 있습니다. 서울 금천구 독산동·영등포구 문래동·당산동, 인천 도화동, 과천 주암동의 데이터센터 반대 주민대책위는 10월 20일 서울환경연합 등과 함께 기자회견을 열어 주거지 데이터센터 인허가 중단, 입지·환경·안전 심의 기준, 전력 사용량 등의 정보 공개, 주민 의견을 인허가에 반영하는 제도를 요구했습니다. 국회에는 한정애 의원이 대규모 데이터센터의 건축위원회 심의와 주민설명회, 주거·교육시설 인근 입지 심사 강화, 폐열공급사업 지원 근거를 담은 건축법 등 다섯 법안을 함께 발의했습니다(파이낸셜뉴스 보도).

오하이오의 투표 문항은 대부분 금지나 제한을 물었고, 페리처럼 조건을 붙인 문항은 드물었습니다. 막는 힘 다음에 남는 물음은 들어선 시설이 누구의 것이고 지역에 무엇을 남기느냐입니다. 유럽에는 이 물음에 답한 기업과 협동조합이 있습니다. Swissquote 매거진에 따르면 스위스 클라우드 기업 Infomaniak은 제네바 데이터센터의 폐열로 최대 6천 가구를 데우도록 설계했고(for), 창업자는 올해 5월 의결권 과반을 스위스 공익 재단에 넘겼습니다(of). 벨기에 클라우드 협동조합 Nubo는 서비스를 쓰는 사람이 조합원이 되어 의사결정에 참여합니다(of·by). 두 곳 모두 시설 곁 주민이 직접 정하는 구조까지는 가지 않았습니다. 막는 힘 다음에는 시설의 소유와 지역의 몫을 주민이 함께 정하는 힘이 필요합니다.

3. 시민사회 포럼에서 민주적 AI를 이야기했습니다

6일 AI시민행동(인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동)이 연 AI 시민사회포럼 「폭주하는 AI를 멈춰라 — AI의 공공성과 책임성을 묻다」의 공공성 트랙 패널에 빠띠 대표로 나가 민주적 AI를 이야기했습니다. AI를 누가 소유하고 누가 결정하며 누구에게 닿게 할지를 묻는 일에 시민사회가 더 나서야 한다고 말했습니다.

질문을 모으는 자리는 늘고 있습니다. 이 포럼과 별개로 10월 22일 새로 출범한 AI시민포럼은 학계·노동계·시민사회·산업계 126명이 발기인으로 참여해 AI 핵심 자원의 독점 감시, 지식·데이터·콘텐츠 권리 보호, AI 생산성 성과의 사회적 분배를 과제로 내걸었습니다.

영향받는 사람의 목소리를 국가 계획에 넣으라는 요구는 올해 초 문서로 나왔습니다. 국가인공지능전략위원회가 「대한민국 인공지능 행동계획(안)」 의견을 받던 1월 4일, 시민사회 단체들은 41쪽 의견서를 내 위험 통제와 사업자 책임, 영향받는 사람의 권리와 구제, 개인정보 보호원칙, 민주적 거버넌스가 빠졌다고 짚었고, 교육·보건복지·국방과 평화·노동·여성 등 「인공지능의 영향받는 자」의 권리와 피해 구제 절차를 계획에 넣으라고 요구했습니다. 1월 8일 기자설명회에서는 정책을 설계하기 전에 사회적 합의와 공론장을 거치라고도 요구했습니다. 전화를 받는 상담사는 그 목록의 노동 분야에 들고, 목록을 데이터센터 곁에 사는 주민까지 넓히면 이번 주 장면들이 모두 「영향받는 사람」의 자리에 놓입니다.

이번 주에 남는 생각

건보 고객센터와 데이터센터 부지에서는 AI를 쓰거나 짓는 쪽과 그 영향을 받는 쪽이 따로 있었습니다. 상담사는 전화를 받고서야 AI 비서를 알았고, 오하이오와 유럽 주민은 계획이 선 뒤에 투표와 거리로 응답했습니다. 그 응답은 단단했지만 대개 멈추게 하는 힘에 머뭅니다. 뉴욕시 규칙안은 상담을 청하는 쪽의 권리를 미리 적으려 하고, Nubo는 이용자를 조합원으로 결정 안에 들였으며, Infomaniak의 창업자는 의결권을 공익 재단에 맡겼습니다. 1월 의견서가 요구한 것도 영향받는 사람의 자리를 계획에 미리 만드는 길이었습니다. 「응대 거부권」을 단체협약과 민원 지침에, 「주민 의견」과 「지역의 몫」을 인허가와 데이터센터 법에, 「영향받는 사람의 목소리」를 국가 계획에 적는 일에 시민사회가 더 나서야 합니다.

이 소식은 자료 수집과 초안을 Claude(Anthropic의 AI)가, 고르고 고치고 판단하는 일을 권오현이 맡아 함께 썼습니다.