결정 앞에서 AI가 쓰는 기록과 AI를 쓸 기회도 사람이 함께 살펴야 합니다 — AI에 맡기지 않을 일의 목록은 어디까지 넓어질까요
1. 복지 상담을 AI가 받아 적기 시작했습니다
보건복지부는 13일부터 지방정부 복지 공무원이 쓰는 현장 업무 앱 「모바일 행복이음」을 고쳐 열었습니다. 보도자료에 따르면 공무원이 상담 내용을 음성으로 녹음하면 AI가 텍스트로 바꿔 요약하고, 태블릿으로 신청서를 쓰고 전자서명까지 받아 현장에서 신청을 마칩니다. 그동안 이 앱의 사용률은 전체 시군구의 25% 정도였습니다. 발표 자료에는 녹음 동의나 요약 기록을 확인하고 고치는 절차가 나오지 않습니다.
한국사회보장정보원 한은희 부연구위원은 참여연대 「월간 복지동향」 10월호 칼럼에서 「효율화로 생긴 시간은 저절로 사람에게 돌아가지 않는다」고 쓰고, 현장 방문과 사례관리를 늘리도록 일하는 방식을 바꾸고 연결의 깊이를 재는 성과지표를 세우자고 제안했습니다. 저도 12일 안동 전국자원봉사컨퍼런스 발표에서 AI를 들일 때는 현장의 의견을 먼저 듣고 현장이 개발과 운영에 함께해야 한다고 말했습니다.
자동화된 결정 앞에 선 사람의 권리는 법에 한 칸 있습니다. 개인정보 보호법 제37조의2는 AI를 포함한 완전히 자동화된 시스템이 권리·의무에 중대한 영향을 주는 결정을 내리면 정보주체가 그 결정을 거부하거나 설명을 요구할 수 있게 하고(동의·계약 등에 따른 결정은 거부 대상에서 빠집니다), 처리자에게 결정의 기준과 절차를 공개하게 합니다. 행정청의 자동적 처분은 이 조문 밖에 두고 행정기본법에 맡깁니다(아래 3번 꼭지). 두 법이 붙드는 대상은 모두 「결정」입니다. 이번 AI는 결정에 앞서 그 근거가 될 상담 기록을 씁니다. 요약이 수급 판단의 재료가 된다면, 상담받는 사람이 요약을 보고 고칠 길과 공무원이 요약을 바로잡을 시간도 함께 설계돼야 합니다.
- 보건복지부(정책브리핑), 복지서비스, 현장에서 상담부터 신청까지…AI로 더 똑똑해진 「모바일 행복이음」
- 참여연대 월간 복지동향, AI가 벌어준 시간, 복지는 어디에 써야 하는가
- 국가법령정보센터, 개인정보 보호법 제37조의2
2. 한국의 생성형 AI 이용, 소득에 따라 크게 갈렸습니다
OECD가 5일 낸 「디지털 경제·사회 전망 2026」의 통계 부록을 분석한 데이터솜 보도에 따르면, 2025년 한국의 생성형 AI 이용률은 46.4%로 OECD 평균을 웃돌았지만 소득 상위 20%는 55.9%, 하위 20%는 10.5%였습니다. 둘 사이 45.4%p의 격차는 비교 자료가 있는 30개국 가운데 첫째였고, OECD 평균 격차 21.9%p의 두 배를 넘었습니다.
서울시가 다시 꺼낸 AI 접근 정책은 대상을 나이로 정하고 소득은 우선순위로 반영합니다. 서울시는 2027년 예산안에 청년 AI 성장권 266억 원을 담았습니다. 보도에 따르면 서울에 사는 청년 50만 명에게 1년간 AI 이용권을 주되 사회 배려 청년을 먼저 뽑고, 입력·출력 데이터를 상용 모델 학습에 쓰지 못하게 계약에 적을 계획입니다. 같은 사업의 추경 예산 56억 원은 9월 11일 시의회에서 전액 삭감됐습니다.
같은 날 동료 의원 아홉 명과 함께 토론회를 마련한 함대건 서울시의원은 청년이 「디지털 전환의 수혜자를 넘어 변화의 주체」가 되는 정책을 말했고, 보도에 따르면 그 자리에서는 구독료 지원에 머물지 말자는 의견이 모였습니다. 2027년 예산은 20일부터 상임위원회 심사에 들어갑니다. 사회 배려 청년 우선 선발이 소득 격차를 얼마나 메우는지는 이용률을 소득 분위별로 공개해야 확인할 수 있습니다. AI가 모두에게 닿는지(for)를 따지는 첫걸음입니다.
- 데이터솜, 한국 생성형 AI, 소득별 이용격차 30개국 최대
- 아주경제, 서울시 내년 예산 55.7조 편성…오세훈 「청년 AI·주거 안정 집중」
- 뉴시스(파이낸셜뉴스 게재), 서울시, 청년 50만명에 1년간 AI 무료 이용권 지급 재추진
- 뉴스토마토, 청년 AI·한강버스…오세훈, 민주당 「과반」 시의회와 본예산 「첫대결」
- 서울신문, 함대건 서울시의원, 「청년 AI 예산 삭감」 해법 모색
3. 유럽의회, 정치적 결정은 사람의 몫이라고 결의했습니다
12일 유럽의회는 헌법문제위원회의 자체 발의 보고서를 바탕으로 AI와 민주주의에 관한 결의를 찬성 405표, 반대 133표, 기권 60표로 채택하고 EU 기관이 쓰는 AI를 사람 중심으로 두고 사람의 감독 아래 두라고 요구했습니다. AI가 사람의 정치적 책임을 대신하거나 순전히 자동화된 정치적 결정으로 이어져서는 안 된다고 적었고, 유럽 선거법 개혁, 개인의 정체성·초상 보호와 알고리즘 투명성을 EU 기본권 헌장에 더하는 일, 의회 안에 AI 관측 조직을 두는 일도 제안했습니다.
국내에서도 무엇을 AI에 맡기지 않을지 묻는 목소리가 나왔습니다. 4일 참여연대와 국회의원들이 함께 연 「금지AI 규제 마련을 위한 인공지능기본법 개정 토론회」에서 발제자와 토론자들은 공공장소의 실시간 원격 생체인식, 집회 참가자의 자동 식별·추적, 개인을 점수 매겨 차별하는 AI, 인간의 실질적 통제 없이 타격·살상을 결정하는 AI를 법으로 금지하자고 제안했습니다.
한국 법에도 이런 선이 하나 그어져 있습니다. 행정기본법 제20조는 행정청이 법률에 따라 AI를 포함한 완전히 자동화된 시스템으로 처분을 할 수 있게 하면서 「처분에 재량이 있는 경우는 그러하지 아니하다」고 적습니다. 재량이 드는 처분은 사람에게 남긴 조문입니다. 유럽의회가 정치적 결정에, 행정기본법이 재량 처분에 그은 선은 AI가 결정을 대신하는 자리를 다룹니다. 국내 시민사회는 그 곁에 감시·생체인식처럼 AI를 쓰는 일 자체를 막는 선을 더하고, 살상 결정에는 인간의 실질적 통제를 세우자고 요구합니다.
- European Parliament, AI in democracy: ensuring oversight and compliance with EU values
- 경향신문, 「무엇을 AI에 맡기지 않을 것인가」…시민사회, 감시·무단 정보 수집 AI 금지 촉구
- 국가법령정보센터, 행정기본법 제20조
이번 주에 남는 생각
유럽의회와 행정기본법은 AI가 홀로 내려서는 안 되는 결정을 글로 적었습니다. 이번 주 복지 상담의 AI는 결정에 앞서 그 재료가 될 기록을 쓰고, AI를 쓸 기회는 소득에 따라 갈려 있습니다. 결정에 사람을 남기는 일에 더해, 결정 앞에서 AI가 무엇을 적는지는 상담받는 사람과 현장 공무원이, AI를 쓸 기회가 누구에게 닿는지는 이용자와 시민이 함께 살피는 자리가 필요합니다. AI에 맡기지 않을 일의 목록에 「당사자가 확인하지 못한 기록」을 넣고, 기회가 닿는 곳은 소득별 공개로 함께 지켜볼 수 있을까요?
이 소식은 자료 수집과 초안을 Claude(Anthropic의 AI)가, 고르고 고치고 판단하는 일을 권오현이 맡아 함께 썼습니다.