공공이 첫 고객이 될 때, 배제도 자동화되는가

과학기술정보통신부가 지난 7월 6일 「'26년 GovTech 창업기업 AI 실증·사업화 지원사업」의 지원 과제 18개를 확정해 발표했습니다. 조달청의 공공 서류 사전검토 플랫폼, 천안시청의 교차로 꼬리물기 관제, 한국도로공사의 고속도로 배수 설계 검증까지, 목록을 훑다 보면 행정의 손이 닿지 않던 구석마다 인공지능이 스며드는 그림이 그려집니다. 그런데 이 명단을 읽는 동안, 8년 전 미국 인디애나의 한 복지 창구가 자꾸 겹쳐 떠올랐습니다.

과기정통부 발표에 따르면 이번 사업은 수요 기반 매칭 방식으로 설계됐습니다. 중앙부처와 지방정부, 공공기관이 현장 수요를 내걸면 그에 맞는 기술을 가진 창업기업이 응하는 구조입니다. 지난 3월 24일 공고 이후 82건이 접수됐고, 사업 타당성과 서비스 경쟁력, 수행역량, 사회적 가치를 종합 평가해 18개가 최종 선정됐습니다. 분야로 보면 대국민 공공서비스 고도화 7건, 지역·사회문제 해결 5건, 공공 인프라 혁신 6건입니다. 선정 기업은 7월 7일부터 9일까지 착수보고회를 거쳐 실증에 들어갑니다.

주목할 대목은 정부가 스스로를 '첫 고객(First Customer)'으로 규정했다는 점입니다. 최동원 인공지능인프라정책관은 민간 창업기업이 공공을 최초 고객으로 삼아 글로벌 시장 진출의 공신력 있는 레퍼런스를 확보하길 바란다고 밝혔습니다. 공공이 마중물이 되어 국내 AI 산업을 키운다는 구상은 분명 설득력이 있습니다. 다만 그 첫 고객의 뒤에는, 서비스를 선택할 수 없는 또 다른 당사자가 서 있습니다. 민원 창구 앞의 시민, 재난 예찰의 대상이 된 농가, 위험성 평가를 받는 건설 현장의 노동자 말입니다.

바로 이 지점에서 버지니아 유뱅크스의 『자동화된 불평등』이 던지는 물음이 유효해집니다. 정치학자인 저자는 미국의 복지 행정이 어떻게 첨단 기술로 무장했는지를 2014년부터 여러 해에 걸쳐 현장에서 추적했습니다. 부제 그대로, 첨단 기술이 어떻게 가난한 사람들을 분석하고 감시하고 처벌하는가를 묻는 책입니다.

첫 번째 무대는 인디애나입니다. 2006년 주정부는 IBM과 13억 달러 규모의 계약을 맺고 복지 자격심사를 자동화했습니다. 대면 창구를 콜센터와 온라인 서식으로 대체하고, 부정수급을 걸러 효율을 높인다는 명분이었습니다. 결과는 정반대였습니다. 서류의 사소한 흠결 하나에도 시스템은 '협조 불이행(failure to cooperate)'이라는 단일 코드를 뱉어냈고, 그 코드는 곧 수급 탈락으로 이어졌습니다.

문제는 그다음이었습니다. 왜 탈락했는지 당사자는 알 수 없었습니다. 기계가 붙인 '협조 불이행'이라는 딱지 앞에서, 무엇에 어떻게 협조하지 않았는지 특정할 수 없으니 이의제기 자체가 봉쇄됐습니다. 자동화 도입 후 첫 3년 동안 거부된 신청은 약 100만 건으로, 그 이전 3년보다 54% 늘었습니다. 주정부는 결국 계약을 파기했습니다. 효율을 좇은 자동화가 배제를 대량 생산한 셈입니다.

두 번째 무대인 로스앤젤레스에서 저자는 노숙인에게 주거를 배정하는 조정형 입력 시스템을 살핍니다. 한정된 집을 취약성 지수로 줄 세워 나눠주는 이 방식은 겉으로는 공정해 보입니다. 그러나 배정을 받으려 입력한 개인정보가 여러 기관과 폭넓게 공유되면서, 도움을 청한 행위가 추적과 감시의 빌미로 되돌아올 수 있다고 저자는 지적합니다.

세 번째가 가장 논쟁적입니다. 피츠버그가 속한 앨러게니 카운티는 아동학대 신고가 들어오면 위험도를 점수로 산출하는 예측모델을 도입했습니다. 저자가 포착한 역설은 이렇습니다. 복지, 사법, 보건 등 공공시스템에 많이 얽힌 가정일수록 데이터의 흔적이 짙게 남고, 그 흔적의 두께 자체가 '위험'의 대리 지표로 쓰였습니다. 결국 가난한 가정과 소수자 가정이 과도하게 표적이 됐습니다. 감시가 촘촘한 삶일수록 위험하다고 판정되는 구조였습니다.

유뱅크스는 이 세 사례를 관통하는 이름을 '디지털 구빈원(digital poorhouse)'이라 붙였습니다. 과거 가난한 이들을 시설에 격리하던 물리적 구빈원이, 이제는 데이터와 알고리즘의 형태로 부활했다는 진단입니다. 도구는 첨단이 됐지만, 누구를 걸러내고 누구를 감당할 것인가라는 오래된 선별의 정치는 그대로 코드 속으로 옮겨 갔다는 것입니다.

물론 미국의 복지 자동화와 한국의 GovTech 실증을 곧바로 포갤 수는 없습니다. 이번에 선정된 과제들은 재난 예찰, 인프라 안전, 행정 부담 경감처럼 배제와는 거리가 먼 영역이 다수입니다. 그럼에도 몇몇 과제는 곱씹어 볼 만합니다. 외국인 주민을 위한 민원 응답, 전기통신금융사기 피해 구제, 건설현장 위험성 평가처럼 판단의 결과가 특정 개인의 권리·안전과 직결되는 영역이기 때문입니다. 이런 곳에서 인공지능의 산출값은 단순한 참고 자료에 머물지 않고, 종종 사실상의 결정으로 굳어집니다.

그래서 실증의 성패를 가르는 질문은 효율의 크기가 아니라 설계의 방향에 있다고 봅니다. 시스템이 누군가를 거부하거나 위험하다고 판정했을 때, 당사자가 그 근거를 이해하고 다툴 통로가 열려 있는가. 오판이 발생했을 때 책임은 알고리즘의 익명성 뒤로 숨는가, 아니면 사람이 지는가. 인디애나의 '협조 불이행' 코드가 남긴 교훈은, 설명 가능성과 이의제기 절차가 사후 보완이 아니라 최초 설계도에 포함돼야 한다는 것이었습니다.

발표문은 이번 사업의 평가 기준에 '사회적 가치'를 넣었다고 적시했습니다. 이 항목이 구호에 그치지 않으려면, 착수보고회에서부터 오판의 비용을 누가 어떻게 감당하는지가 함께 검토돼야 할 것입니다. 공공이 첫 고객이 된다는 말은 시장의 마중물이라는 뜻만은 아닙니다. 그 서비스의 첫 시험대에 오르는 시민이 존재한다는 뜻이기도 합니다.

효율은 측정하기 쉽고, 배제는 세지 않으면 보이지 않습니다. 18개의 실증이 몇 년 뒤 성과로 기록될 때, 그 목록 어디에도 잡히지 않은 '협조 불이행' 판정의 당사자가 없었다고 우리는 자신 있게 말할 수 있을까요. 유뱅크스가 인디애나의 창구 앞에서 던졌던 그 질문을, 이제 우리 차례로 마주할 시간이 다가오고 있습니다.