팜데저트 시의회, AI 위험도 3단계 정책 만장일치 통과…중간 이상은 부서장 승인 필요

팜데저트(Palm Desert) 시의회가 시청 업무에서 인공지능(AI)을 어떻게 쓸 수 있는지 정한 정책을 만장일치로 통과시켰다. 지역 매체 마이뉴스LA(MyNewsLA)에 따르면 정책은 금요일부터 효력이 생겼다. 핵심은 AI 활용을 위험도에 따라 낮음·중간·높음 세 단계로 나누고 단계별로 승인 절차를 달리하는 구조다.

시의회는 8일(현지시각) 저녁 회의에서 시 직원과 공직자가 시가 승인한 AI 도구를 쓸 수 있는 범위를 정리한 정책안을 표결에 부쳤다. 표결 전 지역 매체 후들린(Hoodline)은 회의가 오후 4시 팜데저트 시청에서 열릴 예정이라고 전했다.

위험도 3단계: 능력·접근 권한·영향력 기준

마이뉴스LA가 인용한 시 직원 보고서에 따르면 정책의 핵심 장치는 ‘위험 기반 접근’이다. AI 사용을 낮음·중간·높음으로 분류하는 기준은 AI의 능력, 접근 권한, 잠재적 영향이다. 보고서는 AI를 데이터에서 패턴을 추론해 콘텐츠·예측·추천·분류·추정·행동 같은 결과물을 만들어내는 ‘기계 기반 시스템’으로 정의했다.

중간 또는 높은 위험으로 분류되는 사례도 구체적으로 적시됐다. 민감하거나 접근이 제한된 시 정보를 열람하는 경우가 첫 번째다. 사람의 사전 승인 없이 독자적으로 소통하거나 행동하는 경우, 시에 법적·재정적 약속을 만드는 자율 행동을 하는 경우도 여기에 들어간다. 마이뉴스LA는 이런 용도에 부서장(Department Director) 또는 시티 매니저(City Manager)의 승인이 필요하다고 전했다.

후들린이 정리한 정책안은 단계별 차이를 좀 더 세밀하게 보여준다. 이 매체는 지역 매체 패치와 방송사 KESQ의 보도를 인용했다. 문서 초안 작성, 자료 조사, 내용 요약, 읽기 전용 데이터 연동 같은 낮은 위험의 용도는 결과물에 대한 사람의 검토만 거치면 별도 승인이 필요 없다. 쓰기 권한이 있는 연동이나 자동화된 대외 소통이 걸린 중간 위험 용도는 부서장의 승인이 필요하다고 한다.

가장 높은 단계는 권리·급여·고용과 관련된 결정에 실질적 영향을 줄 수 있는 AI 응용과 시에 법적·재정적 약속을 만드는 자율 행동이다. 후들린이 인용한 KESQ 보도에 따르면 이 단계는 부서장의 승인과 시티 매니저의 서면 허가가 모두 필요하다. 다만 마이뉴스LA는 중간·높은 위험 용도에 ‘부서장 또는 시티 매니저’ 승인이 필요하다고만 요약했다.

금지선: 기록 위조·보안 우회

정책은 위험 등급과 무관하게 직원이 AI로 해서는 안 되는 행위도 못박았다. 마이뉴스LA에 따르면 직원은 AI로 시 기록이나 소통 내용을 ‘위조하거나 날조’할 수 없다. 실제 인물이나 시가 하지 않은 발언·행동을 했다고 허위로 귀속시키는 것도 금지된다. 시의 보안 통제, 접근 제한, 필수 승인 절차를 우회하는 용도 역시 막힌다.

후들린은 KESQ를 인용해 같은 금지 조항을 정책안 단계에서 전한 바 있다. 같은 보도에서 평상시 직원들이 시가 승인한 AI 도구를 쓰는 일은 계속 허용된다고 했다. 금지는 도구 사용 자체가 아니라 기록의 신뢰성과 시 내부 통제를 해치는 방식에 집중돼 있다.

후들린은 패치 보도를 인용해 투명성 장치도 소개했다. 시가 승인한 AI 도구의 공개 목록을 유지하고, AI가 시민과 직접 소통할 때는 AI임을 스스로 밝히도록 의무화한다는 내용이다. 이 두 조항이 최종 통과본에 포함됐는지는 마이뉴스LA 보도에 나와 있지 않다.

적용 대상과 AI 담당관

적용 범위는 넓다. 후들린이 인용한 KESQ 보도에 따르면 정책안은 인턴, 자원봉사자, 선출직·임명직 공직자까지 ‘시 직원’ 범주에 넣었다. 마이뉴스LA도 정책이 시 직원과 공직자가 시 승인 AI 도구를 쓰는 방식을 규정한다고 전했다.

정책을 운영할 책임자도 이미 정해져 있다. 마이뉴스LA는 시가 지난 3월 조 발리치를 첫 AI 담당관으로 임명했다고 전했다. 3월은 2026년 3월이다. 발리치는 정책을 집행하고 위험 분류 프로그램을 구체화하는 역할을 맡는다. 후들린은 시 직원 명부에 이 담당관이 시티 매니저 사무실 소속으로 올라 있다고 전했지만, 그 소속을 확인해 주는 자료는 이 명부뿐이라고 단서를 달았다.

후들린에 따르면 새 정책은 시가 초기 실험 단계에서 주로 생성형 AI에 초점을 맞춰 운영하던 임시 지침을 대체한다. 이번 정책은 생성형 AI 한 가지에 국한하지 않고 AI 활용 전반을 위험도로 분류한다는 점에서 임시 지침과 틀이 다르다.

신중론과 다른 지자체의 움직임

표결에 앞서 지역 방송 NBC 팜스프링스는 시정 토론 프로그램 ‘로긴 리포트’에서 이 사안이 다뤄졌다고 전했다. 방송은 시가 최근 AI 지원 건축 설계도 검토 시스템을 기술이 아직 쓸 만큼 준비되지 않았다는 이유로 거부했다는 사실을 함께 짚었다.

출연자 드루비는 직원의 업무를 돕는 AI 활용에는 찬성하지만 기술이 계속 진화하는 만큼 분명한 한계가 필요하다고 말했다. 특히 AI가 사람에게 직접 영향을 미치는 결정을 내리는 데는 더 큰 우려를 나타냈다. 태미 블랫은 AI에 의존하는 데 회의적이라며 실수를 막을 만큼 사람의 감독이 충분할지 의문을 제기했다. 잠재적 이점은 인정하되 사람이 AI 활용에 가깝게 관여해야 한다는 입장이었다.

토론에서는 직원이 AI가 만든 정보를 검토하고 최종 결정을 직접 내리게 하는 안전장치의 중요성도 논의됐다. 일부 출연자는 직원이 통제권을 유지한다면 AI가 허가 검토 등 시 업무를 간소화하고 속도를 높일 수 있다고 주장했다. NBC 팜스프링스는 쟁점을 AI의 잠재적 효율성과 주민에게 영향을 미치는 결정에서의 책임·인간 판단 사이 균형으로 요약했다.

후들린은 다른 지방정부의 움직임도 소개했다. 실리콘밸리 리더십 그룹이 6월 주 정부가 지방정부의 책임 있는 AI 도입을 어떻게 도울 수 있는지 담은 평가서를 내놓았다. 시민 포털 보도에 따르면 애리조나주 쿼츠사이트는 승인 도구를 제한하고 직원 교육, AI 결과물에 대한 사람의 검토, 공개 투명성을 요구하는 AI 사용 정책 초안을 채택했다.