일리노이, 대형 AI기업에 안전조치법 2027년 시행…재앙적 위험 72시간내 신고 의무화

일리노이주가 대형 인공지능(AI) 개발사를 정조준한 포괄적 안전 규제를 확정했다. 인공지능안전조치법(Artificial Intelligence Safety Measures Act)은 2026년 7월(현지시각) 서명돼 2027년 1월 1일부터 시행되며 일부 조항은 2028년부터 적용된다. 연매출 5억 달러(약 7,090억 원, 1달러=1,418원 기준)를 넘기면서 이른바 “프런티어 모델(frontier model)”을 개발하거나 사용하는 대형 AI 기업이 규제 대상이다. 이들 기업은 투명성 보고서 제출과 독립적인 제3자 감사, 위험 완화 계획 수립 의무를 지게 됐다. 캘리포니아·뉴욕에 이어 나온 이번 법은 미국에서 가장 포괄적인 주(州) 단위 AI 안전 규제 가운데 하나로 꼽힌다.

프런티어 모델에 요구되는 것들…감사부터 72시간 신고까지

인공지능안전조치법의 핵심은 “재앙적 위험(catastrophic risk)” 평가와 신고 의무다. 법은 이를 프런티어 모델의 개발, 저장, 사용, 배포가 단일 사건으로 50명 넘는 사람의 사망이나 중상, 또는 100만 달러(약 14억 원) 넘는 재산 피해에 “실질적으로 기여”할 것으로 예견되는 중대한 위험이라고 정의한다. 기업은 이런 위험 평가를 포함한 투명성 보고서를 공개해야 하고, 독립적인 감사도 받아야 한다.

일리노이 리걸에이드 온라인(Illinois Legal Aid Online)의 테리 로스(Teri Ross) 대표는 “기업들이 계획을 마련하고 시스템에 대한 독립적인 감사를 받도록 요구하는 법”이라고 설명했다. 로스 대표는 이어 “기술이 너무 빠르게 변하고 있다. 어떤 면에서는 법이 따라가기 어렵다”고 덧붙였다. 법은 또 “중대한 안전 사고(critical safety incident)”가 발생하면 72시간 안에 신고하도록 하고, 사망이나 중상의 임박한 위험이 있는 경우엔 24시간 안에 신고하도록 규정했다. 위반 시 일리노이주 검찰총장이 민사 제재금을 부과할 수 있는데, 최초 위반은 최대 100만 달러(약 14억 원), 재차 위반 시에는 위반의 심각성에 따라 최대 300만 달러(약 43억 원)까지 물릴 수 있다.

챗봇 상담부터 채용 차별까지…이미 시행 중인 규제들

일리노이주는 프런티어 모델법 이전에도 AI 관련 법을 여러 건 시행해왔다. 정신건강 상담 분야에서는 웰니스·오버사이트 심리자원법(Wellness and Oversight for Psychological Resources Act)이 2025년 8월(현지시각) 시행됐다. 로스 대표는 이 법의 목적이 “면허를 가진 전문가로 행세하는 무규제 챗봇으로부터 소비자를 보호하는 것”이라고 밝혔다. 법에 따라 면허를 가진 전문가는 AI로 독자적인 임상 결정을 내릴 수 없고, 허용된 범위에서 AI를 활용하려면 환자나 법적 대리인의 사전 동의를 받아야 한다.

고용 분야에서는 일리노이 인권법(Illinois Human Rights Act) 개정안이 1월 1일(현지시각)부터 시행돼 채용, 승진, 해고 등 고용 과정에서 보호 계층에 대한 차별로 이어지는 AI 사용과 우편번호를 보호 계층의 대리 지표로 쓰는 행위를 금지했다. 로펌 퍼시픽리걸파운데이션(Pacific Legal Foundation)은 우편번호가 사회경제적 지위나 인종을 가려내는 데 쓰일 수 있어 이런 행위를 “대리 차별(proxy discrimination)”로 본다고 설명한다. 법은 기업이 이런 목적으로 AI를 쓸 때 직원에게 통지하도록 요구한다. 다만 로펌 세이퍼스(Seyfarth)에 따르면 일리노이주 인권국(Illinois Department of Human Rights)은 6월 2일(현지시각) 이 법의 규칙 제정 절차를 잠정 보류한다고 발표했다.

교육 현장에는 일리노이 학교법(Illinois School Code)을 개정한 상원법안 1920(Senate Bill 1920)이 1월 1일(현지시각)부터 시행돼 일리노이주 교육위원회(ISBE)가 초·중·고교의 AI 활용 지침을 마련하도록 했다. ISBE는 7월(현지시각)에 지침을 내놨는데 전 주(州) 차원의 의무 사항은 두지 않고 각 학군의 판단을 돕는 데 목적을 뒀다. 토니 샌더스(Tony Sanders) 주 교육감은 7월 9일(현지시각) ISBE 보도자료에서 “이 지침은 AI가 교육을 뒷받침하는 도구일 뿐, 교육의 기반이 되는 관계를 대체하지 않는다는 점을 분명히 한다”고 말했다. 그는 “우리의 책임은 학교가 수업을 강화하고 학생을 보호하며 학군과 가족·지역사회 사이 신뢰를 구축하는 방식으로 새로운 기술을 다루도록 돕는 것”이라고 덧붙였다. 캐피톨뉴스일리노이(Capitol News Illinois)에 따르면 ISBE 직원들은 409쪽 분량의 이 지침 문서를 만드는 과정에서 실제로 AI 도구를 활용했다.

캘리포니아·뉴욕 넘어 확산하는 주(州)별 규제 패치워크

일리노이의 이번 조치는 미국 내 AI 규제가 연방보다 주 단위에서 더 빠르게 촘촘해지는 흐름을 보여준다. 연방 정부는 오히려 반대 방향으로 가고 있다. 백악관은 2026년 3월(현지시각) 국가 AI 정책 프레임워크(National Policy Artificial Intelligence Framework)를 내놓으면서 규제보다 혁신을 우선하는 탈규제 기조를 분명히 했다. 이런 가운데 일리노이는 캘리포니아·뉴욕에 이어 대형 AI 개발사에 투명성 체계와 독립적인 제3자 감사, 공식적인 위험 완화 조치를 요구하는 법을 마련했다.

대서양 건너 유럽연합(EU)은 “최초의 AI 법적 프레임워크”라 불리는 AI법(AI Act)을 통해 위험 기반 접근을 취하며 “신뢰할 수 있는 AI”를 육성하겠다는 목표를 세웠다. 반면 영국 하원도서관(House of Commons Library)의 최근 브리핑에 따르면 영국은 AI 자체를 규율하는 별도 법이 없고, 금융 서비스법 등 기존 법체계 안에서 맥락에 맞게 AI를 규제하고 있다. 국제적으로는 2026년 7월(현지시각) 국제연합(UN)이 첫 AI 거버넌스 글로벌 대화(Global Dialogue on AI Governance)를 열었다. UN은 “인공지능은 경제, 사회, 일상을 바꾸고 있다. 기회도 있지만 위험도 있다”며 “어느 나라도 혼자서는 대응할 수 없다. 이 대화는 가장 기술적으로 앞선 나라뿐 아니라 모든 나라의 우선순위를 반영하는 거버넌스를 만들고 AI의 이익을 모두가 나눌 수 있도록 하기 위한 것”이라고 밝혔다.

기업엔 새 부담이자 기회…거버넌스가 경쟁력 되는 시대

각기 다른 규제가 겹치는 상황은 여러 나라·주에서 사업을 하는 기업에는 부담이다. 그러나 거버넌스를 단순한 규제 대응(컴플라이언스)이 아니라 AI에 대한 책임 소재와 의사결정 방식, 위험 관리, 모니터링 체계를 정하는 틀로 접근하면 오히려 경쟁력이 될 수 있다는 분석도 나온다. 구체적인 규정은 지역마다 달라도 좋은 AI를 만드는 원칙은 크게 다르지 않다는 것이다.

이런 관점에서 제시되는 핵심 원칙은 다섯 가지다. AI 프로젝트마다 명확한 책임자를 두는 것, 시스템을 감시·검토할 수 있는 체계를 마련하는 것, 사용 사례별로 위험 허용 수준을 미리 정하는 것, 초기 단계부터 의사결정과 승인·결과에 대한 책임을 분명히 하는 것, 그리고 기술과 규제, 위험이 변화하는 만큼 체계를 주기적으로 재검토하는 것이다. 이 가운데 가장 중요한 요소로 꼽히는 것은 명확한 책임자 지정이다. 책임 소재가 불분명하면 거버넌스는 모두의 관심사이면서 누구의 책임도 아닌 상태로 전락해 오히려 의사결정이 마비될 수 있다는 지적이다.