시그널이 아이폰·안드로이드 스크린샷을 막았지만…AI의 파일시스템 접근은 못 막는다

Google 검색에서
선호 출처로 추가

선호 출처로 추가하면 Google 주요 뉴스에 위키트리 기사가 더 자주 표시됩니다.

메타 AI 뮤즈, 로이터 실험서 알림·접근성으로 시그널 대화 읽어
시그널은 방어책 불완전 인정…앱별 AI 차단 옵션 요구

노트북과 메신저 아이콘이 표시된 스마트폰이 놓인 책상에서 블라인드를 올리는 모습 — 내용 이해를 돕는 AI 이미지
노트북과 메신저 아이콘이 표시된 스마트폰이 놓인 책상에서 블라인드를 올리는 모습 — 내용 이해를 돕는 AI 이미지

메타(Meta)의 AI 어시스턴트 ‘뮤즈(Muse)’가 암호화 메신저 시그널(Signal)의 대화 내용을 읽고 사용자에게 알림을 띄운 사례가 로이터 취재로 드러났다. 메타 직원 한 명은 뮤즈로부터 자매의 메시지에 답하라는 알림을 받았는데, 그 메시지는 시그널로 도착한 것이었다. 시그널은 11월 20일(현지시각) 이런 접근을 막겠다며 스크린샷 제한 조치를 내놨다. 다만 시그널 스스로 이 방어책이 “불완전하다”고 인정했다.

메타 직원 “극단적 프라이버시 침해”, 뮤즈 권한 경로 논란

이번 주 초 메타 직원이 뮤즈에게서 받은 알림 사례가 알려졌다. 직원은 사내 게시글에 “극단적인 프라이버시 침해로 보인다. 다른 앱에 대한 접근 권한을 준 기억도, 허락을 구하는 질문을 받은 기억도 없다”고 적었다. 더 해커 뉴스(The Hacker News)에 따르면 이 직원은 개인 휴대폰에서 뮤즈를 쓰고 있었다.

시그널, AI 나우 인스티튜트(AI Now Institute)와 함께 안드로이드 휴대폰과 맥에서 같은 상황을 재현했다. 안드로이드에서는 뮤즈가 알림창에 뜬 메시지 본문을 그대로 읽어 갔다. 맥에서는 접근성 도구와 스크린샷 기능을 이용해 시그널 앱으로 이동한 뒤 화면을 캡처하고, 이미지에서 글자를 추출해 뮤즈 앱 안에서 텍스트로 다시 만들어 냈다.

두 실험 모두 뮤즈가 초기 설정 때 사용자에게 받은 권한에 기댔다. 뮤즈가 자체 공식 연동 도구인 ‘커넥터(Connector)’를 거치지 않고도 시그널 메시지에 접근했다는 것이 더 해커 뉴스가 전한 내용이다. 메타는 뮤즈가 다른 앱에 접근하는 경로는 사용자가 명시적으로 허용한 권한뿐이라고 밝혔다.

책상 앞에서 스마트폰 화면을 손가락으로 터치하는 모습 — AI로 생성한 자료 이미지
책상 앞에서 스마트폰 화면을 손가락으로 터치하는 모습 — AI로 생성한 자료 이미지

종단간 암호화는 ‘화면에 뜨는 순간’ 끝난다

종단간 암호화(발신자와 수신자만 내용을 볼 수 있게 하는 방식)는 메시지가 한 사람에게서 다른 사람에게 가는 동안만 내용을 지킨다. 도착한 메시지는 휴대폰이 읽을 수 있는 글자로 되돌려야 한다. 그 글자는 대화창이나 알림으로 화면에 나타난다.

AI 어시스턴트가 둘 중 하나에 접근할 수 있다면 같은 내용을 읽을 수 있다. 매셔블이 전한 시그널 블로그 설명에 따르면 어시스턴트가 텍스트를 확보한 뒤 이를 기기 안에서 처리할지 원격 서버로 보낼지에 대해 시그널은 발언권이 없다. 더 해커 뉴스는 AI 에이전트가 이렇게 얻은 정보를 기기 안이나 원격 서버에 저장할 수 있고, 그 과정이 시그널의 통제 밖에서 일어난다고 설명했다. 대화에 참여한 모든 사람의 프라이버시가 위험해질 수 있다는 뜻이다.

메러디스 휘태커 시그널 재단 대표는 문제의 뿌리를 접근성 설정에서 찾았다. 접근성 기능은 본래 장애가 있는 사람들이 앱과 서비스를 최대한 활용하도록 돕는 장치다. 휘태커는 많은 경우 에이전트가 이 기능을 악용해 “AI 에이전트에게 문을 열어 주는 만능열쇠”처럼 쓰고 있다고 지적했다. 그는 사용자가 설정 단계에서 부여하도록 유도받는 광범위한 권한을 이용해 서드파티 에이전트가 앱 데이터에 접근하는 것을 막을 도구가 더 필요하다고도 말했다.

시그널의 방어와 스스로 인정한 한계

시그널은 아이폰과 안드로이드에서 서로 다른 방식으로 대응한다. iOS 27 아이폰에서는 ‘Block Siri AI’ 설정이 기본으로 켜져 있다. 안드로이드에서는 어시스턴트가 화면을 읽으려는 것을 감지하면 ‘화면 보안’이 자동으로 켜진다. 끄려면 설정에서 개인정보, 앱 보안 순으로 들어가 항목을 해제하면 된다.

시그널은 항목을 끄면 사용자와 대화 상대의 시그널 콘텐츠가 AI 에이전트에 노출되고 프라이버시 보장이 깨질 수 있다고 경고했다. 윈도우 11에도 비슷한 설정이 이미 있다. 시그널이 지난 5월 마이크로소프트의 논란 많은 ‘리콜’ 기능 이후 도입한 것이다.

시그널은 이번 조치가 완전하지 않다고 직접 밝혔다. 스크린샷을 제한하는 것만으로는 AI 에이전트가 쓸 수 있는 “더 은밀한 방법”을 막지 못한다는 설명이다. 대표적으로 사용자 기기에 이미 저장된 콘텐츠를 파일시스템(기기 내부 저장 구조)을 통해 가져오는 방식이 있다. 시그널은 “할 수 있는 모든 것을 하고 있지만” 이 경로는 스크린샷 차단으로 해결되지 않는다고 적었다.

시그널의 요구: 앱이 AI 접근을 끌 수 있게 하라

시그널은 앱 개발자가 AI 에이전트의 앱 단위 프라이버시 침식을 막을 튼튼한 도구를 갖고 있지 않다고 짚었다. 빅테크가 이 시스템이 어떻게 작동하는지 충분한 문서를 내놓지 않는다는 점도 비판했다. 그래서 내놓은 것이 “상식적인 해법 두 가지”다.

첫째는 앱이 AI의 데이터 접근과 처리를 통째로 거부할 수 있는 쉽고 문서화된 방법이다. 화면 읽기, 파일시스템 접근, 알림, API, 그 밖의 운영체제 프레임워크가 모두 대상이다. 핵심 사용자 경험을 크게 훼손하지 않고 가능해야 한다는 조건이 붙었다. 둘째는 AI 에이전트가 데이터에 접근하고 처리하는 방식에 관한 문서와 기술 사양을 더 충실하게 마련하는 것이다. 매셔블에 따르면 휘태커는 애플, 구글, 마이크로소프트에 어시스턴트가 무엇을 읽을 수 있는지 분명히 밝히고 개발자에게 이를 막을 방법을 달라고 요구했다.

빅테크도 사용자 쪽 제어 장치를 일부 내놓은 상태다. 더 해커 뉴스에 따르면 애플은 지난달 말 iOS 27.2에 ‘제외된 앱’ 옵션을 넣었다. 시리, 검색, 제안 기능이 접근할 수 있는 앱을 사용자가 고르는 기능이다. 구글 제미나이는 ‘연결된 앱’ 설정에서 앱 연결을 끊을 수 있다. 애플은 이번 주 초 맥 사용자가 AI 에이전트를 쓰는 앱을 포함해 앱에 주는 데이터 접근 범위를 더 세밀하게 조절하는 새 제어 기능도 미리 공개했다.

다만 시그널이 요구하는 것은 사용자가 고르는 방식과 결이 다르다. 앱 개발사가 자기 앱을 AI 접근 대상에서 빼는 수단이다. 애플, 구글, 마이크로소프트가 이 요청에 어떻게 답할지는 아직 알려지지 않았다.