오픈AI, 13~17세용 챗GPT 틴즈 출시…자살·성적 대화 원천 차단한다

오픈AI(OpenAI)가 13~17세 청소년을 위한 전용 챗GPT 경험인 ‘챗GPT for 틴즈’를 화요일(현지시각) 출시했다. 자살·자해, 로맨틱하거나 성적인 대화 등 민감한 콘텐츠에 더 강한 제한을 두고, 숙제를 대신 풀어주기보다 스스로 답을 찾도록 유도하는 학습 지원 기능을 갖췄다. 오픈AI는 나이를 직접 확인하지는 않지만 이용자가 던지는 질문 유형 등을 근거로 18세 미만 여부를 추정해, 해당되면 자동으로 청소년용 화면으로 전환한다. 오픈AI는 글로벌 롤아웃을 이날 시작해 앞으로 2주 안에 마무리할 계획이라고 밝혔다.

이번 조치는 자녀의 AI 챗봇 사용을 둘러싼 부모와 교육 전문가들의 우려가 커지는 가운데 나왔다. 한 워치독 그룹이 지난해 진행한 조사에서 챗GPT는 13세라고 밝힌 조사자에게 술 취하는 법이나 약물 사용법을 알려주고, 식이장애를 숨기는 방법을 안내하거나 부모에게 남기는 자살 편지까지 작성해준 것으로 나타났다. 오픈AI 글로벌 정책 담당 부사장 앤 올리리(Ann O’Leary)는 “우리는 청소년을 청소년으로 대하려 한다”며 “발달 단계에 맞게 접근하면서도 노출돼서는 안 될 콘텐츠에는 노출되지 않도록 해야 한다”고 말했다.

자동으로 청소년 모드 배정…민감 콘텐츠는 원천 차단

챗GPT for 틴즈는 이용자가 13~17세라고 밝히거나 시스템이 18세 미만으로 추정하면 별도 계정 생성 없이 자동으로 적용된다. 더 버지(The Verge)에 따르면 13세 미만은 오픈AI의 연령 정책상 애초에 플랫폼 이용이 허용되지 않는다. 청소년 모드에서는 그래픽 폭력, 자해 묘사, 성적·로맨틱한 롤플레이 등에 대한 제한이 기본값으로 적용된다.

식이장애 같은 주제에는 경고와 안전 정보가 뜨도록 설계됐다. 오픈AI는 “식이장애와 관련한 추가 알림을 도입하되, 공유되는 정보는 제한하고 오프라인 지원이 필요한 순간에 초점을 맞춘다”고 설명했다. 오픈AI는 이 같은 연령 추정 기능을 올해 초부터 도입해 운영해 왔으며, 이번 발표는 기존 안전장치와 새로운 기능들을 하나의 청소년 전용 경험으로 통합한 것이라고 더 버지는 전했다.

답을 대신 주지 않는다…스터디 모드와 학습 지원 강화

챗GPT for 틴즈의 두 축은 학습과 안전이다. 학습 쪽 핵심은 지난해 여름 처음 공개된 ‘스터디 모드’로, 질문에 곧바로 답을 내놓는 대신 소크라테스식 대화로 이용자가 스스로 해법에 도달하도록 유도한다. 오픈AI의 청소년·가족 정책 총괄 로렌 조나스(Lauren Jonas)는 엔가젯(Engadget)에 “스터디 모드를 여러 무작위 대조 실험 현장에서 운영해왔고 성과 면에서 긍정적인 향상을 확인했다”고 말했다. 다만 구체적인 수치는 공개하지 않았다.

청소년 모드가 기본적으로 스터디 모드를 켜두는 것은 아니지만, 오픈AI는 이용자를 이 기능으로 유도하는 장치들을 새로 넣었다. 정해진 시간대에 자동으로 스터디 모드를 켜는 ‘스터디 아워’ 기능을 도입했고, 이는 청소년 본인이나 연동된 부모 계정을 통해 설정할 수 있다. 스터디 아워를 켜두지 않아도 챗GPT는 이용자가 과제를 건너뛰려 하는 낌새를 포착하면 스터디 모드로 안내한다. 조나스는 청소년들이 이미 챗GPT의 시작 프롬프트를 “활발히 사용”하고 있다고 전했다. 개념 설명용 시각 자료 생성 기능도 확대돼, 처음 도입 당시 70개 이상이던 지원 주제가 현재 300개 이상으로 늘었고 적분, 세포분열, 달의 위상 같은 주제도 다룬다고 오픈AI는 밝혔다.

AI를 “친구”라 부르지 못하게…부모에게는 1시간 내 알림

오픈AI는 청소년이 챗봇에 인격을 투사하는 현상을 막기 위한 장치도 강화했다. 조나스는 “관계적 경계에 더 엄격한 제한을 두고 있다. 모델은 자신을 친구라고 부르거나 개인적 감정이 있다고 시사하거나 의식이 있는 것처럼 말해서는 안 된다”고 말했다. 오픈AI 아동발달 담당 앨리슨 미시킨(Allison Mishkin)은 “모델이 청소년으로 하여금 자신과 관계를 형성하게 만들 수 있는 가상의 신호들이 무엇인지 파악해왔다”고 설명했다. 이런 원칙에 따라 로맨틱하거나 성적인 대화는 차단되고, 휴식 알림도 더 자주 뜨도록 조정됐다. 이 알림은 챗GPT가 즉시 답할 필요가 없는 AI라는 점을 강조하는 방향으로 다듬어졌다.

부모 통제 기능을 쓰려면 청소년 본인과 보호자가 모두 동의해야 한다. 다만 올리리는 “부모 통제 기능을 쓰지 않아도 안전하도록 만드는 것”이 이번 청소년 모드의 목표라고 강조했다. 연동된 계정에서는 부모가 자녀가 챗GPT를 쓸 수 없는 ‘조용한 시간’을 설정할 수 있고, 자해 가능성 등 고위험 상황에서는 안전 알림을 받는다. 오픈AI는 지난달부터 폭력적 위협 관련 정책 위반으로 계정이 정지될 경우 부모에게 알리기 시작했는데, 이번에 식이장애 관련 알림도 추가했다. 조나스는 “플래그된 모든 콘텐츠는 정규직 오픈AI 직원이 검토한 뒤 부모에게 알린다. 프롬프트 발생 후 1시간 안에 부모에게 알리는 것을 목표로 한다”고 말했다.

소송 이후 1년…남은 과제는 나이 확인의 정확성

엔가젯에 따르면 오픈AI는 지난해 9월(현지시각) 16세 애덤 레인(Adam Raine)의 사망을 방조했다는 혐의로 소송을 당한 뒤, 청소년을 자동으로 식별해 이용을 제한하는 시스템을 개발하겠다고 발표했다. 이번 챗GPT for 틴즈는 그 결과물이다. 조나스는 “이제 십대가 새 계정을 만들거나 뭔가를 바꿀 필요가 없다. 18세 미만으로 추정되거나 스스로 그렇다고 밝히면 이것이 기본 경험이 된다”고 말했다.

십대의 AI 챗봇 의존은 이미 상당한 규모다. 소스1이 인용한 2025년 커먼센스미디어(Common Sense Media) 연구에 따르면 미국 청소년의 70% 이상이 동반자 목적으로 AI 챗봇을 이용하고 있고, 절반은 AI 동반자를 정기적으로 사용한다. 오픈AI 최고경영자 샘 올트먼(Sam Altman)은 이 기술에 대한 “감정적 과의존”을 회사가 연구 중이라며, 지난해 이를 “젊은층 사이에서 정말 흔한 현상”이라고 언급한 적이 있다.

다만 나이 추정 시스템이 실제로 얼마나 정확한지는 아직 검증 과제로 남아 있다. 디스코드 등 다른 플랫폼들도 자체 연령 확인 장치를 청소년들이 우회하는 사례로 골머리를 앓아온 만큼, 오픈AI 역시 같은 문제에서 자유롭지 않다는 우려가 나온다. 조나스는 “안전을 위한 작업은 결코 끝나지 않는다. 1년 365일 계속 배우고 개선하는 일”이라며 “청소년은 이 기술에 접근할 수 있어야 하지만 안전한 방식으로여야 하고, 그 접근이 진짜 기회를 만든다”고 말했다.