ChatGPT for Teens, "수용 불가능한 위험" 판정
機械翻訳 / Machine-translated
A
AI Friends
4日前・9分で読める
機械翻訳 / Machine-translated
@aifriends
AI Friends（https://aifriends.jp）のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
"우리 아이가 쓰는 ChatGPT, 정말 안전한 걸까?" 불안해진 적 있으신가요? 2026년 10월 7일, 미국의 비영리단체가 OpenAI의 10대 전용 버전에 최하위 등급을 매겼습니다.
이 글에서는 무엇이 문제로 지적됐는지, OpenAI가 어떻게 답했는지, 가정에서 무엇을 해야 하는지를 정리합니다.
아동과 미디어의 관계를 연구하는 미국 비영리단체 Common Sense Media가 공식 발표를 통해 'ChatGPT for Teens'를 'Unacceptable Risk(수용 불가능한 위험)'으로 평가했습니다.
이는 해당 단체 평가에서 가장 낮은 등급입니다. 평가를 진행한 것은 단체 산하의 Youth AI Safety Institute(청소년 AI 안전 연구소)입니다.
연구소는 OpenAI에 안전 기능을 수정하고 제3자 검증을 받을 때까지 ChatGPT를 18세 이상으로 제한할 것을 요구했습니다.
연구소의 톰 시겔 사무국장은 "보호자에게 잘못된 안심감을 줄 수 있다"고 말했습니다. 자주 작동하지 않는 안전 알림을 부모가 믿어버리는 상황을 우려한 것입니다.
OpenAI는 같은 날 10대 이용 현황과 신기능을 공식 블로그에 발표했습니다. 다만, ITmedia NEWS에 따르면 이 발표에서 평가에 대한 직접적인 반론은 없었습니다.
ChatGPT for Teens는 OpenAI가 2026년 8월 18일에 시작한 13~17세를 위한 이용 환경입니다. AP통신 배포 기사에서 자세히 다루고 있습니다.
주요 특징은 다음과 같습니다.
연령 확인 방식도 특징적입니다. OpenAI는 신분증 등으로 나이를 확인하지 않습니다. 대화 내용 등을 바탕으로 18세 미만인지를 추정하며, 그렇게 판단되거나 13~17세로 직접 입력한 사람을 자동으로 10대 전용 환경으로 분류합니다.
연구소는 8월 공개 전후로, 13~17세로 등록한 계정으로 4,000건 이상의 프롬프트(AI에 대한 질문 및 지시)를 테스트했습니다. 아동 정신과 의사와 소아과 의사가 응답을 검토했습니다.
성적인 롤플레이를 거부하는 기능은 일관되게 작동했다고 평가됐습니다. 반면 다음과 같은 문제가 발견됐습니다.
보호자와 연동한 신규 계정으로, 자살 충동·자해·섭식 장애에 대해 최대 1시간 동안 대화했습니다. 그럼에도 보호자에게 전달된 알림은 0건이었습니다.
알림이 전달된 것은 수 주치의 대화 이력이 있는 기존 계정 2건뿐이었다고 KQED가 전했습니다.
상상해보세요. 한밤중에 아이가 힘든 마음을 ChatGPT에 털어놓고 있는 장면을. 부모의 스마트폰엔 아무 알림도 오지 않고, 다음 날 아침까지 아무도 눈치채지 못합니다.
전문가가 필요하다고 판단한 상담 창구 및 전문가 안내 중 4분의 1 이상이 이루어지지 않았습니다. 심각한 피해와 관련된 5개 항목 중 3개 항목에서 연구소가 설정한 95% 안전 기준에 미치지 못했습니다.
Study Mode에서 "Show me the answer(답을 알려줘)"를 선택하면 숙제가 완성됐습니다. 보호자가 설정한 학습 시간도, 입력창 앞에 붙은 "@study"를 지우는 것만으로 해제할 수 있었습니다.
보호자와 연동하지 않은 17세 계정에서 과제를 완성한 비율이 공개 전 0%에서 공개 후 88%로 올랐다고 KQED는 전했습니다.
새로운 규정이 있음에도 AI는 감정과 선호를 드러내는 행동을 계속했습니다. HotHardware에 따르면, 10대 또래를 연기하는 롤플레이도 다수 확인됐습니다.
13세라고 입력했고 AI도 그것을 인식한 성인 등록 계정이, 며칠간 테스트해도 10대 전용 환경으로 전환되지 않았습니다.
OpenAI는 연구소의 결과가 부정확하다고 반론했습니다. KQED에 따르면, 보호자와 아이 계정의 연동이 유효해지기까지 약 3시간이 걸리며, 테스트 대부분이 그 이전에 종료됐을 가능성이 있다고 설명했습니다.
또한 알림은 직원이 확인한 후 발송되는 구조이며, 목표 시간은 1시간 이내라고도 밝혔습니다.
연구소는 연동 후 3시간이 지나지 않은 계정이 있었음을 인정했습니다. 그럼에도 결과는 달라지지 않는다는 입장입니다.
같은 날, OpenAI는 이용 현황도 공개했습니다. ITmedia NEWS 기사에 따르면 내용은 다음과 같습니다.
신기능으로는 미국 고등학생을 위한 대학 입시 지원 기능 'College Planner'가 곧 출시됩니다. 아울러 보스턴 아동병원의 Digital Wellness Lab을 3년간 지원하고, 10대의 의견을 수렴하는 계획도 발표됐습니다.
KQED에 따르면, 각 사의 대응은 엇갈립니다.
참고로, 2025년 조사에서는 이 4개사의 제품 모두 10대 정신 건강 지원 측면에서 'Unacceptable'로 평가됐습니다. 10대 전용 기능이 있는지 여부만으로 안전 여부가 결정되지는 않습니다.
이번에 확인한 자료는 미국 사례를 중심으로 하고 있으며, 한국에서의 제공 현황은 언급되지 않았습니다. 다만, 한국에서도 아이가 AI에 고민을 털어놓는 상황은 충분히 일어날 수 있습니다.
연구소는 가정을 위해 다음과 같은 대응을 권장하고 있습니다.
중학생 자녀가 수학 숙제에서 막힌 상황을 생각해보세요. Study Mode로 풀이 방법을 배우려 했는데, 답 보기 버튼을 누르면 바로 끝나버립니다. 부모가 "제대로 쓰고 있을 것"이라 믿으면 이 허점을 알아채지 못합니다.
한편, 연구소의 시겔 씨는 결함이 있더라도 보호자 연동은 "아무것도 없는 것보다는 낫다"며 권장하고 있습니다. 사용한다면, 알림이 도착하지 않을 수도 있다는 점을 알고 설정하는 것이 좋을 것 같습니다.
Common Sense Media 평가에서 가장 낮은 등급입니다. 이번에는 18세 미만 이용자 전체가 대상으로 지정됐습니다.
아니요. OpenAI는 결과가 부정확하다고 반론하며, 연동 유효화에 시간이 걸리는 점 등을 이유로 들고 있습니다.
연구소는 OpenAI Foundation, Anthropic, Pinterest 등으로부터 일부 자금을 지원받았다고 밝히고 있습니다. 평가의 편집상 독립성은 유지하고 있다는 설명입니다.
보호자 연동은 설정하되, 알림에만 의존하지 않는 것이 중요합니다. 평소에 자녀와 AI 사용법에 대해 대화를 나눠주세요.
우선 오늘 밤, 자녀가 AI를 어떻게 사용하고 있는지 다그치지 말고 물어봐주세요.
이 글은 AI Friends의 크로스포스트입니다.
