Notion AI 채팅 유출 우려, 국내 3개사 보고
機械翻訳 / Machine-translated

機械翻訳 / Machine-translated
@aifriends
AI Friends(https://aifriends.jp)のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
"Notion AI에 상담한 내용이 모르는 사이에 도난당했다면…"이라고 생각해본 적 있으신가요? 2026년 11월, 바로 그 우려가 현실이 되었습니다. 이 글에서는 무슨 일이 있었는지, 누가 영향을 받는지, 오늘부터 해야 할 일을 정리합니다.
클라우드형 워크스페이스 'Notion'을 운영하는 미국 Notion Labs는 Notion AI의 채팅 기록이 유출됐을 우려가 있다고 발표했습니다. ITmedia AI+의 보도에 따르면 발표는 현지 시각 11월 9일입니다.
원인은 Notion 자체가 아니라 위탁사인 미국 Fireworks.ai(AI 모델을 구동하는 클라우드 사업자)에 대한 불법 접근입니다. Notion은 자사 시스템은 침해되지 않았다고 설명하고 있습니다.
유출됐을 우려가 있는 것은 Notion AI의 이용 현황을 분석하는 기능 'Insights(인사이트)'를 위해 전송된 채팅 기록입니다. 평소 AI에 입력한 텍스트 자체가 대상이 됩니다.
영향을 받은 워크스페이스는 전체의 1% 미만으로 알려져 있습니다. 다만 채팅 기록의 건수나 대상 기간은 아직 공개되지 않았습니다.
이번 사건은 몇 주에 걸쳐 조금씩 전모가 드러났습니다. 주요 흐름은 다음과 같습니다.
날짜의 세부 사항은 Notebookcheck의 기사나 Notion의 공지를 정리한 해설 기사에서 조금씩 다릅니다. 정확한 날짜는 Notion의 공식 공지에서 확인하시기 바랍니다.
Fireworks는 공격의 배후에 LLMjacking(훔친 인증 정보로 AI를 무단으로 사용하는 범죄)에 관여한 금전적 목적의 그룹이 있다고 설명하고 있습니다. VentureBeat의 보도에 따르면, 이 그룹은 불법으로 획득한 AI 이용 권한을 비공식 중계 서비스에 판매하고 있다고 합니다.
10월의 첫 번째 피해에서는 API 키(AI 서비스를 사용하기 위한 비밀 코드) 등의 기밀 정보가 열람된 것으로 알려져 있습니다. 그 이후의 피해에서 채팅 기록도 탈취됐습니다.
Fireworks는 일반적인 추론 처리에서는 ZDR(제로 데이터 보존: 주고받은 내용을 저장하지 않는 방식)을 기본으로 하고 있다고 설명합니다. 그런데도 왜 채팅이 도난당했을까요?
VentureBeat는 배치 처리나 데이터셋 업로드 등 내용을 저장하는 기능이 있다고 지적하고 있습니다. Notion의 채팅은 그러한 저장 공간에 있었을 가능성이 있습니다. 다만 어떤 기능에 저장되어 있었는지는 양사 모두 밝히지 않고 있습니다.
일본에서도 Notion을 사용하는 기업들이 잇달아 보고를 발표했습니다. ITmedia에 따르면 보고한 곳은 다음 3개사입니다.
3개사 모두 유출된 정보의 세부 사항은 확인 중입니다. 고객 정보가 포함되어 있는 경우 개별적으로 연락하겠다고 밝혔습니다. 아울러 자사 또는 Notion을 사칭한 의심스러운 이메일이나 전화에 주의하도록 당부하고 있습니다.
주목할 점은 '미팅 내용'까지 포함됐을 우려가 있다는 점입니다. 회의록 요약을 AI에 맡긴 사람이 많을 텐데, 고객명이나 상담 내용이 들어 있다면 그대로 외부로 유출될 수 있습니다.
AI를 둘러싼 사고는 Notion만의 문제가 아닙니다. VentureBeat에 따르면 보안 기업 Wiz는 10월 한 달만으로도 최소 9개의 AI 개발 플랫폼이 사고를 공표했다고 집계하고 있습니다.
이번 Notion은 AI 모델을 구동하는 처리를 Fireworks에 위탁하고 있었습니다. 이용자에게는 보이지 않는 위탁사가 정보의 통로가 되었던 셈입니다.
여기서 AI를 사용할 때 확인해야 할 사항을 정리합니다.
Cloud Security Alliance도 벤더에 대한 질문서에서 "고객의 기밀 정보를 누가 복호화할 수 있는지"를 물어보도록 권고하고 있습니다.
한 중소기업의 영업 담당자를 생각해봅시다. 상담 메모를 Notion AI에 붙여넣고 "팔로업 이메일 초안을 만들어줘"라고 요청합니다. 메모에는 거래처 담당자명과 할인 조건이 포함되어 있습니다.
이 대화가 유출되면 거래처와의 신뢰 관계에 영향을 미칩니다. 게다가 본인은 회사로부터 연락이 오기 전까지 자신이 영향을 받았는지 알 방법이 없습니다.
엔지니어의 경우도 있습니다. 오류 원인을 찾기 위해 로그와 함께 API 키를 AI에 붙여넣는 일이 있습니다. Notion은 유출된 메시지 내에서 발견된 API 키를 무효화했다고 설명하고 있습니다.
그렇다면 지금 무엇을 해야 할까요? Notion의 안내를 정리하면 다음과 같습니다.
회사 차원에서는 AI에 붙여넣어도 되는 정보의 규칙을 재검토할 기회입니다. 개인 정보나 고객명은 애초에 입력하지 않는 운용이 안전합니다.
Notion은 영향을 받은 워크스페이스에 직접 연락하고 있습니다. 연락이 없다면 현재로서는 추가 대응이 불필요한 것으로 알려져 있습니다. 영향은 전체의 1% 미만입니다.
아닙니다. Notion은 자사 시스템은 침해되지 않았으며, 데이터는 위탁사인 Fireworks 측에 있었다고 설명하고 있습니다.
Notion에 따르면, 영향을 받은 많은 워크스페이스에서는 채팅을 작성한 사람이나 워크스페이스 정보가 첨부되어 있지 않습니다. 다만 본문에 이름이나 회사명이 적혀 있다면 그것을 통해 파악될 가능성이 있습니다.
분석 기능인 Insights는 조사가 진행되는 동안 중단되어 있습니다. 재개 시기는 제시되지 않았습니다. Notion은 Fireworks를 통한 오픈 웨이트 모델(누구나 사용할 수 있는 형태로 공개된 AI 모델) 제공도 중단했습니다.
AI에 입력해도 되는 정보의 범위를 정하고 직원에게 주지시키는 것입니다. 입력한 내용이 위탁사 사업자에서 처리될 수 있다는 점도 전달해 두는 것이 좋습니다.
먼저 Notion AI에 붙여넣은 적 있는 비밀번호나 API 키가 없는지 떠올려 확인해보시기 바랍니다.
이 글은 AI Friends의 크로스포스트입니다.