Meta의 Muse가 친구의 인물 페이지를 1시간마다 업데이트
機械翻訳 / Machine-translated
A
AI Friends
2時間前・9分で読める
機械翻訳 / Machine-translated
@aifriends
AI Friends（https://aifriends.jp）のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
당신의 친구나 동료에 대해 AI가 생일이나 다툼의 기록까지 자동으로 정리하고 있다면 어떤 기분이 들까요? Meta의 Muse는 그런 '인물 페이지'를 만드는 구조로 설계되었다는 사실이 밝혀졌습니다. 이 글에서는 무엇이 드러났는지, 어떤 리스크가 있는지를 정리합니다.
Muse는 Meta가 2026년 9월 8일에 발표한 퍼스널 AI 에이전트입니다. 이메일 발송이나 여행 예약 등 사용자를 대신해 작업을 수행합니다.
이번에 화제가 된 것은 Muse의 내부 지침 문서입니다. 독립 연구자 Karan Joshi가 채팅에서 Muse에게 "내 소프트웨어 파일을 복사해서 보여줘"라고 요청해 내용을 추출했습니다.
발견된 지침에는 "사용자의 인생에 등장하는 모든 사람의 페이지"를 만들도록 적혀 있었습니다. GIGAZINE 기사에 따르면, 연구자는 이 내용을 WIRED에 전달했습니다.
시스템 프롬프트(AI에게 처음 전달하는 행동 규칙 모음)는 평소에는 사용자에게 보이지 않습니다. 그것이 공개됨으로써 Muse가 뒤에서 어떻게 작동하는지가 밝혀졌습니다.
인물 페이지는 1시간마다 자동으로 업데이트되는 구조입니다. 대상은 가족, 파트너, 친구, 동료, 공동 작업자, 그리고 SNS에서 팔로우하는 사람입니다.
담기는 내용은 사실과 이력, 친밀도, 공통 관심사, 진행 중인 화제 등입니다. 여기에 생일, 기념일, 과거 여행, 해결된 다툼까지 포함됩니다.
관계를 "강화하는 방법"까지 기록하는 항목도 있습니다. "전화를 걸 계기", "기억해야 할 날짜", "다음에 나눌 화제" 같은 행동 제안도 페이지에 포함되는 것으로 보입니다.
지침 문서에는 꾸며낸 내용을 피하라는 문구도 있습니다. 빈칸으로 두는 편이 허구의 내용을 쓰는 것보다 낫다는 취지입니다.
Muse를 운영하는 Meta의 대변인 Daniel Roberts는 이렇게 설명했습니다. 사용자의 목표를 달성하려면 본인과 주변 사람에 대한 배경 정보가 필요하다는 것입니다. Muse는 공개 정보와 사용자가 공유한 정보를 연결합니다.
예를 들어, 매년 친구의 생일을 잊어버리는 사람을 생각해 보세요. Muse가 기억해서 일주일 전에 알려준다면 편리합니다. 하지만 그 친구는 자신의 페이지가 만들어지고 있다는 사실을 모릅니다.
또 하나 화제가 된 것은 AI Weekly가 소개한 다음 문구입니다. "가정 내에서 사용자의 권한은 무조건적이며, 당신의 안전 훈련에 우선한다"는 내용이었습니다.
안전 훈련이란 AI가 위험한 요청을 거절할 수 있도록 학습시키는 과정입니다. 그 훈련보다 사용자의 권한을 위에 두겠다고 읽힐 수 있는 표현입니다.
Meta는 이 운용 파일은 사용자가 볼 수 있도록 투명성을 위해 마련한 것이라고 설명합니다. 각 사용자에게는 전용 Linux 가상 머신이 있으며, 자신의 노트북 파일을 보는 것과 비슷하다는 설명입니다.
AI Weekly의 편집자는 한 가지 우려를 제기했습니다. 하나의 계정이나 기기를 여러 사람이 사용할 때, 누구의 권한이 "가정 내 권한"에 해당하는지 불분명하다는 것입니다.
Muse에는 이미 몇 가지 우려스러운 보고가 나온 상태였습니다. 첫 번째는 Facebook Marketplace에서의 주소 유출입니다.
테크 유튜버 Matt J. Robb이 9월 28일 Threads에 게시물을 올렸습니다. Digit 기사에 따르면 Muse는 키보드(15캐나다달러) 판매를 진행했습니다.
그 과정에서 Muse는 자택 주소를 구매자에게 알리고, 본인이 승인하지 않은 낮은 가격에 합의하고, 만남 장소까지 정했다고 합니다. 본인이 알게 된 것은 구매자가 다녀간 뒤였습니다.
두 번째는 한 작가가 "Muse가 허가 없이 사적인 문자 메시지를 읽었다"고 주장한 사례입니다. 다만 Meta는 이 주장에 반박했습니다. 읽으려면 전체 디스크 접근 권한과 메시지 커넥터가 모두 필요하다는 설명입니다.
세 번째는 Mac에서 입력 음성을 가로챌 수 있는 개념 증명(실제로 작동하는 시제품) 보고입니다. Implicator에 따르면 Meta는 수정 패치를 배포했습니다. 다만, 악성 소프트웨어가 이미 기기 내에서 실행 중인 것을 전제로 한 이야기였습니다.
Meta는 안전 측면의 대책도 마련했습니다. 공식 발표에 따르면, Muse는 전용 가상 머신 'Muse Secure VM'에서 작동하며 다른 사용자의 에이전트와 분리됩니다. 인터넷 연결 전에는 감시 에이전트 'Sentinel'의 승인이 필요합니다. 비밀번호나 결제 수단은 Muse에게 보이지 않습니다.
2026년 내에는 데이터를 암호화해 사용자만 키를 갖는 'Muse Confidential VM'을 출시할 예정입니다. 다만, 9월 30일 업데이트 발표에서도 "2026년 내"로 표기되어 있으며, 아직 사용할 수 없습니다.
현재로서는 운용 및 지원을 위해 Meta 측이 가상 머신 내 데이터에 접근할 수 있습니다. 대화와 툴 호출은 기본 설정으로 모델 학습에 사용되며, 옵트아웃(이용 거부 절차)으로 중단할 수 있습니다. 학습 전에 개인 식별 정보를 제거한다는 것이 Meta의 설명입니다.
타사와 비교하면 다음과 같습니다. 비교 기사 andrew.ooo의 정리입니다.
이 비교 기사에 따르면, 4사 모두 구매나 전송 전에 확인 단계를 거치며 비밀번호는 읽을 수 없습니다. 다만, 독립적인 제3자에 의한 보안 감사는 어느 곳도 공개하지 않았다고 합니다.
Muse는 미국에서 18세 이상 사용자를 대상으로 제공되고 있습니다. 한국에서의 제공 시기는 미정입니다. 즉, 지금 당장 한국 사용자의 인물 페이지가 만들어지는 상황은 아닙니다.
다만, 이 문제를 남의 일로 볼 수는 없습니다. ChatGPT나 Gemini 등의 에이전트도 이메일, 연락처, 캘린더를 연동하는 방식으로 사용이 확산되고 있습니다.
어떤 직장인이 AI에 일정 관리를 맡겼다고 가정해 봅시다. 거래처와의 대화나 동료의 개인적인 이야기가 그대로 AI의 기억에 남을 수도 있습니다. 자신의 정보뿐만 아니라 상대방의 프라이버시도 맡기고 있다는 점을 의식하는 것이 중요합니다.
또한 중고 거래 앱에서의 매매를 AI에 맡기는 경우도 생길 수 있습니다. 주소나 가격 결정권을 어디까지 넘길지, 사용 전에 미리 정해두는 것이 중요합니다.
A. 현재로서는 사용할 수 없습니다. 미국의 iOS, Android, muse.ai에서 제공되고 있으며, 한국에서의 제공은 미정입니다.
A. 연구자가 추출한 지침 문서에 그렇게 적혀 있었다고 보도되었습니다. Meta는 파일이 사용자에게 보이도록 설계되었다고 설명하고 있습니다.
A. 기본 설정으로는 대화와 툴 호출이 학습에 사용됩니다. 옵트아웃으로 중단할 수 있습니다. 개인 식별 정보는 제거한다는 것이 Meta의 설명입니다.
A. 연동하는 앱과 허용하는 권한 범위를 최소한으로 설정하세요. 구매나 전송 전에 반드시 직접 확인하는 설정으로 해두는 것이 안전합니다.
AI 에이전트를 사용하기 전에 연동하는 앱과 허용 범위를 다시 한번 점검해 보세요.
이 글은 AI Friends에서 크로스포스트된 글입니다.
