Siri Recap이 가상의 응급 이송을 생성했다? Apple Watch 대화 요약의 함정
機械翻訳 / Machine-translated

機械翻訳 / Machine-translated
@aifriends
AI Friends(https://aifriends.jp)のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
자신의 스마트워치에 "당신은 지난주에 응급 이송되었습니다"라고 기록되어 있다면 놀라겠죠. 2026년 11월 20일, 그런 실제 사례가 해외 미디어에 보도되었습니다. 이 글에서는 무슨 일이 있었는지, 왜 일어났는지, 그리고 우리는 이를 어떻게 받아들여야 할지 정리해 보겠습니다.
Siri Recap은 Apple이 2026년에 출시하는 Apple Watch Series 12와 Apple Watch Ultra 4를 위한 새로운 기능입니다. 현재는 베타 버전(정식 출시 전 테스트 버전)으로 제공되고 있습니다.
주변의 대화를 듣고 AI가 "고수준 요약"을 생성합니다. 회의나 학부모 면담에서의 메모 작성을 편리하게 하는 것이 목적입니다.
Apple 지원 페이지에 따르면, 요약은 Siri 앱에서 확인, 편집, 삭제할 수 있습니다. 전체 텍스트 변환은 생성되지 않으며, 누가 무엇을 말했는지도 기록되지 않습니다.
작동 방식도 살펴보겠습니다. 음성은 Apple Watch 칩 내에서 처리되어 암호화된 후 iPhone으로 전송됩니다. iPhone에서 텍스트로 변환하고 압축한 후 Private Cloud Compute(Apple의 안전한 클라우드 처리)에서 요약하는 방식입니다. Apple은 "음성은 녹음도 저장도 되지 않는다"고 설명하고 있습니다.
GIGAZINE 기사에 따르면, 미국 The Verge의 기자 빅토리아 송(Victoria Song) 씨가 2주에 걸쳐 직접 사용했습니다.
생성된 요약은 50건 이상이었습니다. 그 중 약 90%는 본인 외에는 이해하기 어려운 내용이었다고 합니다.
숫자나 날짜 같은 구체적인 정보는 담아내는 반면, 개인적인 경험담이나 의견, 농담은 빠지거나 사무적인 기록으로 변환되었습니다.
가장 충격적이었던 것은 실제로 일어나지 않은 사건의 기록입니다.
다른 TikTok 동영상에서 소개된 "패혈증(세균이 전신으로 퍼지는 심각한 질병)으로 응급 이송되었다"는 경험담이, 기자 본인이나 지인의 일로 요약되었습니다.
콘서트에서 파란 비키니 탑을 입은 여성이 친한 친구의 남편을 유혹하려 했다는 이야기도, 기자가 연관된 사건으로 기록되었습니다.
상상해 보세요. 나중에 돌아본 기록에 전혀 기억에 없는 큰 사건이 적혀 있다면, 가족이나 동료에게 보여줄 수 있을까요?
한편, 스마트 글래스 제품 발표회에서는 유용하게 사용되었습니다. 나중에 기사를 쓸 때 설명 내용을 떠올리는 데 도움이 되었다고 합니다.
즉, 발언자와 내용이 명확한 회의와 같은 상황에서는 활용 가능성이 있습니다.
원인은 동영상의 음성과 실제 대화를 구별하지 못하기 때문이라고 합니다. 마이크 입장에서는 둘 다 주변에서 들리는 사람의 목소리이기 때문입니다.
이 문제는 AI의 환각(hallucination)(사실이 아닌 것을 그럴듯하게 만들어내는 현상)과 유사합니다. 다만 이번에는 AI가 멋대로 이야기를 만들어낸 것이 아닙니다. 들은 내용을 사용자 본인의 사건으로 잘못 인식한 것입니다.
설계에도 이유가 있다고 기사는 지적합니다. 프라이버시 보호를 위해 사용자의 목소리를 학습하지 않는 구조가 오히려 대화 오인식으로 이어졌다는 것입니다. Apple의 공식 입장은 이 기사에 포함되어 있지 않습니다.
헤드폰으로 음성을 재생하는 동안에는 요약이 자동으로 중단됩니다. AirPods를 사용하면 동영상 음성을 피할 수 있지만, 행동이 제한된다는 점을 기자는 문제로 보고 있습니다.
Apple은 프라이버시에 관해 여러 가지 대책을 제시하고 있습니다. MacRumors 해설 등에 따르면 주요 내용은 다음과 같습니다.
동시에 Apple은 "요약은 불완전하거나 부정확할 수 있다"고 명시하고 있습니다. 중요한 내용은 관계자나 다른 정보 출처를 통해 확인하도록 요구하고 있습니다.
즉, 오류가 발생할 수 있음을 Apple 스스로 전제하고 있는 것입니다. 이번 사례는 그 "부정확함"이 얼마나 극단적으로 나타날 수 있는지를 보여주었습니다.
대화를 AI로 텍스트화하는 서비스는 Siri Recap이 처음이 아닙니다. 차이점은 녹음을 시작하는 주체가 누구인지, 그리고 언제인지에 있습니다.
예를 들어 소형 녹음 디바이스인 Plaud는 대면 대화를 위한 제품입니다. 회의나 면담 전에 사용자가 직접 녹음을 시작하는 방식이 중심입니다.
Otter.ai는 Zoom이나 Teams 같은 온라인 회의에 참가하여 대화를 텍스트로 변환하는 앱입니다.
이에 반해 Siri Recap은 하루 종일 주변 대화를 계속 감지할 수 있습니다. 시작 조작이 적어 간편하지만, 이번처럼 기록할 의도가 없는 소리까지 포착하기 쉬워집니다.
또 다른 논점은 대화 상대방의 문제입니다. Siri Recap에는 기록 중임을 주변에 알리는 소리나 표시가 없습니다.
PCWorld는 전문가들의 의견을 소개하고 있습니다. 변호사 Brian J. McGinnis 씨는 녹음을 남기지 않더라도 고지 없이 대화를 감지하는 것 자체가 문제가 될 수 있다고 지적했습니다. 도청 관련 법률은 미국에서는 주법과 연방법이 일관되지 않는다고도 언급했습니다.
전자프런티어재단(EFF)의 Adam Schwartz 씨는 명확한 동의 없는 기록은 문제라는 입장입니다. EFF는 사용을 자제할 것을 제안하고 있습니다.
친구와 식사 중에 상대방의 손목시계가 당신의 푸념을 요약하고 있다면 어떨까요? 사용하는 측에서는 대화 상대에게 미리 알리는 배려가 필요합니다.
Apple 지원 페이지에 따르면 Siri Recap은 처음에 영어만 지원합니다. 다른 언어는 순차적으로 지원할 예정이며, 한국어 제공 시기는 현재 알 수 없습니다.
지원 기기도 한정되어 있습니다. Apple Watch Series 12 또는 Ultra 4에 더해 iPhone 16 이후의 지원 모델이 필요합니다. 18세 미만은 사용할 수 없습니다.
한국에서 사용 가능하게 되는 것은 아직 먼 일일 것입니다. 다만, 회의나 면담을 AI로 기록하는 움직임은 한국 직장에서도 이미 확산되고 있습니다.
예를 들어 영업 담당자가 상담 내용을 AI로 정리하는 경우를 생각해 보세요. 거래처 이름이나 금액이 조금만 달라도 청구서나 계약 이야기가 엇갈릴 수 있습니다.
한국어 버전이 나오기 전부터, AI 요약은 반드시 본인이 직접 확인하는 습관을 들이는 것이 중요합니다.
현재는 사용할 수 없습니다. 처음에는 영어만 지원하며, 한국어 지원 시기는 발표되지 않았습니다.
기본 설정은 꺼짐 상태이며, 사용자가 직접 활성화합니다. Apple은 음성을 녹음도 저장도 하지 않는다고 설명하고 있습니다.
Siri 앱에서 요약을 확인, 편집, 삭제할 수 있습니다. 중요한 일정이나 약속은 요약만 믿지 말고 상대방에게 직접 확인하세요.
엄밀히는 AI가 사실을 만들어냈다기보다, 동영상 내용을 본인의 사건으로 잘못 인식한 것입니다. 다만, 결과적으로 사실이 아닌 기록이 생성된다는 점은 동일합니다.
기능을 꺼두면 사용하지 않을 수 있습니다. 사용한다면, 작동 시간대를 한정하고 대화 상대에게도 알려두면 안심할 수 있습니다.
대화를 AI로 요약할 때는, 중요한 내용을 반드시 직접 눈으로 확인하는 습관부터 시작합시다.
이 글은 AI Friends의 크로스포스트입니다.