Siri Recap生成了虚构的急救转运记录?Apple Watch对话摘要的隐患
機械翻訳 / Machine-translated

機械翻訳 / Machine-translated
@aifriends
AI Friends(https://aifriends.jp)のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
如果自己的智能手表记录着"您上周经历了急救转运",恐怕会大吃一惊吧。2026年11月20日,这样的真实案例出现在了海外媒体的报道中。本文将梳理究竟发生了什么、为何会发生,以及身处日本的我们应当如何看待这件事。
Siri Recap是Apple面向2026年发布的Apple Watch Series 12和Apple Watch Ultra 4推出的新功能,目前仍以测试版(正式版发布前的试用版)形式提供。
它通过监听周围对话,由AI生成"高层次摘要",旨在减轻会议或家长会时的记录负担。
根据Apple支持页面,摘要可在Siri应用中查看、编辑和删除。该功能不会生成完整文字记录,也不会记录谁说了什么。
其工作原理如下:语音在Apple Watch芯片内处理,加密后传输至iPhone,在iPhone上转为文字并压缩,再通过Private Cloud Compute(Apple的安全云端处理)生成摘要。Apple声明"不会录制或存储音频"。
根据GIGAZINE的文章,美国The Verge的记者维多利亚·宋(Victoria Song)历时两周进行了实际测试。
测试共生成了超过50条摘要,其中约90%的内容只有本人才能看懂。
功能虽能捕捉数字、日期等具体信息,却遗漏了个人经历、观点和玩笑,或将其简化为流水账式的记录。
最令人震惊的,是一条记录了从未发生过的事件的摘要。
另一个TikTok视频中讲述的"因败血症(细菌扩散至全身的严重疾病)而被急救转运"的亲历故事,被摘要成了记者本人或其熟人的经历。
此外,一个关于音乐会上一名穿蓝色比基尼上衣的女性试图勾引好友丈夫的故事,也被记录成了记者亲身经历的事件。
请试想一下:如果翻看记录时发现了一件自己毫无印象的大事,您还能把这份记录拿给家人或同事看吗?
另一方面,在智能眼镜的产品发布会上,该功能确实派上了用场——据说在事后撰写报道时,它有助于回忆发布会内容。
也就是说,在发言者和内容都明确的会议等场合,该功能可能具有一定价值。
据分析,原因在于该功能无法区分视频音频与真实对话——对麦克风而言,两者都只是周围传来的人声。
这一问题与AI的幻觉(将非事实的内容以真实可信的方式呈现的现象)颇为相似。不过此次并非AI凭空捏造,而是将听到的内容误认为是持有者本人的经历。
文章还指出,这与产品设计有关:为保护隐私而不学习用户声音纹特征的机制,反而导致了对话内容的误识别。Apple对此事的官方回应未包含在该文章中。
在通过耳机播放音频时,摘要功能会自动暂停。使用AirPods可以避免将视频音频纳入记录,但记者认为这样的行为限制本身就是个问题。
Apple就隐私保护列出了多项措施。根据MacRumors的介绍,主要内容如下:
与此同时,Apple也明确表示"摘要可能不完整或不准确",并要求用户就重要内容向相关人员或其他信息来源进行确认。
也就是说,Apple自身已将出现错误列为前提。此次案例揭示了这种"不准确"可能达到何种极端程度。
通过AI将对话转为文字的服务,Siri Recap并非首创。区别在于:由谁在何时开始录制。
例如,小型录音设备Plaud是一款面向面对面对话的产品,主要使用方式是用户在会议或面谈前自行开始录音。
Otter.ai则是一款加入Zoom、Teams等在线会议并将对话转为文字的应用。
相比之下,Siri Recap可以全天候持续采集周围的对话。操作门槛低、使用更便捷,但也正如此次案例所示,更容易将原本不打算记录的声音一并纳入。
另一个值得关注的问题是对话的另一方。Siri Recap在记录过程中,不会通过声音或显示方式提醒周围的人。
PCWorld援引了专家意见。律师Brian J. McGinnis表示,即便不保存录音,未经告知就采集对话内容本身也可能构成问题,并指出美国各州与联邦层面的窃听相关法律并不统一。
电子前哨基金会(EFF)的Adam Schwartz则认为,未经明确同意进行记录存在问题,EFF建议用户不要使用该功能。
请想象一下:与朋友共进晚餐时,对方的手表正在摘要你随口发的牢骚。作为使用者,在使用时有责任事先告知对话的另一方。
根据Apple支持页面,Siri Recap初期仅支持英语,其他语言将陆续跟进,日语版的上线时间目前尚不清楚。
支持机型也有限制,除Apple Watch Series 12或Ultra 4外,还需要iPhone 16及以上的兼容机型,且不适用于18岁以下用户。
日语版的推出应该还需要一段时间。不过,让AI记录会议和面谈的做法在日本职场中已经逐渐普及。
以销售人员让AI整理商务洽谈内容为例,仅仅是客户名称或金额出现细微差错,就可能导致发票或合同相关事宜产生分歧。
在日语版上线之前,就应养成对AI生成的摘要务必亲自核实的习惯。
目前不行。初期仅支持英语,日语版的上线时间尚未公布。
默认为关闭状态,需用户自行开启。Apple声明不会录制或存储音频。
可在Siri应用中查看、编辑或删除摘要。对于重要的日程或约定,请勿仅依赖摘要,务必直接向对方确认。
严格来说,与其说是AI凭空捏造了事实,不如说是将视频内容误认为本人经历。但结果同样是产生了与事实不符的记录。
关闭该功能即可不使用。若要使用,建议限定使用时间段,并事先告知对话的另一方,以便放心使用。
在让AI摘要对话时,请先从养成"重要内容务必亲自确认"的习惯做起。
本文转载自 AI Friends。