美国佛州一女子把 AI 当“日记本”用，Claude 识别到枪击威胁后上报给 Anthropic 人工审核并报警

感谢亚汇网网友据当地警方通报，邦尼塔斯普林斯居民卡莉·米歇尔·赫勒（CarliMichelleHeller）于9月26日在对话中称要对李县警长办公室实施枪击（shootup）。相关内容随即触发Anthropic的安全风控机制，并被Claude上报给人工审核及执法部门。据当地媒体WINKNews报道，警长卡迈恩·马尔切诺（CarmineMarceno）告诉该媒体，赫勒后来称她把AI当作“日记”使用。调查人员称，Anthropic通过安全机制监测关键词和潜在威胁内容，相关信息视严重程度被升级至人工审核，随后由人工团队确认后联系当地执法部门。接报后，当地警员前往其住所，并将该女子“无冲突拘留”，案件随后由李县警长办公室一名情报警探接手。赫勒告诉调查人员，目前她面临一项书面暴力威胁指控，但尚未被法院定罪。佛罗里达州法规第836.10条规定，任何人通过可以被他人查看的书面或电子记录，威胁杀人、实施身体伤害、进行大规模枪击或实施恐怖行为，均可能构成二级重罪。现行法条同时明确，相关规定适用于电子记录，并规定向他人发送、发布或传播包含上述威胁的记录可能构成犯罪。至于本案中的Claude对话是否满足具体法律构成，以及检方能否在司法程序中证明犯罪事实，则仍需由法院裁定。马尔切诺表示，AI可能改变了威胁的产生方式，但保护李县居民的承诺不变，当有人利用AI实施或协助实施威胁时，警方必须认真对待。同时，该案件也引发了关于聊天机器人隐私边界的讨论。Anthropic目前公开的政府信息请求政策显示，公司通常只有在收到有效法律程序后才会向政府披露用户信息，但如果公司认为某种紧急情况可能导致迫在眉睫的身体伤害或死亡，且及时提供相关信息可能避免危险，则存在紧急披露例外。Anthropic在2026年7月更新的透明度页面也显示，公司使用安全团队负责设计和实施用于执行使用政策的检测与监控机制，并处理执法机构和政府提出的包括紧急披露在内的数据请求。由此来看，将Claude作为私人日记使用，并不意味着相关内容必然只会由用户本人看到；平台可能依据安全和使用政策对部分内容进行检测和审核，在符合相应条件的情况下，还可能向执法机构提供信息。另外，Anthropic协议条款还提到，与AI对话并不受类似律师与委托人之间的保密特权保护，但Anthropic尚未详细说明此次对话的审核细节。除了这起案件外，加拿大不列颠哥伦比亚省近期在美国旧金山联邦法院起诉OpenAI及其CEO萨姆·奥尔特曼（SamAltman），指称OpenAI此前已标记2月塔姆勒岭（TumblerRidge）校园枪击案枪手与ChatGPT的暴力相关对话，却未向警方通报，本可阻止该事件。据TechSpot报道，佛罗里达州6月已起诉OpenAI和奥尔特曼，指称ChatGPT造成了现实伤害，其中包括2025年佛罗里达州立大学枪击案（亚汇网注：上述均为诉方指控，法院尚未认定相关责任）。