为 LLM 隐私网关实现可逆脱敏与反向代理
在处理敏感数据的 LLM 场景中,隐私脱敏(Redaction)是一个绕不开的话题。传统的脱敏方案通常是单向的:把用户输入中的邮箱、手机号或密钥替换成不可逆的占位符(比如 [邮箱] ),然后发送给大模型。这种做法在保护隐私的同时,也带来了一个痛点:当大模型需要调用外部工具,或者在多轮对话中需要引用这些具体信息时,单向脱敏会让模型 “失忆”,导致工具调用失败或上下文断裂。 最近,我在开源的 privacy-filter(一个基于 Go 语言、毫秒级延迟的 LLM...
more...