匡文波 匡 岳

【摘要】人工智能时代，智能体训练机制所要求的数据共享带来了社会范围的隐私危机，造成公民隐私权的侵害风险，具体表现为信息采集扩张的隐私泄露风险、信息关联识别的隐私还原风险和信息精准定制的隐私攻击风险。从公民隐私权的保护机制角度来看，当前公民隐私防护同样面临着隐私权的法律原则与技术保障机制滞后、隐私权的企业执行与个人保护落实困难、隐私权的个体诉求与信息公共属性冲突等挑战。破解人工智能时代的隐私风险难题，需要从确立动态管理的隐私保护分级体系、优化信息使用处理分层规则、增强公众数字素养和协同共治能力多个角度入手，提升隐私保护机制的合理性和有效性，打造出全方位、多层次的隐私权保护体系，有效建立起人工智能时代的隐私边界。

【关键词】人工智能；隐私保护

在数字时代背景下，人工智能技术已深度融入 日 常 生 活 的 方 方 面 面。 截 至 2025 年， 我 国 人工智能产业活力迸发亮点纷呈，智能算力规模达 1590EFLOPS，人工智能企业数量超过 6000 家，核心产业规模预计突破 1.2 万亿元。从精准推送各类信息的推荐算法，到快速产出文字、图片、视频、音频的生成式人工智能，再到聊天回复“类人化” 的社交机器人，人工智能以其高效的数据处理和深度学习能力实现着迭代升级，重构了当前信息传播的方式与社会运行的逻辑，为人类社会带来便利与发展机遇的同时，也带来了公民权利侵害的隐忧。

隐私权是公民人格权的重要内容，在人工智能时代，数据成为人工智能技术的核心要素。当前数据采集、存储、分析与应用的规模和深度不断扩大，对公民隐私权造成威胁，隐私权的保护范围开始从实体空间延伸至虚拟的数字空间，权利内涵也从“不受他人对实体空间的侵扰”进一步扩展至“数据信息自主掌控、不被滥用”。近年来，人工智能侵害隐私权的情况频发，从电商平台过度采集用户消费数据，到人脸识别技术侵犯个人生物信息安全，再到平台泄露公民数据信息，一系列问题暴露出人工智能时代的隐私危机。

面对人工智能技术造成的隐私侵害，当前公民隐私权保护体系却相对滞后。一方面，人工智能技术升级迭代的速度快于相关法律规制与制度建设的进程。虽然《中华人民共和国民法典》等前置法明确规定保护公民隐私权，但现行《中华人民共和国刑法》并没有专门规制严重侵犯公民隐私权的相关罪名，而是将公民隐私权笼统地依附于其他公民人身权利或社会管理秩序之中加以保护，隐私权保护范围难以应对人工智能时代数据处理的复杂性；另一方面，人工智能数据使用过程专业繁复，隐私权侵害的举证难度大、责任认定更加复杂，进一步加剧了隐私权维权保护的困境。此外，公民个人信息权属问题关注度不足、技术快速迭代所引发的知识挑战和隐私素养培育体系的缺位都加剧了人工智能时代的隐私保护危机。在人工智能高速发展的时代背景下，如何平衡技术的发展红利与公民隐私权的保护需求，已成为关乎社会发展与人权保障的重要命题。

深入剖析人工智能时代公民隐私权的侵害风险，探索科学有效的保护策略，不仅是保障公民基本权利的现实需要，更是规范人工智能技术发展秩序、完善数字治理体系、推进国家治理体系和治理能力现代化的必然要求。本文将从人工智能时代公民隐私权的侵害风险切入，进而提出应对风险的保护策略，以期为人工智能时代公民隐私权的保护问题提供有益参考。

一、人工智能时代公民隐私权的侵害风险

（一） 信息采集扩张的隐私泄露风险

人工智能时代，从 ChatGPT、DeepSeek、Sora、 Suno 等为代表的生成式人工智能软件，到智能摄像头、智能音箱，再到智能门锁、智能扫地机等实体智能终端，各类智能体已在无形中融入个人生活。这些智能体的大模型训练迭代依赖于“数据—参数— 模型”的循环式运转，需要抓取数十亿甚至数万亿数据来保证运行。在数据采集方面，小到人机交互过程的指令说明，大到个人位置活动轨迹、实时通话记录、健康检测数据、金融账号信息等各类隐私内容，都可能成为这些智能体大模型的训练数据。 2025 年 10 月 22 日，工信部发布《关于侵害用户权益行为的智能终端通报》，点名 20 款存在严重隐私侵权问题的智能终端设备，这些智能设备存在未提供个人信息处理规则、违规传输个人信息至云端、收集人脸信息未单独告知、未提供权限管控机制等多重隐私问题，其中多款智能设备更是存在超范围收集非必要个人信息的情况，说明了当前人工智能技术对公民隐私的隐形侵害。一项对智能家居 App 隐私政策合规性测评的研究，通过对智能家居 App 隐私政策进行分析，得出当前智能家居存在隐私政策合规性优劣不一、对个人敏感信息保护力度不足、敏感信息保护相关内容待补充等问题，且只有少数智能家居的隐私政策对个人生物识别信息进行了界定，并说明会单独告知使用个人生物识别信息的目的方式，同样说明了智能体对个人隐私边界的渗透。

作为被动或主动选择智能体的使用者，往往难以对智能体复杂化、专业化的个人数据采集规则有足够清晰的认知，往往选择“一键同意”隐私政策，在不知不觉中泄露了个人隐私信息，成为隐私被剥夺的数字弱势群体。当人工智能比用户本身更了解他们自身时，被掌握更多信息的数字个体将在智能权力入侵时进一步陷入无力反抗的境地，成为可以被塑造的“数字弱者”。

（一） 信息关联识别的隐私还原风险

用户在享受人工智能带来的便捷服务时，也面临着数字化隐私的增加。一方面个人传统生物性隐私信息被数字化，另一方面算法的介入使得原本不算隐私的碎片化数据也可以变为整合型隐私，数字隐私呈现横向扩张趋势。传统隐私保护的核心在于防范显性敏感信息的泄露，而大数据时代，算法通过数据汇总对比和模式识别等技术，能够将看似无关的日常数据转化为具有高度敏感性的个人隐私信息。此外，算法还能通过数据关联实现匿名化信息的再识别，挖掘出用户未主动披露甚至未曾意识到的敏感隐私，有意或者无意地对用户的隐私进行披露。如 Target 公司利用数据库将一些与怀孕高度相关的产品制作成预测怀孕情况的指数，能够通过客户的购买记录对女性客户的怀孕与否进行预测。根据该系统的预测，该公司获得了一位高中女生的妊娠隐私。这种推断能力突破了传统隐私的边界，使得原本不具备识别性的信息通过算法处理后，能够精准指向特定个体并挖掘其深层隐私，使隐私泄露的风险从显性转向隐性、从直接转向间接。

而在数据输出阶段，智能体的生成机制同样潜藏着数据关联识别的隐私还原风险。不同于传统数据库的检索复刻信息，当前人工智能大模型通过基于训练数据的模式联想与重组来进行推理回答，使得内容输出可能涉及训练数据中未被完全脱敏的隐私信息。具体而言，大模型存在“记忆残留”的特性，可能对语料中反复出现、具有显著特征的信息形成强关联记忆。当用户的提示词与训练数据中的隐私信息场景高度匹配时，模型可能直接生成相关隐私内容，由此增加个人隐私泄露风险。

（二） 信息精准定制的隐私攻击风险

多模态生成技术的成熟进一步放大了隐私泄露的攻击风险，提升了信息精准定制带来的隐私泄露风险。在文本和图像领域，生成式人工智能可以基于少量碎片化信息快速生成包含个人隐私细节的伪造文本和图片，通过拼接、演绎等方式构建逼真的虚假信息，为精准诈骗、恶意抹黑提供“定制化” 素材。视频与音频的深度合成技术更具隐蔽性，攻击者可利用技术替换人脸、模拟声音，制作伪造他人言行的虚假音视频，实现“以假乱真”的视觉效果。如近年来 AI“复活”逝者技术已形成产业链，从数据采集、模型训练到内容生成、平台分发，各个环节运作成熟，而其中很多内容并未经家属同意，不仅严重侵犯逝者个人权利，还可能通过虚假对话、虚构情节等方式诱导他人泄露更多隐私。一旦这些包含隐私信息的生成内容被发布到互联网平台，借助社交媒体的算法推荐与病毒式传播机制，可能导致隐私泄露的范围扩大至公共领域，造成难以挽回的声誉损害与社会影响.....(本文为文章截选，完整版请搜索公众号：“教育传媒研究杂志社”)