透视AI手机
编者按中国经济时报2月份邀请了业内多位专家、学者对于AI智能体的未来进行了讨论。当前，AI手机加速落地持续释放AI智能体商业化的信号。阶跃星辰推出原生智能体终端与系统、七款手机端侧大模型完成备案、努比亚豆包手机二代亮相WAIC等，无一不在显示手机行业将迈入AI智能体终端新阶段。不过，跨应用智能操作带来的数据授权、隐私安全等隐患仍待完善，消费者是否全盘接受需要时间给出答案。
政策篇
■中国经济时报记者 张丽敏
日常答疑、情绪倾诉、智能辅助……各种拟人化的AI服务让智能手机变得更贴心、更智能，也让终端AI产业迎来了快速爆发的新风口。但技术飞速迭代的背后，一系列隐秘风险也在悄悄潜伏：私密对话被悄然收录、手机权限被随意调用、温柔陪伴暗藏情感诱导，各类数据滥用与隐私乱象层出不穷。《人工智能拟人化互动服务管理暂行办法》(以下简称《暂行办法》)的正式落地施行，能否消除本报在2月份关于AI智能体未来讨论中的一些担忧?
堵住隐形风险漏洞 应对安全挑战
“从政策层面看，《暂行办法》补上了最直接的一块短板。”国务院发展研究中心企业研究所综合研究室主任、研究员高太山对中国经济时报记者表示，针对隐私问题，《暂行办法》明确，用户交互数据原则上不得向第三方提供，必须向用户提供聊天记录等交互数据的复制、删除选项;特别是属于敏感个人信息的交互数据，未经用户单独同意不得用于模型训练。这意味着企业必须对交互数据开展敏感信息识别分类，并设置独立的训练授权选项，不得默认勾选，也不能将相关授权打包纳入用户协议。
高太山进一步指出，AI手机的风险有相当一部分产生于“终端层”。端侧大模型的数据流转涉及手机厂商、应用开发者和第三方服务商，各方责任边界模糊，权限获取的“必要性界限”也尚不清晰，高敏感权限(如剪贴板、通知栏监听)、非主动弹窗以及权限撤销功能，将成为合规重点。此外，AI手机更大的风险来自系统底层权限的放开，这会大幅放大权限滥用风险;云、端之间数据流转带来的安全风险同样存在责任界定难题，仍需出台面向终端侧的专项制度。
北京前沿未来科技产业发展研究院院长陆峰在接受中国经济时报记者采访时表示，《暂行办法》的施行，一定程度能从制度根源上有效应对AI手机拟人互动带来的安全风险，至于具体效果取决于执行与办法细化。
他说，《暂行办法》的施行结束了过去“无法可依”的局面。在施行当天，苹果、华为、小米等主流手机厂商的端侧AI服务即完成备案，这种准入机制将安全要求前置到产品上线之前，对AI手机的权限调用和数据收集进行了源头规范。
此外，在《暂行办法》落地后，部分平台已主动下线存在风险的自定义智能体功能，进行合规调整。这说明，政策压力正有效传导至产业端，促使企业在产品设计中主动规避隐私滥用和成瘾诱导风险。
“但《暂行办法》在落地执行过程中，仍面临‘情感依赖’界定模糊、平台风控量化标准缺失等挑战，有待后续进一步细化完善，保障《办法》顺利实施。”陆峰说。
合规是产业升级的关键推力
合规体系建设势必带来企业新增投入。随着算法审核、伦理审查、数据合规改造、备案管理等成本上升，市场关心相关支出是否会传导至终端售价，将影响AI手机产业发展节奏。
“要客观看待合规成本问题。终端手机厂商开展算法审核、伦理审查、数据合规审查以及备案等合规工作，有助于降低产品安全风险、维护消费者权益、推动市场有序规范发展。”高太山表示，合规建设能够加速清退不合规企业。对于合规经营的企业来说，相关成本向终端定价传导的空间有限，前期新增成本完全可以依靠销量进行摊薄，最终关键仍取决于市场需求与消费者选择。
陆峰则表示，《暂行办法》带来的合规成本，将对AI手机行业形成短期阵痛与长期洗牌并存的双重影响，并推动终端定价从“功能溢价”转向“合规溢价”。
他表示，在短期内，合规成本将直接推高企业支出与产品售价。为满足《暂行办法》在风险预警、心理健康保护等方面的“能力规制”，企业需重建风控系统、增设专业团队，成本远超利润预期，这已导致部分大厂紧急下架相关功能以作风险隔离。受存储器涨价及合规成本叠加影响，新一代AI手机售价已出现明显上浮。
“从长期看，合规门槛将加速行业分化与价值重构。”陆峰指出，高昂的合规要求构成了中小企业难以跨越的壁垒，而头部厂商凭借先发备案优势将巩固市场地位。同时，商业逻辑将从依赖“情绪刺激”转向出售“可验证的服务价值”，推动市场走向更加健康、可持续的竞争。
细化规则闭环 让AI陪伴更安心
《暂行办法》为AI拟人互动产业搭建起了制度框架，但原则性的规则想要落地见效，还需要细化的标准、完善的监督体系作为支撑，彻底打消用户疑虑、提振消费信心。
高太山表示，从技术逻辑来看，云边协同是发展趋势，端侧智能体的治理同样不容忽视。在制度层面，需要进一步明确AI智能体调用系统底层权限的合法性基础与边界，针对支付、隐私、系统配置等关键操作，设置必要的用户确认环节。从责任链条来看，还要进一步厘清云端责任边界，围绕模型提供者、应用提供者、终端厂商、用户等主体划分各方责任，并尽快开展相关法律适用性研究。在配套措施方面，要加快推动相关标准、认证体系落地，重点完善面向AI终端的数据安全与隐私保护技术标准。与此同时，加快出台端侧AI数据安全、隐私保护专项技术标准与认证体系，做好各类法律法规协同衔接，防止出现监管真空，同时避免企业承受重复合规负担，构建全链条治理闭环。
“要让消费者更放心使用AI手机，后续政策还应在‘细化标准’和‘强化监督’两个维度上持续补强。”陆峰表示，一方面，亟需建立一套“可量化、可执行”的行业技术标准与测评体系。目前《暂行办法》中的“用户状态识别”“过度依赖预警”等要求偏向原则性，缺乏统一的测评指标。建议参考已发布的团体标准，尽快明确数据本地化存储、权限调用等具体要求，并建立权威测评机构，定期对市售AI手机进行安全审计与透明度公示，让消费者有据可依。
另一方面，应建立“穿透式”的第三方独立监督机制。在AI手机端云协同模式下，数据流向复杂，单一的企业自律难以让消费者完全放心。可强制要求引入独立的第三方审计，对模型训练数据的调用和权限使用进行动态监控，并将审计结果向社会公开，打破“算法黑箱”，切实保障消费者的知情权与删除权。
(中国经济时报记者孙兆对此文亦有贡献)
图片来源/摄图网授权
总 监 制丨杨玉洋 车海刚
监 制丨陈 波 刘卫民
审 核丨周子勋 发 布丨申双艳