随着人工智能技术在移动终端的广泛应用,手机AI助手已成为用户日常生活的重要工具。
然而,这一新兴技术在便利用户的同时,也引发了对信息安全和隐私保护的深层思考。
全国政协委员李萌娇近日在接受采访时,针对手机AI助手的安全管理提出了系统性建议。
她指出,当前手机AI助手存在的主要问题包括三个方面:其一,部分AI助手通过"视觉读屏"加"模拟点击"等技术手段,可直接调用手机底层系统权限,在用户缺乏感知的情况下自主执行多个关键操作,这种"接管手机"的能力存在重大安全隐患;其二,恶意攻击者可能利用AI助手的漏洞,通过精心设计的邮件等方式诱导其执行非法操作,如直接将用户银行验证码发送给攻击者,对用户财产安全构成直接威胁;其三,AI助手对用户行为和个人信息的全面掌握,可能导致信息权限的无边界扩张,形成"数字上帝"现象,即AI系统对用户的了解甚至超过用户本人。
李萌娇委员建议,应当完善针对手机AI助手权限的安全管理体系,制定行业标准,弥补技术漏洞,并进一步规范相关法律法规,加大对过度收集个人用户信息的惩戒力度。
这些建议触及了AI产业发展中的核心问题:如何在推动技术创新与保护用户权益之间找到平衡点。
对此,抖音集团副总裁李亮进行了回应。
他认为,委员的发言可能受到了某些误导,将黑客恶意攻击行为与手机AI助手的合规技术能力混为一谈。
李亮强调,正规AI手机助手的运作机制与委员所述存在本质区别:所有操作都需要用户主动发起,整个过程用户始终保持可感知、可查看、可随时接管的状态。
这意味着,在规范运营的AI助手中,用户拥有完全的知情权和控制权。
李亮进一步表示,AI安全是AI产业健康发展的生命线,企业欢迎所有基于客观事实、专业认知的监督与建议。
为了消除认知分歧,他主动提出可向相关委员提供测试版手机,供其深入调研了解AI助手的实际运作方式。
这一举措体现了企业对透明沟通的态度,也为解决问题提供了实际路径。
当前,手机AI助手的安全管理问题已成为产业发展中的重要课题。
一方面,随着AI技术的深度融合,AI助手获得的系统权限和用户数据确实在增加,这对安全防护提出了更高要求;另一方面,不同企业的技术实现方式存在差异,安全水平也参差不齐,需要通过行业标准和监管规范来统一要求。
专业人士普遍认为,解决这一问题的关键在于建立透明的技术标准、完善的权限管理机制和有效的监督体系,既要保护用户隐私和财产安全,也要为产业创新留出合理空间。
手机智能助手的普及是技术发展的必然趋势,但其安全风险不容忽视。
如何在推动创新的同时筑牢安全防线,需要企业、监管机构与社会各界的共同努力。
只有建立透明、可信的技术生态,才能真正实现科技造福于民的目标。