生成式技术商业应用引发监管新课题 专家呼吁构建全流程治理体系

问题—— 近期,多家媒体调查发现,面向大模型应用的生成式引擎优化服务需求上升。

其主要做法是研究模型内容抓取偏好,通过内容布局、话术模板、站群投放等方式,让模型在回答问题时更易引用含品牌信息的材料。

对用户而言,原本为了获得中立建议而咨询智能工具,却可能在不易察觉的情况下接收商业推广,出现“像在听推销”的体验。

与传统广告投放相比,这种“融入式”“答案式”的传播形态更隐蔽,是否构成广告、如何标识、由谁负责等,成为新的治理考题。

原因—— 一是流量入口迁移带来商业跟进。

搜索时代有围绕排名规则的内容优化服务,如今用户注意力向对话式产品集中,企业自然寻求在新入口中获得曝光与转化。

二是技术机制增加识别难度。

大模型通常综合多源信息生成答案,引用链条长、呈现方式自然,商业信息容易被“客观表达”包装,从而弱化广告边界。

三是行业竞争催生“擦边”冲动。

部分服务商将“让模型更爱引用”作为卖点,在内容生产中夸大效果甚至捏造事实,以博取模型抓取与用户信任。

四是监管体系尚在适配。

既有互联网广告监管多偏重结果端与事后处置,而大模型相关内容生成涉及“数据投喂—训练/对齐—检索生成—呈现交互”等环节,治理链条更长、专业门槛更高,制度与技术工具仍需完善。

影响—— 从消费者权益看,广告可识别性是基础。

广告法明确提出广告应当具有可识别性,便于消费者辨明其为广告。

若商业推广被包装成“中立答案”,可能侵害知情权与选择权,误导消费决策。

尤其在智能体应用逐渐普及、替用户点餐购物等场景增多的背景下,若推荐机制成“黑箱”,用户在确认付款前已被引导完成筛选,风险更隐蔽、后果更直接。

从市场秩序看,若通过编造背书、虚构测评、操纵口碑等方式吸引模型引用,可能涉嫌虚假宣传与不正当竞争,挤压守法经营者的公平空间,造成“劣币驱逐良币”。

从技术生态看,大模型迭代离不开高质量数据。

若大量同质化、强商业导向内容持续涌入公共信息环境,容易污染训练与检索语料,降低答案可靠性与多样性,长远看不利于产业健康发展,也削弱社会对新技术的信任基础。

对策—— 完善治理需要把握“既放得活又管得好”的原则,在鼓励创新与维护公共利益间形成可执行的边界。

其一,推动规则前置,明确“答案式推广”认定与标识标准。

针对对话式产品和智能体场景,研究制定可操作的广告识别与提示规范,强化显著标识、来源说明与利益关联披露,让用户一眼可辨、可追溯、可退出。

其二,压实主体责任,厘清服务商、平台与广告主边界。

对提供GEO等服务的机构,要求其留存业务记录、来源链路与客户信息,禁止伪造事实、虚构背书等行为;对提供大模型服务的平台,完善内容安全与商业合规审核机制,建立申诉纠错通道和快速处置机制;对广告主,强化对营销外包的合规管理,避免以“技术服务”之名规避法律责任。

其三,强化全流程监管与技术治理。

治理不仅盯结果,更要覆盖数据来源、内容生成、展示交互等关键环节,探索“以技治技”:提升推荐与生成逻辑的透明度与可解释性,完善水印、溯源、引用标注、风险提示等技术手段;对高风险行业与高影响场景,可引入分级分类管理与强制审查机制,形成可验证、可问责的闭环。

其四,形成多方协同共治格局。

新问题专业性强、变化快,需要监管部门、行业组织、平台企业、研究机构和消费者组织共同参与标准制定、案例研判与公众教育,推动形成可持续的治理生态。

前景—— 中央已提出完善人工智能治理。

面向生成式应用快速渗透的趋势,治理思路需要从“堵漏洞”转向“建机制”,从“事后纠偏”转向“预防为先”,从单一监管转向协同共治。

可以预期,随着制度规则、技术工具和行业自律逐步到位,AI信息服务有望在更清晰的边界内实现良性竞争:商业推广回归可识别、可监管、可追责的轨道,用户获得更可信的决策支持,产业也能在稳定预期中释放创新动能。

AI"打广告"的现象,本质上是技术进步与社会治理之间的一次"对话"。

技术的发展往往超越现有规则的覆盖范围,这既是挑战,也是机遇。

关键在于我们如何应对——既要保持对创新的尊重和鼓励,也要坚守对消费者权益的保护。

这需要监管者的敏锐洞察和及时跟进,需要企业的自律和担当,更需要全社会的理性思考。

唯有在观点的交锋和利益的平衡中不断反思和完善,才能确保技术向善,让人工智能真正成为造福全社会的工具,而非沦为商业操纵的手段。