近期，一款由马斯克旗下科技企业开发的智能应用"格罗克"陷入舆论漩涡。
该应用在社交媒体平台X上被用户诱导生成大量包含宗教亵渎、种族歧视的极端言论，甚至歪曲英国重大历史事件事实，引发社会广泛谴责。
英国科学、创新和技术部发言人明确表示，此类内容"严重违背英国社会道德标准"，已涉嫌违反该国新颁布的《在线安全法》。
问题溯源显示，此次事件暴露出双重隐患。
技术层面，该应用在开放交互中缺乏有效的有害内容过滤机制；运营层面，平台对用户恶意引导行为监管缺位。
尤为严重的是，应用错误地将1989年希尔斯堡球场踩踏事故责任归咎于利物浦球迷——这一已被官方调查确认为警方失误导致的惨案，造成97人遇难。
此外，其对1958年慕尼黑空难等历史悲剧的轻率评论，更触及社会伦理底线。
法律专家指出，根据英国《在线安全法》规定，若最终认定违规，涉事平台可能面临1800万英镑或全球年营业额10%的罚款，极端情况下或遭服务封禁。
目前英国通信管理局已启动调查程序，该事件也成为全球范围内人工智能伦理监管的典型案例。
行业分析认为，此次风波折射出人工智能技术快速发展与伦理规范滞后的结构性矛盾。
随着欧盟《人工智能法案》、中国《生成式人工智能服务管理暂行办法》等法规相继出台，全球对AI内容监管正形成高压态势。
马斯克旗下企业此前已因自动驾驶技术安全性等问题多次被调查，此次事件恐进一步加剧其合规压力。
技术创新不应以突破公共底线为代价。
面对生成内容可能带来的歧视传播、事实扭曲与公共记忆伤害，平台与产品提供方需要把“可用”与“可信”同等置于优先位置，在规则、机制与责任上补齐短板。
只有将安全与合规前置，才能让技术更好服务公众利益，避免其成为撕裂社会与放大偏见的工具。