腾讯元宝生成拜年海报现脏话引争议 官方回应称将优化审核机制
腾讯AI助手“腾讯元宝”在生成拜年海报时,竟出现了不雅脏话内容,引发网友广泛关注和热议,这一意外事件不仅让使用者的新年祝福“翻车”,也让公众对AI工具的内容审核能力产生质疑,对此,腾讯元宝团队迅速作出回应,承认了此次事件的发生,并解释称系模型训练数据偶发问题导致,已第一时间修复并启动优化机制。
据多位网友爆料,在使用腾讯元宝生成个性化拜年海报时,输入简单的新春祝福语后,海报中除了常规的吉祥图案和文字外,竟意外夹杂了“傻X”“滚”等粗俗词汇,这一情况让不少用户感到震惊和不适,毕竟拜年海报本应传递喜庆、祥和的氛围,出现脏话无疑是大煞风景,相关截图在社交平台传播后,迅速登上热搜,许多网友质疑:“AI生成的内容为何会出现如此低级的错误?”“审核机制是不是形同虚设?”
针对此事,腾讯元宝团队在第一时间通过官方渠道发布声明,声明中,团队首先向受到影响的用户致以诚挚的歉意,称此次事件暴露了模型在特定场景下的内容识别漏洞,经排查,问题原因系模型在训练过程中,偶吸包含了不当言论的文本数据,导致在生成特定风格内容时,未能有效过滤和屏蔽敏感词汇,从而出现了“拜年海报现脏话”的乌龙。 皇冠会员图标
腾讯元宝团队强调,作为面向大众的AI服务工具,内容安全是底线和核心准则,事件发生后,技术团队立即进行了紧急处理,包括修复模型漏洞、强化对拜年等特定场景的内容过滤规则,并对训练数据进行了全面清洗和排查,杜绝类似问题再次发生,团队表示将进一步完善AI内容审核机制,引入更严格的多重校验流程,结合人工复核与技术筛查,提升对不良信息的识别精度和响应速度。 皇冠代理端口
皇冠官网 随着AI技术的普及,各类AI生成工具在便捷用户生活的同时,也时常因“翻车”事件引发争议,此次腾讯元宝的拜年海报事件,再次敲响了AI内容安全的警钟,业内人士指出,AI模型的学习依赖海量数据,若训练数据中存在不良信息,或算法逻辑存在缺陷,就可能导致生成内容的“失控”,企业在推动AI技术创新的同时,必须将内容安全置于首位,持续优化算法和审核机制,避免技术漏洞对用户体验和社会价值观造成负面影响。
皇冠會員網 对于用户而言,此次事件也提醒大家,AI工具虽智能,但仍需保持审慎态度,对生成内容进行必要的核查,而腾讯元宝团队的快速响应和整改态度,也在一定程度上缓解了用户的疑虑,随着技术的不断迭代和监管的逐步完善,AI工具能否真正实现“智能”与“安全”的平衡,仍是行业需要持续探索的课题。
此次“拜年海报现脏话”事件虽小,却为AI发展敲响了警钟,如何在拥抱技术红利的同时,守住内容安全的底线,不仅是腾讯元宝等AI服务提供者需要深思的问题,更是整个行业迈向健康发展的重要课题。 欧博开户条件