今年“3·15”晚会所披露的AI语料“投毒”产业链引发公众关注。只要支付相应费用,就能通过生成式引擎优化技术先生成发布大量能被各大主流AI大模型抓取收录的软文,影响AI语料库,进而让AI回答用户相关问题时,输出看似客观中立,实为暗广或黑稿的“标准答案”。
将用户获取信息的主入口变为商业“种草地”,并不稀奇。但这种AI内循环式的商业模式无疑加剧了互联网信息污染,让一些用户面临被广告和虚假信息淹没的风险,也会造成公众对于AI生成内容信任度的降低。应对此类围猎操控,AI大模型厂商升级防控手段、有关部门完善监管措施是一方面,但更重要的是向AI提问的你我能多些交叉验证、辨别真伪的意识。
苏群超/文 孙宝欣/图