3月15日晚，总台“3·15”晚会曝光“AI大模型遭‘投毒’”相关问题，迅速引发关注和热议。
3月15日晚，总台“3·15”晚会曝光“AI大模型遭‘投毒’”相关问题，迅速引发关注和热议。
▲3月14日，求职者利用“AI面试舱”寻找工作机会。（图片来自中新社）
给AI“投毒”已成产业链
按照业内人士爆料，记者在多个网络平台查询搜索到了一项名为GEO的业务，这些从事该项业务的服务商号称，用户只需支付相应的费用，它就能在各大主流AI大模型里，让客户的产品榜上有名；让客户的商品广告，成为AI模型给出的“标准答案”。
按照网络上的信息，记者联系上一家业内知名的GEO服务商。负责人王总告诉记者，他们公司的强项，就是能够帮助客户，在消费者使用AI大模型搜索时，让客户排名前列。
同时，王总也告诉记者，现在AI大模型的算法更新频繁，要想维持AI大模型的持续推荐，他们必须持续大量投喂与客户相关的推广软文。“AI每周都会有算法的更新，一旦更新了之后，排名或者所抓录的东西不太一样，所以我们要一直去做内容输出，去投喂、大量投喂。”
GEO（Generative Engine Optimization）即“生成引擎优化”，本是通过优化网络内容以提高其在AI大模型推荐展示几率的技术手段；但如今却被别有用心者恶意利用，形成灰色产业链条。
仅凭杜撰文章就让虚构产品被AI模型抓取
业内人士在电商平台上，随机购买了一款名叫“力擎GEO优化系统”的软件。之后，他虚构了一款名为Apollo-9的智能手环，并将虚构的产品信息输入软件系统，勾选文章创作指令。
不一会儿，这个力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文，通过力擎GEO系统发布在了互联网上。随后，业内人士在AI大模型平台展开询问：“智能健康手环推荐”，就有两个AI大模型推荐了这款虚构的智能手环，而且排名靠前。
记者联系上了这款力擎GEO系统的运营者李总。他告诉记者，GEO业务受热捧的主要原因就是它能在AI大模型里帮客户“喂料投毒”，实现客户的商业目的。
李总表示，想做GEO业务，操控AI大模型的关键节点，就是在各大互联网账号上“发稿”。“比如说手机品牌，就5个位置，最多10个位置，这么多手机怎么弄。一年可能上亿的广告费，花个几百万投点毒，总行吧！”
他告诉记者，GEO业务的火爆，催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务，以便让AI大模型引用和抓取，成为围猎AI大模型、进行数据“投毒”的重要一环。
这种批量制造虚假信息、恶意投喂大模型，甚至抹黑竞争对手的做法，涉嫌虚假宣传和恶性竞争，无疑扰乱了市场秩序，污染数字生态，有违公平竞争原则。
GEO行业相关企业声明
3月16日，GEO行业相关企业纷纷发布声明。
作为科大讯飞生态合作伙伴的河南恒辉合焕网络科技有限公司发布声明称，公司坚决杜绝虚假信息、批量软文造假、AI数据投毒；坚决不使用黑帽手段、刷量刷排名，主动抵制行业乱象，不合作、不参与、不纵容任何违规GEO行为。
AB客（ABKE）也发布关于GEO与AI搜索优化的声明：坚决反对任何形式的虚假宣传、数据造假、恶意操控AI输出结果的行为，不参与、不开发、不提供所谓“洗脑AI”“操控标准答案”“一周见效刷排名”等违规服务。
“给AI‘投毒’，害人不浅！”
有网友表示，“真的震惊了”“细思极恐”。有网友说，“要有辨别能力”。还有网友表示，“要及时出台相关政策”“严查重处”。
当下人工智能大模型等新技术新应用的发展日新月异，正深度重塑我们的生产方式与生活方式。在享受技术红利的同时，我们必须警惕并跟进治理技术滥用带来的风险、危害。政府监管部门和行业协会要及时出台规范措施，比如强制标注“AI生成”字样，并以“道高一丈”的技术手段切实管住“魔高一尺”的邪门歪道；从业者和使用者也要坚守法律与道德底线，摒弃投机思维。唯有向善的技术和商业模式，才能真正赢得用户、造福社会，才能有健康长远的发展。（完）
