潜伏在你 AI 营销技术栈里的无声风险

我有个朋友在一家中型品牌做营销负责人。上个月她骄傲地告诉我,她团队现在产出的内容是一年前的三倍。我问她怎么做到的。她说:"我们干脆不写大部分内容了,交给机器来写。"

我点了点头。然后又多问了一个问题。

"谁来检查机器写的东西?"

她沉默了。而那段沉默,正是我想聊的问题所在。

采用的鸿沟

有一个数字值得停下来想一想。超过 70% 的公司已经把生成式 AI(generative AI)用到了某个业务环节里。营销活动、个性化推荐、创意测试、战略方案——到处都是它。

可约束它的那些规则呢?几乎纹丝未动。

想想这意味着什么。路上的车正在成倍增加,而我们还在用铅笔写交通规则。企业把工具用起来的速度,比任何机构给它画一道围栏的速度都快。

听起来吓人。但反过来也成立。监管的滞后,本身就是一个窗口。就在此刻,在规则固化下来之前,你还有机会决定:自己究竟想成为一家什么样的 AI 团队。你来设护栏。你来选择机器如何驱动你向前,而不是把你开下悬崖。

偏见不是故障,而是继承

我们先聊第一颗地雷。人们以为 AI 是数学,所以是中立的。并不是。每一个模型都由人构建,用人产出的数据训练,从而继承人的盲区。

2022 年的一项研究发现,当你用"CEO"这个词去问一个 AI 图像工具要图时,大约 97% 的结果都是白人男性。九十七。不是六十。不是七十。几乎是全部。

当你的营销活动视觉素材出自这样的工具,而你的客户群体和输出完全不像时,会发生什么?你的品牌不再长得像你的客户。而你的客户会察觉。

更糟的还在后面。一家人力资源软件供应商目前正陷入法律纠纷,因为一位求职者声称它的 AI 筛选工具根据年龄、种族和残疾状况把他筛掉了。他甚至连面试机会都没拿到。

偏见不是理论问题。它会出现在你的招聘数据里、你的创意里,最终出现在你的收件箱里。以一纸诉状的形式。

那张没人在算的账

这是大部分领导者跳过的部分,因为它不会显示在他们的看板上。

每一天,光是某一个聊天机器人就要接收超过十亿次 prompt(注:即用户输入给模型的提示词)。只是其中一个。再把用户数、图像生成器、视频工具都加进来。给那些服务器散热所需的电力和水,数量惊人。某个加密货币网络一年烧掉的电,已经比整个国家还多。

眼下没有任何东西在抵消这种消耗。而需求曲线只有一个方向。向上。

你没法一个人修好整张电网。但你至少应该知道这张账单是真实存在的,而你的营销效率里有一项隐性条目,叫作"地球"。

没人检查时,谁来负责?

这一条是我最喜欢的,因为它最诚实。

麦肯锡(McKinsey)对 830 位在工作中使用生成式 AI 的人做了一项调查,发现了一件让我一直放不下的事。受访者的回答在"我会审查 AI 产出的每一样东西"和"我什么都不审查"之间几乎对半开。略微更多的人,倾向于什么都不审查。

让这件事在心里沉一会儿。一半按下发送键的人,根本不知道 AI 输出里到底装了什么。

而法律还没追上来,去回答那个显而易见的问题。当出事的时候,谁来担责?是那个提需求的人?是那个生成它的工具?还是那个训练它的供应商?目前,这个答案是耸耸肩——谁也不知道。

如果你带一支营销团队,这个答案必须是你。每一次都是。一个人在它发布前要审过。没有例外。

什么都不拥有,会出什么问题

接下来我们撞上法律这一层,而这一层很奇怪。

根据美国版权局(U.S. Copyright Office)的说法,完全由 AI 创作的东西,不能被个人或公司所拥有。也就是说,你团队上周二生成的那张漂亮的营销视觉素材,你的竞争对手明天就可以拿走,而你几乎没有任何救济手段。

有些品牌已经摸清了这一点。他们用 AI 来做头脑风暴和创意发想。然后他们去拍真实的照片、真实的视频,这样最终的素材才真正属于他们。聪明。

这个问题还有一个更暗的版本。深度伪造(deepfake)。某个人的脸、声音或写作风格被提取出来,未经同意就被使用。最近,一位高级政府官员的声音和举止被克隆得以假乱真,足以在真实对话里骗过真实的人。一旦一个 deepfake 流出去,你几乎再也无法把它塞回瓶子里。有时它传播的速度,比你起草一份下架通知还快。

想象一下你 CEO 的一段假视频宣布退休。股价异动。投资者恐慌。等任何人反应过来那不是真的,损失已经造成。

那你究竟该怎么做?

我不打算假装这事很简单。但有几步动作,能把在这个时代活下来的团队和被它打懵的团队区分开。

每季度做一次偏见与准确性审计。不是一年一次。是一个季度一次。把机器产出的东西,对照你真实运营所在的世界做检查。

如果你在招聘流程的任何环节使用 AI,把它的决策和你真实的招聘历史做基准对照。如果机器反复把同一类人筛掉,那不是"功能"。那是漏洞。

追踪你的品牌在主流模型里是怎么被提及的。有些工具能向你展示提示词级上下文,以及引用来自哪里。如果某个模型在悄悄地误描述你,你要赶在你的客户之前知道。

在任何 AI 生成的内容发布之前,建一个人工审查闸门。对于中高风险内容,让法务也过一遍。保留审计留痕。让你的 AI 供应商告诉你,他们用了什么数据训练、如何处理偏见。这一切每年都要刷新一次,因为规则会一直变。

还要把一份危机预案放进抽屉,趁你还没用得上的时候。如果某个周二晚上,你创始人的 deepfake 冒出来,你怎么办?谁给法务打电话?谁来拍板公关?谁有公开回应的权限?在风平浪静的下午两点把这些想清楚,别等到凌晨两点火势正猛时。

最后再说一件

营销脚下的地面,每个小时都在变。能赢下这一段的团队,不会是采用 AI 最快的那些。而会是那些早早地、清晰地决定了:自己愿意承受多大的风险,然后围绕这件事搭起一个框架。

那个框架有三条腿。问责。培训。护栏。

把这三件事做对,你就能睁着眼睛去用这些工具。跳过它们,你就只是在指望机器守规矩。希望不是战略。

我不知道这个领域接下来究竟会怎样。没人知道。但我宁可拿着一张我自己画的地图走进去,也不要拿机器替我画的那张。