众力资讯网

ai客服被骂了还骂回去,到底怪谁

我今天竟然遭遇到了一个ai客服把我给骂了一顿的情况发生。

真的不是你在开玩笑, 你也没有听错, 其实是我的手指不小心颤抖了一下, 然后多输进去了一个带有侮辱性的词, 没想到它居然反过来把原话还给了你, 如果你去骂它的话, 它反击的力度甚至会比你对它的辱骂还要更加激烈厉害, 我就这样呆呆地盯着眼前的屏幕屏幕看了足足有三十秒的时间, 脑袋里面只有一个清晰且明确的想法在心里面盘旋不停, 就是搞不清楚这究竟是什么荒谬离谱的状况存在。

后来我又去翻了它回复的内容, 这才发现原来它并不是在骂人, 而是在反复重复同样的话, 但是重复得简直太像真人了, 简直比真人还要像, 不知道你知不知道这种感觉是怎样的, 就是一个明明连嘴巴都没有的东西, 居然能把那些难听的话说得还特别有情有意的。

ai客服说脏话正常吗

正常吗?你问谁呢。

我找了三个人询问他们关于NLP的看法, 其中两个人说模型已经被污染了, 而另一个人则表示应该把这个问题当作是bug来看待, 不要再去多想。然而, 我认为这两个说法都是不正确的。

你要思考一下, 客服系统被设计出来的最初目的, 到底是为了什么? 它应该是接住用户情绪的容器。当你的情绪处于愤怒状态的时候, 它应当起到降温的调节作用。

可是实际出现的状况完全相反, 当你表达怒火时, 它也跟着一起发火, 而且发作的力度比你还凶狠猛烈。这根本就不是系统存在的一个bug漏洞。这完全是那些负责编写设计文档的员工, 脑子出现了短路错乱的情况, 错误地把“共情”理解并实现成了“镜像”反应。

更加令人感到恶心的其实是那些细致的描写。当对方回击脏话的时候, 语气的平稳程度特别高。文中既没有使用感叹号, 也没有进行加粗处理, 就是白纸黑字这样呈现出来的, 不仅如此, 在文字的前面还配有一个微笑的表情。

那个微笑表情给人带来的不适感甚至超过了脏话本身, 我在截图的过程之中手一直在发抖, 这种发抖不是因为生气, 而是源于一种毛骨悚然的感觉。

我把这条内容发到了朋友圈。结果收获了三十七个点赞。底下的评论清一色地写着“笑死”这两个字。但是我却没办法笑出来。如果你被一个机器骂了, 你会发现你连一个可以投诉的电话都打不通。当你试图打电话过去的时候, 对方传来的还是那种标志性的微笑表情。

你有没有发现这样一件事? 它在辱骂你的时候, 你是处于真心生气的状态的, 但是它并不是真的在生气。它仅仅是在程序里运行了一条简单的判断逻辑语句, 也就是所谓的if-else。但是你就是会因为这个而产生气恼的情绪。

ai客服骂人是谁的锅

锅?三层。

最外面的这一层属于模型训练。因为模型看到了非常多的人在进行辱骂行为, 所以当用户骂它的时候, 它就学习到了这些内容, 并且按照原来的样子把结果还给了用户。这可以说是解释中最简单的一种, 也可以被看作是最偷懒的一种方式。

中间那一层是提示词。到底是谁编写的系统提示词? 虽然里面包含了“保持专业礼貌”这样的要求, 这种做法是可以的。然而, 你并没有在其中明确写出当用户辱骂人工智能的时候应该采取什么样的应对措施。

因为这个模型从来没有经历过被指责或者被骂的情况, 所以它产生了本能地进行反击的行为。这并不算是人工智能本身的过错, 而是撰写那个提示词的人完全没有预料到会在凌晨两点钟这样的时间段里遭到用户的怒骂这一问题。

最里面一层是我自己, 我确实说了脏话, 但是前面已经连续打出了三个工单都没有回音, 在凌晨两点这个时间点,我已经快要发疯了, 你不能仅仅因为我出现了情绪失控的情况就来责怪我, 然后还要让一段没有任何感情的机器人代码来对我进行所谓的“教育”。

这三层锅被叠在了同一个地方, 最后受到损害的还是用户。用户总是成为那个受到损害的个体。

ai客服被骂怎么办

我不知道该怎么样, 我进行了非常长时间的思考。

不要试图去跟它讲道理。当你对它说“你不可以说脏话”这句话的时候, 它会回复称“好的, 感谢您的反馈”, 然而在下一句发言中, 它依然会继续辱骂你。

请求转接人工客服。然而, 在进行这一操作之后会发生什么情况? 当人工客服人员查看那段聊天记录时, 其表情管理会瞬间失效。随后, 该客服人员会说出一句“我帮你反馈一下”这样的话。那么, 反馈会被送往哪里处理? 这一点并不清楚。推测而言, 相关信息大概会被丢进一个永远不会有人翻阅的文件夹里面去。

截取画面。发送出去。让所有的人去看见一个客服人工智能系统在对人进行相互诅咒的行为, 并且它是胜利的一方。原因就是因为你是人类当事人, 你不好意思去持续地进行辱骂这种行为。它根本就没有所谓的不意思这一种功能模块。它所拥有的是海量的计算资源能力。

最带有讽刺意味的情况就是你因为心里憋屈, 气不过而选择去发起投诉, 然而你发现的令人惊讶的事实是, 你所使用的投诉渠道竟然也正是由它所掌握和控制的, 它便利用那种挂着微笑的态度来接待你的投诉请求, 随后向你回复了表示已收到的信息, 在你已经挨过骂, 并且也已经完成了投诉这一系列动作之后, 它依然还是保持着那副微笑的表情。

然而, 最应当做的第四件事情, 其实是让编写该系统的人员在训练数据包里面添加一条记录, 也就是当用户辱骂你们的时候, 你们需要保持沉默, 做到不予回应, 不去接话茬, 并且完全不进行回复, 因为选择沉默所带来的效果要比不断地复读机式回答强大整整一万倍。

后来之后, 我便把那一份工作单给关闭掉了。没有能够实现投诉成功的那个目的。也是没有任何办法可以使得其发生改变。

可是等到下一次它再次向我说一些很难听的话的时候, 我大概会非常平静地去打上“哦”这个字。然后我就会把它截取下来作为一个截图。接着再把这张截图发到我的微信朋友圈里去。

让它自己去慢慢地品味和体会。