谷歌给出了AIOverview犯错的原因,期望通过更新版本改变现状

评科技的阿刚 2024-05-31 20:52:52

近期,谷歌推出的人工智能概览(AI Overview),出现了很多问题,给正在依靠AI与其它公司开展竞争的谷歌带来了压力,因此谷歌发布了一篇文章,解释为什会出现“我应该吃多少块石头”,“用胶水把奶酪粘在披萨上‘’等令人感到荒谬的问题和答案。

为了避免被认为在AI技术有问题,谷歌给出的解释是,人工智能概览与其它聊天机器人的大模型不同。AI Overview集成了定制的语言模型与核心网络排名系统,然后根据用户的提问,执行传统的搜索任务,从索引中识别被算法认定的高质量信息。

我们最关心的是为什么AI Overview会出现这些让人哭笑不得的问题和答案。谷歌给出的答案也很简单,对查询的结果产生误解,对于网络上语言不同的表达存在误解或者搜索结果中没有更好的信息。这暴露出一个问题,现有的人工智能技术在处理人类等自然语言时,仍然存在很多错误。AI Overview可能无法判断语言所表达的细微差别,而犯的错。在披萨上涂胶水,不仅仅是语言误差的问题,还涉及到逻辑推理的问题,显然AI Overview在这个方面有缺陷。

为了避免再犯类似的错误,或者降低发生错误的概率。谷歌作出了一些改进。例如,限制具有讽刺和幽默内容的加入,这样可以减少无意义的查询。在搜索引擎中,限制用户生成内容的使用。对AI Overview没有帮助的查询,将会进行限制。对于新闻和健康等话题进行限制。

谷歌表示绝大多数AI Overview提供了高质量的信息,并且准确率也不低,对此谷歌没有更加详细的解释。这意味着,谷歌认定自己没有错,错的是信息。谷歌认为只要做出一些改进,很多问题就能够避免。

但是准确性仍然是用户最关心的问题。由于已经发生了问题,谷歌的改进要想重新获得用户的认可,还需要等待一段时间。但是,OpenAI等竞争对手,可能会从谷歌身上吸取教训,改进自己的模型,增强自己的竞争力。谷歌还需要推出独特的功能,跟其它竞争对手的产品有所差异,才有可能在AI搜索领域中占据优势地位。

0 阅读:4

评科技的阿刚

简介:感谢大家的关注