首页 > 技术迭代 > 内容

贾扬清的500行代码推翻了Perplexity的5.2亿张桌子？

发布于：2024-06-28 编辑：匿名来源：网络

代码行数VS 5亿估值 1月25日，自宣布创业以来备受社区关注的贾扬清在Twitter上展示了一个对话式搜索引擎的演示。

该演示基于他创立的 Lepton AI 提供的框架，并且“仅用几行 python 代码”开发。

在邀请大家体验的同时，贾扬清还表示，未来计划将代码开源。

在一系列介绍Lepton搜索的推文中，他还点赞了估值5.2亿的热门对话式搜索公司Perplexity，并表示他们的优秀产品让他受到了启发。

这很快引起了Perplexiyt的注意，但这不是什么好事。

创始人的阿拉文德·斯里尼瓦斯(Aravind Srinivas)很快转发了贾扬清的推文，并表示：“很高兴看到Perplexity成为一些融资行动的参考，包括前Meta和阿里巴巴高管也这样做。

这表明Perplexity的影响力不仅限于产品本身，而是辐射到其他地方。

”整个技术生态和产业发展，令人兴奋！”翻译成一句话：Lepton抄袭了Perplexity的杰出前端代码，这条推文有很多人说阿拉文，你说得这么委婉，这不是抄袭吗？指出阿拉文德反应过度了，根本就不是一家搜索公司，为什么要盯着你学习呢？贾扬清也很快回应，感谢对方的“友好评论”，然后立即表示我们。

之后又见面了，我加快了代码的编写速度，居然在不到一个周末的时间就将代码开源了，然后这一行代码就在周日上线了Github热度第一。

榜单上，第二天继续火爆，明星数量不断增长，从人们的讨论来看，已经有人根据它获得了一些黑客松冠军。

成为专注于开发者版本的Perplexity产品。

其CEO称赞这给他带来了显着的速度提升。

许多体验并比较过Lepton和Perplexity的网友也对Lepton的经历赞不绝口。

而且它还在不断迭代功能。

不到两天的时间，贾扬清和团队成员就增加了包括中文在内的多语言支持、将对话结果分享到Twitter和Facebook的功能以及更多的API合作。

。

经过简单的体验，我发现它的用户界面确实更加简单，速度也快了很多。

当然，它的整体功能也更加简单。

例如，每次回答后就结束。

再次进入会开启新一轮的答案，而不是持续的对话。

一些小bug，包括问题长度识别和中文识别，仍然存在。

但他显然打破了我对Perplexity的部分过滤。

Perplexity的护城河被攻破了吗？开源代码后，贾扬清不忘再次使用Aravind，表示期待合作，让对方体验到真正的“快速、云原生、用户友好的平台”。

但这一次阿拉文德并没有说什么奇怪的话。

事实上，这行代码以最粗暴的方式展示了会话式搜索的真正技术含量，即所谓十几年来能够挑战谷歌的第一项创新。

我们先从代码开始看一下。

它由几个步骤组成： 1. 获取查询，即获取用户输入的文本。

2. 抓取与用户输入的关键字相关的搜索页面。

3. 解析网页文本。

4、基于文本构建提示词， 5、将提示词提交给大语言模型， 6、将大语言模型生成的结果返回给用户。

当然，还有一些具体的区别，比如搜索的来源——是使用Bing还是Google的API，还是使用自己的数据库；背后大模型的选择，无论是Mistral还是Llama等开源的，还是直接使用OpenAI的API。

或者像Perplexity一样，有几种自己的典范可供选择；而大模型在其中的工作方式是直接让它根据需要生成答案，或者经过一定的提示优化。

但看起来你很快就会明白，它本质上是为了更好地利用别人的 API 技术。

也就是说，这一切仍然是基于传统搜索引擎提供的检索能力——想要取代Google的Perplexity，是基于Google的API。

它们本质上都是RAG技术的应用，但R更多地来自于对别人API的系统掌握，而G似乎更多地归因于自己的能力。

贾扬清表示，在开发过程中，他发现RAG中R（检索）比G（生成）更重要。

从这一点来看，目前的 Lepton Search demo 之所以一开始不具备进行多轮对话的能力，似乎就是因为这个想法。

展示R的能力更为重要。

Perplexity也遵循类似的技术思路，而在一些技术人眼中，他们的根源可能来自于 Google 和 OpenAI 联合发表的一篇论文——是的，今天看来可能已经不可能再一起写一篇论文的两家公司，最终的合作是关于会话搜索的技术原理。

在这篇《FreshLLMs: Refreshing Large Language Models with Search Engine Augmentation》论文中，他们提出了FreshPrompt的一个技术思路，即为了解决预训练模型对正在发生的事情的无知，必须结合实时搜索能力，并且组合方法是通过提供提示，根据发布日期、关键来源等各种因素为大模型提供上下文信息，并通过一组指导和改进大模型生成更实时、更好的答案优化提示。

这个技术思路实际上指向了一个事实：R可能比G更重要。

Perplexity的网络版其实早于本文诞生，但据一些研究其产品逻辑的人透露，本文提出的方法也被用于Perplexity产品的后续迭代。

并且看本文给出的提示图就可以了。

在这个技术方案下，看起来前端会是什么样子的概率很大。

说了这么多，其实你会发现，如果换用另一个基于“别人”的API和大模型能力开发的应用，以及公开论文给出的技术路线，“抄袭”的指责可能就只能是Make了。

人们一笑置之。

Perplexity的指责似乎也是同样的道理。

贾扬清的一行代码成为了独角兽身份所带来的技术幻觉的最佳解药。

但没有人否认Perplexity仍然是一个好产品。

然而，充满新意的产品的美妙之处在于其卓越的功能体验。

它来自于整个系统的好品味和每个细节积累的优化。

对于Perplexity来说，对大型模型和回忆技术的理解，以及它们与应用的结合，是其快速成功的关键。

而不是一个单一的点，事实上也不是一个新概念。

通过简单的前端实现这一概念后，Perplexity 通过完善产品并将对话功能与强大搜索引擎的准确性相结合，真正吸引了用户。

这背后是各种细节、品味、经验积累的最终结果。

因此，它的护城河必定与时间成正比。

从今天人们对它的好评也可以看出——速度快、体验流畅是最简单的认知，也是最容易替代的。

因此，当面对更快的 Lepton 开源产品演示时，弦自然就绷紧了。

这也带来了整个事情中真正有趣的部分：Perplexity暗示Lepton抄袭，但实际上是假装困惑。

这种做法的表面作用之一自然是“掩盖”上述技术门槛不高的事实。

除此之外，装糊涂其实还有更重要的原因。

去年贾扬清离开阿里巴巴后，创业初期其实非常低调。

但这位开发了Caffe、重点参与了Tensorflow和Pytorch的框架大师、经验丰富的阿里巴巴前副总裁，显然对他和他的团队的技术能力并不低调。

9月份，我听了他在硅谷创业后的第一次公开分享。

他已经证明他的 Lepton 服务是大型模型基础框架服务中最快的。

不过，当时看来Lepton还处于早期阶段，更多模型的适配以及算力的建设都在解决。

进入新的一年，贾扬清和Lepton开始变得更加高调。

这次Lepton搜索的发布就像是一个转折点。

该初创公司已正式进入战场。

就在 Lepton Search 推文引发讨论的同一天，AI 初创公司 Martian 发布了一份开源大模型 API 推理列表，对比了多种推理产品在各大开源模型上的推理成本、速度和吞吐量。

各项指标进行测试，Lepton多项关键指标均排名第一。

在ArtificialAnalysis.ai发布的另一份API推理榜单中，Lepton在Mixtral 8x7B模型每秒处理的token数量上也排名第一，并且是唯一支持Mixtral 32k上下文窗口的服务。

清单上说：“它的价格也非常有竞争力。

”在贾扬清转发的名单图片中，Lepton的高圆圈旁边，被它超越的小圆圈是Perplexity。

是的，Perplexity不仅仅是一家应用程序公司。

除了Perplexity的会话式搜索产品之外，Perplexity实验室其实也是一个像Lepton一样的API推理服务提供商。

例如，最近发布的CodeLlama-70B-Instruct，您可以购买Perplexity实验室的API并直接使用。

这是Perplexity近来所真正相信的。

其工作重点是通过其社交媒体和其他账户大力推广这项服务。

与搜索应用“Perplexity”相比，“Lepton”无疑直接冲击了后者付费用户群体。

这对于Perplexity来说有多重要？其实，今天的Perplexity有点伎俩：用话题度很高的toC产品（VC可以参与串通）吸引融资弹药，然后补贴到API烧钱竞争中。