趁着618搞活动,以极低的价格买了一个云服务器。想着折腾点什么。发现可以自己搭一个git
服务器。
开始的时候我试着装了装Gitlab
。因为Gitlab CE
版本是开源免费的,而且看到有些企业也在用。装上去运行后发现2核2G的云服务器直接卡死了,连ssh
都登录不了。
后来又发现了gitea
。这是一个轻量的git
服务器。虽然没有gitlab
那么多功能,但占用内存极少。在2核2G的云服务器上运行甚是欢快。
下面记录了安装和折腾过程。enjoy~~
趁着618搞活动,以极低的价格买了一个云服务器。想着折腾点什么。发现可以自己搭一个git
服务器。
开始的时候我试着装了装Gitlab
。因为Gitlab CE
版本是开源免费的,而且看到有些企业也在用。装上去运行后发现2核2G的云服务器直接卡死了,连ssh
都登录不了。
后来又发现了gitea
。这是一个轻量的git
服务器。虽然没有gitlab
那么多功能,但占用内存极少。在2核2G的云服务器上运行甚是欢快。
下面记录了安装和折腾过程。enjoy~~
最近有人问了我一个C语言中使用指针时遇到的问题。下面是一个简化后的代码示例。
1 | #include <stdio.h> |
在回答一个具体问题之前,模型对问题进行详细的推理是很重要的。有时,模型可能会因为急于得出结论而犯推理错误,所以我们可以仔细设计prompt,要求在模型提供最终答案之前进行一系列相关的推理步骤,这样它就可以更长时间、更有条理地思考这个问题。
而像这样要求模型分步骤推理一个问题的策略被称为思考链推理。
本篇文章介绍如何检测模型的输出。
之前我们介绍过如何通过Moderation接口检测用户的输入,以避免让模型接受到违规的或者不合适的输入。现在我们同样也可以使用Moderation接口来检测模型输出的内容。
1 | final_response_to_customer = f""" |
之前的文章展示了如何使用大语言模型构建应用程序,从评估输入、处理输入到在向用户显示输出之前进行最终输出检查。
在构建了这样一个系统之后,怎么知道它是如何工作的呢?甚至在部署系统并让用户使用时,如何跟踪系统的运行情况,找出不足之处,并继续提高系统答案的质量呢?
这篇文章将与大家分享一些评估大语言模型输出的最佳实践。
本篇文章介绍如何通过将多个提示词结合起来,将复杂的任务分割成一系列更简单的子任务。
对于一个复杂的任务,我们可以通过一个复杂的提示词,让模型进行思维链推理,从而一步一步处理复杂任务。另一方面,我们也可以将一个复杂任务分成多个子任务,每个子任务都由一个单独的prompt去驱动模型处理。这样组织prompt的形式成为链式提示。
那么在什么情况下,我们需要将一个复杂任务拆分成多个子任务来处理呢?
对于一个机器人问答系统,用户的提问多种多样。为了更好的应对用户的提问,将用户的提问进行分类,然后根据不同的提问类别针对性地回答问题。这样系统会显得更智能。
在篇文章中,我们将重点关注如何对用户的输入进行分类。这对于确保系统的质量和安全性非常重要。对于需要处理具有大量独立指令集的任务,首先对问题类型进行分类,然后根据分类结果确定使用哪些指令,这对整个问答系统是非常有益的。
在本篇文章中,我们将综合前面文章中所有知识,创建一个端到端的客户服务助理示例。我们将经历以下步骤:
首先,我们将通过Moderation API检查输入是否违规。
其次,如果没有,我们将提取产品列表。
第三,如果找到产品信息,我们将尝试查找它们。
第四,我们用模型回答用户的问题。
第五,我们将通过Moderation API对答案进行审核。如果回答没有违规,我们可以把它返回给用户。
第六,对模型的回答进行质量评估