2024年5月

之前的文章里写过,使用白嫖的无影云,挂一个对接GPT的微信机器人。最近一直在研究模型微调和外挂知识库RAG,并且搜罗了一些相关领域的优秀开源项目。今天就使用其中比较知名的FastGPT对接chatgpt-on-wechat制作一个微信法律问答助手。这是以最新发布的DeepSeek V2作为基座...之前的文章里写过,使用白嫖的无影云,挂一个对接GPT的微信机器人。最近一直在研究模型微调和外挂知识库RAG,并且搜罗了一些相关领域的优秀开源项目。今天就使用其中比较知名的FastGPT对接chatgpt-on-wechat制作一个微信法律问答助手。这是以最新发布的DeepSeek V2作为基座模型,...

今天在群内交流时,受到算想未来赵总的邀请,对其旗下的算想云进行使用。根据其介绍,算想云(https://LLM.sxwl.ai)是 Serverless 大模型训推云服务,目标用户 ML 工程师、MLOps 工程师、AI 应用开发者。用户手册:https://tricorder.feishu....今天在群内交流时,受到算想未来赵总的邀请,对其旗下的算想云进行使用。根据其介绍,算想云(https://LLM.sxwl.ai)是 Serverless 大模型训推云服务,目标用户 ML 工程师、MLOps 工程师、AI 应用开发者。用户手册:https://tricorder.feishu.cn/...

在浅尝过调用gpt对接gpt-wechat机器人,和自行部署vllm+01Ai的大模型后,我们继续尝试用一些好用的工具帮我们快速经行大模型的微调。基础环境还是由老朋友autodl来为我们提供。不多赘述,自行选择GPU和创建环境。进入jupyter lab打开一个终端,git 获取llamafa...在浅尝过调用gpt对接gpt-wechat机器人,和自行部署vllm+01Ai的大模型后,我们继续尝试用一些好用的工具帮我们快速经行大模型的微调。基础环境还是由老朋友autodl来为我们提供。不多赘述,自行选择GPU和创建环境。进入jupyter lab打开一个终端,git 获取llamafacto...

AI训练需要大量的GPU算力,除了大家比较熟悉的autodl、谷歌、亚马逊之外,openbayes也很不错,目前注册送3小时的4090算力,足够我们在上面跑通glm模型流程了。用我的专用邀请链接,注册 OpenBayes,双方各获得【额外】 60 分钟 RTX 4090 使用时长,支持累积,永...AI训练需要大量的GPU算力,除了大家比较熟悉的autodl、谷歌、亚马逊之外,openbayes也很不错,目前注册送3小时的4090算力,足够我们在上面跑通glm模型流程了。用我的专用邀请链接,注册 OpenBayes,双方各获得【额外】 60 分钟 RTX 4090 使用时长,支持累积,永久有效...

首先是获取一个无影云电脑,我这个是在阿里白嫖的3个月800小时免费使用的时限。并运行了ubuntu 22.04系统。本次部署的是https://github.com/zhayujie/chatgpt-on-wechat 项目。你也可以通过其官方文档查看具体部署的流程(内含docker一键部署)...首先是获取一个无影云电脑,我这个是在阿里白嫖的3个月800小时免费使用的时限。并运行了ubuntu 22.04系统。本次部署的是https://github.com/zhayujie/chatgpt-on-wechat 项目。你也可以通过其官方文档查看具体部署的流程(内含docker一键部署)。为了...