本地 RAG 实战:用 Easysearch + Ollama SDK 半小时搭建检索增强问答系统
✅ 目标:只用两台服务器(或同一台)就跑通 “向量检索 + 本地大模型” 原型✅ 特点:完全离线、依赖极少、部署脚本即文档✅ 适合:快速 PoC、内网合规场景、想深挖 RAG 工作机理的开发者 生成式 AI 聊天固然强大,但当问题依赖本地私有知识时,单靠 LLM 参数内的“世界记忆”往往答非所问。RAG(Retrieval-Augmented Generation) 的思路是: 把文档切片 → 向量化 → 入库 用户提问 → 同样向量化 → 检索 将召回片段拼进 prompt,让大模型“带着材料”再回答 多数教程直接用云端 Embedding+OpenAI GPT-4o,但一些团队因隐私、成本或离线环境无法这样做。本文选用: EasySearch (= OpenSearch + Elastiknn) 做向量存取 Ollama SDK 连接本地 LLM Python + requests + ollama 三个依赖即可 1. 系统架构1234用户问题 ──▶ 嵌入模型 (Ollama) ──▶ EasySearch 向量检索 ──▶ Top-k 片段 ...
我用Amazon Q写了一个Docker客户端,并上架了懒猫微服商店
https://appstore.lazycat.cloud/#/shop/detail/xu.deploy.containly 自从被种草了 Amazon Q,我陆陆续续写了不少小软件,其中这个 Docker 客户端是一个典型的例子,比较符合自己平时使用的习惯,也分享给一些朋友和 NAS 爱好者来用。 故事还要用上次折腾黑群晖说起,本意想把 NAS 和打印机共享二合一的,所以把闲着的软路由做了改装。顺便使用 Docker 跑一些服务,有老本行的 ES 集群,也有自己写的一些工具类型的服务。 随着时间增长,部署的服务多了,时间长了就会忘记服务的端口,甚至还要登录群晖 Web 端进行查看,群晖的 Container Manager 很好用,就是登录的密码策略比较复杂,每次登录都比较麻烦,所以后来使用了一个 HomePage 来保存这些服务。但是每次调试 Docker 都非常麻烦。与 Portainer 相比,我需要的只是一个简洁的面板来查看容器的 URI、状态,并进行启停操作,因此我决定自己开发一个。 这个是群晖的 Container Manager,后面还有很多容器。记住这么...
懒猫微服进阶心得(七):懒猫的镜像仓库
这几年国内访问 Dockerhub 总有类似的问题,所以很多情况都建议自建 docker 仓库,比如 Habor,Nexus 或者。毕竟 GFW 的花样我们想不到。 云厂商的 ECR。但是对于个人玩家或者爱好者来说这一套实在是太重太难以维护了,可能也就是这个原因,懒猫微服也提供了镜像仓库的和本地仓库的功能。 先说镜像仓库,就是从懒猫微服的服务器上先拉 Docker image,然后再推到自己的 registry。这一步骤通常由出海链路比较好的机器来完成。 懒猫镜像同步功能懒猫提供了便捷的镜像同步命令: 1lzc-cli appstore copy-image cloudsmithy/lazycat-nav 执行之后就可以看到镜像仓库,registry.lazycat.cloud 这个地址。 重要说明:这个地址只能在微服环境中使用,如果在其他地方使用会出现认证错误: 12docker pull registry.lazycat.cloud/u04123229/cloudsmithy/lazycat-nav:854b14e73ab0726eError response from ...
懒猫微服进阶心得(六):以纸砚双拼为例,快速移植纯前端项目到懒猫微服
之前移植了一款颜值极高的纸砚双拼,想着纯前端类的软件应该都是一样的操作,所以把操作记录下来,方便以后复习查看,也相当于一个教程吧。 对于这种场景来说,前端项目开发完成后,我们将构建好的静态页面部署到服务器上。借助 Docker 和 Nginx,可以实现一套轻量、快速、可移植的部署方式,特别适合懒猫微服这种容器化的环境,也很适合日常调试测试使用。 下面将手把手教你如何打包一个 Vue 或 React 项目,并通过 Docker + Nginx 构建一个可复用的前端部署容器镜像,然后就可以把这个部署到懒猫微服删,当然也适用于各种 Linux + Docker 环境。 1 · 准备目录结构纸砚双拼是 Vue 的项目,所以直接执行这个命令打包 12npm inpm run build 打包完成后,项目根目录下会生成一个 dist/ 文件夹,里面包含: index.html 静态 JS、CSS 资源 图片等其他引用资源 基本所有前端工程化的流程都是部署这个 dist/静态目录。 在开始容器化之前,我们先来整理一下项目结构。 12345my-static-site/├──...
懒猫微服实战入门(十三):懒猫穿透不只图形化,纯命令行服务器也可以
需要解析 heiyu.space 这个域名就得安装客户端,突然发现懒猫微服的客户端都是图形化界面。对于服务器环境,特别是没有图形界面的服务器,我们需要纯命令行解决方案。 随着公网 IPv4 地址即将枯竭,许多云厂商的学生机也不再提供公网 IP,这迫使开发者寻找异地组网方案。虽然 Tailscale 是一个可选方案,但作为懒猫微服用户,我更希望利用懒猫自带的组网功能实现这一需求。 在 VIP 群咨询后,获得了服务端组网工具:https://gitee.com/lazycatcloud/hclient-cli 和花生壳的 CLI 类似,但是比花生壳省心多了。(这里不再过多吐槽花生壳系列了) 安装与配置1. 下载与初始运行12chmod +x ./hclient-cli-$arch # 首次启动需要添加可执行权限./hclient-cli-$arch 初始运行会提示:当前为非 tun 模式,仅支持通过 http 代理访问微服或其他设备资源 然后就会提示当前为非 tun 模式,仅支持通过 http 代理访问微服或其他设备资源,也就是说现在是单项的组网,这肯定不是我的要求,然后 GPT ...
懒猫微服实战入门(十二):用 iVentoy 打造你的 PXE 服务器
很多介绍 Linux 的书籍都会在结尾推荐 PXE 装机方式,尤其是经典的 TFTP + Kickstart 自动部署方案。但在普通家庭或轻量办公环境中,这种方式显得有些繁琐。在 U 盘装机的环境中,我一般使用的 Ventoy多合一 。不过 Ventoy 团队又推出了一个支持 PXE 的装机版本,名为 iVentoy,和 WDS 类似,不过更加省心,这个应用已经上架懒猫微服的应用商店,非常适合内网多机装系统的场景。终于不用再琢磨 WDS 了。还有就是之前不小心用店家带的 U 盘把主机的所有数据都格式化了,这种手残也一去不复返了。 什么是 PXE 无盘装机?PXE,全称 Preboot eXecution Environment,是一种允许电脑在没有本地操作系统、光盘或 U 盘的情况下,通过网络从服务器下载引导程序并完成系统安装的机制。 PXE 装机简化流程如下: 1234567891. 开机 → BIOS/UEFI 设置为从网卡启动(PXE Boot) ↓2. 客户端通过网卡发出 DHCP 请求 → 获取 IP 和引导文件地址 ↓3. 通过 TFTP 下...
懒猫微服进阶心得(五):使用懒猫微服做Ventoy启动盘
由于经常给别人装系统,所以经常做了一个多合一的系统盘。这今年基本都没用过 windows 了,都是 MacOS + Linux 的组合。但是 Ventoy 本身不支持 MacOS,以前是用 Windows 虚拟机来做这个事情,把 USB 直通进去再烧录。但是最近实在不想碰 Windows,所以想着是不是能在懒猫微服上做这个操作。 下载并解压 Ventoy1234wget https://github.com/ventoy/Ventoy/releases/download/v1.1.05/ventoy-1.1.05-linux.tar.gztar zxvf ventoy-1.1.05-linux.tar.gzcd ventoy-1.1.05/./VentoyWeb.sh 这个默认是启动在 localhost,如果需要外网访问改成 0.0.0.0,运行 ./VentoyWeb.sh 后,你会看到如下提示: 12345678./VentoyWeb.sh=============================================================== V...
懒猫微服实战入门(十一):一键换源指南:用 chsrc 开启丝滑体验
最近懒猫微服的系统固件进行了更新,默认的软件源重新指向了国际源。估计是为了方便海外用户,但对于国内开发者来说,访问速度顿时大打折扣,软件安装和更新频繁卡在连接阶段,着实是一个问题。 正巧群友推荐了一个神器 —— chsrc。这个工具支持一键切换系统、Python、conda 等多个主流组件的源,简洁高效,非常适合懒猫微服这样的轻量环境使用。 下载并安装 chsrcchsrc 项目在 Gitee 上提供了预编译的可执行文件,适用于不同架构的 Linux 设备。我当前使用的是 x86_64 架构,因此只需运行以下命令: 12curl -L https://gitee.com/RubyMetric/chsrc/releases/download/pre/chsrc-x64-linux -o chsrcchmod +x ./chsrc 下载后,为了方便使用,我们通常会把它加入环境变量。但懒猫微服的一个特殊机制是:除了 /root 目录,其他目录在每次重启后都会被重置。这意味着如果你将 chsrc 放在 /home 或 /usr/local/bin 之类的目录,它在下次重启后可能就不见了...
手把手搞定报名亚马逊科技认证
亚马逊云科技认证考试为我们这些技术从业者提供了提升专业技能的机会。无论选择线上还是线下考试,每种方式都有其独特的优势和挑战。选择合适的考试方式将帮助我们更好地展示自己的技术水平。以下是我对不同考试方式的优缺点介绍,以及各科目的考试代码。希望这些信息能帮助大家在备考过程中做出最优选择。 考试方式介绍线上考试优点: 方便快捷:无需通勤,考生可以根据自己的时间安排进行考试。 高灵活性:考试预约灵活,基本上每天都可以进行。 缺点: 环境要求较高:考试时屋内只能有考生一人,且不能有其他声音,否则监考官会关闭考试界面。 网络要求高:需要连接海外的直播平台发送摄像头内容,如果监考官无法看到考生,考试也会被关闭。 线下考试优点: 环境稳定:无需担心家中环境问题,且由线下监考员监考。 简便的身份验证:只需携带身份证和社保卡即可。 缺点: 考点少且难预约:例如,北京的考点不多且预约困难,多数考点位于郊区,如大兴和昌平。 时间限制:考点通常只在工作日开放,考生可能需要请假参加考试。 各科目考试代码帮助大家更好地准备和选择考试内容。我总结了亚马逊云科技现在的认证: 报名步骤首先,您需要...
记一次Amazon Q pro的使用
参加 AWS 的比赛申请了 Amazon Q pro,平时也在用 builderID 登陆使用免费的账户。Amazon Q pro 需要和 IAM identity center 一起用,不过比赛直接给配置好了,直接分发 IAM identity center 的账户,我们只需要注册,登陆,然后关联 Q pro。 从邮箱里给的链接注册,登录。然后绑定 MFA,这个 MFA 其实就是一个二次验证,如果账户被盗,对方没有 MFA 也是无法登录的。 我用了 2Fauth 来绑定的,当然你也可以使用 google authenticator 之类的软件,绑定六位动态码。当然比较常见的 MFA 就是短信验证码,当然还有打电话的。这边刚刚登录,这边电话马上过来。 注册成功会有这个提示。后面需要使用这个绑定的 MFA 进行登录。 登录之后会跳转到这个门户页面,点击 Q 的图标之后会跳转到 Amazon Q 的官方文档。 完成了登录,我们来做本地的配置: 在 VS code 商店中搜索 Amazon Q 并且安装: Amazon Q 有免费版和 Pro 版。免费版使用 build I...
