我之前一直使用的是5070显卡,显存12g, 只能用9B模型。 想想用个16G的显卡会不会好点。 于是购入了5060TI 16G 工作站参数如下: cpu 22核44线程 gpu 5060ti 16g 内存 64g 系统 ubuntu 24.04.1-Ubuntu 安装过程 首先是插入显卡 准备安装驱动,我这里是重新安装了系统。之前是系统是安装好的,安装驱动莫名其妙...

最开始使用的ollama, 发现很多模型生成效果,或者回答效果都不太好。 后面发现是因为ollama一般提供的都是q4量化的。 后面就转用 llama.cpp 了。 这里发现一个问题,酒馆使用的时候, llama.cpp 将思考内容输出到 content,字段中了。 而我在使用线上模型时,是输出到 reasoning_content 字段中。 我搜索了一圈,说加上``启动参数就好,但是...

最近打算升级我的5080, 看5090很香。 但是不知道实际效果如何。于是突发奇想使用大模型测试一番看看效果 要看5090能干嘛,当然不能直接买,于是在AUTODL上面充值了100,试试水。 这里都是些主观性的测试,大家看看就好。主要测试的是酒馆的角色卡。 这里直接贴数据: 模型 qwen2.5:32b 首先是5090, 32gb的显存,虽然能用,但是上下文号称是32k, 但是实际拉...

阅读此文章可以解决的问题: mysql json 字段查询为null mybatis typehandler 查询返回为Null 使用自定义 typehandler 查询返回 null 一个需求,很简单,需要储存图片,于是在 mysql 中我使用了 json 数据类型,想的是直接储存 List<String> ,很合理是吧。 所以先定义定义具体的typeha...

最近公司做一个租房项目,其中有一个逻辑是账单账期生成。 比如租房押一付三,压2付5, 这类的需要根据租借时间生成账单和账期, 这里备注下,以备后用。 package org.example; import lombok.Data; import java.time.LocalDateTime; import java.time.format.DateTimeFormatter; im...

这里只是一个代码模版, 记录了一些常用代码片段,方便copy pymysql 操作mysql import os def dataparse(db): cur = db.cursor() # 执行的都是原生SQL语句 cur.execute("SELECT * FROM t_rent_info") orders = cur.fetchall() ...

一般来说,小项目确实没有https证书需求的。 但是,在某些场景中(比如docker registry使用),就需要默认使用http证书,不然就需要增加安全信任配置, 一个两个还好,多了就麻烦了。 所以这里记录两个很简单的https证书获取方式(两种证书都是从Let’s Encrypt中签发,支持泛域名,默认有效期3个月,会自动续期): 1. 使用acme.sh脚本获取证书 acme...

1. 简介 简单说明下: k3s可以看做是k8s的精简版,功能和操作方式和k8s一样的。 而k3d则是将k3sdocker化的一个开源项目,也就是k3d可以将k3d部署于docker中。适合快速搭建开发测试环境。 2. 基建 首先第一步则是安装k3d, 这里官方有安装文档, 很简单的一键安装, k3d官网 其他方式可以去看官网的安装命令 wget -q -O - https://ra...

测试环境部署项目,使用jenkins+docker确实方便。 这里记录下搭建流程,以备后用。 1. 搞基建 首先是安装Jenkins,这里直接使用docker安装。原有的Jenkins官方镜像里没有docker 需要根据官方镜像打包一个自定义jenkins镜像,这个镜像里面整合了docker dockerfile内容 FROM jenkins/jenkins:2.528.1-jd...

正常来说,自己开发的话安装一个最新的就行,各方面体验最佳。 但是客户需求是千奇百怪的, 比如我这个项目,需要在win7上运行,而且还是32位的。具体版本是: win7 sp1 我当前版本安装的是1.22.5, 算是新的了, 用命令打包成x86版本的exe应用,传到服务器却是不能成功运行。 报错提示: C:\Users\cdfy\Desktop>server_win.exe Ex...