相关文章
24GB内存就能跑7B参数大模型?全新训练策略GaLore助你突破内存瓶颈
训练大型语言模型,内存总是个大问题。
权重啊、优化器状态啊,都得吃内存,而且吃得还不少。
为了省内存,有人就想出了一些招儿,比如低秩适应(LoRA),就是给预训练权重添点儿可训练的…
编程日记
2024/12/22 16:11:35
Qt+FFmpeg+opengl从零制作视频播放器-4.音频解码
首先一个完整的MP4文件解封装之后,得到了压缩的音频数据,这个数据是不能直接拿去播放的,我们需要解码成原始的PCM数据才能够播放,解码音频数据,如下图所示,把MP3或者AAC数据解码成原始的数据pcm。
音频解码…
编程日记
2024/12/22 15:54:52
Linux-轻量级数据库sqlite-015
1【sqlite】安装
1.让虚拟机能够上网
2.【apt-get】工具集配置好
3.【sudo apt-get install sqlite3】
4.启动【sqlite3】 【sqlite3】
5.输入【.quit】退出2数据库简介
2.1常见的几种数据结构及数据库
1.数组、链表、文件、数据库(1)存储位置及存储…
编程日记
2024/12/22 15:56:00
RabbitMQ备份交换机与优先级队列
1. 备份交换机
备份交换机可以理解为 RabbitMQ 中交换机的“备胎”,当我们为某一个交换机声明一个对应的备份交换机时,就是为它创建一个备胎,当交换机接收到一条不可路由消息时,将会把这条消息转发到备份交换机中,由备…
编程日记
2024/12/19 13:22:40
Python使用FastAPI提供图片缩略图生成接口
使用pillow的thumbnail生成缩略图时,会保持原图的宽高比;使用的opencv的resize则不会
具体代码如下:
#!/usr/bin/env python
import re
import sys
from enum import Enum
from io import BytesIO
from pathlib import Path
from typing im…
编程日记
2024/12/16 14:19:13
Go语言的自给自足:编译自身的神奇之旅
Go语言的自给自足,即能够用自身编译自身,听起来似乎是一个矛盾的悖论,一个鸡生蛋或蛋生鸡的困境。但这正是Go语言引人入胜的特点。今天,我们将深入探究Go语言这个有趣的方面,并探索它为语言带来的好处。
激发好奇心的…
编程日记
2024/12/16 5:58:37
从零开始,一步步构建服务网格istio
一、环境情况
环境:Ubuntu20.04
机器数量:单机1台
IP:10.9.2.83
二、准备知识
为什么使用 Istio?
Istio提供了一种更高级别的服务网格解决方案,它可以简化和加强 Kubernetes 集群中的服务间通信、流量管理、安全…
编程日记
2024/12/20 8:55:18
海豚调度系列之:任务类型——Apache SeaTunnel
海豚调度系列之:任务类型——Apache SeaTunnel 一、Apache SeaTunnel二、创建任务三、任务参数四、任务样例1.在 DolphinScheduler 中配置 SeaTunnel 环境2.配置 SeaTunnel 任务节点 一、Apache SeaTunnel
SeaTunnel 任务类型,用于创建并执行 SeaTunnel…
编程日记
2024/12/16 23:04:31