相关文章
大模型分布式推理ray
一、目录
1 框架 2. 入门 3. 安装教程 4. 相关文档、案例阅读
二、实现
1 框架:Ray:将一个模型拆分到多个显卡中,实现分布式预测、训练等功能。 2. 入门 : 案例:通过ray 实现分布式部署,分布式推理服务。…
编程日记
2024/12/22 17:17:03
一个极简的用于 Web 服务鉴权的反向代理服务
Auth Proxy
一个极简的用于 Web 服务鉴权的反向代理服务 Demo(密码为:whoami):https://auth-proxy.wengcx.top/
极其简约的 UI对你的真实服务无任何侵入性支持容器部署,Docker Image 优化到不能再小(不到…
编程日记
2024/12/22 21:47:44
Ubuntu中安装VSCode的一个指令
问题描述
本来想去VSCode官网上下载软件包,然后双击使用Ubuntu Software安装的,但是安装老不成功。 想用命令行指令dpkg进行安装,虽然能成功,但是后续使用 code . 命令打开VSCode又报错说找不到命令。
解决方式
在命令行中使用…
编程日记
2024/12/17 14:08:45
【国家计算机二级C语言】高分笔记
二叉树 参考 http://t.csdnimg.cn/ozVwT
数据库 SQL程序语言有四种类型,对数据库的基本操作都属于这四类,它们分别为;数据定义语言(DDL)、数据查询语言(DQL)、数据操纵语言(DML)、数据控制语言…
编程日记
2024/12/18 8:56:01
4. C++ 堆栈工作机制
C 堆栈工作机制
前言
我们经常会讨论这样的问题:什么时候数据存储在堆栈(Stack)中,什么时候数据存储在堆(Heap)中。我们知道,局部变量是存储在堆栈中的;debug时,查看堆栈可以知道函数的调用顺序;函数调用…
编程日记
2024/12/21 9:10:09
五、C#归并排序算法
简介
归并排序是一种常见的排序算法,它采用分治法的思想,在排序过程中不断将待排序序列分割成更小的子序列,直到每个子序列中只剩下一个元素,然后将这些子序列两两合并排序,最终得到一个有序的序列。
归并排序实现原…
编程日记
2024/12/19 19:30:28
VS Code 跳板机登录服务器(手打密码+秘钥登录)
目录 0.为什么要用跳班机登陆服务器?
1.VS Code插件安装及ssh安装
2.密码链接方式
1)添加ssh设置,设置主机
2)设置跳板机
Tips:可以直接通过窗口连接文件管理
3.密钥连接方式(更安全更方便)
1)mac版…
编程日记
2024/12/19 7:20:58
String-基础知识点
String常量池
String常量池是专门为字符串对象设计的。当使用双引号创建字符串时,JVM会首先检查String常量池中是否已存在该字符串。如果存在,则返回该字符串的引用;否则,将在池中创建一个新的字符串,并返回其引用。这…
编程日记
2024/12/20 12:53:48