#部署

大模型推理服务化:从 Embedding 到 LLM 的 K8s 部署全流程

gavin1024

大语言模型的部署相比 Embedding 模型更为复杂。数百亿参数的模型需要多卡甚至多机协同才能完成推理。在 TKE 上部署满血版大模型时,可以使用 Leade...

3600

【CI/CD·Jenkins篇】环境搭建:从零部署 Jenkins 主从架构

紫风

前言 本篇带你从零搭建一个生产可用的 Jenkins 主从架构。不是"装上就跑"的玩具版本,而是包含安全加固、多节点配置、Docker 集成的完整方案。跟着做下...

2600

前端玩转大模型,DeepSeek-R1 蒸馏 Llama 模型的 Bedrock 部署

德育处主任

开源基础模型(FMs)已成为生成式 AI 创新的核心支柱,其重要性不仅体现在技术突破层面,更在于为组织构建和定制 AI 应用提供了坚实基础。通过提供高质量、公开...

1500

『NAS』证件照自由,在群晖部署HivisionIDPhotos

德育处主任

HivisionIDPhotos 的体积有点大,足足有1.76G,下载速度会比之前介绍过的其他工具要慢一点,有时候可能还会出现一些网络波动(如下图所示,下载进度...

8410

『NAS』在NAS部署个抠图工具-SimpleImageMatting

德育处主任

这次我在绿联NAS上部署这套工具,跟着我的操作步骤去做事能成功部署并运行的。本文仅供收藏~

6410

本地部署MonkeyCode后,如何让另一台电脑也能用上AI编程?

fruge365

把AI代码助手部署在本地服务器以后,第一个问题通常不是它能不能生成代码,而是离开这台服务器后,还能不能在其他电脑上继续使用。

5900

CI/CD 流水线容器化:DevOps 团队如何利用 TKE 加速交付

克劳德2048

环境不一致、部署手动、发布停服——传统交付流程的三大痛点正在拖慢业务迭代。本文详解基于便宜云服务器 TKE 构建的容器化 CI/CD 流水线方案,涵盖云原生构建、Gi...

12810

【CI/CD·入门篇】CI vs CD vs Continuous Deployment:三个层次的区别与联系

紫风

前言 很多人把 CI/CD 当成一个词来用,但实际上它是三个递进的层次。理解这三个层次的边界,决定了你团队自动化的成熟度。本篇用三个实际的流水线配置,让你直观感...

7510

镜像拉取慢拖累部署效率?内网高速通道与缓存策略优化

克劳德2048

摘要: 容器镜像拉取速度直接影响应用部署和弹性扩容的效率。本文介绍基于 TKE 的镜像加速方案,涵盖内网高速通道、Registry 镜像缓存和懒加载等关键技术手...

7100

开发人员抱怨 K8s 太难?平台工程让基础设施变得简单可控

克劳德2048

摘要: Kubernetes 的复杂性常常成为开发团队的负担。本文介绍如何通过平台工程方法在便宜云服务器 TKE 之上构建内部开发者平台,利用模板市场、应用管理和云原...

11210

【CI/CD·入门篇】CI/CD到底是什么:从手动部署到一键上线的演进之路

紫风

前言 如果你经历过这样的场景——开发人员写完代码,用 FTP 把文件传到服务器上,手动重启应用,然后在浏览器里刷新看看有没有跑起来——你就会理解 CI/CD 出...

9010

『n8n』推荐一个数据搜索节点-SerpApi

德育处主任

如果你有 NAS,我非常建议你在 NAS 上部署一套 n8n,搞搞副业也好,帮你完成工作任务也好 《『NAS』不止娱乐,NAS也是生产力,在绿联部署AI工作流工...

7810

Umami网站统计实战:Docker部署、Typecho接入与公网访问

fruge365

直接使用第三方统计平台比较方便,但网站访问数据、账号体系和服务可用性也会依赖外部平台。对于已经拥有NAS或私有服务器的用户,可以考虑部署一套自己的统计系统,把相...

13410

『NAS』在绿联部署今日热榜-Dailyhot

德育处主任

Dailyhot 是一款开源的全网热榜聚合工具,能一站式汇聚 27 + 主流平台的实时热点,帮助用户快速掌握全网脉搏。

14910

『NAS』在群晖部署无广聚合搜索引擎-SearXNG

德育处主任

SearXNG 是一款开源的聚合搜索引擎工具,支持私有化部署,能整合多个主流搜索引擎的结果,且搜索页面无广告、无追踪,还可自定义启用的搜索引擎源,打造专属的干净...

13910

Kimi K3大模型开放权重:真正的生意,藏在许可证里

Henry Zhang

K3 的权重、代码和部署说明已经公开,开发者可以下载、修改、微调和部署。对研究者、个人开发者和希望私有部署的企业,这显著降低了进入门槛。

43610

振奋!全球首个电力气象大模型,用国产算力跑出来了

气象学家

近日,中国电科院、中国科学技术大学与海光信息联合发布“玑衡”——全球首个电力气象大模型,该模型从数据构建、训练开发到业务部署,全程依托海光DCU-3G完成,跑通...

16810
领券
http://www.vxiaotou.com