跳到主要内容

让大模型应用在本地展开

西北工业大学计算机学院

围绕 DeepSeek 等模型的本地部署,项目涉及多轮对话、文本翻译与代码纠错等研究应用。

公司介绍资料 · 第 48 页

蓝白色神经网络层与数据连接的 AI 可视化示意图
应用主题配图 · 非客户现场

项目中的工作条件

  • 大语言模型本地部署

  • 对话、翻译与代码应用

  • 多 GPU 计算资源

赤霄 RD-4240

原项目机型 · 配置按历史资料记录

项目采用赤霄 RD-4240 工作站,围绕 DeepSeek 等大语言模型的本地部署开展研究应用。

四张 A100、工作站级 CPU 与 512GB 内存组成资料中的计算配置,对应多轮对话、文本翻译和代码纠错等任务。

资料中的关键配置

CPU
Intel W9-3495X
GPU
4 × NVIDIA A100
内存
512GB DDR5

以上为原项目资料,不作为现款标准配置。

项目记录

项目资料记录了本地模型应用与主机配置;模型版本、精度和并发规模需在具体部署中确定。

内容来源

华弘数科公司介绍 · 第 48 页

本文按公司介绍中的项目需求与方案整理,机型名称按最新确认统一;当前产品建议用于同类需求的选型讨论。

把项目中的思路,带回你的工作。

华弘数科

选型咨询

从你的工作,开始选型。

告诉我们使用的软件、任务规模和工作空间,技术团队将与你梳理配置方向。

邮件按钮将打开你的邮件应用。也可以复制邮箱地址,通过常用邮箱联系。

已有设备,需要使用支持