如何让3080显卡在Ubuntu下适配深度学习环境？

源代码杀手 2021-02-07 04:13:20

3080显卡在Ubuntu下适配深度学习环境

Ubuntu16.04

Ubuntu18.04

...全文

691 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

内容概要：本文档详细介绍了基于国产海飞科显卡部署 deepseek 和 dify 的具体步骤与配置。硬件配置包括 i5 13400 CPU、32GB 内存、1TB SSD 和海飞科 C10-A13-U128C3S 显卡，操作系统为 Ubuntu 22.04。文档首先描述了 Ubuntu 的软件源配置，推荐使用清华、阿里云等国内镜像源以提升下载速度。接着详述了系统资源限制和内核参数的优化设置，确保系统性能达到最优。然后重点讲解了 ollama+deepseek 和 dify 的安装与配置过程，包括安装 AMD GPU 支持、配置 Docker 容器、启动服务等步骤。最后，针对海飞科显卡的适配，提供了大模型和小型 PyTorch 模型的部署方法，以及大模型的编译和传输流程。适合人群：具备一定 Linux 系统管理和 Docker 使用经验的技术人员，特别是对国产海飞科显卡感兴趣的开发者。使用场景及目标：① 需要在国产硬件平台上部署深度学习模型的用户；② 希望了解如何优化系统资源和内核参数以提高性能的技术人员；③ 对大模型和小型 PyTorch 模型的部署有需求的研究人员和开发者。其他说明：文档提供了详细的命令行操作步骤，用户应根据实际情况调整 IP 地址、端口号和其他配置项。此外，文档还包含了模型调用的 API 示例，便于用户进行功能测试。对于非技术人员，建议寻求专业帮助以确保部署成功。

ensorFlow™是一个基于数据流编程（dataflow programming）的符号数学系统，被广泛应用于各类机器学习（machine learning）算法的编程实现，其前身是谷歌的神经网络算法库DistBelief [1] 。 Tensorflow拥有多层级结构，可部署于各类服务器、PC终端和网页并支持GPU和TPU高性能数值计算，被广泛应用于谷歌内部的产品开发和各领域的科学研究

视觉传感器电脑配置要求

2020年末，由于RTX3080系显卡刚刚发布不久，深度学习的软件配套还没有跟上，这时候安装pytorch会有一定的难度。在安装的过程中，我参考了下面几位前辈的博客：为ubuntu18.04的RTX3080显卡安装驱动在ubuntu上安装cuda 在ubuntu上安装cudnn 在ubuntu上安装pytorch 使用了下面几个配套资源： RTX3080中国官网 cuda官网 cudnn官网 pytorch nightly的whl文件列表安装显卡驱动/cuda/cudnn 安装显卡驱动的过程，参考我

ubuntu20.04下配置深度学习环境pytorch和tensorflow

CUDA高性能计算讨论

357

社区成员

615

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章