当前位置:首页 > 人工智能 > 正文

如何在iKuaiOS上优雅地运行DeepSeek



DeepSeek作为中国深度求索公司研发的开源大语言模型,凭借其高性价比和创新能力,成为全球AI领域的焦点。爱快路由器操作系统 iKuaiOS,不仅功能丰富,而且有丰富的拓展能力,支持通过虚拟机部署DeepSeek。系统版本更新后,iKuaiOS 将能够直接实现DeepSeek的Docker部署



DeepSeek-R1在iKuaiOS上的部署方法
DEEPSEEK-R1 DEPLOYMENT METHOD


如何在iKuaiOS上优雅地运行DeepSeek

AI

iKuaiOS适配
Adaptation



从DeepSeek-V3,到DeepSeek-R1,再到DeepSeek Janus-Pro,DeepSeek 以令人瞩目的速度,在大模型领域异军突起,一跃成为全球用户增速最快的 AI 应用。众多国际主流平台,纷纷适配DeepSeek。作为国内路由操作系统代表厂商之一,爱快旗下的iKuaiOS, 通过虚拟机的方式,迅速完成了对DeepSeek的适配。


用户可以通过在iKuaiOS 的docker中创建镜像,部署DeepSeek-R1版本。

01
新建虚拟机

在 iKuaiOS 系统环境中,找到对应的虚拟机创建入口,按照系统提示的参数设置要求,完成虚拟机的初步搭建。

如何在iKuaiOS上优雅地运行DeepSeek

02
安装 Debian 12 系统
如何在iKuaiOS上优雅地运行DeepSeek

03
寻找虚拟机对应IP

在系统安装完成后,系统会自动从 DHCP 分配的 IP 列表中获取对应 IP。通过 iKuaiOS 的 DHCP 管理界面,查看并记录该虚拟机所分配到的 IP 地址,此 IP 将用于后续的访问和配置。

如何在iKuaiOS上优雅地运行DeepSeek

04
设置端口映射

将虚拟机的特定端口映射到 iKuaiOS 所在网络的公网 IP 或合适的内部网络 IP 端口,保证数据传输的通畅。

如何在iKuaiOS上优雅地运行DeepSeek

05
下载 ollama

curl -fsSL https://ollama.com/install.sh | sh

06
启动 ollama 服务

这里监听 0.0.0.0,方便端口映射出去,方便集成 CherryStudio 等软件。

OLLAMA_HOST="0.0.0.0:8081" ollama serve

07
过程推理

再打开一个 shell,下载模型,尝试一下推理:

如何在iKuaiOS上优雅地运行DeepSeek

如何在iKuaiOS上优雅地运行DeepSeek







iKuaiOS凭借开放的架构设计和灵活的扩展能力,可高效整合开源社区生态中的各类工具,本次DeepSeek-R1模型部署验证便是其中的一次尝试。基于AI大模型的计算规则,如果您对使用体验有更高的要求,建议您在GPU测试环境下运行。


AI技术赋能iKuaiOS







iKuaiOS通过适配DeepSeek的轻量级模型,在未来,可服务于高并发任务,如智能客服、自动化文档处理等。结合iKuaiOS的安全架构,用户可在本地服务器实现私有化部署,实现功能的定制化服务,确保数据隐私与业务自主可控。


如何在iKuaiOS上优雅地运行DeepSeek
如何在iKuaiOS上优雅地运行DeepSeek

随着iKuaiOS的版本迭代,DeepSeek的模板化RLHF训练方法,有希望与iKuaiOS的AI网优、云防火墙、负载分流等功能深度结合,AI技术将全面赋能iKuaiOS的功能进化。




iKuaiOS成功实现DeepSeeK在虚拟机上的运行,这充分验证了iKuaiOS 开放性强、拓展功能丰富的特性。展望未来,iKuaiOS将继续探索科技前沿领域,充分发挥AI技术赋能作用,为用户打造更智能、更便捷的服务



相关文章:

文章已关闭评论!