千问3.5-2B部署教程:ss命令监听7860端口,确认服务正常暴露与防火墙策略

张开发
2026/4/18 8:52:30 15 分钟阅读

分享文章

千问3.5-2B部署教程:ss命令监听7860端口,确认服务正常暴露与防火墙策略
千问3.5-2B部署教程ss命令监听7860端口确认服务正常暴露与防火墙策略1. 千问3.5-2B模型简介千问3.5-2B是Qwen系列的小型视觉语言模型具备图片理解与文本生成能力。这个模型可以让你上传一张图片然后通过自然语言提示词与图片进行交互完成多种任务图片内容描述主体识别与定位简单OCR文字识别场景问答与分析2. 环境准备与快速部署2.1 系统要求在开始部署前请确保你的系统满足以下要求GPUNVIDIA RTX 4090 D 24GB或同等性能显卡操作系统Ubuntu 20.04或更高版本存储空间至少10GB可用空间网络稳定的互联网连接2.2 一键部署方法本镜像已经完成本地部署打开网页即可直接使用不需要再手动安装模型依赖。部署过程非常简单访问提供的镜像地址系统会自动加载预置模型等待服务启动完成约1-2分钟# 访问地址 https://gpu-hv221npax2-7860.web.gpu.csdn.net/3. 服务状态检查与端口监听3.1 使用ss命令检查端口监听部署完成后我们需要确认服务是否正常启动并监听7860端口。可以使用ss命令进行检查ss -ltnp | grep 7860这个命令会显示所有监听7860端口的进程信息。正常输出应该类似于LISTEN 0 128 0.0.0.0:7860 0.0.0.0:* users:((python3,pid1234,fd3))3.2 解读ss命令输出LISTEN表示端口处于监听状态0.0.0.0:7860表示服务监听在所有网络接口的7860端口python3表示运行服务的进程是Python程序如果看不到7860端口的监听信息说明服务可能没有正常启动。4. 防火墙策略配置4.1 检查防火墙状态在确认服务监听端口后需要确保防火墙允许7860端口的访问sudo ufw status4.2 开放7860端口如果防火墙处于活动状态需要添加规则允许7860端口的访问sudo ufw allow 7860 sudo ufw reload4.3 验证外部访问从外部机器测试是否可以访问服务curl http://服务器IP:7860/health正常应该返回类似以下内容{status:healthy}5. 服务管理与维护5.1 使用supervisor管理服务本镜像使用supervisor进行服务管理常用命令如下# 查看服务状态 supervisorctl status qwen35-2b-vl-web # 重启服务 supervisorctl restart qwen35-2b-vl-web # 查看日志 tail -n 100 /root/workspace/qwen35-2b-vl-web.log5.2 健康检查服务内置了健康检查接口可以定期调用以确认服务状态curl http://127.0.0.1:7860/health6. 常见问题排查6.1 端口被占用如果7860端口已被其他服务占用可以修改服务配置使用其他端口编辑supervisor配置文件修改端口参数重启服务6.2 服务无法启动如果服务无法启动可以检查日志文件tail -n 100 /root/workspace/qwen35-2b-vl-web.err.log常见问题包括显存不足模型文件损坏依赖项缺失6.3 外部无法访问如果外部无法访问服务请检查服务是否正常监听7860端口防火墙是否允许7860端口安全组规则是否配置正确7. 总结通过本教程你已经学会了如何部署千问3.5-2B视觉语言模型并使用ss命令检查7860端口的监听状态配置防火墙策略确保服务可访问。以下是关键要点回顾使用ss -ltnp | grep 7860检查端口监听状态通过ufw配置防火墙允许7860端口使用supervisor管理服务生命周期定期检查服务健康状态现在你可以开始使用千问3.5-2B进行图片理解和文本生成任务了。上传一张图片输入自然语言提示词体验AI带来的便利吧获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。

更多文章