vLLM是什么?OpenWrt安装Docker启动vLLM服务
LLM是一款用于大语言模型推理和服务的快速且易于使用的库。它的优点简直太多了,让我们一起来看看吧!超高的服务吞吐量:vLLM利用PagedAttention高效管理注意力键和值内存,连续批量处理传入请求。快速模型执行:支持CUDA/HIP图形,量化技术包括GPTQ、AWQ、SqueezeLLM、FP8KV缓存,优化的CUDA内核。灵活易用:无缝集成热门的HuggingFace模型,支持并行采样、束搜索等多种解码算法,流式输出。因此,vLLM简直是LLM推理和服务的绝绝子!接下来,我们进入核心
阅读全文:vLLM是什么?OpenWrt安装Docker启动vLLM服务
adguardhome乐观缓存导致DNS_PROBE_FINISHED_NXDOMAIN错误
NS_PROBE_FINISHED_NXDOMAIN。。排查了下,把adgh的乐观缓存关了,或者手动清空缓存就ok。。。。。但是可以不方便啊,以前没出现过这个问题啊?以前部署过两个版本,一个是TrueNAS版,一个是Adguard官方docker镜像,全部开启乐观缓存,没遇到过这个问题。我一直开启,没出现过。看看是不是上游dns出问题了,我上游选的是阿里的doh,直接填个223.5.5.5。最后发现是缓存时效太长了半小
阅读全文:adguardhome乐观缓存导致DNS_PROBE_FINISHED_NXDOMAIN错误
交换机万兆模块兮克SKT-10G-30M拔不出来,交换机问题还是模块问题?
兆模块说什么也拔不下来,咨询客服,让客服给我发了模块安装和拆卸视频,和我插拔模块的方法相同,但是还是不行,最后使用钳子模块都拔坏了,还是没出来,但是相同的我使用思科的模块插拔就很顺畅。模块是兮克SKT-10G-30M交换机是 keepLINKKP-9000-6XH-X2都是京东自营买的首先说结论交换机接口下方有一片带三角形镂空的铁片,模块插进去的时候对应的部位有个小三角凸起,正好卡到铁片的三角镂空里面,模块抽出来的时候拉环往
阅读全文:交换机万兆模块兮克SKT-10G-30M拔不出来,交换机问题还是模块问题?
路由器厂家为何如此封锁SSH\TTL?封锁SSH\TTL原因(猜测)
H\TTL?卖给用户之后管用户干嘛呢,封锁SSH勉强还理解为增加安全性连TTL都锁了是不是有点过分,刷TTL拆机失去质保,也不会额外增加厂商的售后成本啊难道怕自己能解锁导致销量太高吗?我的封锁SSH\TTL原因感觉感觉是因为在学“极路由”那一套模式。极路由似乎是最早炒智能路由概念的,系统功能简单,只有一些基础的网络功能,然后加个插件市场,同时支持手机app远
阅读全文:路由器厂家为何如此封锁SSH\TTL?封锁SSH\TTL原因(猜测)
微软商店下载没速度使用Watt Toolkit官网加速器
置?苏州电信1000M不开UU加速器打开很慢甚至打不开。开了UU加速器能打开,但是下载速度极慢(几十KB/s到1MB/s不等)且不稳定(经常会断)。对于频繁更新的在线游戏简直是毁灭性灾难。而其他游戏平台,Steam下载速度在30MB/s左右(港服)且很稳定,EA下载速度大于10MB/s不多也勉强够用,Epic下载速度跟Steam差不多级别。去下载UsbEAmHos
阅读全文:微软商店下载没速度使用Watt Toolkit官网加速器
澎湃OS小米怎么关闭视频彩铃
那么如何去除广告呢?小米澎湃OS去除视频彩铃操作方案1、小米手机需要升级到澎湃OS(XiaomiHyperOS),需要开启开发者选项才可以设置。设置->我的设备->全部参数与信息,多次点击OS版本或Android版本开启开发者模式。2、开启开发者模式后,设置->更多设置->开发者选项->蜂窝网络调试,关闭视频彩铃开启。3、现在打电话视频彩铃不会显示,只会显示黑屏。
阅读全文:澎湃OS小米怎么关闭视频彩铃
爱快ipv6设置 爱快iKuai设置IPv6地址
快iKuai对于IPv6的支持也越做越好。1、环境介绍1.1iKuai免费版本:iKuai3.7.11x64Build2024030510401.2江苏电信1000M(光猫桥接模式)2、爱快配置2.1简单的爱快的基础配置,可使用PPPoE拨号上网。2.2网络设置->IPv6->IPv6设置,
ISCOM H8550T光猫获取超级密码ISCOM H8550T光猫超级管理员账号
H8550T的光猫,试着就破解了光猫的超级密码。1、光猫开启Telnet服务1.1通过光猫的管理页面http://192.168.1.1:8080/cgi-bin/login.asp登陆useradmin账号(光猫后面标签贴着的)1.2成功登录后,浏览器地址改为http://192.168.1.1:8080/cgi-bin/telnet.asp回车进入telnet配置页
阅读全文:ISCOM H8550T光猫获取超级密码ISCOM H8550T光猫超级管理员账号
ipv6获取方式slaac和dhcpv6区别
lessAddressAutoconfiguration)和DHCPv6(DynamicHostConfigurationProtocolforIPv6)。这两种方法在IPv6地址分配和网络配置管理方面有着显著的区别,适用于不同类型和规模的网络环境。SLAAC(StatelessAddressAutoconfiguration)SLAAC是一种简化的、无状态的IPv6地址自动
光猫F7015周期性自动重启的F7015TV3重启问题
设置,并没有设置自动重启上个月自费换了F7015TV3,XEPON线路,使用一切正常,测速过千兆。但发现这光猫会定期自动重启,大约为15天一个周期,日志如下// 6 月 1 号第一次自动重启2024-06-01 01:52:46 | Alert | 104001 The system will reboot // 6 
阅读全文:光猫F7015周期性自动重启的F7015TV3重启问题
双wan口路由器叠加宽带,0布线搞定双宽带网叠加网络优化
亲爱的小伙伴们;,今天我要分享一个超炫的家庭网络升级秘籍,绝对让你的上网体验飞一般的感觉!故事是这样的需求我家之前一直用着联通的500M宽带,速度挺快的,但总有点担心哪天会突然“罢工”。心想,要是有个备用的宽带就好了!这不,机会就来了!移动居然有个超值活动,月消费满18元就送一条100M的宽带!简直是天赐良机啊!我立马决定搞起来,给家里网络来个双WAN出口大改造!从此
阅读全文:双wan口路由器叠加宽带,0布线搞定双宽带网叠加网络优化
OpenWrt安装LibreChat OpenWrt安装ChatGPT OpenAI聊天AI
个神器不仅功能强大,还完全开源,自带社区支持,真的是YYDS!跟着我详细了解LibreChat的各种功能,并在OpenWrt上通过docker-compose部署它,快来一起看看吧!LibreChat简介LibreChat是一款功能强大的聊天工具,拥有超多炫酷功能,绝对是聊天软件中的宝藏!你可以选择不同的AI模型,包括OpenAI、AzureOpenAI、BingAI、GoogleVertexAI等,还能在聊天中切换不同
阅读全文:OpenWrt安装LibreChat OpenWrt安装ChatGPT OpenAI聊天AI
OpenWrt上Docker环境部署CF Tunnel安装dockerman插件
一个超级实用的神器——CFTunnel。尤其对于喜欢折腾网络的朋友们,这个教程绝对是宝藏。小白们也不用怕,按照我的步骤来,保准你们都能搞定!CFTunnel是什么?CFTunnel是一种内网穿透工具,可以轻松地把你家里的Web服务搬到公网。这样你就可以随时随地访问家里的服务啦!是不是听起来就很心动呢?为什么选择CFTunnel?免费好用:个人免费版就已经足够使用了,还不用买VPS,省钱又省心。带宽高:不论是哪个运
阅读全文:OpenWrt上Docker环境部署CF Tunnel安装dockerman插件
OpenWrt上搭建自己的Nexus3 Docker镜像仓库
。是不是最近某些加速拉不到镜像?作为一个新手小白,一开始也是懵逼脸,怎么搞?现在跟着我的步骤,你也能轻松get这个备用仓库,以防不测首先,要确保你的OpenWrt(建议从openwrt.ai获取)系统已经安装了dockerd和docker-compose这两个插件哦,如果还没安装的小伙伴要赶紧去安装。接下来就要开始实战啦,关键步骤incoming,1.打开命令行终端,创建一个目录,用于存放配置和目录。mkdir -p /data/docker/nexus3cd&nbs
阅读全文:OpenWrt上搭建自己的Nexus3 Docker镜像仓库
OpenWrt安装Java到内存物理磁盘里运行环境(JRE)
本执行,注意修改DIR与URL的值本文的操作在命令行下完成DIR=/mnt/sda1DIR指定安装目录安装JRE需要150MB以上的储存空间,对于硬路由,通常需要挂载外部储存建议挂载物理磁盘,或通过mount.cifs等方式挂载网络磁盘此处假设挂载物理磁盘到/mnt/sda1URL=https://mirrors.tuna.tsinghua.edu.cn/alpine/latest-stable/communit
阅读全文:OpenWrt安装Java到内存物理磁盘里运行环境(JRE)
华为AirEngine 5562-10无线AP
5562-10无线AP国内第一首拆一、引言华为AirEngine5562-10作为一款宣称支持Wi-Fi6标准的室内AP,理论上应该具备一定的市场竞争力。但在实际拆解与评测中,我们发现这款产品在多个方面存在明显的不足,令人失望。二、外观设计AirEngine5562-10的外观设计虽然简洁,但塑料感较重,缺乏高端产品的质感。