通知 欢迎关注我的店铺天天软件圆

vLLM是什么?OpenWrt安装Docker启动vLLM服务

vLLM是什么?OpenWrt安装Docker启动vLLM服务er部署vLLM的教程。vLLM是一款用于大语言模型推理和服务的快速且易于使用的库。它的优点简直太多了,让我们一起来看看吧!超高的服务吞吐量:vLLM利用PagedAttention高效管理注意力键和值内存,连续批量处理传入请求。快速模型执行:支持CUDA/HIP图形,量化技术包括GPTQ、AWQ、SqueezeLLM、FP8KV缓存,优化的CUDA内核。灵活易用:无缝集成热门的HuggingFace模型,支持并行采样、束搜索等多种解码算法,流式输出。因此,vLLM

阅读全文:vLLM是什么?OpenWrt安装Docker启动vLLM服务


OpenWrt安装LibreChat OpenWrt安装ChatGPT OpenAI聊天AI

OpenWrt安装LibreChat OpenWrt安装ChatGPT OpenAI聊天AIibreChat!这个神器不仅功能强大,还完全开源,自带社区支持,真的是YYDS!跟着我详细了解LibreChat的各种功能,并在OpenWrt上通过docker-compose部署它,快来一起看看吧!LibreChat简介LibreChat是一款功能强大的聊天工具,拥有超多炫酷功能,绝对是聊天软件中的宝藏!你可以选择不同的AI模型,包括OpenAI、AzureOpenAI、BingAI、GoogleV

阅读全文:OpenWrt安装LibreChat OpenWrt安装ChatGPT OpenAI聊天AI


OpenWrt上搭建自己的Nexus3 Docker镜像仓库

OpenWrt上搭建自己的Nexus3 Docker镜像仓库Docker镜像仓库啦。是不是最近某些加速拉不到镜像?作为一个新手小白,一开始也是懵逼脸,怎么搞?现在跟着我的步骤,你也能轻松get这个备用仓库,以防不测首先,要确保你的OpenWrt(建议从openwrt.ai获取)系统已经安装了dockerd和docker-compose这两个插件哦,如果还没安装的小伙伴要赶紧去安装。接下来就要开始实战啦,关键步骤incoming,1.打开命令行终端,创建一个目录,用于存放配置和目录。mkdir -p /data

阅读全文:OpenWrt上搭建自己的Nexus3 Docker镜像仓库


Redmi 红米路由器 AX6S刷openwrt固件

Redmi 红米路由器 AX6S刷openwrt固件来潮和室友捣鼓路由器老毛子虽然稳定,没有openwrt好玩,所以就刷了openwrt,中间找了无数帖子,csdn,恩山,等等,走了无数弯路,还是决定写一篇详细的刷机教程。1.先准备软件包,用到的软件包点击此处下载,此链接包含了openwrt第三方魔改刷机包,sc,istore商店准备软件putty,winscp自行百度下载路由器全程用网线连接电脑设备,否则极大可能变砖。

阅读全文:Redmi 红米路由器 AX6S刷openwrt固件


一键安装BBR、BBR Plus和锐速加速,Vultr上优化网络性能

一键安装BBR、BBR Plus和锐速加速,Vultr上优化网络性能,优化网络性能是许多用户追求的目标之一。通过使用BBR原版、BBR魔改、BBRPlus和锐速等加速方案,可以显著提升服务器的网络传输速度和稳定性。本文介绍了一款便捷的脚本,集合了这些加速方案,让用户可以轻松地选择并应用它们,从而优化Vultr服务器的网络性能。一、安装证书在开始安装之前,首先需要安装证书以确保安全连接。apt-get-yinstallca-certificates

阅读全文:一键安装BBR、BBR Plus和锐速加速,Vultr上优化网络性能


网件NETGEAR WNDR3800高通SFE加速自用稳定精简Lede固件

网件NETGEAR WNDR3800高通SFE加速自用稳定精简Lede固件WNDR3800编译(不过个人还是建议用X86软路由做server)。【2020-01-20更新特别版】网件NETGEARWNDR3800基于LEAN源码编译R9.12.312个内核版本:4.9.208  高通SFE加速  WNDR3800为AR7161  推荐这个版本4.14.162FlowOffload加速源码地址:https://github.com/coolsnowwolf/

阅读全文:网件NETGEAR WNDR3800高通SFE加速自用稳定精简Lede固件


自用WNDR3800固件编译自编译WNDR3800固件【LEDE】网件NETGEAR WNDR3800

自用WNDR3800固件编译自编译WNDR3800固件【LEDE】网件NETGEAR WNDR3800用的软件包,如udpxy和usb挂载等,同时支持sqm和upnp等网络加速和管理功能。作者还特别增加了对打印机的支持,并添加了ZeroTier和V2RAY等软件包以增强路由器的功能。注意更新会切换到新分支的固件,要换回老分支固件需要从uboot刷机才行。LEAN源码  https://github.com/coolsnowwolf/lede感谢大佬们的辛苦工作,本人小白一个,按网上的教程编译

阅读全文:自用WNDR3800固件编译自编译WNDR3800固件【LEDE】网件NETGEAR WNDR3800


使用OpenWrt系统实现USB 4G上网卡共享网络

使用OpenWrt系统实现USB 4G上网卡共享网络们将介绍如何在一款老路由上利用OpenWrt系统实现USB4G上网卡共享网络的方法。通过以下步骤,您可以轻松地将一个miniUSBwifi插上去,实现自动上网的效果。系统环境配置:主机名:OpenWrt主机型号:NETGEARWND

阅读全文:使用OpenWrt系统实现USB 4G上网卡共享网络


爱快 OpenWrt 分流国内外IP拓扑,使用爱快分流国内外IP地址走不同WAN口

爱快 OpenWrt 分流国内外IP拓扑,使用爱快分流国内外IP地址走不同WAN口penWrt分流网络(单出口版)路由追踪效果这个方法适合单线接入的用户,用路由或者光猫拨号均可。本文约定:1.用ESXi2.要有爱快,OpenWrt。10.0.7.1/24做内网,各位具体实施的时候根据自家网络情况修改。3.内网设备IP爱快lan1地址 10.0.7.1OpenWrt WAN10.0.7.100OpenWrt LAN192.168.77.1拓扑图好了,开

阅读全文:爱快 OpenWrt 分流国内外IP拓扑,使用爱快分流国内外IP地址走不同WAN口


新刷Openwrt的一些基础配置

新刷Openwrt的一些基础配置些必备组件opkg updateopkg install wget ca-certificates openssl-util ca-bundle curl换源cp /etc/opkg/distfeeds.conf /etc/opkg/distfeeds.conf.backupsed -i 's/downloads.openwrt

阅读全文:新刷Openwrt的一些基础配置


清除中兴F7607P/F4607P的NAND闪存坏块标记

清除中兴F7607P/F4607P的NAND闪存坏块标记而,由于我的粗心大意,我不小心覆盖了正在使用中的kernel2分区,导致该分区被标记了大量坏块,无法正常使用。起初,我以为这个分区已经彻底损坏,因此不敢再继续尝试修复。直到今天,我在GitHub上发现一个有用的信息:https://github.com/u-boot/u-boot/blob/master/doc/README.nand这篇文档介绍了一个名为"scrub"的命令,它类似于"erase",但不会

阅读全文:清除中兴F7607P/F4607P的NAND闪存坏块标记


Padavan固件:稳定、简洁、功能强大的老毛子固件推荐斐讯k2p刷padavan固件

Padavan固件:稳定、简洁、功能强大的老毛子固件推荐斐讯k2p刷padavan固件adavan固件是基于华硕的RT-N56U开发派生并以其名字命名的Asuswrt固件,在国内亦俗称为老毛子固件。该固件具有稳定、简洁、功能强大、高性能等优点,内存和CPU消耗低,使用过程中几乎无发热。本文将介绍Padavan固件的常用版本以及刷机方法,并分享一些实用的功能和设置。Padavan固件:稳定、简洁、功能强大的老毛子固件推荐正文:Padavan固件的版本选择:hanwckf移植版:由hanwck

阅读全文:Padavan固件:稳定、简洁、功能强大的老毛子固件推荐斐讯k2p刷padavan固件


CentOS 安装 Jekyll 步骤

CentOS 安装 Jekyll 步骤以尝试了一下。网上文档比较老,自己常用系统是CentOS,所以按网上教程总是这里错哪里错。再摸索了一段时间后,总算是初步搞定了。其实自己对Linux也不熟悉,对于CentOS更是不怎么样。在这里提供一些简单的命令,给有需要的朋友参考。1、更新系统yum update -y2、安装Rubygpg --keyserver hkp://keys.gnupg.net --recv-keys 409B6B17

阅读全文:CentOS 安装 Jekyll 步骤


Debian中更新SmartDNS:简单步骤解决升级问题

Debian中更新SmartDNS:简单步骤解决升级问题系统上,而不是OpenWrt,当发现有新版本可用时,你可能会发现网上关于更新的信息非常有限。官方网站只提供了在OpenWrt上更新的方法,即卸载并重新安装最新版本。但是,在Linux上如何更新呢?本文将为您介绍一种简单的更新方法。首先,在进行重新安装之前,我们需要备份smartdns.conf文件,因为所有SmartDNS的配置信息都存储在这个文件中。该文件的路径通常为:/etc/smartdns/smartdns.conf。接下来,您需

阅读全文:Debian中更新SmartDNS:简单步骤解决升级问题


阿里云盘 FUSE 磁盘挂载:aliyundrive_fuse挂载安装Emby、Jellyfin

阿里云盘 FUSE 磁盘挂载:aliyundrive_fuse挂载安装Emby、Jellyfin合Emby或者Jellyfin实现观看阿里云盘内容的方法和步骤。正文:阿里云盘是一款常用的云存储服务,而Emby和Jellyfin则是两个流行的媒体服务器软件。本文将介绍如何通过阿里云盘FUSE磁盘挂载的方式,配合Emby或者Jellyfin观看阿里云盘中的内容。阿里云盘FUSE磁盘挂载是通过将阿里云盘挂载为本地磁盘来实现的。目前该功能仅支持只读,不支持写入操作,并且支持Linux和macOS系统,暂时不支持Windows系统。需要

阅读全文:阿里云盘 FUSE 磁盘挂载:aliyundrive_fuse挂载安装Emby、Jellyfin


老毛子Padavan固件作为主副路由,老毛子Padavan固件桥接路由桥接设置

老毛子Padavan固件作为主副路由,老毛子Padavan固件桥接路由桥接设置篇文章将重点介绍路由桥接的设置方法,希望能够帮助到有需要的人。首先,让我大致介绍一下我的路由器设备情况:我捡了两台垃圾级别的路由器(斐讯K3C和斐讯K2P)。K3C被用作主路由器,因为其中的2.5GHz频段功放坏了,只能使用5GHz频段。虽然我希望找到一些教程来进行修复,但是在恩山论坛上发现了很少的相关帖子,即使是刷机的帖子也很少。最终,我选择将其作为主路由器。至于K2P,在最近刷了H大的老毛子固件后,作为副路由器使用。H大的固件

阅读全文:老毛子Padavan固件作为主副路由,老毛子Padavan固件桥接路由桥接设置