MCP客户端HyperChat打包及镜像构建
MCP客户端HyperChat打包及镜像构建
HyperChat是一个开源的Chat客户端,支持MCP,可以使用各家LLM的API,实现最好的Chat体验。以及实现生产力工具。支持OpenAI风格的LLM,包括 OpenAI, Claude, Qwen, DeepSeek, Gemini等模型。
tailscale 自建DERP服务中继教程
自建tailscale的DERP中继教程
通过Tailscale可以使用内网穿透管理和访问不同局域网中的设备,但是官方提供的公用服务器一般情况下不在大陆,所以延迟很高;并且由于公有的原因,网络条件经常不稳定。为了降低延迟、提高带宽,所以要自建DERP。
1. ...
本地部署私有化大模型vllm+open-webui
1. vLLM简介
vLLM(Vectorized Large Language Model Serving System)是由加州大学伯克利分校团队开发的高性能、易扩展的大语言模型(LLM)推理引擎,专注于通过创新的内存管理和计算优化技术实现高吞吐、低延迟、低成本的模型服务。vLLM采用PagedAttention内存管理技术,显著提升...
docker打包python项目
使用python进行开发时,会用到很多特定的库,一个成熟的python项目必然会依赖很多特定的环境。然而项目运行的结果不仅取决于代码,和运行代码的环境也息息相关。这很有可能会造成,开发环境上的运行结果和测试环境、线上环境上的结果都不一致的现象。为了解决这个问题,可以将python项目打包成docker镜像,这样即使在不同的机器上运行打包后的项目,我们也能够得到一致的运行结果。因为doc...
离线环境安装docker和docker-compose
内网环境下,安装docker和docker-compose需要自行下载安装包到本地,然后配置docker服务,下面简单说说如何在内网离线安装docker。如果不关心安装过程中的细节,可以直接跳到一键安装和一键卸载。
一、安装
1. 下载离线安装包
第一步,根据自己的服务器架构类型选择...
前端开发中的跨域访问问题
最近在工作中做到了一些前端开发工作,由于工作环境受限,只能使用原生的js,在开发过程中遇到了跨域请求问题,特此记录。
一、为什么会出现跨域问题
本质上是浏览器有同源策略限制。同源策略(Same Origin Policy) 是一种约定,是浏览器最核心的安全功能,如果缺少了同源策略,浏览器的正常功能可能会受到影响。可以...
OpenEnclave机密计算开发环境教程
OpenEnclave(OE)是微软开发的TEE软件栈,它支持Intel SGX和OP-TEE on Arm TrustZone,值得注意的是,OE和linux-sgx两者互为替代关系。同时OE也支持C/C++。OpenEnclave的一个主要用途是在微软Azure云上保护目标安全。
该SDK旨在推广来自不同硬件供应商的tee之间的enclave应用程序的开发。当前的实...
Occlum机密容器使用教程
机密计算底层依赖的可信执行环境(TEE)技术——比如目前最成熟的云端 TEE 技术 Intel SGX——也带来了额外的功能限制和兼容问题。这使得机密计算的开发者面领一个巨大的阻碍:应用开发难。
Occlum 是一款蚂蚁集团开源的 TEE OS,可以大幅降低 SGX 应用的开发门槛。具体的操作流程如下: