MinerU服务部署
MinerU服务部署
MinerU是一款由OpenDataLab研发,将PDF或图片转换为机器可读格式(如Markdown、json)的工具,可以在很多项目中作为OCR服务进行集成,大大提高开发过程中提取pdf扫描件、图片中信息的效率。
感兴趣的朋友可以先在线体验下MinerU提供的官方接口Read More
HyperChat是一个开源的Chat客户端,支持MCP,可以使用各家LLM的API,实现最好的Chat体验。以及实现生产力工具。支持OpenAI风格的LLM,包括 OpenAI, Claude, Qwen, DeepSeek, Gemini等模型。 通过Tailscale可以使用内网穿透管理和访问不同局域网中的设备,但是官方提供的公用服务器一般情况下不在大陆,所以延迟很高;并且由于公有的原因,网络条件经常不稳定。为了降低延迟、提高带宽,所以要自建DERP。 vLLM(Vectorized Large Language Model Serving System)是由加州大学伯克利分校团队开发的高性能、易扩展的大语言模型(LLM)推理引擎,专注于通过创新的内存管理和计算优化技术实现高吞吐、低延迟、低成本的模型服务。vLLM采用PagedAttention内存管理技术,显著提升...
使用python进行开发时,会用到很多特定的库,一个成熟的python项目必然会依赖很多特定的环境。然而项目运行的结果不仅取决于代码,和运行代码的环境也息息相关。这很有可能会造成,开发环境上的运行结果和测试环境、线上环境上的结果都不一致的现象。为了解决这个问题,可以将python项目打包成docker镜像,这样即使在不同的机器上运行打包后的项目,我们也能够得到一致的运行结果。因为doc...
内网环境下,安装docker和docker-compose需要自行下载安装包到本地,然后配置docker服务,下面简单说说如何在内网离线安装docker。如果不关心安装过程中的细节,可以直接跳到一键安装和一键卸载。 第一步,根据自己的服务器架构类型选择...
最近在工作中做到了一些前端开发工作,由于工作环境受限,只能使用原生的js,在开发过程中遇到了跨域请求问题,特此记录。 本质上是浏览器有同源策略限制。同源策略(Same Origin Policy) 是一种约定,是浏览器最核心的安全功能,如果缺少了同源策略,浏览器的正常功能可能会受到影响。可以...
OpenEnclave(OE)是微软开发的TEE软件栈,它支持Intel SGX和OP-TEE on Arm TrustZone,值得注意的是,OE和linux-sgx两者互为替代关系。同时OE也支持C/C++。OpenEnclave的一个主要用途是在微软Azure云上保护目标安全。 该SDK旨在推广来自不同硬件供应商的tee之间的enclave应用程序的开发。当前的实...
MCP客户端HyperChat打包及镜像构建
MCP客户端HyperChat打包及镜像构建
tailscale 自建DERP服务中继教程
自建tailscale的DERP中继教程
1. ...
本地部署私有化大模型vllm+open-webui
1. vLLM简介
docker打包python项目
离线环境安装docker和docker-compose
一、安装
1. 下载离线安装包
前端开发中的跨域访问问题
一、为什么会出现跨域问题
OpenEnclave机密计算开发环境教程