中文 | English
纯 C# PP-OCRv6 推理库:多平台 SIMD 优化、较低内存占用、高正确率。 自带托管 ONNX 解释器,不依赖 Paddle Inference、ONNX Runtime 或 OpenCV 原生库。 1.3 在 AVX2 上对连续卷积段走图级 NHWC:tiny 相对 1.2 大约快 30%,medium 在本地 5800X 上反超同机 OpenVINO,准确率不变。
核心 API 只接收 BGR8 内存,不负责图片解码,因此不会强制引入 ImageSharp、SkiaSharp 或 OpenCvSharp。
安装核心包和 tiny 模型(tiny 会传递引用 CLS 与 ModelProvider):
dotnet add package Sdcb.SimdPaddleOCR
dotnet add package Sdcb.SimdPaddleOCR.Models.ChineseV6Tiny
dotnet add package SixLabors.ImageSharp --version 3.1.11模型从程序集嵌入资源直接加载,不会解压或写入临时文件。输入为 8-bit BGR,stride = 0 表示紧密排列(width * 3)。
using Sdcb.SimdPaddleOCR;
using Sdcb.SimdPaddleOCR.Models.ChineseV6Tiny;
using SixLabors.ImageSharp;
using SixLabors.ImageSharp.PixelFormats;
using PaddleOcrAll ocr = await PaddleOcrAll.LoadAsync(ChineseV6TinyModels.Default);
using Image<Bgr24> image = await Image.LoadAsync<Bgr24>("sample.jpg");
byte[] bgr = new byte[image.Width * image.Height * 3];
image.CopyPixelDataTo(bgr);
PaddleOcrResult result = ocr.Run(bgr, image.Width, image.Height);
Console.WriteLine(result.Text);后续三个示例只演示如何解码到 BGR,加载与 Run 与上面相同。
using SkiaSharp;
SKBitmap bitmap = SKBitmap.Decode("sample.jpg")
?? throw new InvalidDataException("无法读取图片");
int stride = bitmap.Width * 3;
byte[] bgr = new byte[stride * bitmap.Height];
for (int y = 0; y < bitmap.Height; y++)
{
for (int x = 0; x < bitmap.Width; x++)
{
SKColor color = bitmap.GetPixel(x, y);
int offset = y * stride + x * 3;
bgr[offset] = color.Blue;
bgr[offset + 1] = color.Green;
bgr[offset + 2] = color.Red;
}
}using System.Runtime.InteropServices;
using OpenCvSharp;
using Mat image = Cv2.ImRead("sample.jpg", ImreadModes.Color);
if (image.Empty()) throw new InvalidDataException("无法读取图片");
int rowBytes = image.Width * image.Channels();
byte[] bgr = new byte[rowBytes * image.Height];
for (int y = 0; y < image.Height; y++)
Marshal.Copy(IntPtr.Add(image.Data, (int)(y * image.Step())), bgr, y * rowBytes, rowBytes);using System.Drawing;
using System.Drawing.Imaging;
using System.Runtime.InteropServices;
using Bitmap bitmap = new("sample.jpg");
int stride = bitmap.Width * 3;
byte[] bgr = new byte[stride * bitmap.Height];
Rectangle rectangle = new(0, 0, bitmap.Width, bitmap.Height);
BitmapData data = bitmap.LockBits(rectangle, ImageLockMode.ReadOnly, PixelFormat.Format24bppRgb);
try
{
for (int y = 0; y < bitmap.Height; y++)
Marshal.Copy(new IntPtr(data.Scan0.ToInt64() + y * (long)data.Stride), bgr, y * stride, stride);
}
finally
{
bitmap.UnlockBits(data);
}每个 IPaddleOcrModelProvider 提供 Name、Kind、Format、语言和版本元数据以及 OpenRead() / OpenReadAsync()。完整 OCR 组合由 PaddleOcrModelBundle 表达(DET、REC、字典和可选 CLS)。当前语言代码为 zh。单个模型也可被其他推理实现消费,例如 ChineseV6TinyModel.Detection.OpenReadAsync()。Model、PaddleOcrDetector、PaddleOcrClassifier、PaddleOcrRecognizer 和 PaddleOcrAll 均提供 Stream 加载入口;解析完成后不会继续保留完整的 ONNX 原始字节。
核心不下载模型。使用本地 DET、CLS、REC 和字典文件时:
using Sdcb.SimdPaddleOCR;
using PaddleOcrAll ocr = await PaddleOcrAll.LoadAsync(
detectionPath: "models/det.onnx",
classificationPath: "models/cls.onnx",
recognitionPath: "models/rec.onnx",
dictionaryPath: "models/ppocr_keys.txt");PaddleOcrOptions 里两套并行不要混用:DetIntraOpThreads 是检测图内的卷积线程
(一份 session,默认最多 8);LineWorkerCount 是一行一组的 CLS/REC worker 路数
(每路一个 session,上限,实际 min(请求, ProcessorCount);0 为
min(ProcessorCount, 4))。检测阈值、边界长度、方向分类、
动态识别宽度和 Session 缓存上限等也在同一组 options 里。
四个示例共用 examples/sample.jpg,图片由示例负责解码并转换为 BGR:
examples/ImageSharp.AspNetCore:ASP.NET Core + ImageSharp 3,可上传体验与POST /api/ocrJSON API。examples/SkiaSharp.Avalonia:Avalonia 桌面示例,SkiaSharp 解码。examples/OpenCvSharp5.Wpf:WPF 示例,OpenCvSharp5 解码。examples/SystemDrawing.WinForms:.NET 10 Windows / .NET Framework 4.8 双目标 WinForms 示例,使用Bitmap/LockBits;运行net48前请安装 .NET Framework 4.8 Developer Pack,项目平台选择 x64。
dotnet run --project examples/ImageSharp.AspNetCore
dotnet run --project examples/OpenCvSharp5.Wpf -- path/to/image.jpg
dotnet run --project examples/SkiaSharp.Avalonia -- path/to/image.jpg
dotnet run --project examples/SystemDrawing.WinForms --framework net10.0-windowsWeb 示例打开站点即可上传;API 为 POST /api/ocr(multipart/form-data 字段 file、model),文档在 /scalar。
调试器可能会在模块加载时取消 JIT 优化,使 OCR 的计算密集型代码无法获得应有的运行时优化,从而导致识别明显变慢。
请关闭该选项,然后重新启动调试会话:
- Visual Studio:
工具 > 选项 > 调试 > 常规,取消勾选在模块加载时取消 JIT 优化。 - Rider:
构建、执行、部署 > 调试器 > JIT,取消勾选在加载模块时禁用 JIT 优化。 - VS Code:打开
设置 (JSON),添加"csharp.debug.suppressJITOptimizations": false。
x64 发布 Native AOT 时,可执行项目里必须设置:
<IlcInstructionSet>avx2</IlcInstructionSet>不设的话,ILC 按 SSE2 / 128-bit Vector<T> 基线编译,Avx2.IsSupported 会被折成 false,AVX2 内核整段裁掉,推理会慢一截。没有 AVX2 的 CPU 不要设这项。ARM64 的 AOT 基线已带 NEON / AdvSimd,一般不用写 IlcInstructionSet。
| 说明 | |
|---|---|
| 目标框架 | 核心 net10.0;netstandard2.0;ModelProvider 与全部模型包为 netstandard2.0 |
| 推荐运行时 | .NET 10:完整 x86 SIMD 与 NativeAOT(IsAotCompatible) |
| 兼容运行时 | netstandard2.0 可在 .NET Framework 4.8 等环境使用;编译时去掉 AVX / AVX-512 / VNNI 源,走 System.Numerics.Vector / 标量 |
| CI 架构 | Windows x64 / x86 / ARM64,Linux x64 / ARM64,macOS x64 / ARM64 |
| SIMD | .NET 10 运行时探测 AVX → AVX2 → AVX-512 / VNNI;无对应指令集或 ARM 时用 Vector/标量 |
| 输入 | 8-bit BGR 内存;无图片路径、文件或图片库 API |
| 设备 | CPU only,无 GPU |
| NativeAOT | 裁剪发布时请保留核心程序集和所用模型程序集 |
本仓库中由本项目编写的源代码和文档采用 Apache License 2.0 发布。 Apache-2.0 提供明确的专利授权条款,更适合公开发布的库和 NuGet 包。
模型资源和第三方代码不因本项目许可证而被重新授权:
- PP-OCRv6 DET/REC、TextLineOrientation CLS 及字典来自 PaddleOCR 生态,来源资料标记为 Apache-2.0;发布模型包时请保留来源和许可证说明。
- 示例依赖遵循各自上游许可证;特别是 ImageSharp 3.x 使用 Six Labors Split License, 不是普通 MIT 许可证。
完整的第三方归属和分发说明见
THIRD-PARTY-NOTICES.md。PaddleOCR、PP-OCR 及相关名称归其
各自权利人所有,本项目不代表官方,也不构成官方背书。
1.3:AVX2 上连续卷积段走图级 NHWC。CI 数字来自 34818949921,只报同一 CPU。
GitHub-hosted runner、PP-OCRv6 tiny、去掉首张 warmup 后的中位墙钟:
| 平台 | CPU | ISA | 中位 ms/图 | 工作集峰值 | 相对 1.2 |
|---|---|---|---|---|---|
| win-x64 | AMD EPYC 7763(4 vCPU) | AVX2 | 160 | ~817 MB | 0.69×(1.2 为 232 ms / ~786 MB) |
win-x64 netstandard2.0 |
同上 | AVX2(Vector,无 NHWC) |
343 | ~775 MB | 0.95× |
| linux-arm64 | Neoverse N2 | AdvSimd(无 NHWC) | 241 | ~840 MB | 0.88× |
1.2 时同 replica OpenVINO / 本库是 0.96;1.3 为 1.38(本库反超)。
本机引擎对比(Ryzen 7 5800X,4 worker,仓库 dataset/ 100 张,n=99)。c 为 lw.PPOCR.C 20d0de6(2026-09-14 DLL)。墙钟是 mean ms/图。
| 模型 | 引擎 | mean ms/图 | 相对本库 | 行精确 | CER | 工作集峰值 |
|---|---|---|---|---|---|---|
| tiny | 本库 | 87.8 | 1.00 | 734/1026 | 2.71% | 803 MB |
| tiny | OpenVINO.NET | 132 | 1.51 | 644/1026 | 3.55% | 2785 MB |
| tiny | lw.PPOCR.C | 186 | 2.12 | 744/1026 | 4.01% | 539 MB |
| medium | 本库 | 641 | 1.00 | 992/1026 | 0.68% | 2430 MB |
| medium | OpenVINO.NET | 1077 | 1.68 | 810/1026 | 1.74% | 4516 MB |
| medium | lw.PPOCR.C | 2193 | 3.42 | 1004/1026 | 0.24% | 1481 MB |
medium 相对本库 1.2.0 同机 4w:1507 → 641 ms(约 0.43×),CER 仍 0.68%。small 和读数规则见 docs/perf.md。
GitHub Actions test 工作流
会跑单元测试,并在 Windows / Linux / macOS 多架构上对 tiny / small / medium 做 bench
(含关闭 AVX-512 / AVX2 / AVX / 全部硬件加速,以及 netstandard2.0 库)。汇总报告写入 job summary 与 perf-report artifact。
如果微信群二维码过期了,请加入 QQ 群 C#/.NET计算机视觉技术交流 579060605。
