CoreML 模块 (coreml)
软件版本在 1.3.8 或以上方可使用
CoreML 模块用于在设备上进行机器学习推理。除了 Vision 视觉推理器外,还支持:
- 通用模型 request / session
MLMultiArray创建、转换与运算- 图像与张量互转
- 可按类型分发的文本分词器
- 检测 / OBB / mask / keypoint / tracker 等通用后处理辅助
SentencePiece 采用面向端侧推理的轻量兼容实现,支持 .vocab 和 .model 两种输入来源。require("onnxruntime") 之后,还会额外注入 MLMultiArray 与 ORT tensor 的原生拷贝转换接口。
平台支持说明
CoreML 模块整体以 iOS 11+ 为基础,但不同接口的最低系统版本并不完全相同:
new_model_request/session、MLMultiArray相关接口、图像张量化、tokenizer、绝大多数几何 / 后处理辅助:iOS 11+compile_model、new_vision_request、predict_batch()/run_batch()、compute_units创建与查询:iOS 12+- 在通用 model request 里把
image_object作为 image feature 输入:iOS 13+ class_labels():iOS 14+compute_units = "cpu_and_neural_engine":iOS 16+
- 本机编译 CoreML 模型
- 创建一个 CoreML 视觉推理器
- ! 使用 CoreML 视觉推理器对图像进行推理
- 创建一个通用 CoreML 推理器
- CoreML 通用推理器对象方法
- ML 多维数组模块
- 文本分词器模块
- ONNX Runtime 模块 (onnxruntime)
额外说明
coreml.session(...)是coreml.new_model_request(...)的别名coreml.tensor(...)是coreml.new_multi_array(...)的别名coreml.tensor_from_table(...)是coreml.multi_array_from_table(...)的别名coreml.image_to_multi_array(...)仍然可用,但现在只是coreml.tensor_from_image(...)的兼容别名coreml.multi_array_from_quad(...)是coreml.tensor_from_quad(...)的别名coreml.multi_array_from_quads(...)是coreml.tensor_from_quads(...)的别名coreml.project_masks(...)是coreml.proto_masks(...)的别名