注：此次记录和梳理android AI 算法模型部署和实现的流程，包含算法部署、从andorid 前段获取bitmap数据进行输入，结果展示和算法so打包和交付流程进行介绍
一：流程：
如果我们训练一个cnn 模型，怎样才能将模型实现在android 平台上运行，并实现结果展示呢？本文章流程主要介绍比如分类、检测、分割等算法训练的pytorch(x.pt)模型，实现在android 上运行并将结果返回在前段界面上进行展示（便于我们测试结果），最终将我们的算法推理代码封装起来，提供给前段android 应用的同事进行扩展产品开发的方案。
一般我们实现简单的算法推理部署可能做到将x.pt 模型转换到对象平台支持的框架即可，再或者是将python 推理代码转换为x.cpp/x.h 的样例给其他人员即可，目前由于算法卷的厉害，还是探索下算法部署和应用流程哈。以下是以android 上部署算法为例需要考虑的几个方面：
1).算法模型部署方案选择
2).算法接口和java如何交互实现
3).算法模型输入如何导入
4).算法模型输出如何展示
5).算法工程如何仅通过给其他开发人员二次开发
1.1 算法模型部署方案选择
目前android 上部署算法模型，需要考虑支持的推理算法框架，常用的有：ncnn、tnn、mnn、tflite、rknn（存在硬件限制）等。以上框架都需要考虑将python 训练的模型转换为对象框架的模型，有可直接转换、有存在以onnx 为桥梁的转换方案，具体看框架支持的op 情况和是否调用开源模型直接使用。
现阶段大多数使用者还是基于不同训练框架先转换到onnx再转到对象平台，因本次介绍以人脸识别、paddleocr 模型 为例，所以流程上选择为onnx 为桥梁到ncnn，工作中有时会兼容很多对象平台（瑞芯微、英伟达、海思、服务端）所以建议训练的模型转换到onnx 备着方便些。
部署android 端，目前我所接触的部署硬件为：纯cpu 版本的系统和支持rknn的瑞芯微系列硬件平台，本次以通用cpu 部署进行介绍。
在android 系统平台实现算法部署推理，我们要结合ncnn 框架实现，需要准备编译ncnn 库，使用生成的转换脚本、量化脚本、模型加密等，pt 模型我们要在python 代码中调用torch.onnx.export（目前参考很多，或者chatgpt一建帮忙，这里推荐贴个镜像地址方便秩咨询：https://www.aichatgpt5.com/），然后将onnx 模型调用onnx2ncnn 进行转换，这里要注意，有时候保存的模型可能存在很多冗余的op分支，可用onnxsimper 库进行裁剪下再转换。
更新中。。。。
