树莓派上使用paddle预训练模型
树莓派安装paddlelite;x86电脑上安装paddlehub,并将paddlehub中的预训练模型转换为paddlelite格式,使之能在树莓派上运行。树莓派编译安装paddlelitesudo apt install patchelf cmakesudo update-alternatives --install /usr/bin/python python /usr/bin/python
树莓派安装paddlelite; x86电脑上安装paddlehub,并将paddlehub中的预训练模型转换为paddlelite格式,使之能在树莓派上运行。
树莓派编译安装paddlelite
sudo apt install patchelf cmake
sudo update-alternatives --install /usr/bin/python python /usr/bin/python3 150
git clone https://github.com/PaddlePaddle/Paddle-Lite.git
cd Paddle-Lite
sudo ./lite/tools/build.sh \
--build_extra=ON \
--arm_os=armlinux \
--arm_abi=armv7hf \
--arm_lang=gcc \
--build_python=ON \
full_publish
cd build.lite.armlinux.armv7hf.gcc/inference_lite_lib.armlinux.armv7hf/python/install
sudo python3 setup.py install
具体源码编译时的参数说明,大家可参考:https://paddlepaddle.github.io/Paddle-Lite/v2.2.0/source_compile/#本地编译直接在rk3399或树莓派上编译
x86电脑上将paddlehub的预训练模型转为paddlelite格式
安装paddlehub、paddlepaddle
python -m pip install paddlehub
python -m pip install paddlepaddle
测试paddlehub预训练模型
import paddlehub as hub
senta = hub.Module(name="senta_gru")
test_text = ["这家餐厅很好吃", "这部电影真的很差劲"]
results = senta.sentiment_classify(texts=test_text, use_gpu=False, batch_size=1)
for result in results:
print(result['text'])
print(result['sentiment_label'])
print(result['sentiment_key'])
print(result['positive_probs'])
print(result['negative_probs'])
下载opt转换工具
https://paddlepaddle.github.io/Paddle-Lite/v2.2.0/model_optimize_tool/
下载paddlehub预训练模型并转换
下载预训练模型压缩包:
hub download senta_gru
解压,放置在 saved_models/senta_gru 下,
转换模型:
./opt --model_dir=senta_gru/infer_model --valid_targets=arm --optimize_out_type=naive_buffer --optimize_out=saved_models/senta_gru
PS: 查看opt转换工具所支持的模型算子:
./opt --print_model_ops=true --valid_targets=arm --model_dir=senta_gru/infer_model
在树莓派上测试转换后的预训练模型
from paddlelite.lite import *
config = MobileConfig()
config.set_model_dir("model")
# (2) 创建predictor
predictor = create_paddle_predictor(config)
'''
......
'''
然后就出现段错误了。。。
后记
之后开始各种找原因,也想到可能是由于漏转换了什么而导致的。。。
也反复找了资料,但由于paddle还尚未稳定,甚至连官方网站里的demo都已过时,接口都已变动得消失不见了。。。
所以最终只好暂时放弃。
可能 paddlepaddle 和 paddlehub ,作为百度paddle框架的主力,迭代速度快、完成度也还行,属于比较可用。但其他的组件可能优先级就比较低了,文档也不同步,实在是造成了很大的困扰。
毕竟已经占用了一整天的时间了,还要抽空学习推荐系统,和完成我的與情预测股票项目,所以paddlelite项目就只能等百度paddle稳定了再启动吧。
开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!
更多推荐
所有评论(0)