ARMNN是ARM公司推出在ARM芯片上进行前向推理库和NCNN、MNN这种类似。网上大部分都是基于AMR64的,这里我给大家介绍AMR32的ARMNN编译过程。
Step 1: 下载库ARMNN依赖于很多库,我们需要一个一个下载。首先我们新建一个文件夹叫armnn-dist然后把所有需要下载的库都放在这里面
$ mkdir armnn-dist && cd armnn-dist $ export baseDIR=`pwd`
首先下载armnn和compute library
git clone https://github.com/Arm-software/ComputeLibrary.git git clone https://github.com/Arm-software/armnn
然后下载tensorflow,protobuf和flatbuffers,如果命令行下载比较慢的话可以直接去github下载然后放在armnn-dist里面
git clone -b v3.12.0 https://github.com/google/protobuf.git git clone https://github.com/tensorflow/tensorflow.git cd tensorflow/ git checkout a4dfb8d1a71385bd6d122e4f27f86dcebb96712d wget -O flatbuffers-1.12.0.tar.gz https://github.com/google/flatbuffers/archive/v1.12.0.tar.gz tar xf flatbuffers-1.12.0.tar.gzStep 2: 编译ComputeLibrary
我们首先编译ComputeLibrary,这里使用的是scons编译的,先安装scons。
sudo apt-get install scons
在编译前要设置好toolchain
编译
cd $baseDIR/ComputeLibrary scons arch=armv7a extra_cxx_flags="-fPIC" benchmark_tests=0 validation_tests=1 neon=1
编译成功可以在build目录下生成如下的库
Step 3: 编译protobuf
cd ${baseDIR}/protobuf
git submodule update --init --recursive
./autogen.sh
mkdir build
cd build
CC=arm-linux-gnueabihf-gcc
CXX=arm-linux-gnueabihf-g++
../configure --prefix=${baseDIR}/google/arm32_pb_install
--with-protoc=${baseDIR}/google/arm32_pb_install/bin/protoc
make install
可以得到如下的库
Step 4: 编译flatbuffers
这个有点难搞,首先使用gcc编译一版
cd $baseDIR/flatbuffers-1.12.0 mkdir build cd build CXXFLAGS="-fPIC" cmake .. -DFLATBUFFERS_BUILD_FLATC=1 -DCMAKE_INSTALL_PREFIX:PATH=$baseDIR/flatbuffers make make install
得到
然后
cd ${baseDIR}
mkdir tflite
cd tflite
cp $baseDIR/tensorflow/tensorflow/lite/schema/schema.fbs .
$baseDIR/flatbuffers-1.12.0/build/flatc -c --gen-object-api --reflect-types --reflect-names schema.fbs
由于上面这一版是gcc编译的,我们最终需要arm版本的,因此再编译arm版本的
CXXFLAGS="-fPIC" cmake .. -DCMAKE_C_COMPILER=arm-linux-gnueabihf-gcc -DCMAKE_CXX_COMPILER=arm-linux-gnueabihf-g++ -DFLATBUFFERS_BUILD_FLATC=1 -DCMAKE_INSTALL_PREFIX:PATH=$baseDIR/flatbuffers
arm版本的会报错,不用管,然后把build文件夹里面的libflatbuffers.a替换掉gcc编译目录的libflatbuffers.a
Step 5:编译armnn经过以上几个步骤,你的目录应该是这样的
然后运行
cd $baseDIR/armnn mkdir build cd build cmake .. -DCMAKE_C_COMPILER=arm-linux-gnueabihf-gcc -DCMAKE_CXX_COMPILER=arm-linux-gnueabihf-g++ -DARMCOMPUTE_ROOT=$baseDIR/ComputeLibrary -DARMCOMPUTE_BUILD_DIR=$baseDIR/ComputeLibrary/build -DTF_GENERATED_SOURCES=$baseDIR/protobuf -DBUILD_TF_LITE_PARSER=1 -DTF_LITE_GENERATED_PATH=$baseDIR/tensorflow/tensorflow/lite/schema -DFLATBUFFERS_ROOT=$baseDIR/flatbuffers -DFLATC_DIR=$baseDIR/flatbuffers-1.12.0/build -DARMCOMPUTENEON=1 -DARMNNREF=1 make
如果你报如下错误,可能是你系统是64位的
cmake source directory "xxxxxxxxxxxx" does not exist bash: No such file or directory
运行下面这个命令解决,如果安装过程中出问题,应该是源的问题
apt-get install lib32z1
最后如果你编译出了如下的库就成功了
参考:documentation – Arm Developer



