Raspberry Pi용 TensorFlow Lite 빌드하기

이 페이지에서는 Raspberry Pi용 TensorFlow Lite 정적 및 공유 라이브러리를 빌드하는 방법에 대해 설명합니다. TensorFlow Lite를 사용하여 모델 실행을 시작하려는 경우, 가장 빠른 방법은 Python 빠른 시작에 나와 있는 대로 TensorFlow Lite 런타임 패키지를 설치하는 것입니다.

참고: 이 페이지에서는 TensorFlow Lite용 C++ 정적 및 공유 라이브러리를 컴파일하는 방법을 보여줍니다. 대체 설치 방법은 다음과 같습니다. Python 인터프리터 API만 설치합니다(추론 전용). pip에서 전체 TensorFlow 패키지를 설치합니다. 또는 전체 TensorFlow 패키지를 빌드합니다.

참고: 여기서는 32bit 빌드만 다룹니다. 64bit 빌드를 찾고 있다면 ARM64용 빌드 페이지를 확인하세요.

Make를 사용한 Raspberry Pi의 교차 컴파일

다음 지침은 Ubuntu 16.04.3 64bit PC(AMD64) 및 TensorFlow devel docker 이미지 tensorflow/tensorflow:devel에서 테스트되었습니다.

TensorFlow Lite를 교차 컴파일하려면 다음 단계를 따릅니다.

1단계. 공식 Raspberry Pi 교차 컴파일 도구 체인을 복제합니다.

git clone https://github.com/raspberrypi/tools.git rpi_tools
Code language: PHP (php)

2단계. TensorFlow 리포지토리를 복제합니다.

git clone https://github.com/tensorflow/tensorflow.git tensorflow_src
Code language: PHP (php)

참고: TensorFlow Docker 이미지를 사용하는 경우, 리포지토리는 /tensorflow_src/에 이미 제공되어 있습니다.

3단계. TensorFlow 리포지토리의 루트에서 다음 스크립트를 실행하여 모든 빌드 종속성을

다운로드합니다.

cd tensorflow_src && ./tensorflow/lite/tools/make/download_dependencies.sh

참고: 이 작업은 한 번만 수행하면 됩니다.

4a단계. Raspberry Pi 2, 3 및 4용 ARMv7 바이너리를 빌드합니다.

PATH=../rpi_tools/arm-bcm2708/arm-rpi-4.9.3-linux-gnueabihf/bin:$PATH \<br>  ./tensorflow/lite/tools/make/build_rpi_lib.sh
Code language: HTML, XML (xml)

참고: tensorflow/lite/tools/make/gen/rpi_armv7l/lib/libtensorflow-lite.a에서 정적 라이브러리를 컴파일해야 합니다.

build_rpi_lib.sh 스크립트는 TFLite Makefile을 사용하는 Make의 래퍼이므로 추가 Make 옵션 또는 대상 이름을 추가할 수 있습니다. 가능한 옵션은 다음과 같습니다.

./tensorflow/lite/tools/make/build_rpi_lib.sh clean # clean object files<br>./tensorflow/lite/tools/make/build_rpi_lib.sh -j 16 # run with 16 jobs to leverage more CPU cores<br>./tensorflow/lite/tools/make/build_rpi_lib.sh label_image # # build label_image binary
Code language: HTML, XML (xml)

4b단계. Raspberry Pi Zero용 ARMv6 바이너리를 빌드합니다.

PATH=../rpi_tools/arm-bcm2708/arm-rpi-4.9.3-linux-gnueabihf/bin:$PATH \<br>  ./tensorflow/lite/tools/make/build_rpi_lib.sh TARGET_ARCH=armv6
Code language: HTML, XML (xml)

참고: tensorflow/lite/tools/make/gen/rpi_armv6/lib/libtensorflow-lite.a에서 정적 라이브러리를 컴파일해야 합니다.

Raspberry Pi에서 자체적으로 컴파일하기

다음 지침은 Raspberry Pi Zero, Raspbian GNU/Linux 10(buster), gcc 버전 8.3.0(Raspbian 8.3.0-6+rpi1)에서 테스트되었습니다.

TensorFlow Lite를 네이티브로 컴파일하려면 다음 단계를 따릅니다.

1단계. Raspberry Pi에 로그인하고 도구 체인을 설치합니다.

sudo apt-get install build-essential
Code language: JavaScript (javascript)

2단계. TensorFlow 리포지토리를 복제합니다.

git clone https://github.com/tensorflow/tensorflow.git tensorflow_src
Code language: PHP (php)

3단계. TensorFlow 리포지토리의 루트에서 다음 스크립트를 실행하여 모든 빌드 종속성을 다운로드합니다.

cd tensorflow_src && ./tensorflow/lite/tools/make/download_dependencies.sh

참고: 이 작업은 한 번만 수행하면 됩니다.

4단계. 그러면 다음을 사용하여 TensorFlow Lite를 컴파일할 수 있습니다.

./tensorflow/lite/tools/make/build_rpi_lib.sh

**참고: **tensorflow/lite/tools/make/gen/lib/rpi_armv6/libtensorflow-lite.a에서 정적 라이브러리를 컴파일해야 합니다.

Bazel을 사용한 armhf의 교차 컴파일

Bazel과 함께 ARM GCC 도구 체인을 사용하여 Raspberry Pi 2, 3 및 4와 호환되는 armhf 공유 라이브러리를 빌드할 수 있습니다.

참고: 생성된 공유 라이브러리를 실행하려면 glibc 2.28 이상이 필요합니다.

다음 지침은 Ubuntu 16.04.3 64bit PC(AMD64) 및 TensorFlow devel docker 이미지 tensorflow/tensorflow:devel에서 테스트되었습니다.

TensorFlow Lite를 Bazel과 교차 컴파일하려면 다음 단계를 따릅니다.

1단계. Bazel 설치하기

Bazel은 TensorFlow의 기본 빌드 시스템입니다. 최신 버전의 Bazel 빌드 시스템을 설치합니다.

참고: TensorFlow Docker 이미지를 사용하는 경우 Bazel을 이미 사용할 수 있습니다.

2단계. TensorFlow 리포지토리를 복제합니다.

git clone https://github.com/tensorflow/tensorflow.git tensorflow_src
Code language: PHP (php)

참고: TensorFlow Docker 이미지를 사용하는 경우, 리포지토리는 /tensorflow_src/에 이미 제공되어 있습니다.

3단계. Raspberry Pi 2, 3 및 4용 ARMv7 바이너리를 빌드합니다.

C 라이브러리
bazel build --config=elinux_armhf -c opt //tensorflow/lite/c:libtensorflowlite_c.so
Code language: JavaScript (javascript)

자세한 내용은 TensorFlow Lite C API 페이지를 확인하세요.

C++ 라이브러리
bazel build --config=elinux_armhf -c opt //tensorflow/lite:libtensorflowlite.so
Code language: JavaScript (javascript)

공유 라이브러리는 bazel-bin/tensorflow/lite/libtensorflowlite.so에서 찾을 수 있습니다.

현재, 필요한 모든 헤더 파일을 추출하는 간단한 방법은 없으므로 모든 헤더 파일을 TensorFlow 리포지토리의 tensorflow/lite/에 포함해야 합니다. 또한 FlatBuffers 및 Abseil의 헤더 파일도 필요합니다.

기타

도구 체인을 사용하여 다른 Bazel 대상을 빌드할 수도 있습니다. 다음은 몇 가지 유용한 대상입니다.

  • //tensorflow/lite/tools/benchmark:benchmark_model
  • //tensorflow/lite/examples/label_image:label_image

from: https://www.tensorflow.org/lite/guide/build_rpi