Tess4J -4.0.2- Linux 实践 [解决:Tess4J - Native library (linux-x86-64/libtesseract.so) not found in resource path]
2018-11-30 12:56:27
1160次阅读
0个评论
Tess4J是Tesseract的Java JNA wrapper。本文介绍了在CentOS 7 操作系统中使用Tess4J的步骤及注意事项。在正式开始之前,先花一点篇幅,对相关的技术作一简要介绍。
一点点背景
Tesseract
Tesseract 是一个著名的开源OCR引擎,支持100多种语言,可以开箱即用。还可以通过训练方式支持更多语言。Tesseract诞生于1984年,来自HP公司,2005年开源。自2006年起,由谷歌接手开发。截止目前,最新的稳定版本是2017年6月1日发布的3.05.01。还有一只比较活跃的基于LSTM(长短期记忆网络,是一种时间递归神经网络)的4.0版本,还在研发中,最新释放的是2018年6月26日的4.0.0-beta.3。Tesseract由C++开发。
站点:
Leptonica
Tesseract作为OCR引擎,避免不了使用图像处理。Tesseract使用的图像处理主要由leptonica提供。Leptonica 包含众多图像处理和图像分析相关的功能。
站点:
Java JNA Wrapper
JNA 是 Java Native Access的缩写,顾名思义,是一个实现Java调用操作系统Native应用的库。提起Java本地调用,大家自然联想的JNI,但JNI使用过程十分复杂,会让人望而生畏。JNA则采取更加自然的方式,为Java应用提供调用本地应用的支持。
站点:
Tess4J
Tess4J通过Java JNA Wrapper,提供了Java的Tesseract API,同时还提供了Windows 32bit和64bit的Tesseract的DLL以及一些样例图像。通过Tess4J,可以在Windows下非常便利的通过Java使用Tesseract。对于Linux、MAC等其他操作系统,则需要自行构建Tesseract才可以使用Tess4J。
也就是说,原生的Tess4J并不是跨平台的,仅仅是对Windows开箱即用的。
这也是本文写作的初衷,记录在Linux环境中,使用Tess4J的步骤及淌过的坑。
本文使用的技术版本
为什么要单独强调版本?长期混迹开源坑的同志们一定了解一个事实:大部分的开源项目其质量(功能可用性,文档正确性、更新及时性)相对一般,在圈子里混,必须具备在众多繁杂的信息中去伪存真的能力,在社区里大声疾呼求关注的技巧,极强的动手能力以及百折不挠的精神。。。
对于某些技术问题,谷歌出来的结果中,很大一部分是无效的,会浪费大量的时间,甚至走入歧途。但同众多作者交流后发现,绝大部分这类情况是有文章介绍方案不完整,或者不够严谨导致的。
因此,我认为,作为分享的每一个实践,需要具备可重复操作的基本要求。所以,我会尽量精确的重复我实践过程使用的软件及环境的版本,希望对大家有所帮助。
Tess4J:4.0.2
Tesseract:4.0.0-beta.1
Leptonica:1.76.0
JDK:1.8 Update 102 64bit
运行环境:CentOS 7 (内核:3.10.0-862.3.3.el7.x86_64)64bit
GCC:4.8.5
Clang:3.4
开发环境:Windows 10 64bit
为何这样选?
这里的坑是,不能根据自己的喜好,使用新版本。我使用过Tesseract 4.0.0-beta.3,但运行JVM会报出Fatal Error最后自行退出,看报出的错误来判断,大概是Tesseract中某些函数签名变化,Tess4J中签名与之不匹配所致。
还记得官方文档(https://github.com/tesseract-ocr/tesseract/wiki)吗?
官方Wiki提到,Linux的so库,可以通过安装预先编译的包,如果按照Wiki操作,便会自动安装最新版本。我也曾经尝试通过yum列表旧版本安装,发现即使所谓的旧版本,也会导致Tess4J运行时报错。(通过yum下载并自动安装的rpm包如下所示)
这里必须根据Tess4J适配的版本来选择。
Tess4J的versionchanges.txt中描述了最近几个版本的变化:
Version 4.0.0 (28 April 2018)
- Upgrade to Tesseract 4.0.0-beta.1 (45bb942)
- Update Lept4J to 1.9.3 (Leptonica 1.75.3)
Version 4.0.1 (2 May 2018)
- Fix a path issue when extracting resources from JAR to temp directory on Windows server
Version 4.0.2 (3 May 2018)
- Replace JNA string constant Platform.RESOURCE_PREFIX
- Update jai-imageio url
- Update Lept4J to 1.9.4
可见,最新版的Tess4J,仅对Tesseract 4.0.0-beta.1进行过适配,因此产生了上面描述的版本组合。鉴于无法确定预先构建的包哪个是从Tesseract 4.0.0-beta.1构建而来,因此只能通过源码自行构建。
构建Tesseract
1 修改yum的Repo
可能是我所在的环境网络非常差,yum默认会使用mirror,但绝大部分mirror连接不上,会导致下载过程在大量无效的mirror尝试中进行,非常浪费时间。
因此,我关闭了yum的fast mirror插件(/etc/yum/pluginconf.d),另外修改了CentOS-Base.repo。
2 安装必备包
注意:autoconf-archive 是官方说明中都没有提到的必备组件。
3 下载源码
Leptonica
http://www.leptonica.com/source/leptonica-1.76.0.tar.gz
Tesseract
https://codeload.github.com/tesseract-ocr/tesseract/tar.gz/4.0.0-beta.1
下载完毕效果:
4 安装Leptonica
5 安装Tesseract
6 确认安装
经过漫长的编译过程,Tesseract已经安装完毕。
执行如下指令:
显示内容如下:
即为安装完毕。
获取so库
在/usr/local/lib中,可以找到Tess4J需要的依赖库libtesseract.so。可见libtesseract.so实际指向libtesseract.so.4.0.0。liblept.so是leptonica的库,Tesseract也需要调用。
为Tess4J设置库(so)文件位置
Tess4J的JAR包中,包含windows的DLL库,其位置如下:
在Tess4J运行时,会将操作系统依赖的库从JAR包中解压出来使用,对于Linux系统的so文件,也是如此。Tess4J约定的Linux库文件存储路径为classpath根路径下的linux-x86-64。
既然已经拿到了so文件,显而易见的有两种方法:
1 修改tess4j-4.0.2.jar,将so文件按照约定路径存储,这样Tess4J在运行时就会自动解压使用。
但这种方式修改了Tess4J公开发布的JAR包,日后升级会有麻烦,因此,不建议这样操作。
2 将linux-x86-64放到Java工程的classpath根目录。这样在运行时,Tess4J就可以找到库了。我的Java工程采用的Gradle构建,因此将这些文件放到了src/main/resources下。
linux-x86-64目录中包含的文件,是从Linux系统中/usr/local/lib拷贝而来,去掉了一些链接文件,具体如下:
至此,已经完成了Tess4J在库文件方面的准备。
在Tess4J设置Tesseract数据目录tessdata
Tesseract运行时是需要加载语言的训练数据的,按照约定,这些训练数据需要放在tessdata下。但Tess4J 4.0.2对Windows和Linux两类操作系统目录处理方式是不一致的。
初始化Tesseract的代码,setDatapath就是用来设置tessdata目录的。
Tesseract的训练数据以“语言名.traineddata”命名。
经过实测,在Windows中,需要直接指定到.traineddata所在目录,在Linux中,则需要指定到一个目录,其中包含一个叫做tessdata的文件夹,tessdata内部是.traineddata文件。
举例说明:
在Windows中,instance.setDatapath("lngData/tessdata");
在Linux中,instance.setDatapath("lngData");
显然这是一个BUG,不过开源项目有BUG已经是家常便饭了。
为此,我在实践时根据操作系统做了一个小小的适配。
以上用到的SystemDetector代码:
至此,全部完成。在Windows上开发的项目使用Tess4J,已经可以在Linux中正常运行。
关于Tesseract的训练数据
Tesseract最大优势就是可以开箱即用,拥有大量语言的训练数据,实际使用时,可以根据需要进行OCR识别的内容类型添加。
但是不要贪多,识别范围越广,速度也就越慢,甚至还会影响精确度。建议在使用时尽量指定要识别内容的语言,类型,以便在准确度及效率之间取一个恰当的平衡。
Tesseract训练数据可以从下面获取:
https://github.com/tesseract-ocr/tessdata
Tesseract 4使用了LSTM,因此还有一个叫做tessdata_best的Repo,其内容是使用LSTM模型训练的各种语言识别率最高的训练数据。(推荐使用)
https://github.com/tesseract-ocr/tessdata_best
如果对Tesseract效果不满意,还可以自行准备数据进行训练。Tesseract所有项目均在Github上,链接地址为:
一点点背景
Tesseract
Tesseract 是一个著名的开源OCR引擎,支持100多种语言,可以开箱即用。还可以通过训练方式支持更多语言。Tesseract诞生于1984年,来自HP公司,2005年开源。自2006年起,由谷歌接手开发。截止目前,最新的稳定版本是2017年6月1日发布的3.05.01。还有一只比较活跃的基于LSTM(长短期记忆网络,是一种时间递归神经网络)的4.0版本,还在研发中,最新释放的是2018年6月26日的4.0.0-beta.3。Tesseract由C++开发。
站点:
https://github.com/tesseract-ocr/tesseract
Leptonica
Tesseract作为OCR引擎,避免不了使用图像处理。Tesseract使用的图像处理主要由leptonica提供。Leptonica 包含众多图像处理和图像分析相关的功能。
站点:
http://www.leptonica.com/
Java JNA Wrapper
JNA 是 Java Native Access的缩写,顾名思义,是一个实现Java调用操作系统Native应用的库。提起Java本地调用,大家自然联想的JNI,但JNI使用过程十分复杂,会让人望而生畏。JNA则采取更加自然的方式,为Java应用提供调用本地应用的支持。
站点:
https://github.com/java-native-access/jna
Tess4J
Tess4J通过Java JNA Wrapper,提供了Java的Tesseract API,同时还提供了Windows 32bit和64bit的Tesseract的DLL以及一些样例图像。通过Tess4J,可以在Windows下非常便利的通过Java使用Tesseract。对于Linux、MAC等其他操作系统,则需要自行构建Tesseract才可以使用Tess4J。
也就是说,原生的Tess4J并不是跨平台的,仅仅是对Windows开箱即用的。
这也是本文写作的初衷,记录在Linux环境中,使用Tess4J的步骤及淌过的坑。
本文使用的技术版本
为什么要单独强调版本?长期混迹开源坑的同志们一定了解一个事实:大部分的开源项目其质量(功能可用性,文档正确性、更新及时性)相对一般,在圈子里混,必须具备在众多繁杂的信息中去伪存真的能力,在社区里大声疾呼求关注的技巧,极强的动手能力以及百折不挠的精神。。。
对于某些技术问题,谷歌出来的结果中,很大一部分是无效的,会浪费大量的时间,甚至走入歧途。但同众多作者交流后发现,绝大部分这类情况是有文章介绍方案不完整,或者不够严谨导致的。
因此,我认为,作为分享的每一个实践,需要具备可重复操作的基本要求。所以,我会尽量精确的重复我实践过程使用的软件及环境的版本,希望对大家有所帮助。
Tess4J:4.0.2
Tesseract:4.0.0-beta.1
Leptonica:1.76.0
JDK:1.8 Update 102 64bit
运行环境:CentOS 7 (内核:3.10.0-862.3.3.el7.x86_64)64bit
GCC:4.8.5
Clang:3.4
开发环境:Windows 10 64bit
为何这样选?
这里的坑是,不能根据自己的喜好,使用新版本。我使用过Tesseract 4.0.0-beta.3,但运行JVM会报出Fatal Error最后自行退出,看报出的错误来判断,大概是Tesseract中某些函数签名变化,Tess4J中签名与之不匹配所致。
还记得官方文档(https://github.com/tesseract-ocr/tesseract/wiki)吗?
官方Wiki提到,Linux的so库,可以通过安装预先编译的包,如果按照Wiki操作,便会自动安装最新版本。我也曾经尝试通过yum列表旧版本安装,发现即使所谓的旧版本,也会导致Tess4J运行时报错。(通过yum下载并自动安装的rpm包如下所示)
这里必须根据Tess4J适配的版本来选择。
Tess4J的versionchanges.txt中描述了最近几个版本的变化:
Version 4.0.0 (28 April 2018)
- Upgrade to Tesseract 4.0.0-beta.1 (45bb942)
- Update Lept4J to 1.9.3 (Leptonica 1.75.3)
Version 4.0.1 (2 May 2018)
- Fix a path issue when extracting resources from JAR to temp directory on Windows server
Version 4.0.2 (3 May 2018)
- Replace JNA string constant Platform.RESOURCE_PREFIX
- Update jai-imageio url
- Update Lept4J to 1.9.4
可见,最新版的Tess4J,仅对Tesseract 4.0.0-beta.1进行过适配,因此产生了上面描述的版本组合。鉴于无法确定预先构建的包哪个是从Tesseract 4.0.0-beta.1构建而来,因此只能通过源码自行构建。
构建Tesseract
1 修改yum的Repo
可能是我所在的环境网络非常差,yum默认会使用mirror,但绝大部分mirror连接不上,会导致下载过程在大量无效的mirror尝试中进行,非常浪费时间。
因此,我关闭了yum的fast mirror插件(/etc/yum/pluginconf.d),另外修改了CentOS-Base.repo。
2 安装必备包
yum -y update
yum -y install libstdc++ autoconf automake libtool autoconf-archive pkg-config gcc gcc-c++ make libjpeg-devel libpng-devel libtiff-devel zlib-devel
yum group install -y "Development Tools"
注意:autoconf-archive 是官方说明中都没有提到的必备组件。
3 下载源码
Leptonica
http://www.leptonica.com/source/leptonica-1.76.0.tar.gz
Tesseract
https://codeload.github.com/tesseract-ocr/tesseract/tar.gz/4.0.0-beta.1
下载完毕效果:
4 安装Leptonica
tar -zxvf leptonica-1.76.0.tar.gz
cd leptonica-1.76.0
./autobuild
./configure
make -j
make install
5 安装Tesseract
tar -zxvf 4.0.0-beta.1.tar.gz
cd tesseract-4.0.0-beta.1/
./autogen.sh
PKG_CONFIG_PATH=/usr/local/lib/pkgconfig LIBLEPT_HEADERSDIR=/usr/local/include ./configure --with-extra-includes=/usr/local/include --with-extra-libraries=/usr/local/lib
LDFLAGS="-L/usr/local/lib" CFLAGS="-I/usr/local/include" make -j
make install
ldconfig
6 确认安装
经过漫长的编译过程,Tesseract已经安装完毕。
执行如下指令:
tesseract -v
显示内容如下:
即为安装完毕。
获取so库
在/usr/local/lib中,可以找到Tess4J需要的依赖库libtesseract.so。可见libtesseract.so实际指向libtesseract.so.4.0.0。liblept.so是leptonica的库,Tesseract也需要调用。
为Tess4J设置库(so)文件位置
Tess4J的JAR包中,包含windows的DLL库,其位置如下:
在Tess4J运行时,会将操作系统依赖的库从JAR包中解压出来使用,对于Linux系统的so文件,也是如此。Tess4J约定的Linux库文件存储路径为classpath根路径下的linux-x86-64。
既然已经拿到了so文件,显而易见的有两种方法:
1 修改tess4j-4.0.2.jar,将so文件按照约定路径存储,这样Tess4J在运行时就会自动解压使用。
但这种方式修改了Tess4J公开发布的JAR包,日后升级会有麻烦,因此,不建议这样操作。
2 将linux-x86-64放到Java工程的classpath根目录。这样在运行时,Tess4J就可以找到库了。我的Java工程采用的Gradle构建,因此将这些文件放到了src/main/resources下。
linux-x86-64目录中包含的文件,是从Linux系统中/usr/local/lib拷贝而来,去掉了一些链接文件,具体如下:
至此,已经完成了Tess4J在库文件方面的准备。
在Tess4J设置Tesseract数据目录tessdata
Tesseract运行时是需要加载语言的训练数据的,按照约定,这些训练数据需要放在tessdata下。但Tess4J 4.0.2对Windows和Linux两类操作系统目录处理方式是不一致的。
初始化Tesseract的代码,setDatapath就是用来设置tessdata目录的。
ITesseract instance = new Tesseract();
//设置tessdata目录
instance.setDatapath("/path/to/tessdata");
Tesseract的训练数据以“语言名.traineddata”命名。
经过实测,在Windows中,需要直接指定到.traineddata所在目录,在Linux中,则需要指定到一个目录,其中包含一个叫做tessdata的文件夹,tessdata内部是.traineddata文件。
举例说明:
在Windows中,instance.setDatapath("lngData/tessdata");
在Linux中,instance.setDatapath("lngData");
显然这是一个BUG,不过开源项目有BUG已经是家常便饭了。
为此,我在实践时根据操作系统做了一个小小的适配。
ITesseract instance = new Tesseract();
File tessTrainedDataLoc = null;
if(SystemDetector.isWindows())
{
//Windows Data目录直接指定到*.traineddata所在目录
tessTrainedDataLoc = new File(System.getProperty("user.dir"),"lngData\\tessdata");
}
else
{
// 在Linux(如CentOS 7)中,Data目录指定到tessdata上一级
tessTrainedDataLoc = new File(System.getProperty("user.dir"),"lngData");
}
instance.setDatapath(tessTrainedDataLoc.getAbsolutePath());
以上用到的SystemDetector代码:
import java.util.Properties;
public class SystemDetector {
private static boolean isWindows = false;
private static boolean isLinux = false;
static {
Properties props = System.getProperties();
String systemName = props.getProperty("os.name");
if (systemName.toLowerCase().indexOf("windows") != -1) {
isWindows = true;
}
if (systemName.toLowerCase().indexOf("linux") != -1) {
isLinux = true;
}
}
public static boolean isWindows()
{
return isWindows;
}
public static boolean isLinux()
{
return isLinux;
}
}
至此,全部完成。在Windows上开发的项目使用Tess4J,已经可以在Linux中正常运行。
关于Tesseract的训练数据
Tesseract最大优势就是可以开箱即用,拥有大量语言的训练数据,实际使用时,可以根据需要进行OCR识别的内容类型添加。
但是不要贪多,识别范围越广,速度也就越慢,甚至还会影响精确度。建议在使用时尽量指定要识别内容的语言,类型,以便在准确度及效率之间取一个恰当的平衡。
Tesseract训练数据可以从下面获取:
https://github.com/tesseract-ocr/tessdata
Tesseract 4使用了LSTM,因此还有一个叫做tessdata_best的Repo,其内容是使用LSTM模型训练的各种语言识别率最高的训练数据。(推荐使用)
https://github.com/tesseract-ocr/tessdata_best
如果对Tesseract效果不满意,还可以自行准备数据进行训练。Tesseract所有项目均在Github上,链接地址为:
https://github.com/tesseract-ocr
00
相关话题
- Java OCR使用Tess4J进行图片文字识别
- zip4j压缩、解压zip文件
- Log4j2禁止自动初始化
- Mybatis解决oracle in语句 1000个数限制的问题
- Linux配置静态IP
- CentOS 8.x系统停止维护yum无法使用解决方法
- Fabric.js Zoom in & Zoom out
- SeaweedFS在linux上配置使用
- FFmpeg转码mp4
- Linux上使用commons-net.jar注意的问题
- 阿里云CentOS 8.x系统yum报404的解决方法(Errors during downloading metadata for repository 'appstream':
- Spring 5.0.3 抛出错误The request was rejected because the URL was not normalized
- Nginx 设置 X-Accel-Redirect 控制文件下载
- FFmpeg每隔X秒创建一个缩略图
- FFmpeg把mp4切片成hls生成m3u8