安装- npm install# 运行- npm1.2.3.4.


难度 中等

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎

©著作权归作者所有:来自51CTO博客作者zhuhuix的原创作品,请联系作者获取转载授权,否则将追究法律责任

文章目录

一、需求分析

  • 公司内部存在大量的设备维修保养office文档,设备人员在检索特定的维修保养知识的时候,需要根据目录的索引文件,在服务器上先找出有可能相关的文件列表,再一一打开进行检索,效率低下且体验性差。

  • 用户希望利用现有文档系统(编制,发布,升版等文控管理有专人负责)不变,搭建一个可以根据关键词条进行检索的文件搜索引擎,提高效率及提升体验度。

  • 本文将通过ElasticSearch(开源搜索引擎),FSCrawler(文件爬虫,将文档“上传”到 elasticsearch), SearchUI(使用elasticsearch搜索 API 的前端页面),搭建一个文件搜索引擎系统。

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_spring boot

二、ElasticSearch

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_java_02

  • 解压文件

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_搜索_03

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_程序人生_04

  • 下载安装jdk并设置java环境变量

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_程序人生_05

  • 进入到解压后的bin目录,双击elasticsearch.bat文件运行

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_spring boot_06

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_搜索_07

  • 验证ElasticSearch是否启动成功:使用浏览器访问_ http://localhost:9200_,看到以下页面就代表安装成功了

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_spring boot_08

三、FSCrawle

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_程序人生_09

  • 解压文件

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_java_10

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_java_11

  • 创建文件爬取job

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_程序人生_12

  • 运行以上命令后,程序提示是否创建该job

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_搜索_13

  • 选择y,程序会在用户目录下创建以下配置文件,我们需要对该任务进行配置

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_java_14

---name: "test"fs:  url: "d:\\test" # 监控windows下的D盘test目录  update_rate: "15m" # 间隔15分进行扫描  excludes:  - "*/~*"  #排除以~开头的文件  json_support: false  filename_as_id: false  add_filesize: true  remove_deleted: true  add_as_inner_object: false  store_source: false  index_content: true  attributes_support: false  raw_metadata: false  xml_support: false  index_folders: true  lang_detect: false  continue_on_error: false  ocr:    language: "eng"    enabled: true    pdf_strategy: "ocr_and_text"  follow_symlinks: falseelasticsearch:  nodes:  - url: "http://127.0.0.1:9200"  bulk_size: 100  flush_interval: "5s"  byte_size: "10mb"  ssl_verification: true1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.31.32.

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_spring boot_15

  • 保存配置后,我们就可启动FSCrawle爬虫程序了:

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_java_16

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_elasticsearch_17

  • 启动成功后,我们在原有的配置目录会发现多出一个状态文件,该文件会记录文件爬虫程序的定时运行记录:

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_程序人生_18

{  "name" : "test",  "lastrun" : "2021-11-27T09:00:16.2043064",  "indexed" : 0,  "deleted" : 0}1.2.3.4.5.6.

三、SearchUI

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_java_19

  • 文件解压后,用vscode打开examples\elasticsearch目录:

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_java_20

  • 并依次修改search.js、buildRequest.js、buildState.js文件

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_spring boot_21

  1. 修改search.js:设定job路径

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_程序人生_22

  1. 修改buildRequest.js

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_搜索_23

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_elasticsearch_24

  1. 修改buildState.js

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_java_25

  • 注意:为了让用户在搜索页面上可以直接通过文件链接下载文件,我们通过IIS搭建文件下载服务:

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_spring boot_26

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_elasticsearch_27

  • 该地址反映在在buildState.js中

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_java_28

  1. 最后我们修改一下app.js,将搜索返回的页面与搜索字段名称进行对应

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_spring boot_29

五、运行测试

  • 安装依赖包,运行程序

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_spring boot_30

  • 放置文件到FSCrawler监控的目录下

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_搜索_31

  • 测试搜索效果

手把手教你通过ElasticSearch、FSCrawler及 SearchUI搭建文件搜索引擎_java_32

  • 赞
  • *1收藏*
  • 评论
  • 举报

相关文章


  目录
分类导航
随笔3 AI29 计算机基础13 算法1 博客搭建7 ChatGPT2 集群63 计算机通信1 数据库59 数据库深入93 数据库93 Docker11 DPDK26 编辑工具4 Elasticsearch4 FAQ1 Go Web1 hometown2 编程语言16 人生11 网络9 Linux38 OPC1 openGauss4 页面12 PostgreSQL54 程序员自我修养1 协议11 stock1 存储5 成长之路1 工具20 视频作品1 VPP18 Vue13 Web1 代码示例11 BenchmarkSQL1 PostgreSQL 源码修炼之路14
最热文章
1
PostgreSQL 逻辑复制全链路:以一个真实事务为例,从 `INSERT` 到 `apply` 的源码级旅程
数据库🔥 2162
2
PostgreSQL 逻辑复制 Stream 执行逻辑源码级拆解:从 reorderbuffer 触发到订阅端落盘回放
数据库🔥 1765
3
PostgreSQL 行锁机制源码级深度拆解:4 种锁模式 + xmax + MultiXact 的完整链路
数据库🔥 1656
4
PostgreSQL reorderbuffer.c 函数级源码全集:5615 行 / 95 个函数的逐函数解析
数据库深入🔥 1650
5
PostgreSQL 目录快照源码级深度拆解:系统表读取的 MVCC 真相与失效机制
数据库🔥 1604
6
13 逻辑复制深入
数据库深入🔥 1570
7
0 Postgresql存储、索引及系统优化、主备切换
PostgreSQL🔥 1495
8
PostgreSQL 读一行数据源码级深度拆解:MVCC 在每个环节的落点
数据库🔥 1464
9
PostgreSQL WAL 记录类型完全指南:21 个 RMGR × 80+ 种记录的源码级拆解
数据库🔥 1431
10
一文读懂openguass dcf网络模块
集群🔥 1420
11
PostgreSQL 元数据存储机制:从磁盘文件到内存缓存,`pg_class` 撑起的整个系统表体系
数据库🔥 1411
12
openGauss 并行解码设计原理深度拆解:reader + 多 worker + CSN 三层架构的源码级剖析
数据库深入🔥 1344
13
逻辑复制源码分析
数据库深入🔥 1327
14
PostgreSQL 逻辑复制:catalog 改动、可见性判定与 xmin/xmax 推进全景
数据库深入🔥 1317
15
自托管服务全家桶:从原文方案到可复制实操手册
人生🔥 1278
16
PostgreSQL CREATE_REPLICATION_SLOT 端到端源码分析:从 SQL 到 snapbuild 状态机的完整链路(每个函数每个参数)
数据库深入🔥 1277
17
PostgreSQL syscache 模块源码深度拆解:CatCache 数据结构、LRU 哈希表、cache invalidation 全链路
数据库深入🔥 1216
18
PostgreSQL 18 内核数据结构全景:RangeVar 与 20+ 个核心数据结构源码级拆解
数据库🔥 1158
19
PostgreSQL 逻辑复制里 `RUNNING_XACTS` 写入机制与快照 `xmin / xmax / xip` 的演化:源码级深度拆解
数据库🔥 1119
20
PostgreSQL 分区表:从一行 `PARTITION BY` 到路由热路径的全链路拆解
数据库🔥 1094