Elasticsearch对接spark

hseagle 2023-01-12 14:50:30

课时名称	课时知识点
Elasticsearch对接spark	Elasticsearch对接spark

...全文

104 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

计算机类毕业设计源码

文档描述了Elasticsearch整合大数据平台具体方法

该资源真实可靠，代码都经测试过，能跑通。快速：Apache Spark以内存计算为核心。通用：一站式解决各个问题，ADHOC SQL查询，流计算，数据挖掘，图计算完整的生态圈。只要掌握Spark,就能够为大多数的企业的大数据应用场景提供明显的加速。存储层：HDFS作为底层存储，Hive作为数据仓库（Hive Metastore:Hive管理数据的schema）离线数据处理：SparkSQL (做数据查询引擎<===> 数据ETL) 实时数据处理：Kafka + Spark Streaming 数据应用层：MLlib 产生一个模型 als算法数据展示和对接：Zeppelin 选用考量： HDFS不管是在存储的性能，稳定性吞吐量都是在主流文件系统中很占有优势的如果感觉HDFS存储还是比较慢，可以采用SSD硬盘等方案。存储模块：搭建和配置HDFS分布式存储系统，并Hbase和MySQL作为备用方案。 ETL模块：加载原始数据，清洗，加工，为模型训练模块和推荐模块准备所需的各种数据。模型训练模块:负责产生模型，以及寻找最佳的模型。推荐模块：包含离线推荐和实时推荐，离线推荐负责把推荐结果存储到存储系统中实时推荐负责产生实时的消息队列，并且消费实时消息产生推荐结果，最后存储在存储模块中。数据展示模块：负责展示项目中所用的数据。数据流向：数据仓库怎么理解？两种东西，其一是IBM微软数据产品为代表的，其二是Hadoop+Hive+Apache Hive数据仓库软件有助于使用SQL读取，写入和管理驻留在分布式存储中的大型数据集。可以将结构投影到已经存储的数据上。提供了命令行工具和JDBC驱动程序以将用户连接到Hive。

IK分词器通过spark加载词典，并在spark中使用

Kafka version：0.10 Spark version：2.11 Elasticsearch version: 5.6.10 Fluentd version: 0.12 Kibana version: 5.6.10 Description： Main Function: 1.kafka集成log4j2发送日志与sparkStream对接做日志准实时批处理 2.EFK日志收集 Design ideas: 1.App.simulationUserBehavior()模拟生成用户信息 2.SparkStreamingKafka.reveiveKafkaStream() 流计算结果放入本地缓存 3.AjaxController.getData()对外提供查询接口 Echart-ui: Function：Show quasi-real

许鹏的课程社区_NO_1

1

社区成员

21

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章