社区
Power Linux
帖子详情
spark用于机器学习进行数据建模,用python写可以完成吗?
科科科ke
2016-06-12 05:01:04
spark在用于机器学习进行数据建模时,用python写可以完成吗?写起来容易吗?求解啊
...全文
1042
3
打赏
收藏
spark用于机器学习进行数据建模,用python写可以完成吗?
spark在用于机器学习进行数据建模时,用python写可以完成吗?写起来容易吗?求解啊
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
dingybin
2016-06-14
打赏
举报
回复
可以参考一下链接: Spark编程指南——Python版 http://www.csdn.net/article/2015-04-24/2824552
dingybin
2016-06-14
打赏
举报
回复
spark在用于机器学习进行数据建模时,可以用python。 不论是Hadoop还是spark都有python的高级接口。 Python在机器学习方面的的package有scikit-learn, libsvm;scikit learn不仅文档清晰,而且常用的算法均有实现。 python的优势不在于运行效率,而在于开发效率和高可维护性。需要针对特定的问题挑选合适的工具, 如果是数据载入和分发,用python是很高效的;如果是求一些常用的统计量和求一些基本算法的结果,python也有现成的高效的库;如果是纯粹自己写的算法,没有任何其他可借鉴的,什么库也用不上,用纯python写是自讨苦吃。
alinly
2016-06-13
打赏
举报
回复
看spark官方文档, 有python,scala,java的接口.
Spark
、
Python
spark
、Hadoop简介
本文介绍了
Spark
、
Python
Spark
和Hadoop的基础知识。
Spark
是一个弹性分布式计算框架,以其高效的内存计算和多种功能模块(如
Spark
SQL、DataFrame、Streaming和MLlib)脱颖而出。
Python
Spark
在
机器学习
和大数据开发中受到青睐,因其易用性和丰富的库。Hadoop则是一个可靠的分布式存储和处理平台,其HDFS和MapReduce提供了大规模数据处理能力。
Spark
2.0的改进包括提升执行性能、引入
Spark
ML Pipeline和Structured Streaming APIs。
spark
-streaming使用
spark
-ML模型实时预测
本文介绍如何在
Spark
Streaming中使用
Spark
ML预先训练的模型
进行
实时数据处理,通过将模型序列化为Java或
Python
可调用格式,并在流计算中读取Kafka数据,实现模型预测并筛选结果。
从 RDD 到 DataFrame认识
Spark
MLlib 与 “
Spark
ML”
本文深入解析
Spark
MLlib的发展历程,重点介绍从RDD到DataFrame API的迁移动因及其优势。涵盖MLlib核心功能、
Spark
ML命名由来、API现状及
Spark
3.0新增特性,如样本权重、因子分解机和Pipeline监控等,指导用户在现代
Spark
中构建高效可维护的
机器学习
流程。
Spark
机器学习
(一)
本文介绍了
Spark
在大数据处理和
机器学习
中的应用。涵盖了
Spark
的安装、编程模型、RDD 操作、分布式矩阵处理等内容,并讨论了
Spark
ML 的优势及与传统方法的区别。同时,文章还讲解了
机器学习
所需的数学基础知识,如线性代数、函数和微积分。
笔记:
python
spark
机器学习
与hadoop大数据
文章介绍了
机器学习
的基本概念,包括有监督和无监督学习,以及
Spark
在数据处理中的作用,如RDD、DataFrame和
Spark
SQL。同时,强调了
Python
作为开发
Spark
机器学习
应用的便捷语言,以及大数据的3V特性:Volume、Variety和Velocity。还提到了JDK在Linux的安装和SSH无密码登录的配置步骤。
Power Linux
745
社区成员
900
社区内容
发帖
与我相关
我的任务
Power Linux
该论坛主要探讨Linux系统在IBM Power平台的安装、部署、应用开发等话题,并为网友们提供自由交流的平台。
复制链接
扫一扫
分享
社区描述
该论坛主要探讨Linux系统在IBM Power平台的安装、部署、应用开发等话题,并为网友们提供自由交流的平台。
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章