海牛部落 spark 系列教程(四十二):spark-sql 编程

资料 青牛 ⋅ 于 2017-09-29 14:53:09 ⋅ 最后回复由 xiaojiaobin 2018-04-16 15:02:42 ⋅ 1168 阅读

1.spark-sql的json

pom

file

file
代码

file
结果

file

file

file

file
save的结果

file

2.spark-sql自定义schema

数据集,只不过以文本形式表示

file
把log4j的级别改成warn方便看日志,从集群上拿log4j.properties文件放到

file

file
程序结果

file

3.spark-sql用对象自定义schema

首先定义一个数据bean,作用是可以根据这个数据bean通过反射的方式映射出表的结构和生成ds数据集

file
代码: 用sql语句代替ds的api

file
结果:

file

代码

file
结果
file
file

file

回复帖子,然后刷新页面即可查看隐藏内容

版权声明:原创作品,允许转载,转载时务必以超链接的形式表明出处和作者信息。否则将追究法律责任。来自海牛部落-青牛,http://hainiubl.com/topics/195
回复数量: 23
暂无评论~~
  • 请注意单词拼写,以及中英文排版,参考此页
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`, 更多语法请见这里 Markdown 语法
  • 支持表情,可用Emoji的自动补全, 在输入的时候只需要 ":" 就可以自动提示了 :metal: :point_right: 表情列表 :star: :sparkles:
  • 上传图片, 支持拖拽和剪切板黏贴上传, 格式限制 - jpg, png, gif,教程
  • 发布框支持本地存储功能,会在内容变更时保存,「提交」按钮点击时清空
Ctrl+Enter