如何将生成的RDD写入Spark python中的csv文件

如何将生成的RDD写入Spark python中的csv文件,第1张

如何将生成的RDD写入Spark python中的csv文件

然后只需

map
将RDD(
labelsAndPredictions
)的行转换为字符串(CSV的行)即可
rdd.saveAsTextFile()

def toCSVLine(data):  return ','.join(str(d) for d in data)lines = labelsAndPredictions.map(toCSVLine)lines.saveAsTextFile('hdfs://my-node:9000/tmp/labels-and-predictions.csv')


欢迎分享,转载请注明来源:内存溢出

原文地址:https://54852.com/zaji/5601724.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2022-12-15
下一篇2022-12-15

发表评论

登录后才能评论

评论列表(0条)

    保存