不思蜀1123 2016-04-03 08:14 采纳率: 0%
浏览 1471

hadoop中map处理多行数据，可以满足用于算法模型的输入。

在分布式平台做算法研究，遇到一个map处理文件是以行为单位。怎么使map可以
读取多行数据然后可以在map中进行算法模型的训练。

以下是我的尝试：
1：NLineInputFormat 不行，还是单行输出数据。
2：重写 InputFormat函数。 数据集没有具体的切分标志，只能说一个map处理
100或200行数据。没有类似 {} “ ” —— 的切分标志。

  • 写回答

1条回答 默认 最新

  • oyljerry 2016-04-03 14:31
    关注

    你重写函数后也总要有一个规则来定义你的map处理方法

    评论

报告相同问题？

悬赏问题

  • ¥15 #MATLAB仿真#车辆换道路径规划
  • ¥15 java 操作 elasticsearch 8.1 实现 索引的重建
  • ¥15 数据可视化Python
  • ¥15 要给毕业设计添加扫码登录的功能！！有偿
  • ¥15 kafka 分区副本增加会导致消息丢失或者不可用吗？
  • ¥15 微信公众号自制会员卡没有收款渠道啊
  • ¥15 stable diffusion
  • ¥100 Jenkins自动化部署—悬赏100元
  • ¥15 关于#python#的问题：求帮写python代码
  • ¥20 MATLAB画图图形出现上下震荡的线条