多线程，分布式任务如何向HDFS加载数据

发布网友发布时间：2022-04-22 08:12

共1个回答

热心网友时间：2022-06-18 10:16

大数据计算时，多线程与分布式的并行能够很好的加速数据的处理速度。而在大数据存储时，分布式的文件存储系统对并发的写请求支持存在天然的缺陷。这是一对天然的矛盾，暂时无法解决，只能缓和。
要想缓和，可通过加层的方法实现。大数据计算与大数据存储对中间层的要求主要有两点：第一，支持并发访问，以此弥补分布式存储层的不足；第二，支持缓存，起到缓冲池作用，并支持按照一定调度策略实现对缓冲的访问。一般的关系型数据库（如mysql）可以很好的支持并发访问，也存在各种API支持对特定的调度策略的定制化实现。其次是消息队列，消息队列也能满足并发的请求与缓存数据，不过调度一般为队列（FIFO）调度。