Свързани въпроси 'elastic-map-reduce'
Четене на големи файлове с помощта на mapreduce в hadoop
Имам код, който чете файлове от FTP сървър и го записва в HDFS . Приложих персонализиран InputFormatReader , който задава свойството isSplitable на входа като false . Това обаче ми дава следната грешка.
INFO mapred.MapTask: Record too large...
1923 изгледи
schedule
24.11.2022
Как мога да чета и пиша двоични файлове в Cascading?
Искам да заредя някои файлове в двоичен формат (например jpegs, но може да бъде всеки двоичен формат), да го манипулирам по някакъв начин и да го запиша обратно. Искам да направя това на hadoop и бих искал да го напиша върху Cascading framework....
577 изгледи
schedule
15.12.2023
НЕУСПЕШНО: NullPointerException null в HIVE QUERY
Следва заявката HIVE, която използвам, също използвам функция за класиране. Изпълнявам това на моята локална машина.
SELECT numeric_id, location, Rank(location), followers_count
FROM (
SELECT numeric_id, location, followers_count
FROM...
20575 изгледи
schedule
30.01.2024
Използвайте входен кодек gzip за файлове без разширение .gz в hadoop
Изпълнявам задача на Hadoop върху куп входни файлове, компресирани с gzip. Hadoop трябва да се справи с това лесно... mapreduce в java - gzip входни файлове
За съжаление в моя случай входните файлове нямат разширение .gz . Използвам...
861 изгледи
schedule
11.03.2024