Свързани въпроси 'amazon-emr'

Четене на големи файлове с помощта на mapreduce в hadoop
Имам код, който чете файлове от FTP сървър и го записва в HDFS . Приложих персонализиран InputFormatReader , който задава свойството isSplitable на входа като false . Това обаче ми дава следната грешка. INFO mapred.MapTask: Record too large...
1923 изгледи

Как S3 присвоява времево клеймо при качване?
Имаме процес на качване на файлове в S3. Всъщност това е косвено. Използваме Amazon Elastic MapReduce (EMR), а Hadoop предава файловете към S3 от много различни възли на задачи. След това, след като тази задача на Hadoop приключи успешно, друга...
7473 изгледи
schedule 18.11.2023

Как да инсталирам cloudera impala на EMR?
Има ли все пак мога да инсталирам единствената impala без cloudera manager и без cdh. Ще използвам apache версията на hadoop?
2670 изгледи
schedule 22.10.2022

как да създадете Amazon EMR клъстер от командния ред в Ubuntu?
как да създадете Amazon EMR клъстер от командния ред в Ubuntu? Имам частния ключ, ключа за достъп и pem файла?... Може ли някой да ме насочи как да стартирам примера за броене на думи от командния ред
2164 изгледи
schedule 11.02.2024

Как могат да бъдат посочени множество файлове с -files в CLI на Amazon за EMR?
Опитвам се да стартирам amazon клъстер чрез amazon CLI, но съм малко объркан как трябва да посоча множество файлове. Текущото ми обаждане е следното: aws emr create-cluster --steps Type=STREAMING,Name='Intra country...
2257 изгледи

НЕУСПЕШНО: ParseException: не може да разпознае вход близо до 'обмен' 'низ' ',' в спецификацията на колоната
Използвам последната версия на AWS Hive 0.13.0 . FAILED: ParseException: cannot recognize input near 'exchange' 'string' ',' in column specification Получавам горната грешка, когато изпълнявам заявката по-долу (създаване на таблица)....
13199 изгледи

Стартиране на Pig Word Count Script на Amazon EMR Getting Error
следното е извадка от моя код. Опитвам се да направя демонстрация на брой думи от Стария завет. Когато се опитам да стартирам този код през amazon EMR, стъпката е неуспешна. Качих кода в EMR като обикновен текстов файл и всички мои пътища са...
339 изгледи