Свързани въпроси 'flume'
Как да напиша персонализирана OG мивка с канал
Използваме flume и трябва да събера някои регистрационни съобщения в rabbitmq. Намерих източник имплементация , която чете съобщения от rabbitmq, но не можах да намеря приемник който може да пише съобщения в rabbit. Затова си мислех да напиша сам....
4241 изгледи
schedule
22.09.2022
Защо източникът на Flume трябва да разпознае формата на съобщението?
Според документацията на Flume от тук
Източникът на Flume консумира събития, доставени му от външен източник като уеб сървър. Външният източник изпраща събития към Flume във формат, който се разпознава от целевия източник на Flume....
127 изгледи
schedule
02.12.2022
Генериране на avro схема с незадължителни стойности
Опитвам се да напиша много лесна схема на avro (лесна, защото просто посочвам текущия си проблем), за да напиша файл с данни на avro въз основа на данни, съхранени във формат json. Номерът е, че едно поле не е задължително и едно от avrotools или аз...
7699 изгледи
schedule
04.11.2022
Flume Spooling Directory Source рекурсивно търсене на файловете в поддиректориите
Търся Flume "Spooling Directory Source" рекурсивен поглед за файловете в поддиректориите. Тук има някои препратки https://issues.apache.org/jira/browse/FLUME-1899 обаче оттогава излязоха множество версии, има ли някакъв начин да имаме рекурсивно...
605 изгледи
schedule
27.11.2023
Apache Flume: не може да извърши транзакция. Достигнато е ограничението за пространство в паметта
Опитвам се да предавам поточно някои данни в HDFS с Flume, с единичен агент, конфигуриран да има netcat източник, канал на паметта и приемник на HDFS.
Конфигурацията е следната:
a1.sources = src1
a1.channels = ch1
a1.sinks = snk1
# SOURCES...
2521 изгледи
schedule
06.06.2024
Събитието на потока беше съкратено
Тук се сблъсквам с проблем, при който получавам съобщение от източника на Kafka и пиша прехващач за извличане на две полета(dataSoure и businessType) от съобщението kafka (формат json). Тук използвам gson.fromJson(). Но проблемът е, че получих...
380 изгледи
schedule
23.10.2022