Я пытаюсь прочитать какой-то файл, открыв поток чтения и отправив фрагменты файла через ZMQ другому процессу для их использования. Поток работает так, как должен, однако, когда я запускаю работника, он не видит отправленные данные.
Я пытался отправлять данные через сокет каждые 500 мс, а не в обратном вызове, и когда я запускаю работника, он собирает все предыдущие фрагменты данных:
sender = zmq.socket('push')
setInterval(() ->
console.log('sending work');
sender.send('some work')
, 500)
receiver = zmq.socket("pull")
receiver.on "message", (msg) ->
console.log('work is here: %s', msg.toString())
Выходы:
sending work
sending work
sending work
sending work
sending work
// here I start the worker
sending work
work is here: some work
work is here: some work
work is here: some work
work is here: some work
work is here: some work
work is here: some work
sending work
work is here: some work
sending work
work is here: some work
sending work
work is here: some work
Итак, когда рабочий запускается, он начинает с извлечения всех предыдущих данных, а затем извлекает их каждый раз, когда поступает что-то новое. Это не применяется, когда я делаю это:
readStream = fs.createReadStream("./data/pg2701.txt", {'bufferSize': 100 * 1024})
readStream.on "data", (data) ->
console.log('sending work');
sender.send('some work'); // I'd send 'data' if it worked..
В этом сценарии рабочий процесс вообще не извлекает никаких данных. Должны ли такие сокеты создавать очередь или нет? Что мне здесь не хватает?