Скрученный http-сервер с асинхронным ответом, где запросы должны ждать, пока данные станут доступными, или истечет время ожидания.

Я пытаюсь написать простой http-сервер, который обрабатывает асинхронные запросы, которые ищут в структуре данных ответ или тайм-аут:

  1. Приходит запрос
  2. В то время как time ‹ тайм-аут, проверьте responseCollector на наличие ответа (используя requestId в качестве ключа)
  3. Если ответ, верните его
  4. Если тайм-аут, вернуть сообщение о тайм-ауте

Я новичок в Twisted, и мне интересно, как лучше всего сделать асинхронный ответ. Я просмотрел некоторую искаженную документацию по Deferred и callLater, но мне было непонятно, что именно я должен делать. Прямо сейчас я запускаю метод блокировки с помощью deferToThread и жду, пока истечет время ожидания. Я получаю строку, не вызываемую ошибку для моего отложенного метода:

Unhandled error in Deferred:
Traceback (most recent call last):
  File "/System/Library/Frameworks/Python.framework/Versions/2.6/lib/python2.6/threading.py", line 497, in __bootstrap
    self.__bootstrap_inner()
  File "/System/Library/Frameworks/Python.framework/Versions/2.6/lib/python2.6/threading.py", line 522, in __bootstrap_inner
    self.run()
  File "/System/Library/Frameworks/Python.framework/Versions/2.6/lib/python2.6/threading.py", line 477, in run
    self.__target(*self.__args, **self.__kwargs)
--- <exception caught here> ---
  File "/System/Library/Frameworks/Python.framework/Versions/2.6/Extras/lib/python/twisted/python/threadpool.py", line 210, in _worker
    result = context.call(ctx, function, *args, **kwargs)
  File "/System/Library/Frameworks/Python.framework/Versions/2.6/Extras/lib/python/twisted/python/context.py", line 59, in callWithContext
    return self.currentContext().callWithContext(ctx, func, *args, **kw)
  File "/System/Library/Frameworks/Python.framework/Versions/2.6/Extras/lib/python/twisted/python/context.py", line 37, in callWithContext
    return func(*args,**kw)
exceptions.TypeError: 'str' object is not callable

Вот мой код:

from twisted.web import server, resource
from twisted.internet import reactor, threads
import json
import time

connectedClients = {}
responseCollector = {}

# add fake data to the collector
class FakeData(resource.Resource):
    isLeaf = True

    def render_GET(self, request):
        request.setHeader("content-type", "application/json")
        if 'rid' in request.args and 'data' in request.args:
            rid = request.args['rid'][0]
            data = request.args['data'][0]
            responseCollector[str(rid)] = data
            return json.dumps(responseCollector)
        return "{}"

class RequestHandler(resource.Resource):
    isLeaf = True

    def render_GET(self, request):
        #request.setHeader("content-type", "application/json")

        if not ('rid' in request.args and and 'json' in request.args):
            return '{"success":"false","response":"invalid request"}'

        rid = request.args['rid'][0]
        json = request.args['id'][0]

        # TODO: Wait for data to show up in the responseCollector with same rid
        # as our request without blocking other requests OR timeout
        d = threads.deferToThread(self.blockingMethod(rid))
        d.addCallback(self.ret)
        d.addErrback(self.err)

    def blockingMethod(self,rid):
        timeout  = 5.0
        timeElapsed = 0.0
        while timeElapsed<timeout:
            if rid in responseCollector:
                return responseCollector[rid]
            else:
                timeElapsed+=0.01
                time.sleep(0.01)
        return "timeout"

    def ret(self, hdata):
        return hdata

    def err(self, failure):
        return failure

reactor.listenTCP(8080, server.Site(RequestHandler()))
reactor.listenTCP(9080, server.Site(FakeData()))
reactor.run()

Сделать запрос (в настоящее время ничего полезного не возвращает):

http://localhost:8080/?rid=1234&json={%22foo%22:%22bar%22}

Добавьте некоторые поддельные данные для использования с запросом:

http://localhost:9080/?rid=1234&data=foo

Обновлено рабочей версией

from twisted.web import server, resource
from twisted.internet import reactor, threads
import json
import time

connectedClients = {}
responseCollector = {}

# add fake data to the collector
class FakeData(resource.Resource):
    isLeaf = True

    def render_GET(self, request):
        request.setHeader("content-type", "application/json")
        if 'rid' in request.args and 'data' in request.args:
            rid = request.args['rid'][0]
            data = request.args['data'][0]
            responseCollector[str(rid)] = data
            return json.dumps(responseCollector)
        return "{}"

class RequestHandler(resource.Resource):
    isLeaf = True

    def render_GET(self, request):

        if not ('rid' in request.args and 'data' in request.args):
            return '{"success":"false","response":"invalid request"}'

        rid = request.args['rid'][0]
        json = request.args['data'][0]

        # TODO: Wait for data to show up in the responseCollector with same rid
        # as our request without blocking other requests OR timeout
        d = threads.deferToThread(self.blockingMethod,rid)
        d.addCallback(self.ret, request)
        d.addErrback(self.err)

        return server.NOT_DONE_YET

    def blockingMethod(self,rid):
        timeout  = 5.0
        timeElapsed = 0.0
        while timeElapsed<timeout:
            if rid in responseCollector:
                return responseCollector[rid]
            else:
                timeElapsed+=0.01
                time.sleep(0.01)
        return "timeout"

    def ret(self, result, request):
        request.write(result)
        request.finish()

    def err(self, failure):
        return failure

reactor.listenTCP(8080, server.Site(RequestHandler()))
reactor.listenTCP(9080, server.Site(FakeData()))
reactor.run()

person nflacco    schedule 13.05.2012    source источник


Ответы (2)


В render_GET() вы должны вернуть twisted.web.server.NOT_DONE_YET. Вы должны передать объект запроса методу ret: d.addCallback(self.ret, request)

Затем в ret(request) вы должны записать асинхронные данные с помощью request.write(hdata) и закрыть соединение с помощью request.finish().

def ret(self, result, request):
    request.write(result)
    request.finish()

Некоторая информация из: http://twistedmatrix.com/documents/current/web/howto/using-twistedweb.html

Рендеринг ресурсов происходит, когда Twisted Web находит конечный объект Resource для обработки веб-запроса. Метод рендеринга ресурса может делать разные вещи для получения вывода, который будет отправлен обратно в браузер:

  • Вернуть строку
  • Запросите Deferred, верните server.NOT_DONE_YET и вызовите request.write("stuff") и request.finish() позже, в обратном вызове для Deferred.
person Adi Roiban    schedule 14.05.2012
comment
Спасибо за совет. Я внес эти изменения - вернул NOT_DONE_YET после err.callback и изменил функцию ret на то, что вы написали. Должно быть, я делаю что-то не так с отложенным потоком, потому что запрос на 8080 зависает на неопределенный срок. - person nflacco; 14.05.2012
comment
Не могли бы вы обновить код из первоначального ответа. Я предлагаю вам упростить код, чтобы сосредоточиться на асинхронных вызовах deferToThread и render_GET. - person Adi Roiban; 14.05.2012

Подумайте о разнице между этими двумя версиями строки кода из вашего примера:

d = threads.deferToThread(self.blockingMethod(rid))

vs

d = threads.deferToThread(self.blockingMethod, rid)

Прочтите документацию по API для deferToThread и, возможно, прочитайте некоторые Документация Python об объектах-функциях (документация python.org не очень хорошо описывает это, но есть много сторонней документации).

person Jean-Paul Calderone    schedule 14.05.2012
comment
да, это первый раз, когда я запутался с скрученной и любой функцией, проходящей в питоне - person nflacco; 15.05.2012