Приложението Rails на голяма машина получава само 60 заявки/секундни сравнителни резултати

Хоствам Rails приложение на мощна машина, която - мисля - трябва да може да се справи с много по-голямо натоварване, отколкото й давам. Ето неблагоприятните резултати от тестовете на ApacheBench:

ab -kc 250 -n 1000 -H "Accept-Encoding: gzip,deflate" https://www.mysite.com/

Server Software:        nginx/1.0.15
Server Hostname:        www.mysite.com
Server Port:            443
SSL/TLS Protocol:       TLSv1/SSLv3,DHE-RSA-AES256-SHA,2048,256

Document Path:          /
Document Length:        4258 bytes

Concurrency Level:      250
Time taken for tests:   16.498 seconds
Complete requests:      1000
HTML transferred:       4258000 bytes
Requests per second:    60.61 [#/sec] (mean)
Time per request:       4124.432 [ms] (mean)
Time per request:       16.498 [ms] (mean, across all concurrent requests)
Transfer rate:          282.83 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:      302 1801 866.3   1623    3583
Processing:   183 1993 867.9   1873    7050
Waiting:      183 1880 864.2   1743    7036
Total:       1397 3794 1389.0   3558   10580

Percentage of the requests served within a certain time (ms)
  50%   3558
  66%   4012
  75%   4179
  80%   4712
  90%   4947
  95%   6411
  98%   8376
  99%   8380
 100%  10580 (longest request)

Гадост. Може би греша, но чувствам, че трябва да мога да получа много повече от 60 заявки в секунда и много по-малко време за заявка от 4,1 секунди.

Приложението се намира на c1.xlarge EC2 екземпляр (7 GB памет, 20 EC2 изчислителни единици, 8 виртуални ядра с 2,5 EC2 изчислителни единици всяко, 1690 GB място за съхранение на екземпляри, 64-битова платформа, I/O Performance: висока). Коренът на сайта, срещу който се изпълни бенчмаркът на ApacheBench, се кешира за действие и дори не докосва базата данни. Една заявка към него изглежда така:

Started GET "/" for ##.###.###.## at Thu Apr 19 13:05:50 +0000 2012
  Processing by OneOfMyControllers#index as HTML
  Read fragment views/www.mysite.com/index (1.1ms)
  Completed 200 OK in 2ms

Машината работи с Ubuntu 11.04, а аз използвам Rails 3.1, Ruby Enterprise Edition, Passenger и nginx. Моята конфигурация на nginx изглежда така:

worker_processes  8;
worker_rlimit_nofile 65535;

events {
    worker_connections 4096;
}

http {
    passenger_root /usr/lib/ruby/gems/1.8/gems/passenger-3.0.8;
    passenger_ruby /usr/bin/ruby1.8;

    rails_spawn_method smart;
    rails_app_spawner_idle_time 0;
    rails_framework_spawner_idle_time 0;

    passenger_max_pool_size 60;
    passenger_pool_idle_time 1000;

    ssl_session_cache shared:SSL:3m;  # 3MB can hold about 12k SSL cache sessions
    ssl_session_timeout 5m; # average user spends 5 minutes on our site

    include       mime.types;
    default_type  application/octet-stream;

    sendfile       on;
    tcp_nopush     on; # useful with the sendfile option
    tcp_nodelay    off; 

    keepalive_timeout     10;
    send_timeout          10;
    client_body_timeout   10;
    client_header_timeout 10;

    gzip              on;
    gzip_static       on;
    gzip_disable      "MSIE [1-6]\.";
    gzip_comp_level   4;
    gzip_buffers      16 4k;
    gzip_min_length   1000;
    gzip_proxied      any;
    gzip_vary         on;
    gzip_types        text/plain text/css application/json application/x-javascript text/xml application/xml application/xml+rss text/javascript;
    gzip_http_version 1.0; # Amazon CloudFront uses HTTP/1.0                                            

    include /opt/nginx/conf/sites-enabled/*;
}

И вътре в /opt/nginx/conf/sites-enabled/mysite.com имам:

server {
    listen         80;
    server_name    mysite.com;

    rewrite ^/(.*) http://www.mysite.com/$1 permanent;
}
server {
    listen         443;
    ssl            on;
    server_name    mysite.com;

    ssl_certificate           /opt/mysite/ssl/wildcard_gandi_2012/combined-certification.crt;
    ssl_certificate_key       /opt/mysite/ssl/wildcard_gandi_2012/monserveur.key;
    ssl_protocols             SSLv3 TLSv1;
    ssl_ciphers               HIGH:!ADH:!MD5;
    ssl_prefer_server_ciphers on;

    rewrite ^/(.*) https://www.mysite.com/$1 permanent;
}
server {
    listen            80;
    server_name       *.mysite.com www.mysite.com;

    root /opt/mysite/public;

    passenger_enabled on;

    access_log  /opt/mysite/log/nginx_access.log;
    error_log   /opt/mysite/log/nginx_error.log;

    # Set the maximum file upload size to 25 MB.
    client_max_body_size 25M;
}
server {
    listen            443;
    ssl               on;
    server_name       *.mysite.com www.mysite.com;

    ssl_certificate           /opt/mysite/ssl/wildcard_gandi_2012/combined-certification.crt;
    ssl_certificate_key       /opt/mysite/ssl/wildcard_gandi_2012/monserveur.key;
    ssl_protocols             SSLv3 TLSv1;
    ssl_ciphers               HIGH:!ADH:!MD5;
    ssl_prefer_server_ciphers on;

    root /opt/mysite/public;

    passenger_enabled on;

    access_log  /opt/mysite/log/nginx_access.log;
    error_log   /opt/mysite/log/nginx_error.log;

    # Set the maximum file upload size to 25 MB.
    client_max_body_size 25M;

    # Asset caching
    location ~ ^/(assets)/  {
        root /opt/mysite/public;
        gzip_static on;
        access_log off;
        expires 1y;
        add_header Cache-Control public;
        add_header Last-Modified "";
        add_header ETag "";
        break;
    }
}

Някаква идея защо не мога да получа повече от 60 заявки/сек? Има ли нещо очевидно, което пропускам?


person NudeCanalTroll    schedule 19.04.2012    source източник
comment
повторихте ли бенчмарковете повече пъти? може да е мрежов проблем...   -  person fuzzyalej    schedule 19.04.2012
comment
Да, дори се опитах да го стартирам от същата машина като приложението Rails.   -  person NudeCanalTroll    schedule 19.04.2012
comment
Хммм, току-що намерих това: blog.phusion .nl/2010/06/09/ Може би 60 заявки/секунда е стандарт? Въпреки че имам чувството, че съм виждал много хора, чиито Rails приложения стават много по-високи. Пътникът ли е проблемът?   -  person NudeCanalTroll    schedule 19.04.2012
comment
Обмисляли ли сте да използвате еднорог?   -  person sailor    schedule 19.04.2012
comment
Не съм, но ще го разгледам. Има ли причина да се мащабира много по-добре от Passenger на REE?   -  person NudeCanalTroll    schedule 19.04.2012
comment
Свържете го с New Relic и определете дали това са вашите заявки към базата данни, ruby ​​time (шаблони за изобразяване, събиране на боклук) или нещо друго. Вероятно можете да добавите някои кешове на фрагменти към резултати от заявки или генерирани шаблони и значително да подобрите пропускателната способност на същия хардуер.   -  person Andy Atkinson    schedule 16.05.2012


Отговори (1)


Подозирам, че един от големите ви проблеми е https.

Току-що пуснах някои сравнителни показатели и за мен те показват 2-4 пъти намаление на скоростта на наистина проста страница като тази. Увеличават ли се вашите показатели, ако посетите HTTP страница?

Също така проверете състоянието на вашия пътник (rvmsudo passenger-status), за да проверите дали всички процеси са заредени и получаването на заявки е разпределено равномерно между тях.

person iHiD    schedule 05.06.2012