Приложение Rails на большой машине получает только 60 запросов в секунду.

Я размещаю приложение Rails на мощной машине, которая, как мне кажется, должна выдерживать гораздо более высокую нагрузку, чем я ей даю. Вот неутешительные результаты тестирования ApacheBench:

ab -kc 250 -n 1000 -H "Accept-Encoding: gzip,deflate" https://www.mysite.com/

Server Software:        nginx/1.0.15
Server Hostname:        www.mysite.com
Server Port:            443
SSL/TLS Protocol:       TLSv1/SSLv3,DHE-RSA-AES256-SHA,2048,256

Document Path:          /
Document Length:        4258 bytes

Concurrency Level:      250
Time taken for tests:   16.498 seconds
Complete requests:      1000
HTML transferred:       4258000 bytes
Requests per second:    60.61 [#/sec] (mean)
Time per request:       4124.432 [ms] (mean)
Time per request:       16.498 [ms] (mean, across all concurrent requests)
Transfer rate:          282.83 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:      302 1801 866.3   1623    3583
Processing:   183 1993 867.9   1873    7050
Waiting:      183 1880 864.2   1743    7036
Total:       1397 3794 1389.0   3558   10580

Percentage of the requests served within a certain time (ms)
  50%   3558
  66%   4012
  75%   4179
  80%   4712
  90%   4947
  95%   6411
  98%   8376
  99%   8380
 100%  10580 (longest request)

Фу. Возможно, я ошибаюсь, но мне кажется, что я смогу получать намного больше, чем 60 запросов в секунду, и гораздо меньшее время на запрос, чем 4,1 секунды.

Приложение находится на экземпляре c1.xlarge EC2 (7 ГБ памяти, 20 вычислительных блоков EC2, 8 виртуальных ядер с 2,5 вычислительными блоками EC2 каждое, 1690 ГБ хранилища экземпляров, 64-разрядная платформа, производительность ввода-вывода: высокая). Корень сайта, с которым работал тест ApacheBench, кэшируется и даже не касается базы данных. Единичный запрос к нему выглядит так:

Started GET "/" for ##.###.###.## at Thu Apr 19 13:05:50 +0000 2012
  Processing by OneOfMyControllers#index as HTML
  Read fragment views/www.mysite.com/index (1.1ms)
  Completed 200 OK in 2ms

На машине работает Ubuntu 11.04, и я использую Rails 3.1, Ruby Enterprise Edition, Passenger и nginx. Моя конфигурация nginx выглядит так:

worker_processes  8;
worker_rlimit_nofile 65535;

events {
    worker_connections 4096;
}

http {
    passenger_root /usr/lib/ruby/gems/1.8/gems/passenger-3.0.8;
    passenger_ruby /usr/bin/ruby1.8;

    rails_spawn_method smart;
    rails_app_spawner_idle_time 0;
    rails_framework_spawner_idle_time 0;

    passenger_max_pool_size 60;
    passenger_pool_idle_time 1000;

    ssl_session_cache shared:SSL:3m;  # 3MB can hold about 12k SSL cache sessions
    ssl_session_timeout 5m; # average user spends 5 minutes on our site

    include       mime.types;
    default_type  application/octet-stream;

    sendfile       on;
    tcp_nopush     on; # useful with the sendfile option
    tcp_nodelay    off; 

    keepalive_timeout     10;
    send_timeout          10;
    client_body_timeout   10;
    client_header_timeout 10;

    gzip              on;
    gzip_static       on;
    gzip_disable      "MSIE [1-6]\.";
    gzip_comp_level   4;
    gzip_buffers      16 4k;
    gzip_min_length   1000;
    gzip_proxied      any;
    gzip_vary         on;
    gzip_types        text/plain text/css application/json application/x-javascript text/xml application/xml application/xml+rss text/javascript;
    gzip_http_version 1.0; # Amazon CloudFront uses HTTP/1.0                                            

    include /opt/nginx/conf/sites-enabled/*;
}

А внутри /opt/nginx/conf/sites-enabled/mysite.com у меня есть:

server {
    listen         80;
    server_name    mysite.com;

    rewrite ^/(.*) http://www.mysite.com/$1 permanent;
}
server {
    listen         443;
    ssl            on;
    server_name    mysite.com;

    ssl_certificate           /opt/mysite/ssl/wildcard_gandi_2012/combined-certification.crt;
    ssl_certificate_key       /opt/mysite/ssl/wildcard_gandi_2012/monserveur.key;
    ssl_protocols             SSLv3 TLSv1;
    ssl_ciphers               HIGH:!ADH:!MD5;
    ssl_prefer_server_ciphers on;

    rewrite ^/(.*) https://www.mysite.com/$1 permanent;
}
server {
    listen            80;
    server_name       *.mysite.com www.mysite.com;

    root /opt/mysite/public;

    passenger_enabled on;

    access_log  /opt/mysite/log/nginx_access.log;
    error_log   /opt/mysite/log/nginx_error.log;

    # Set the maximum file upload size to 25 MB.
    client_max_body_size 25M;
}
server {
    listen            443;
    ssl               on;
    server_name       *.mysite.com www.mysite.com;

    ssl_certificate           /opt/mysite/ssl/wildcard_gandi_2012/combined-certification.crt;
    ssl_certificate_key       /opt/mysite/ssl/wildcard_gandi_2012/monserveur.key;
    ssl_protocols             SSLv3 TLSv1;
    ssl_ciphers               HIGH:!ADH:!MD5;
    ssl_prefer_server_ciphers on;

    root /opt/mysite/public;

    passenger_enabled on;

    access_log  /opt/mysite/log/nginx_access.log;
    error_log   /opt/mysite/log/nginx_error.log;

    # Set the maximum file upload size to 25 MB.
    client_max_body_size 25M;

    # Asset caching
    location ~ ^/(assets)/  {
        root /opt/mysite/public;
        gzip_static on;
        access_log off;
        expires 1y;
        add_header Cache-Control public;
        add_header Last-Modified "";
        add_header ETag "";
        break;
    }
}

Есть идеи, почему я не могу получить больше 60 запросов в секунду? Есть что-то очевидное, что я не замечаю?


person NudeCanalTroll    schedule 19.04.2012    source источник
comment
вы повторяли тесты больше раз? это может быть проблема с сетью ...   -  person fuzzyalej    schedule 19.04.2012
comment
Да, я даже пробовал запускать его с той же машины, что и приложение Rails.   -  person NudeCanalTroll    schedule 19.04.2012
comment
Хммм, только что нашел это: blog.phusion .nl / 2010/06/09 / Может быть, 60 запросов в секунду - это стандарт? Хотя мне кажется, что я видел много людей, чьи приложения на Rails стали намного лучше. Пассажир проблема?   -  person NudeCanalTroll    schedule 19.04.2012
comment
Вы думали об использовании единорога?   -  person sailor    schedule 19.04.2012
comment
Нет, но я разберусь. Есть ли причина, по которой он будет масштабироваться намного лучше, чем Passenger на REE?   -  person NudeCanalTroll    schedule 19.04.2012
comment
Подключите его к New Relic и определите, является ли это запросами к базе данных, рубиновым временем (шаблоны рендеринга, сборка мусора) или чем-то еще. Вероятно, вы можете добавить несколько кешей фрагментов к результатам запроса или сгенерированным шаблонам и значительно повысить пропускную способность на том же оборудовании.   -  person Andy Atkinson    schedule 16.05.2012


Ответы (1)


Я подозреваю, что одна из ваших больших проблем - https.

Я только что провел несколько сравнительных тестов, и для меня они показывают снижение скорости в 2-4 раза на такой действительно простой странице. Увеличиваются ли ваши показатели, если вы попадаете на страницу HTTP?

Также проверьте статус вашего пассажира (rvmsudo passenger-status), чтобы убедиться, что все процессы загружены и запросы распределяются между ними равномерно.

person iHiD    schedule 05.06.2012