sidekiq getting stuck?

We had quite strange scenario. Two hosts with sidekiq, one working well, second one gets stuck after few seconds or minutes. Happened in workers with opening new TCP/UDP connections. So, I started to review all the files, where ‘max files’ is set.

$ cat /etc/security/limits.conf
* soft nofile 30000
* hard nofile 60000

tom@web:~$ ulimit -Hn
60000
tom@web:~$ ulimit -Sn
30000

tom@web:~$ /sbin/sysctl -a | grep "file-max"
fs.file-max = 60000

So, all this looks OK so far. After numerous checks I’ve found, that our eye  process is running for a while, maybe since the beginning and probably it took old file-max  settings. How to check? Simply run eye info  or get PID of the sidekiq  process and run following command (assume 22613 is the PID):

tom@web:~$ cat /proc/22613/limits
Limit                     Soft Limit           Hard Limit           Units
Max cpu time              unlimited            unlimited            seconds
Max file size             unlimited            unlimited            bytes
Max data size             unlimited            unlimited            bytes
Max stack size            8388608              unlimited            bytes
Max core file size        0                    unlimited            bytes
Max resident set          unlimited            unlimited            bytes
Max processes             516140               516140               processes
Max open files            1024                 4096                 files
Max locked memory         65536                65536                bytes
Max address space         unlimited            unlimited            bytes
Max file locks            unlimited            unlimited            locks
Max pending signals       516140               516140               signals
Max msgqueue size         819200               819200               bytes
Max nice priority         0                    0
Max realtime priority     0                    0
Max realtime timeout      unlimited            unlimited            us

Gotcha! 1024 as soft-limit, 4096 hard limit. The fix is pretty simple – just quit eye , load it’s config and restart sidekiq.

tom@web:~$ eye quit
quit...

tom@web:~$ eye load config.eye
eye started!
config loaded!

tom@web~$ eye restart sidekiq

tom@web:~$ cat /proc/4624/limits
Limit                     Soft Limit           Hard Limit           Units
Max cpu time              unlimited            unlimited            seconds
Max file size             unlimited            unlimited            bytes
Max data size             unlimited            unlimited            bytes
Max stack size            8388608              unlimited            bytes
Max core file size        0                    unlimited            bytes
Max resident set          unlimited            unlimited            bytes
Max processes             516140               516140               processes
Max open files            30000                60000                files
Max locked memory         65536                65536                bytes
Max address space         unlimited            unlimited            bytes
Max file locks            unlimited            unlimited            locks
Max pending signals       516140               516140               signals
Max msgqueue size         819200               819200               bytes
Max nice priority         0                    0
Max realtime priority     0                    0
Max realtime timeout      unlimited            unlimited            us

voila! We’re back on track :)

2.1 Tak trochu o číslech

A máš tu další díl o Ruby. Tentokrát si povíme trošku víc o číslech. Jak asi víš, máme a používáme čísla hlavně v desítkové soustavě. Ajaj. Co to vlastně znamená? Tak se ti to, milý Kubo, pokusím vysvětlit. Desítková soustava (dekadická) obsahuje čísla od 0 do 9, a jak jistě víš, má základ s číslem 10. Proč? Asi podle toho, že člověk má 10 prstů – tedy – aspon normální člověk :-) Počítače ale pracují hlavně s dvojkovou soustavou (binární), kde jsou čísla 0 a 1, osmičkovou soustavou – 0 až 7 a šestnáckovou (hexadecimální) soustavou – čísla jsou zapsána v rozsahu 0-9 a A-F. Read More

2 Datové typy

Ahoj Jakube. Dneska bych ti rád vysvětlil datové typy. Cože co? Datové typy, přeci. Data, informace – jak říkalo Číslo 5. Už víš, že Ruby pracuje s nějakými proměnnými – tedy, že do proměnných ukládáme nějaká data. Ta data ale mají různé typy – máme tu čísla, řetězce, pole… A ještě dva speciální typy, a to symboly a konstanty. Read More

Co, kdy, proč a jak

Ahoj Kubi. Jistě víš, že s každým programovacím jazykem je třeba také znát tu spoustu kouzelných slůvek, co jsou jako mrak, mlha, do které každý nový človíček vstupuje s nejistotou a tápe, co co znamená. Pokusím se ti tady napsat takový minislovníček termínů, a zároveň je i vysvětlit, abys věděl, co je co. Read More

Tak, začínáme. S Kubou i s Ruby :)

Můj milý Kubo. Jak jsem ti dnes slíbil, že začnu psát návod, jak začít programovat v Ruby, tak jsem tedy začal. :)

Nejdříve pár slov, proč právě Ruby. Určitě si pamatuješ, jak jsem ti ukazoval pár příkladů, jak je Ruby krásně čitelné, je to, jako kdybys psal dopis pro kamaráda robota, co má udělat. Ruby umí přecijen o něco více, než vlevo-vbok a krok. A to je důvod, proč zrovna Ruby, i když co clověk, to názor. Proč bych tě měl učit něco jiného, když Ruby mě živí. Read More