长连接与keepalive

缘起:

有这么一些服务器软件(如: tokyotyrant、memcached),他们提供长连接的功能,简单说,server端基本不会主动关闭连接的;非长连接的时候也会存在这种问题,只是长连接时会表现的更明显一下。如果客户端抽风(或者一些恶意的目的),打开连接后,并不关闭而直接离开,这样,就会在server端残留大量的连接,最直接的表象就是: netstat -anpt 时很慢。

真实案例:

具体原因未明,来个命令:

sar -n SOCK :

我们发现在1:30 PM时,tcp连接数突然飙升到 40万, 没有做任何操作3:40 PM时,连接数就开始减少了。

 

原因:

连接2小时没有操作,探活机制发现对方已经消失,于是,关闭了连接; 看了一下tokyotyrant 和 memcached的源码,都做了KEEPALIVE 的设置:

只是都没有做平静时间的设置,于是就都参考系统的设置了。

 

教训:

1. 如果没有keepalive的机制,系统运行时间过长总会出现这样的问题的

 

学习:

关于keep-alive的一些参数设置,摘自: man tcp :

tcp_keepalive_intvl (integer; default: 75)
The number of seconds between TCP keep-alive probes.

如果探活时,对方没有反应则,间隔 tcp_keepalive_intvl 秒后重发探活数据包,避免因丢包产生的探活差错

tcp_keepalive_probes (integer; default: 9)
The maximum number of TCP keep-alive probes to send before giving up and killing the connection if no
response is obtained from the other end.

如果发送了 tcp_keepalive_probes 次探活数据包,对方都没有反应,则视为对方死掉,而不是探活1次失败就放弃

tcp_keepalive_time (integer; default: 7200)
The number of seconds a connection needs to be idle before TCP begins sending out keep-alive probes.
Keep-alives are only sent when the SO_KEEPALIVE socket option is enabled. The default value is 7200 sec-
onds (2 hours). An idle connection is terminated after approximately an additional 11 minutes (9 probes
an interval of 75 seconds apart) when keep-alive is enabled.

Note that underlying connection tracking mechanisms and application timeouts may be much shorter.

从连接平静开始,间隔 tcp_keepalive_time 秒开始探活,避免对方异常退出

编程实现:

使用setsockopt(…) 函数来实现:

参考资料: http://ez.analog.com/docs/DOC-1862

 

 

 

css_display_block_inline_div_span_li_position_float

display 和 position的用法:

学习一点儿css,应该系统地看一遍的,否则,用到的时候就比较浪费时间了;

曾经总在div的布局上花费时间,今天才发现是因为display属性没有看明白。h1,p,div等元素默认是display:block的,所以,两个div 挨着就总换行; span,a等元素默认display:inline 的,所以,两个span挨着就不会自动换行; 现在,了解了 display属性后,就可以方便地控制他们是否换行了。

通过:

<style> div {display:inline}<style> 就可以让div也不换行了

通过:

<style> span{display:block}<style> 也可以让span换行了

参考资料:

http://www.w3schools.com/css/css_display_visibility.asp

http://www.w3schools.com/css/css_positioning.asp

http://www.w3schools.com/css/css_float.asp

http://www.zhangxinxu.com/wordpress/?p=1565

 

IN http://www.w3schools.com/css/css_align.asp

Crossbrowser Compatibility Issues

When aligning elements like this, it is always a good idea to predefine margin and padding for the <body> element. This is to avoid visual differences in different browsers.

There is a problem with IE8 and earlier, when using the position property. If a container element (in our case <div>) has a specified width, and the !DOCTYPE declaration is missing, IE8 and earlier versions will add a 17px margin on the right side. This seems to be space reserved for a scrollbar. Always set the !DOCTYPE declaration when using the position property:

从痛苦中得到的教训最深刻

一周来忙个不停,基本都是围绕一个问题:

如果请求执行变慢,web server的进程数迅速飙高,然后就拒绝服务,并且报警,又由于个IDC之间有一些暧昧的关系,于是,一个地方的问题就会迅速导致所有的IDC告急,让人毛骨悚然。

请求执行慢主要有几个方面的问题:

1. 后端存储响应慢

2. 网络出现问题

3. 后端存储死掉

请求执行慢的问题曾经也多次遇到,但是都没有导致过拒绝服务,更没有出现过多个IDC连锁反应的,现在出现这些问题,应该和新环境的web server对进程数的限制太低有很大关系。

当然,系统的设计也存在一些问题。

我想,应该清醒和理智地看待这些天的问题:

1. 新环境存在的问题

2. 系统本身存在的问题

 

这些天,我遇到了这么多问题,我也深刻地意识到了访问外部资源需要多么的慎重。

 

另外,这些天的事情使我对监控的理解也有所改变,不是说错了什么,只是原来的理解不够全面和深刻,我需要进步。

 

我不可能什么都去学习,更不可能什么都能学好,要注意把握一个度的问题,以一个正确的心态来做好自己的事情;既能把工作做好,自己也能有所提高。

如何制作自签名证书

 

最简单快捷的方法,打开Terminal,使用openssl生成私钥和自签名的x509证书。

按照命令行的提示输入内容就行了。

几个说明:

public_key.der是输出的自签名的x509证书,即我们要用的。

private_key.pem是输出的私钥,用来解密的,请妥善保管。

rsa:1024这里的1024是密钥长度,1024是比较安全的,如果需要更安全的话,可以用2048,但是加解密代价也会增加。

-days:证书过期时间,一定要加上这个参数,默认的证书过期时间是30天,一般我们不希望证书这么短就过期,所以写上比较合适的天数,例如这里的3650(10年)。

事实上,这一行命令包含了好几个步骤(我研究下面这些步骤的原因是我手头已经由一个private_key.pem私钥了,想直接用这个来生成x509证书,也就是用到了下面的2-3)

1)创建私钥

2)创建证书请求(按照提示输入信息)

3)自签署根证书

 

摘自: http://blog.iamzsx.me/show.html?id=155002

参考资料:

http://blog.csdn.net/jinglijun/article/details/7770301

http://blog.csdn.net/jinglijun/article/details/7770411

 

PHP 使用证书加密、私钥解密:

 

PHP连接mongodb

PHP的mongo模块使用域名访问mongodb时,其连接池是用域名做key来记录长连接的

 

关于mysql的字符集问题

从认识mysql开始就开始受困于mysql的字符集问题,希望能花点时间搞清楚,下面是一个什么样的问题呢:

“汉字”在utf8的字符集中是6个字节的,然而,这里却是8个字节,怎么解释呢?而且,“汉字”在utf8字符集中的16进制编码应该是“e6 b1 89  e5 ad 97”

 

参考资料: http://mysql.rjweb.org/doc.php/charcoll

里面有如下一段描述,似乎可以解释上述的问题:

—————————–

“Double encoding” is a term I made up for the following situation. It is a case where “two wrongs make a right”.

⚈  Table defined utf8
⚈  INSERTer declared latin1 (used default instead of doing SET NAMES)
⚈  Data being INSERTed is actually utf8 already.
What happened:
⚈  A 2-byte letter (say, a grave-e) was correctly represented in utf8.
⚈  The INSERT statement handed the 2 bytes to MySQL, but implied the need for conversion
⚈  Each byte was converted to utf8
⚈  The table has 4 bytes.
When SELECTing, the reverse happens 4->2->1, and the user is oblivious of the bug. Looking CHAR_LENGTH will spot it. Strange orderings may happen.

—————————–

看来预期6个字节存储为8个字节还不算严重的,严重的是上面存储翻倍的情况,上面的引用翻译如下:

================

“Double encoding” 是我用来描述下述情况的一个术语,这是一种“错错得对”的情况。

⚈ 表定义为utf8
⚈ INSERT时声明的字符集为latin1(如果没有使用 set names,则默认就是latin1的)
⚈ 要插入的数据确实是utf8编码

发生了什么?
⚈ 一个utf8编码的2字节的字母
⚈ 插入语句写mysql时要对2字节做处理,但是因为字符集声明为latin1的,所以要做编码转换
⚈ 每个字节用2字节的utf8编码表示
⚈ 存储结果为4个字节

在SELECT 的时候,发生一个反向的转换 4->2->1,并且用户不知道这个’bug’,于是就出现了上面的问题

=================

 

PHP的curl模块的post方法

PHP中curl模块的设置为post后,如果设置post内容为一个数组,则默认并不是使用  Content-Type: application/x-www-form-urlencoded 编码的, 如果post内容为 a=A&b=B… 的形式,则使用 Content-Type: application/x-www-form-urlencoded 编码,示例如下:

这时候就不会添加Content-Type: application/x-www-form-urlencoded 头

 

这时候就会添加   Content-Type: application/x-www-form-urlencoded 头

也不知道这样的实现是友好还是2

基于事件的网络编程

越来越多的网络软件在采用基于事件的网络编程了,需要详细了解一下事件网络编程的原理和机制。结合memcache、redis的源码了解一下

 

参考资料:

使用libevent的小例子: http://blog.csdn.net/robertkun/article/details/7885379

libevent示例2:http://blog.sina.com.cn/s/blog_0001988f0100l9ym.html

libevent的使用: http://www.cnblogs.com/cnspace/archive/2011/07/19/2110891.html

 

关于redis的一些学习

关于keys命令

为什么使用keys命令遍历所有key不可取?

1. 相对于其他操作来讲,遍历所有key是一个耗时的操作

2. redis是一个单线程的程序,一个操作的阻塞,就会影响其他操作的执行

3. keys操作并不是匹配一个就输出一个的,而是都匹配出来之后才输出的;虽然没有copy每个匹配到的key,也就是说没有占用额外的服务器的内存,但是:

如果client端允许一边接收一边处理的话,则势必阻塞server端的操作;如果client端接收完再操作,则可能会消耗很多client端的内存。如果可以的话,大数据量似乎只能先暂存到磁盘了。

从根本上来讲,这似乎是redis的单线程机制造成的。

sed 简介

1. Sed简介

sed 是一种在线编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有 改变,除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件;简化对文件的反复操作;编写转换程序等。以下介绍的是Gnu版本的Sed 3.02。

2. 定址

可以通过定址来定位你所希望编辑的行,该地址用数字构成,用逗号分隔的两个行数表示以这两行为起止的行的范围(包括行数表示的那两行)。如1,3表示1,2,3行,美元符号($)表示最后一行。范围可以通过数据,正则表达式或者二者结合的方式确定 。

 

3. Sed命令

调用sed命令有两种形式:

*

sed [options] ‘command’ file(s)

*

sed [options] -f scriptfile file(s)

a\

在当前行后面加入一行文本。

b lable

分支到脚本中带有标记的地方,如果分支不存在则分支到脚本的末尾。

c\

用新的文本改变本行的文本。

d

从模板块(Pattern space)位置删除行。

D

删除模板块的第一行。

i\

在当前行上面插入文本。

h

拷贝模板块的内容到内存中的缓冲区。

H

追加模板块的内容到内存中的缓冲区

g

获得内存缓冲区的内容,并替代当前模板块中的文本。

G

获得内存缓冲区的内容,并追加到当前模板块文本的后面。

l

列表不能打印字符的清单。

n

读取下一个输入行,用下一个命令处理新的行而不是用第一个命令。

N

追加下一个输入行到模板块后面并在二者间嵌入一个新行,改变当前行号码。

p

打印模板块的行。

P(大写)

打印模板块的第一行。

q

退出Sed。

r file

从file中读行。

t label

if分支,从最后一行开始,条件一旦满足或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾。

T label

错误分支,从最后一行开始,一旦发生错误或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾。

w file

写并追加模板块到file末尾。

W file

写并追加模板块的第一行到file末尾。

!

表示后面的命令对所有没有被选定的行发生作用。

s/re/string

用string替换正则表达式re。

=

打印当前行号码。

#

把注释扩展到下一个换行符以前。

以下的是替换标记

*

g表示行内全面替换。

*

p表示打印行。

*

w表示把行写入一个文件。

*

x表示互换模板块中的文本和缓冲区中的文本。

*

y表示把一个字符翻译为另外的字符(但是不用于正则表达式)

 

4. 选项

-e command, –expression=command

允许多次编辑。如:

$ echo ‘aaa’ | sed -e ‘s/aaa/bbb/’ -e ‘s/bbb/ccc/’
ccc

 

注意: 如果只有一个command,则 -e可以省略,如果超过一个command,则 -e 都不能省略

 

-i[SUFFIX]

通常sed不修改源文件,但是通过该选项,可以修改源文件,sed会使用 -i 指定的后缀保存原文件,如:

$ echo abc>source.txt
$ sed -e ‘s/abc/123/’ source.txt -i”.20121118″
$ cat source.txt.20121118
abc
$ cat source.txt
123

 

-h, –help

打印帮助,并显示bug列表的地址。

-n, –quiet, –silent

 

取消默认输出。

-f, –filer=script-file

引导sed脚本文件名。

-V, –version

打印版本和版权信息。

 

5. 元字符集^

锚定行的开始 如:/^sed/匹配所有以sed开头的行。

$

锚定行的结束 如:/sed$/匹配所有以sed结尾的行。

.

匹配一个非换行符的字符 如:/s.d/匹配s后接一个任意字符,然后是d。

*

匹配零或多个字符 如:/*sed/匹配所有模板是一个或多个空格后紧跟sed的行。

[]

匹配一个指定范围内的字符,如/[Ss]ed/匹配sed和Sed。

[^]

匹配一个不在指定范围内的字符,如:/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头,紧跟ed的行。

\(..\)

保存匹配的字符,如s/\(love\)able/\1rs,loveable被替换成lovers。

&

保存搜索字符用来替换其他字符,如s/love/**&**/,love这成**love**。

\<

锚定单词的开始,如:/\<love/匹配包含以love开头的单词的行。

\>

锚定单词的结束,如/love\>/匹配包含以love结尾的单词的行。

x\{m\}

重复字符x,m次,如:/0\{5\}/匹配包含5个o的行。

x\{m,\}

重复字符x,至少m次,如:/o\{5,\}/匹配至少有5个o的行。

x\{m,n\}

重复字符x,至少m次,不多于n次,如:/o\{5,10\}/匹配5–10个o的行。

6. 实例

删除:d命令

*

$ sed ‘2d’ example—–删除example文件的第二行。

*

$ sed ‘2,$d’ example—–删除example文件的第二行到末尾所有行。

*

$ sed ‘$d’ example—–删除example文件的最后一行。

*

$ sed ‘/test/’d example—–删除example文件所有包含test的行。

替换:s命令

*

$ sed ‘s/test/mytest/g’ example—–在整行范围内把test替换为mytest。如果没有g标记,则只有每行第一个匹配的test被替换成mytest。

*

$ sed -n ‘s/^test/mytest/p’ example—–(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。

*

$ sed ‘s/^192.168.0.1/&localhost/’ example—–&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加localhost,变成192.168.0.1localhost。

*

$ sed -n ‘s/\(love\)able/\1rs/p’ example—–love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。

*

$ sed ‘s#10#100#g’ example—–不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替换成100。

选定行的范围:逗号

*

$ sed -n ‘/test/,/check/p’ example—–所有在模板test和check所确定的范围内的行都被打印。

*

$ sed -n ‘5,/^test/p’ example—–打印从第五行开始到第一个包含以test开始的行之间的所有行。

*

$ sed ‘/test/,/check/s/$/sed test/’ example—–对于模板test和west之间的行,每行的末尾用字符串sed test替换。

多点编辑:e命令

*

$ sed -e ‘1,5d’ -e ‘s/test/check/’ example—–(-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除1至5行,第二条命令用check替换test。命令的执 行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。

*

$ sed –expression=’s/test/check/’ –expression=’/love/d’ example—–一个比-e更好的命令是–expression。它能给sed表达式赋值。

从文件读入:r命令

*

$ sed ‘/test/r file’ example—–file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。

写入文件:w命令

*

$ sed -n ‘/test/w file’ example—–在example中所有包含test的行都被写入file里。

追加命令:a命令

*

$ sed ‘/^test/a\\—>this is a example’ example<—–‘this is a example’被追加到以test开头的行后面,sed要求命令a后面有一个反斜杠。

插入:i命令

$ sed ‘/test/i\\

new line

————————-‘ example

如果test被匹配,则把反斜杠后面的文本插入到匹配行的前面。

下一个:n命令

*

$ sed ‘/test/{ n; s/aa/bb/; }’ example—–如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续。

变形:y命令

*

$ sed ‘1,10y/abcde/ABCDE/’ example—–把1–10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。

退出:q命令

*

$ sed ’10q’ example—–打印完第10行后,退出sed。

保持和获取:h命令和G命令

*

$ sed -e ‘/test/h’ -e ‘$G example—–在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保 持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中 的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。

保持和互换:h命令和x命令

*

$ sed -e ‘/test/h’ -e ‘/check/x’ example —–互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。

7. 脚本

Sed脚本是一个sed的命令清单,启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔,在命令的末尾不能有任何空白或文本,如果在一行中有多个命令,要用分号分隔。以#开头的行为注释行,且不能跨行。