基于事件的网络编程

越来越多的网络软件在采用基于事件的网络编程了,需要详细了解一下事件网络编程的原理和机制。结合memcache、redis的源码了解一下

 

参考资料:

使用libevent的小例子: http://blog.csdn.net/robertkun/article/details/7885379

libevent示例2:http://blog.sina.com.cn/s/blog_0001988f0100l9ym.html

libevent的使用: http://www.cnblogs.com/cnspace/archive/2011/07/19/2110891.html

 

关于redis的一些学习

关于keys命令

为什么使用keys命令遍历所有key不可取?

1. 相对于其他操作来讲,遍历所有key是一个耗时的操作

2. redis是一个单线程的程序,一个操作的阻塞,就会影响其他操作的执行

3. keys操作并不是匹配一个就输出一个的,而是都匹配出来之后才输出的;虽然没有copy每个匹配到的key,也就是说没有占用额外的服务器的内存,但是:

如果client端允许一边接收一边处理的话,则势必阻塞server端的操作;如果client端接收完再操作,则可能会消耗很多client端的内存。如果可以的话,大数据量似乎只能先暂存到磁盘了。

从根本上来讲,这似乎是redis的单线程机制造成的。

sed 简介

1. Sed简介

sed 是一种在线编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有 改变,除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件;简化对文件的反复操作;编写转换程序等。以下介绍的是Gnu版本的Sed 3.02。

2. 定址

可以通过定址来定位你所希望编辑的行,该地址用数字构成,用逗号分隔的两个行数表示以这两行为起止的行的范围(包括行数表示的那两行)。如1,3表示1,2,3行,美元符号($)表示最后一行。范围可以通过数据,正则表达式或者二者结合的方式确定 。

 

3. Sed命令

调用sed命令有两种形式:

*

sed [options] ‘command’ file(s)

*

sed [options] -f scriptfile file(s)

a\

在当前行后面加入一行文本。

b lable

分支到脚本中带有标记的地方,如果分支不存在则分支到脚本的末尾。

c\

用新的文本改变本行的文本。

d

从模板块(Pattern space)位置删除行。

D

删除模板块的第一行。

i\

在当前行上面插入文本。

h

拷贝模板块的内容到内存中的缓冲区。

H

追加模板块的内容到内存中的缓冲区

g

获得内存缓冲区的内容,并替代当前模板块中的文本。

G

获得内存缓冲区的内容,并追加到当前模板块文本的后面。

l

列表不能打印字符的清单。

n

读取下一个输入行,用下一个命令处理新的行而不是用第一个命令。

N

追加下一个输入行到模板块后面并在二者间嵌入一个新行,改变当前行号码。

p

打印模板块的行。

P(大写)

打印模板块的第一行。

q

退出Sed。

r file

从file中读行。

t label

if分支,从最后一行开始,条件一旦满足或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾。

T label

错误分支,从最后一行开始,一旦发生错误或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾。

w file

写并追加模板块到file末尾。

W file

写并追加模板块的第一行到file末尾。

!

表示后面的命令对所有没有被选定的行发生作用。

s/re/string

用string替换正则表达式re。

=

打印当前行号码。

#

把注释扩展到下一个换行符以前。

以下的是替换标记

*

g表示行内全面替换。

*

p表示打印行。

*

w表示把行写入一个文件。

*

x表示互换模板块中的文本和缓冲区中的文本。

*

y表示把一个字符翻译为另外的字符(但是不用于正则表达式)

 

4. 选项

-e command, –expression=command

允许多次编辑。如:

$ echo ‘aaa’ | sed -e ‘s/aaa/bbb/’ -e ‘s/bbb/ccc/’
ccc

 

注意: 如果只有一个command,则 -e可以省略,如果超过一个command,则 -e 都不能省略

 

-i[SUFFIX]

通常sed不修改源文件,但是通过该选项,可以修改源文件,sed会使用 -i 指定的后缀保存原文件,如:

$ echo abc>source.txt
$ sed -e ‘s/abc/123/’ source.txt -i”.20121118″
$ cat source.txt.20121118
abc
$ cat source.txt
123

 

-h, –help

打印帮助,并显示bug列表的地址。

-n, –quiet, –silent

 

取消默认输出。

-f, –filer=script-file

引导sed脚本文件名。

-V, –version

打印版本和版权信息。

 

5. 元字符集^

锚定行的开始 如:/^sed/匹配所有以sed开头的行。

$

锚定行的结束 如:/sed$/匹配所有以sed结尾的行。

.

匹配一个非换行符的字符 如:/s.d/匹配s后接一个任意字符,然后是d。

*

匹配零或多个字符 如:/*sed/匹配所有模板是一个或多个空格后紧跟sed的行。

[]

匹配一个指定范围内的字符,如/[Ss]ed/匹配sed和Sed。

[^]

匹配一个不在指定范围内的字符,如:/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头,紧跟ed的行。

\(..\)

保存匹配的字符,如s/\(love\)able/\1rs,loveable被替换成lovers。

&

保存搜索字符用来替换其他字符,如s/love/**&**/,love这成**love**。

\<

锚定单词的开始,如:/\<love/匹配包含以love开头的单词的行。

\>

锚定单词的结束,如/love\>/匹配包含以love结尾的单词的行。

x\{m\}

重复字符x,m次,如:/0\{5\}/匹配包含5个o的行。

x\{m,\}

重复字符x,至少m次,如:/o\{5,\}/匹配至少有5个o的行。

x\{m,n\}

重复字符x,至少m次,不多于n次,如:/o\{5,10\}/匹配5–10个o的行。

6. 实例

删除:d命令

*

$ sed ‘2d’ example—–删除example文件的第二行。

*

$ sed ‘2,$d’ example—–删除example文件的第二行到末尾所有行。

*

$ sed ‘$d’ example—–删除example文件的最后一行。

*

$ sed ‘/test/’d example—–删除example文件所有包含test的行。

替换:s命令

*

$ sed ‘s/test/mytest/g’ example—–在整行范围内把test替换为mytest。如果没有g标记,则只有每行第一个匹配的test被替换成mytest。

*

$ sed -n ‘s/^test/mytest/p’ example—–(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。

*

$ sed ‘s/^192.168.0.1/&localhost/’ example—–&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加localhost,变成192.168.0.1localhost。

*

$ sed -n ‘s/\(love\)able/\1rs/p’ example—–love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。

*

$ sed ‘s#10#100#g’ example—–不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替换成100。

选定行的范围:逗号

*

$ sed -n ‘/test/,/check/p’ example—–所有在模板test和check所确定的范围内的行都被打印。

*

$ sed -n ‘5,/^test/p’ example—–打印从第五行开始到第一个包含以test开始的行之间的所有行。

*

$ sed ‘/test/,/check/s/$/sed test/’ example—–对于模板test和west之间的行,每行的末尾用字符串sed test替换。

多点编辑:e命令

*

$ sed -e ‘1,5d’ -e ‘s/test/check/’ example—–(-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除1至5行,第二条命令用check替换test。命令的执 行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。

*

$ sed –expression=’s/test/check/’ –expression=’/love/d’ example—–一个比-e更好的命令是–expression。它能给sed表达式赋值。

从文件读入:r命令

*

$ sed ‘/test/r file’ example—–file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。

写入文件:w命令

*

$ sed -n ‘/test/w file’ example—–在example中所有包含test的行都被写入file里。

追加命令:a命令

*

$ sed ‘/^test/a\\—>this is a example’ example<—–‘this is a example’被追加到以test开头的行后面,sed要求命令a后面有一个反斜杠。

插入:i命令

$ sed ‘/test/i\\

new line

————————-‘ example

如果test被匹配,则把反斜杠后面的文本插入到匹配行的前面。

下一个:n命令

*

$ sed ‘/test/{ n; s/aa/bb/; }’ example—–如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续。

变形:y命令

*

$ sed ‘1,10y/abcde/ABCDE/’ example—–把1–10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。

退出:q命令

*

$ sed ’10q’ example—–打印完第10行后,退出sed。

保持和获取:h命令和G命令

*

$ sed -e ‘/test/h’ -e ‘$G example—–在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保 持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中 的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。

保持和互换:h命令和x命令

*

$ sed -e ‘/test/h’ -e ‘/check/x’ example —–互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。

7. 脚本

Sed脚本是一个sed的命令清单,启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔,在命令的末尾不能有任何空白或文本,如果在一行中有多个命令,要用分号分隔。以#开头的行为注释行,且不能跨行。

IE的条件编译引发的bug

且看一段代码:

在IE中执行,会alert(“this is IE”), 在其他浏览器中则不会; 因为: “//@cc_on” 是IE的条件编译的语法,或许你没有这么用过,或许你也不打算用IE的这个特性,这都没关系,问题是如果你因为这个导致bug就显得有些冤了,看如下代码:

就这段代码,其他浏览器都好使,在IE下就出错,而且报错信息会让人费解:

 

 

这是因为使用 /*@cc_on@*/ 在IE中就开启了条件编译,下面的 //@ 就被识别为条件编译指令,于是就出错了。

使用IE的开发者调试工具时还要注意一个问题,只要执行了 /*@cc_on@*/ ,后面即使把他删掉,也还是开启了条件编译 了,因为多次执行是在同一个进程内的。

该问题可能出现的情况为: 加入你在开发一个js的某某sdk,可能会因为注释的问题在有些地方工作正常,在有些地方就工作异常,那将是多么郁闷的事情啊。

 

参考资料: http://baike.baidu.com/view/1097041.htm

关于PHP写文件操作的具体实现

缘起:

100个进程都在繁忙地工作着,而且都在积极地将工作的结果写到日志文件中去。因为工作内容并不复杂,但是都需要写相同的日志文件,为了避免把日志文件写花了,于是每次写操作都会先flock住日志文件,结果,flock操作消耗了 1~100ms的时间; 其实,做一个单位的工作也就10ms内可以完成的,这下flock操作消耗时间就太长了,所以,需要一个解决办法。

为什么flock能消耗这么多时间?

一个进程的flock时间可能会是其余n个进程写日志的时间。故而如此,所以…

几种解决方案:

  1. 写日志不加锁。 应该会出现把日志写花的可能,故不可取
  2. 减少写日志的次数,
    • 合并多次日志
    • 或取消不必要的日志操作
    • 某些情况下不写这些日志
  3. 减少进程个数,避免flock排队的长度。这样,任务的处理能力会有所下降
  4. 是否日志操作外的其他进程的工作存在问题?

结论:

采用了减少写日志次数的方案,修改后,负载明显降低,变化如下:

 

其他

file_put_contents(…) 的实现:

相关代码:  main\streams\streams.c

从该代码来看,如果写失败一次,会直接返回,这时候会返回写入的字节数,可能只写入了部分数据,所以,判断返回值还是有意义的

 

 

libcurl 中的一个bug

现象:

程序陷入死循环,消耗cpu 100%

backtrace:

 

bug相关代码:

 

给curl官方提交了一个bug: https://sourceforge.net/tracker/?func=detail&aid=3583103&group_id=976&atid=100976

 

关于soap的一些小知识

1. soap编码问题

soap采用utf-8编码作为传输的字符集编码,至少php的soap的实现是写死成utf-8字符编码的,如果server端或client端使用的是非utf-8的字符编码时,可能存在转码问题,导致转码错误; 一个不太正规的做法是: 在server端和client端都对字符做url编码(或别的编码),是的传输的字符都转换成了单字节的ascii字符,这样就不会出现转码问题了。 但是,如果访问量很大,会存在流量和效率方面的问题,如果访问量很小,还是可以使用的

2. 让多个类提供服务的方法,如:

3. 错误处理

server端的错误如何告知client呢?通过 $server->fault() 来实现,如:

client 端实现:

1) 根据 ext/soap/soap.c 中关于$server->handle() 的实现来看,如果使用的是ZEND_ENGINE_2 ,则在执行的函数中 throw new SoapFault(…) 也会有和上述相同的效果的,如:

可以通过:

# php -i | grep -i engine

来确认使用的Zend Engine 的版本

2) 虽然soapclient可以识别一些http的状态码,但是soapserver:fault 产生错误时,http状态码统一为500,注意,当user-agent 为 Shockwave Flash 时,依然使用200 的状态码返回,大概是对于flash实现soap时特殊情况的兼容吧。参看php: ext/soap/soap.c 中 函数: soap_server_fault_ex(…) 的实现,php的soapclient可以通过如下方式设置user-agent:

 

4. 对象的持久化

对象的持久化就是在session中保存类或对象的一些数据信息;要知道连接句柄等和进程相关的资源信息是无法有效地保存的

 

5. 数据的传递

如果你执行的server端的函数为 echo “hello world”; 那么client将得不到该信息,参看php的soap扩展中soap.c 有相关代码如下:

 

6. 什么叫classmap?

在使用SoapClient时,允许通过如下方式设置classmap,如:

因为在server端,如果return一个server端的对象,则被转换为一个Struct的类型,内部含有该对象的一些数据信息,当然,对象的方法信息都是没有的; 该类在client端可能就是不存在的,这时候就可以map到client端定义的一个类,而且可以通过该类的方法来访问对象内部的一些信息。

但是,有一点需要注意,client端不要定义和server端的类相同的属性信息,如果定义了,则该属性将成为一个数组,包含client端和server端的信息。不知道为什么这么设计

 

7. 什么叫typemap?

 

 

8. 关于soap的测试,单个脚本实现的SoapServer和SoapClient:

脚本来自: http://us1.php.net/manual/en/soapclient.dorequest.php

9. 关于数据类型

函数的参数和返回值是涉及到数据类型的,如果仅仅使用string、int、array,则基本是没有问题的,如果使用到了对象,就需要注意了,可能需要用到classmap、typemap了,还有SoapParam、SoapVar; 稍后再研究

10. 关于location和uri

在new SoapClient和new SoapServer时都需要uri,而且这两个uri也是可以不一样的,其实程序根本不会去访问这个uri,这个uri只是xml中的一个名字空间的名字; 而new SoapClient时的那个location却是真正要访问的soapserver的url地址;但是,需要注意的是: uri 最好不要带参数,带一个参数还好,如果要带多个,必然出现 ‘&’,而uri是要写到请求的xml中的,xml中出现 ‘&’,会被解释为实体,然而却不是一个合法的实体,所以就会出现 400 错误,然后就是调试半天,百思不得姐。

 

 

 

 

 

 

关于cookie的一些限制

关于cookie的大小、个数的一些限制,从下面几个方面来考虑:

1. 单个cookie的大小

单个cookie的大小对于浏览器是有限制的,比如,chrome浏览器对于超过2k的单个cookie是不认的,其它浏览器没测试

2. cookie的个数

对于IE单个域下有50个的限制

3. cookie总数的大小

因为上行的所有cookie是在一个http请求头里面的,一个请求头的长度在server端一般是有限制的,客户端也应该有限制,这个没有具体的测试和数字,对于apache来讲,一个请求头的长度限制最大为8k,所以,所有的上行cookie的数据量的总和不能超过8k,超过8k就会出现400错误;对于nginx,这个限制大于8k,(具体没看呢)

glibc 源码之 include/libc-symbols.h

 

glibc-2.9/include/libc-symbols.h 中 490 行后面的东西怎么理解? 感觉有点儿意思,有时间再看!

如: