话说Python（四）欢迎小麻雀
小白是个微软迷，他的偶像是比尔大叔，原因当然是地球人都知道啦。大二的时候，他的“辍学计划”曾一度得逞，原因是他挂科太多。当然，大三新学期开始的时候，面对公众质疑，小白站在椅子上，像极了《大内密探零零发》里的西门吹雪：“世界首富比不一定有多出色，这只不过是你们这些星斗市民一厢情愿的想法罢了。”
每天小白都会在宿舍转悠，好像很“孤独”，嘴里念念有词：“这个世界正在发生着翻天覆地的变化，而我们却像毛驴似的生活。”最后，他总会来一句：“我要成立第二个谷歌！”
这节课，我们就会了解搜索引擎，还会编写一个小型的网络爬虫。
搜索引擎有哪几部分构成？
首先感谢这张图的原作者，主要还是要感谢Country。通过这张图，我们可以看到：首先，网络蜘蛛抓取网页，将网页内容及链接存到数据库中。然后由索引模块建立关键词到网址的索引，供检索模块查询。检索模块是根据你输入的内容从索引数据库提取数据。主要模块介绍如下：
网页抓取模块：包括Crawler和Crawler control，其中Crawler负责抓取并分析网页链接，返回page和url；Crawler control负责控制、调度Crawler。
网页存储模块:Page cache，用于存储Crawler抓取到的网页内容。
索引模块:建立关键词到链接和网页的索引。
检索模块：将要查询的内容分解为适合查询的词。
用户接口：接受用户输入，传递到检索模块。
接下来的课程里我们会根据所学的Python知识开发一个小型的搜索引擎。名字叫Sparrow即麻雀，意思是“麻雀虽小，五脏俱全”。我们的“麻雀”会随着我们知识的增加而越飞越高，说不定会变成凤凰呢。当然，现在它还没有起飞。
让我们开始搜索引擎之旅吧！
首先我们要学习的模块是网页抓取模块（Crawler），又叫做网络蜘蛛（Spider）。
这个模块由Crawler类来完成，该类初始化时首先接受Crawler control模块传递的url，执行完毕最后返回网页内容page和网页内出现的url链接link。源码如下：
import urllib.request #用于获取网页内容
import urllib.parse #解析网址的模块
import re #正则表达式
import queue #操作队列的模块
class Crawler(object): #网络�
相关文档：
需要先安装libxml2-devel libxslt-devel这两个rpm包，如果使用非root用户安装，可以下载libxml2和libxslt的源代码进行安装。 libxml2-devel、libxslt-devel装好后，解压lxml的包，切换到这个包的路径。
加入CFLAGS进行编译和安装，在shell下依次输入如下命令： CFLAGS=-I/usr/include/libxml2:/usr/include/libxslt/ ......
Python，简单的力量
豆瓣网对互联网用户来说是知名的Web 2.0社区，但对开发者而言，更重要的是一个应用Python打造的非常成功的Web 2.0站点。
Python诞生已有20年的历史，目前国内的Python发展状况如何？与其他语言（平台）相比，Python有哪些显而易见的优点？豆瓣应用Python进行Web开发有哪些成功经验可以借鉴？带着这些� ......
前言：
最近又想学习python,又想去温习一下算法，于是就想出了这个两不误的方法,^_^
堆栈：
使用python的列表结构，详情可以查看help(list)
#Filename: stack.py
shoplist=['apple','mango','carrot','banana']
shoplist.append('rice')
popitem=shoplist[-1]
del shoplist[-1]
print 'the popitem is',popitem
......
队列：
与堆栈类似，通过python的列表类型来实现，参考 help(list)
shoplist=['apple','mango','carrot','banana']
print 'I have',len(shoplist),'items to purchase'
print 'these items are:'
for item in shoplist:
print item,
shoplist.append('rice')
print 'my shopping list is now', shoplist
shoplist. ......
