Java实现利用搜索引擎收集网址的程序
怎么让程序利用搜索引擎来搜集网址，这有什么用?很有用!网上动辄有人叫卖网址数据库，如发布软件网址、邮件地址、论坛网址、行业网址，这些网址是怎么来的呢?不可能是人手工收集而来的，都是让程序利用搜索引擎取到的，如果您需要某类网址信息数据，就跟成都朗沃教育来一起研究一下，非常简单。
本文采用Java语言写成，以google和百度搜索引擎为对象。
我们要利用google、百度搜索引擎的搜索规则中的两条，关键字搜索和inurl搜索。什么是inurl搜索，就是你所要搜索的网址中本身带有的关键字，比如http://www.xxx.com/post.asp ,这个网址就含有post.asp这样的关键字，在搜索引擎中填写规则是 inurl:post.asp,这是收集网址的关键，因为很多网址本身会带有特定的信息，比如软件发布的网页网址信息中多含有 publish、submit、tuijian这样的信息，如http://www.xxx.com/publish.asp,这样的网址多是发布信息的网页，在结合网页中本身可能含有的关键字，就可以用搜索引擎搜索出结果，然后我们利用程序将结果取回，对HTML页面进行分析，去除没有用的信息，将有用的网址信息写入文件或者数据库，就可以给其它应用程序或者人来使用了。
第一步，用程序将搜索结果取回，先以百度为例，比如我们要搜索软件发布的网页，关键字采用 “软件发布 版本 inurl:publish.asp",先登录百度看看，将关键字写入，然后提交，在地址栏就会看到 http://www.baidu.com/s?ie=gb2312&bs=%C8%ED%BC%FE%B7%A2%B2%BC+%C8%ED%BC%FE%B0%E6%B1%BE+inurl%3Apublish.asp&sr=&z=&cl=3&f=8&wd=%C8%ED%BC%FE%B7%A2%B2%BC+%B0%E6%B1%BE+inurl%3Apublish.asp&ct=0 ,中文关键字全都变成编码了，没有关系，我们在程序中直接用中文也是可以的，其中多个关键字用+号相连，去掉一些没有用的信息，我们可以把地址优化成 http://www.baidu.com/s?lm=0&si=&rn=20&ie=gb2312&ct=0& wd=软件发布+版本+inurl%3Apublish%2Easp&pn=0&cl=0，其中rn表示一页显示多少个结果，wd=表示你要搜索的关键字，pn表示从第几条开始显示，这个pn将是我们程序循环取结果的变量，每20条循环一次。我们用Java写的程序来模拟这个搜索的过程，用到的关键类为 java.net.HttpURLConnection,java.net.URL，先写一个提交搜索的class,关键代码如下：
以下是引用片段：
class Search
{
public URL url;
public HttpURLConnec
相关文档：
一、通过HttpClient(apache commons-httpclient)方式，获许网页内容，并解析出需要的东西。
这种方法相对比较简单，因为commons-httpclient已经做了很好的封装，简单的代码如下：
// 构造HttpClient的实例
HttpClient httpClient = new HttpClient();
HttpClientParams clientPar ......
Flyweight 定义:
避免大量拥有相同内容的小类的开销(如耗费内存),使大家共享一个类(元类).
面向对象语言的原则就是一切都是对象,但是如果真正使用起来,有时对象数可能显得很庞
大,比如,字处理软件,如果以每个文字都作为一个对象,几千个字,对象数就是几千,无疑耗
费内存,那么我们还是要"求同存异",找出这些对象群的共同 ......
filter元素和filter-mapping元素
<filter>过滤器元素将一个名字和实现javax.servlet.Filter的接口的类相关联。
1 新建一个类 Encoding Filter
package cn.bupt.duming.util;
import java.io.IOException;
import javax.servlet.Filter;
import javax.servlet.FilterChain;
import javax.se ......
如果安装JDK时提示已经安装了JDK（或者安装的版本不是你想要的），删除的方法如下：
# yum -y remove java-1.4.2-gcj-compat
1.安装JDK
首先需要从网上下载JDK安装文件，如果文件的类型是rpm.bin，可以使用下面的命令安装：
# sh jdk-6u2-linux-i586-rpm.bin
如果文 ......
String newStr = new String(oldStr.getBytes(), "UTF-8");
java中的String类是按照unicode进行编码的，当使用String(byte[] bytes, String encoding)构造字符串时，encoding所指的是bytes中的数据是按照那种方式编码的，而不是最后产生的String是什么编码方式，换句话说，是让系统把bytes中的数据由encoding编� ......
