用Java写爬网页的小工具
其实也不是爬网页，只是从一个XML文件取URL，然后抓取网页内容。
主要有几点，备忘：
1. 全局代理，设置之后所有的URL都使用此代理，这样可以直接调用FileUtils.copyURLToFile：
private void initProxy(String host, int port,
final String username, final String password) {
Authenticator.setDefault(new Authenticator() {
protected PasswordAuthentication getPasswordAuthentication() {
return new PasswordAuthentication(username,
password.toCharArray());
}
});
System.setProperty("http.proxyType", "4");
System.setProperty("http.proxyPort",
Integer.toString(port));
System.setProperty("http.proxyHost", host);
System.setProperty("http.proxySet", "true");
}
2. 设置User-Agent，有些站点禁止Java作为访问客户端，必须通过URLConnection设置User-Agent来模拟浏览器，所以不能用FileUtils.copyURLToFile，复制其源码小修改一下即可：
URLConnection httpConnection = new URL(url).openConnection();
httpConnection.setRequestProperty("User-Agent",
"Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)");
File dest = new File(path);
InputStream input = httpConnection.getInputStream();
try {
FileOutputStream output = FileUtils.openOutputStream(dest);
try {
IOUtils.copy(input, output);
} finally {
IOUtils.closeQuietly(output);
}
} finally {
IOUtils.closeQuietly(input);
}
3.dom4j读取超大xml文件，使用event based模式防止堆溢出错误：
reader.addHandler("/RDF/ExternalPage", new ElementHandler() {
public void onStart(ElementPath path) {
}
public void onEnd(ElementPath path) {
Element node = path.getCurrent();
// 节点相关操作
// 关键操作，从内存的节点树中剔除节点，释放内存
node.detach();
}
});
4.多线程可以用jdk1.5新加入的线程池java.util.concurrent.ThreadPoolExecutor，方便实用。稍微要注意的就是在添加完所有任务后记得执行一下ThreadPoolExecutor.shutdown()。
相关文档：
一、Java部分（共40分）
1、 说说Overload和Override的区别。Overloaded的方法是否可以改变返回值的类型？（5分）
Overload是覆盖，子类的方法跟父类方法名字一样，子类的方法把父类的覆盖了。
Override是重载，不同的方法参数、返回值不一样，紧紧返回值不一样的两个函数不叫重载，编译不会通过的。
Over ......
这几天一直在处理Java的日期问题，通常需要按要求生成日期的话，通常会用到util包中的Calendar类，再用Calendar的getTime()方法生成对应的Date，最后用SimpleDateFormat输出。
1. 获取当期日期、年份、月份
import java.util.Calendar;
public clas ......
JAVA String对象和字符串常量的关系解析
1 字符串内部列表
JAVA中所有的对象都存放在堆里面，包括String对象。字符串常量保存在JAVA的.class文件的常量池中，在编译期就确定好了。
虚拟机为每个被装载的类型维护一个常量池。常量池就是该类型所用常量的一个有序集合，包括直接常量(string、integer和float point� ......
RMI是Java的一组拥护开发分布式应用程序的API。RMI 使用Java语言接口定义了远程对象，它集合了Java序列化和Java远程方法协议(Java Remote Method Protocol)。简单地说，这样使原先的程序在同一操作系统的方法调用，变成了不同操作系统之间程序的方法调用，由于J2EE是分布式程序平台，它一 RMI机制实现程序组件在不同操作系� ......
JAVA动态绑定的内部实现机制
JAVA虚拟机调用一个类方法时，它会基于对象引用的类型(通常在编译时可知)来选择所调用的方法。相反，当虚拟机调用一个实例方法时，它会基于对象实际的类型(只能在运行时得知)来选择所调用的方法，这就是动态绑定，是多态的一种。动态绑定为解决实际的业务问题提供了很大的灵活性，是一� ......
