Java实现操作搜索引擎收集网址的措施

副标题#e#

我这里讲的不是怎么利用搜索引擎，而是怎么让措施操作搜索引擎来汇集网址，这有什么用？很有用！网上动辄有人叫卖网址数据库，如宣布软件网址、邮件地点、论坛网址、行业网址，这些网址是怎么来的呢？不行能是人手工收集而来的，都是让措施操作搜索引擎取到的，假如您需要某类网址信息数据，就跟我来一起研究一下，很是简朴。

本文回收Java语言写成，以google和百度搜索引擎为工具。

我们要操作google、百度搜索引擎的搜索法则中的两条，要害字搜索和inurl搜索。什么是inurl搜索，就是你所要搜索的网址中自己带有的要害字，好比http://www.xxx.com/post.asp ,这个网址就含有post.asp这样的要害字，在搜索引擎中填写法则是 inurl:post.asp,这是收集网址的要害，因为许多网址自己会带有特定的信息，好比软件宣布的网页网址信息中多含有 publish、submit、tuijian这样的信息，如http://www.xxx.com/publish.asp,这样的网址多是宣布信息的网页，在团结网页中自己大概含有的要害字，就可以用搜索引擎搜索出功效，然后我们操作措施将功效取回，对HTML页面举办阐明，去除没有用的信息，将有用的网址信息写入文件可能数据库，就可以给其它应用措施可能人来利用了。

第一步，用措施将搜索功效取回，先以百度为例，好比我们要搜索软件宣布的网页，要害字回收 “软件宣布版本 inurl:publish.asp",先登录百度看看，将要害字写入，然后提交，在地点栏就会看到 http://www.baidu.com/s?ie=gb2312&bs=%C8%ED%BC%FE%B7%A2%B2%BC+%C8%ED%BC%FE%B0%E6%B1%BE+inurl%3Apublish.asp&sr=&z=&cl=3&f=8&wd=%C8%ED%BC%FE%B7%A2%B2%BC+%B0%E6%B1%BE+inurl%3Apublish.asp&ct=0 ,中文要害字全都酿成编码了，没有干系，我们在措施中直接用中文也是可以的，个中多个要害字用＋号相连，去掉一些没有用的信息，我们可以把地点优化成 http://www.baidu.com/s?lm=0&si=&rn=20&ie=gb2312&ct=0& wd=软件宣布+版本+inurl%3Apublish%2Easp&pn=0&cl=0，个中rn暗示一页显示几多个功效，wd=暗示你要搜索的要害字，pn暗示从第几条开始显示，这个pn将是我们措施轮回取功效的变量，每20条轮回一次。我们用Java写的措施来模仿这个搜索的进程，用到的要害类为 java.net.HttpURLConnection,java.net.URL，先写一个提交搜索的class,要害代码如下：

class Search
{
public URL url;
public HttpURLConnection http;
public java.io.InputStream urlstream;
......
for(int i=0;i++;i<100)
{
......
try {
url = new URL("www.baidu.com/s?lm=0&si=&rn=20&ie=gb2312&ct=0&wd=软件宣布+版本+inurl%3Apublish%2Easp&pn="+beginrecord+"&cl=0");
}catch(Exception ef){};
try {
http = (HttpURLConnection) url.openConnection();
http.connect();
urlstream = http.getInputStream();
}catch(Exception ef){};
java.io.BufferedReader l_reader = new java.io.
BufferedReader(new java.io.InputStreamReader(urlstream));
try {
while ((currentLine = l_reader.readLine()) != null) {
totalstring += currentLine;
}
} catch (IOException ex3) {}
....
//本次搜索的功效已经放到totalstring中了，是一些HTML代码，需要下一步举办阐明白。
}

再以google为例，稍微有些差异，google对欣赏器举办了一些检测，编码也差异，URL为http: //www.google.com/search?q=软件宣布+版本+inurl:publish.asp&hl=zh-CN&lr= &newwindow=1&start=0&sa=N&ie=UTF-8,个中编码要用ie=UTF-8,start暗示从第几笔记录显示，需要留意的是google对欣赏器还要查抄，假如欣赏器不切合它的要求，将返回错误代码，所以在模仿欣赏器提交中，我们要多加一行代码，修改要害部门要将http属性中的User-Agent配置为常用的欣赏器，好比Mozilla/4.0,代码如下：

try {
http = (HttpURLConnection) url.openConnection();
http.setRequestProperty("User-Agent", "Mozilla/4.0");
http.connect();
urlstream = http.getInputStream();
}catch(Exception ef){};

#p#副标题#e#

第二步，对取回的HTML编码举办阐明，取出个中的有用网址信息，并写入文件可能数据库，由于这些搜索引擎都有网页快照和相似网页等网址信息稠浊在HTML中，我们要将这些网址信息剔除去，剔除的要害就是找出个中的纪律，百度搜索引擎中的网页快照和其它没有用的的地点都含有baidu这个要害字，而google中含有的无用网址信息含有要害字 google和cache,我们就按照这些要害字剔除无用网址信息。在Java中要对字符串举办阐明一定要用到 java.util.StringTokenize这个类，用来将字符串以特定的脱离符分隔，java.util.regex.Pattern和 java.util.regex.Matcher用来匹配字符串，要害代码如下：

class CompareStr
{
public boolean comparestring(String oristring,String tostring)
{
Pattern p=null; //正则表达式
Matcher m=null; //操纵的字符串
boolean b;
p = Pattern.compile(oristring,Pattern.CASE_INSENSITIVE);
m = p.matcher(tostring);
b = m.find();
return b;
}
}
class AnalyUrl
{
......
StringTokenizer token = new StringTokenizer(totalstring,"<> \"");
String firstword;
CompareStrcompstr = new CompareStr();
String dsturl = null;
while (token.hasMoreTokens())
{
firstword = token.nextToken();
if (!compstr.comparestring("google.com", firstword) && !compstr.comparestring("cache",firstword))
{
if (firstword.length() > 7)
{
dsturl = firstword.substring(6,firstword.length() - 1);
WriteUrl(dsturl); //乐成取到URL，记录到文件中
}
}
}
}

#p#分页标题#e#

通过以上措施，我们就可以收集到本身要的网址信息了，还可以再写别的一个应用措施，对收集到的网址信息进一步阐明，取出本身需要的信息，这里就不再累赘，原理都是一样的。最后需说明一点，google搜索引擎搜索所能返回的功效不能高出1000条，过了1000条，就直接提示“对不起， Google 为所有查询的功效数都不会高出 1000 个。”，百度搜索引擎返回的功效不能高出700多条，所以我们要搜索时尽大概多加要害字，将功效范畴缩小。

当前位置：以往代写 > JAVA 教程 >Java实现操作搜索引擎收集网址的措施