php抓取网页的若干实现模式_PHP

php抓取网页的若干实现方式

最近在做一个笑话平台，包含web版、安装版，由于没有笑话资源，所以就用php写了一个后台程序，每天定时从各大笑话网站抓取数据，下面整理了一些php抓取网页内容的基本方式。

一、 PHP抓取页面的主要方法：

1. file()函数 2. file_get_contents()函数 3. fopen()->fread()->fclose()模式 4.curl方式 5. fsockopen()函数 socket模式 6. 使用插件。

二、PHP解析html或xml代码主要方式：

1. 正则表达式 2. PHP DOMDocument对象 3. 插件(如：PHP Simple HTML DOM Parser)

如果你对以上内容已经很了解，以下内容可以飘过……

PHP抓取页面

1. file()函数

<?php$url='';$lines_array=file($url);$lines_string=implode('',$lines_array);echo htmlspecialchars($lines_string);?>

2. file_get_contents()函数
使用file_get_contents和fopen必须空间开启allow_url_fopen。方法：编辑php.ini，设置 allow_url_fopen = On，allow_url_fopen关闭时fopen和file_get_contents都不能打开远程文件。

<?php$url='';$lines_string=file_get_contents($url);echo htmlspecialchars($lines_string);?>

3. fopen()->fread()->fclose()模式

<?php$url='';$handle=fopen($url,"rb");$lines_string="";do{$data=fread($handle,1024);if(strlen($data)==0){break;}$lines_string.=$data;}while(true);fclose($handle);echo htmlspecialchars($lines_string);?>

4. curl方式
使用curl必须空间开启curl。方法：windows下修改php.ini，将extension=php_curl.dll前面的分号去掉，而且需要拷贝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下；Linux下要安装curl扩展。

<?php$url='';$ch=curl_init();$timeout=5;curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);$lines_string=curl_exec($ch);curl_close($ch);echo htmlspecialchars($lines_string);?>

5. fsockopen()函数 socket模式
socket模式能否正确执行，也跟服务器的设置有关系，具体可以通过phpinfo查看服务器开启了哪些通信协议，比如我的本地php socket没开启http，只能使用udp测试一下了。

<?php$fp = fsockopen("udp://127.0.0.1", 13, $errno, $errstr);if (!$fp) {echo "ERROR: $errno - $errstr<br />\n";} else {fwrite($fp, "\n");echo fread($fp, 26);fclose($fp);}?>

6. 插件
网上应该有比较多的插件，snoopy插件是在网上搜到的，有兴趣的可以研究一下。

PHP解析xml(html)

1. 正则表达式：

<?php$url='';$lines_string=file_get_contents($url);eregi('<title>(.*)</title>',$lines_string,$title);echo htmlspecialchars($title[0]);?>

2. PHP DOMDocument()对象
如果远程的html或xml存在语法错误，php在解析dom的时候会报错。

<?php$url='';$html=new DOMDocument();$html->loadHTMLFile($url);$title=$html->getElementsByTagName('title');echo $title->item(0)->nodeValue;?>

3. 插件
本文以PHP Simple HTML DOM Parser为例，进行简单介绍，simple_html_dom的语法类似jQuery，它让php操作dom，就像使用jQuery操作dom一样的简单。

<?php$url='';include_once('../simplehtmldom/simple_html_dom.php');$html=file_get_html($url);$title=$html->find('title');echo $title[0]->plaintext;?>