Chinese darker 2020-01-10 22:36 采纳率: 0%
浏览 730

php爬虫问题(目标网站刷新太慢,导致抓取不到)

由于应用限制,只能用php做接口。
功能:爬取目标网站的图片然后并下载到本地
问题:目标网站由于要js动态渲染页面,但是刷新的速度太慢导致php爬虫爬取不到图片。
目标网站截图:图片说明
PHP代码:

<?php
class download_image{
    //抓取图片的保存地址
    public $save_path;   
    //抓取图片的大小限制(单位:字节) 只抓比size比这个限制大的图片
    public $img_size=0; 
    //定义一个静态数组,用于记录曾经抓取过的的超链接地址,避免重复抓取       
    public static $a_url_arr=array();

    /**
     * @param String $save_path    抓取图片的保存地址
     * @param Int    $img_size     
     */
    public function __construct($save_path,$img_size){
        $this->save_path=$save_path;
        $this->img_size=$img_size;
        if(!file_exists($save_path)){
            mkdir($save_path,0775);
        }
    }
    /**
     * 递归下载抓取首页及其子页面图片的方法  ( recursive 递归)
     * @param   String  $capture_url  用于抓取图片的网址
     */
    public function recursive_download_images($capture_url){
        if (!in_array($capture_url,self::$a_url_arr)){   //没抓取过
            self::$a_url_arr[]=$capture_url;   //计入静态数组
        } else {   //抓取过,直接退出函数
            return;
        }
        $this->download_current_page_images($capture_url);  //下载当前页面的所有图片
        //用@屏蔽掉因为抓取地址无法读取导致的warning错误
        $content=@file_get_contents($capture_url); 
        //匹配a标签href属性中?之前部分的正则
        $a_pattern = "|<a[^>]+href=['\" ]?([^ '\"?]+)['\" >]|U";   
        preg_match_all($a_pattern, $content, $a_out, PREG_SET_ORDER);
        $tmp_arr=array();  //定义一个数组,用于存放当前循环下抓取图片的超链接地址
        foreach ($a_out as $k => $v) {
            /**
             * 去除超链接中的 空'','#','/'和重复值  
             * 1: 超链接地址的值 不能等于当前抓取页面的url, 否则会陷入死循环
             * 2: 超链接为''或'#','/'也是本页面,这样也会陷入死循环,  
             * 3: 有时一个超连接地址在一个网页中会重复出现多次,如果不去除,会对一个子页面进行重复下载)
             */
            if ( $v[1] && !in_array($v[1],self::$a_url_arr) &&!in_array($v[1],array('#','/',$capture_url) ) ) { 
                $tmp_arr[]=$v[1];
            }
        }
        foreach ($tmp_arr as $k => $v){ 
            //超链接路径地址
            if ( strpos($v, 'http://')!==false ){ //如果url包含http://,可以直接访问
                $a_url = $v;
            }else{   //否则证明是相对地址, 需要重新拼凑超链接的访问地址
                $domain_url = substr($capture_url, 0,strpos($capture_url, '/',8)+1);
                $a_url=$domain_url.$v;
            }
            $this->recursive_download_images($a_url);
        }
    }
    /**
     * 下载当前网页下的所有图片 
     * @param   String  $capture_url  用于抓取图片的网页地址
     * @return  Array   当前网页上所有图片img标签url地址的一个数组
     */
    public function download_current_page_images($capture_url){
        $content=@file_get_contents($capture_url);   //屏蔽warning错误
        //匹配img标签src属性中?之前部分的正则
        $img_pattern = "|<img[^>]+src=['\" ]?([^ '\"?]+)['\" >]|U";   
        preg_match_all($img_pattern, $content, $img_out, PREG_SET_ORDER);
        $photo_num = count($img_out);
        //匹配到的图片数量
        echo $capture_url . "共找到 " . $photo_num . " 张图片\n";
        foreach ($img_out as $k => $v){
            $this->save_one_img($capture_url,$v[1]);
        }
    }

    /**
     * 保存单个图片的方法 
     * @param String $capture_url   用于抓取图片的网页地址
     * @param String $img_url       需要保存的图片的url
     */
    public function save_one_img($capture_url,$img_url){
        //图片路径地址
        if ( strpos($img_url, 'http://')!==false ){ 
            // $img_url = $img_url;
        }else{   
            $domain_url = substr($capture_url, 0,strpos($capture_url, '/',8)+1);
            $img_url=$domain_url.$img_url;
        }           
        $pathinfo = pathinfo($img_url);    //获取图片路径信息        
        $pic_name=$pathinfo['basename'];   //获取图片的名字
        if (file_exists($this->save_path.$pic_name)){  //如果图片存在,证明已经被抓取过,退出函数
            echo $img_url.'该图片已经抓取过!'."\n"; 
            return;
        }                
        //将图片内容读入一个字符串
        $img_data = @file_get_contents($img_url);   //屏蔽掉因为图片地址无法读取导致的warning错误
        if ( strlen($img_data) > $this->img_size ){   //下载size比限制大的图片
            $img_size = file_put_contents($this->save_path . $pic_name, $img_data);
            if ($img_size){
                echo $img_url.'图片保存成功!'."\n";
            } else {
                echo $img_url.'图片保存失败!'."\n";
            }
        } else {
            echo $img_url.'图片读取失败!'."\n";
        } 
    } 
}
set_time_limit(120);     //设置脚本的最大执行时间  根据情况设置 
$download_img=new download_image('imgages/',0);   //实例化下载图片对象
//$download_img->recursive_download_images('http://www.oschina.net/');      //递归抓取图片方法
//$download_img->download_current_page_images($_POST['capture_url']);     //只抓取当前页面图片方法
$download_img->download_current_page_images('http://127.0.0.1:808/yoyo/word/php/1.html');     //只抓取当前页面图片方法
?>  
  • 写回答

1条回答 默认 最新

  • zqbnqsdsmd 2020-01-11 11:45
    关注
    评论

报告相同问题?

悬赏问题

  • ¥15 matlab数字图像处理频率域滤波
  • ¥15 在abaqus做了二维正交切削模型,给刀具添加了超声振动条件后输出切削力为什么比普通切削增大这么多
  • ¥15 ELGamal和paillier计算效率谁快?
  • ¥15 file converter 转换格式失败 报错 Error marking filters as finished,如何解决?
  • ¥15 ubuntu系统下挂载磁盘上执行./提示权限不够
  • ¥15 Arcgis相交分析无法绘制一个或多个图形
  • ¥15 关于#r语言#的问题:差异分析前数据准备,报错Error in data[, sampleName1] : subscript out of bounds请问怎么解决呀以下是全部代码:
  • ¥15 seatunnel-web使用SQL组件时候后台报错,无法找到表格
  • ¥15 fpga自动售货机数码管(相关搜索:数字时钟)
  • ¥15 用前端向数据库插入数据,通过debug发现数据能走到后端,但是放行之后就会提示错误