网站首页  汉语字词  英语词汇  考试资料  写作素材  旧版资料

请输入您要查询的范文:

 

标题 php实现递归抓取网页类实例
范文
    具体如下:
    <?php
    class crawler{
    private $_depth=5;
    private $_urls=array();
    function extract_links($url)
    {
    if(!$this->_started){
    $this->_started=1;
    $curr_depth=0;
    }else{
    $curr_depth++;
    }
    if($curr_depth<$this->_depth)
    {
    $data=file_get_contents($url);
    if(preg_match_all('/((?:http|https)://(?:www.)*(?:[a-zA-Z0-9_-]{1,15}.+[a-zA-Z0-9_]{1,}){1,}(?:[a-zA-Z0-9_/.-?&:%,!;]*))/',$data,$urls12))
    {
    foreach($urls12[0] as $k=>$v){
    $check=get_headers($v,1);
    if(strstr($v,$url) && $check[0]=='HTTP/1.1 200 OK' && !array_search($v,$this->_urls) && $curr_depth<$this->_depth){
    $this->_urls[]=$v;
    $this->extract_links($v);
    }
    }
    }
    }
    return $this->_urls;
    }
    }
    ?>
随便看

 

在线学习网范文大全提供好词好句、学习总结、工作总结、演讲稿等写作素材及范文模板,是学习及工作的有利工具。

 

Copyright © 2002-2024 cuapp.net All Rights Reserved
更新时间:2025/5/18 5:22:47