Python常用爬虫代码总结方便查询-创新互联

beautifulsoup解析页面
创新互联公司主营南岔网站建设的网络公司,主营网站建设方案,重庆APP软件开发,南岔h5微信小程序搭建,南岔网站营销推广欢迎南岔等地区企业咨询
from bs4 import BeautifulSoup
soup = BeautifulSoup(htmltxt, "lxml")
# 三种装载器
soup = BeautifulSoup("", "html.parser")
### 只有起始标签的会自动补全，只有结束标签的会自动忽略
### 结果为：
soup = BeautifulSoup("", "lxml")
### 结果为：
soup = BeautifulSoup("", "html5lib")
### html5lib则出现一般的标签都会自动补全
### 结果为：
# 根据标签名、id、class、属性等查找标签
### 根据class、id、以及属性alog-action的值和标签类别查询
soup.find("a",class_="title",id="t1",attrs={"alog-action": "qb-ask-uname"}))
### 查询标签内某属性的值
pubtime = soup.find("meta",attrs={"itemprop":"datePublished"}).attrs['content']
### 获取所有class为title的标签
for i in soup.find_all(class_="title"):
  print(i.get_text())
### 获取特定数量的class为title的标签
for i in soup.find_all(class_="title",limit = 2):
  print(i.get_text())
### 获取文本内容时可以指定不同标签之间的分隔符，也可以选择是否去掉前后的空白。
soup = BeautifulSoup(' The Dormouses story 
The Dormouses story', "html5lib")
soup.find(class_="title").get_text("|", strip=True)
#结果为：The Dormouses story|The Dormouses story
### 获取class为title的p标签的id
soup.find(class_="title").get("id")
### 对class名称正则：
soup.find_all(class_=re.compile("tit"))
### recursive参数，recursive=False时，只find当前标签的第一级子标签的数据
soup = BeautifulSoup('abc','lxml')
soup.html.find_all("title", recursive=False)</pre>            <br>
            文章名称：Python常用爬虫代码总结方便查询-创新互联            <br>
            标题链接：<a href="http://shouzuofang.com/article/hoihh.html">http://shouzuofang.com/article/hoihh.html</a>
        </div>
    </div>
    <div class="other">
        <h3>其他资讯</h3>
        <ul>
            <li>
                    <a href="/article/dgeciss.html">jquery删除ul jQuery删除节点</a>
                </li><li>
                    <a href="/article/dgeciec.html">android拨号拦截 安卓拦截网络Tel
</a>
                </li><li>
                    <a href="/article/dgecids.html">html5ui样例 html5ul</a>
                </li><li>
                    <a href="/article/dgecije.html">天猫css样式模板 天猫css样式模板</a>
                </li><li>
                    <a href="/article/dgecigi.html">linux命令不带路径 linux路径补全</a>
                </li>        </ul>
    </div>
</div>
<footer>
    <div class="message">
        <div class="mess container">
            <p>免费获取网站建设与品牌策划方案报价</p>
            <span>*主要业务范围包括：高端网站建设， 集团网站建设(网站建设网站制作)找网站建设公司就上四川攀枝花网站建设。</span>
            <form action="">
                <input type="text" class="ipt1" placeholder="联系人">
                <input type="text" class="ipt2" placeholder="联系电话">
                <textarea name="" id=""  placeholder="内容描述：描述您的需求，如网站、微信、电商、APP等。"></textarea>
                <a href="">提交需求</a>
            </form>
        </div>
    </div>
    <div class="footA">
        <div class="footAs container">
            <ul>
                <h3>联系我们</h3>
                <b>028-86922220</b>
                <li>手机：13518219792</li>
                <li>地址：成都市太升南路288号锦天国际A幢1002号</li>
                <li class="hr1"></li>
                <li>24小时服务热线：400-028-6601</li>
            </ul>
            <ul>
                <h3>网站建设服务</h3>
                <li>网页设计</li>
                <li>网站制作</li>
                <li>网站开发</li>
            </ul>
            <ul>
                <h3>网站推广服务</h3>
                <li>营销网站建设</li>
                <li>百度快速排名</li>
                <li>整站网站推广</li>
            </ul>
            <ul>
                <h3>网站运维服务</h3>
                <li>基础维护</li>
                <li>网站改版</li>
                <li>网站维护</li>
            </ul>
            <ul>
                <h3>FOLLOW US</h3>
                <li class="hr2"></li>
                <li>
                    <dd class="fl"><img src="/Public/Home/img/ewm.png" alt=""><p>微信二维码</p></dd>
                    <dd class="fr"><img src="/Public/Home/img/ewm.png" alt=""><p>微信二维码</p></dd>
                </li>
            </ul>
        </div>
        <div class="link container">
            友情链接：
            <a href="http://www.cdkjz.cn/develop/" title="电商网站建设" target="_blank">电商网站建设</a>   <a href="https://www.cdcxhl.com/hangyead/" title="一元广告" target="_blank">一元广告</a>   <a href="http://www.cqcxhl.com/" title="重庆网站设计" target="_blank">重庆网站设计</a>   <a href="http://chengdu.cdcxhl.com/weixin/" title="成都微信开发" target="_blank">成都微信开发</a>   <a href="http://www.njjbc.cn/" title="南京护栏钻孔机" target="_blank">南京护栏钻孔机</a>   <a href="http://www.csruizhi.cn/" title="崇州湖霆科技" target="_blank">崇州湖霆科技</a>   <a href="http://chengdu.cdweb.net/weixinkaifa/" title="微信小程序公众号开发" target="_blank">微信小程序公众号开发</a>   <a href="https://www.cdcxhl.com/mianfei/jianzhan/chengdu.html" title="成都免费自助建站" target="_blank">成都免费自助建站</a>   <a href="https://www.cdcxhl.com/ruanwen/yingxiao" title="软文平台" target="_blank">软文平台</a>   <a href="http://www.ledaz.cn/" title="成都小谭网创广告" target="_blank">成都小谭网创广告</a>           </div>
    </div>
    <div class="footB">
        <div class="container">
            <div class="fl">
                Copyright © 2022  四川攀枝花网站建设公司     四川攀枝花网站建设公司-选我们！四川专业的攀枝花网站制作公司！
            </div>
            <div class="fr">
                All Rights Reserved 版权所有 <a href="https://beian.miit.gov.cn/" target="_blank" rel="nofollow">蜀ICP备2024105912号-3</a>
            </div>
        </div>
    </div>
</footer>
</body>
</html>
<script>
    $(".con img").each(function(){
        var src = $(this).attr("src");    //获取图片地址
        var str=new RegExp("http");
        var result=str.test(src);
        if(result==false){
            var url = "https://www.cdcxhl.com"+src;    //绝对路径
            $(this).attr("src",url);
        }
    });
    window.onload=function(){
        document.oncontextmenu=function(){
            return false;
        }
    }
</script>
网站建设知识

Python常用爬虫代码总结方便查询-创新互联
