小编给大家分享一下python如何抓取需要扫微信登陆页面,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!
1.抓取的页面需要登陆,以公司网页为例,登陆网址https://app-ticketsys.hezongyun.com/index.php ,(该网页登陆方式微信扫码登陆)
2.需要抓取的内容如下图所示:
需要提取
工单对应编号,如TK-2960
工单发起时间,如2018-08-17 11:12:13
工单标题内容,如设备故障
工单正文内容,如最红框所示
1.按按Ctrl + Shift + I或者鼠标右键点击检查进入开发人员工具。
可以看到页面显示如下:
主要关注点如上图框住和划线处
首先点击网络,记住以下信息将用于代码修改处。
Resquest URL:https: //app-ticketsys.hezongyun.com/index.php/ticket/ticket_list/init这个是需要爬取页面的信息请求Menthod:GET饼干:用于需要登陆页面User-Agent:Mozilla / 5.0(Windows NT 10.0; Win64; x64)AppleWebKit / 537.36(KHTML,类似Gecko)Chrome / 67.0.3396.62 Safari / 537.36
记住以上信息后粗略了解网页树形结构用BeatifulSoup中SELEC怎么取出内容
示例:的H1M1一段代码如下:
html =“”“睡鼠的故事</ title> </ head> <body> <p class =”title“name =”dromouse“> <b>睡鼠的故事</ b > </ p> <p class =“story”>从前有三个小姐妹;他们的名字是 <a href =“http://example.com/elsie”class =“sister”id =“ link1“> <! - Elsie - > </a>, <a href="http://example.com/lacie" rel="external nofollow" class="sister" id="link2"> Lacie </a>和 <a href =“http://example.com/tillie”class =“sister”id =“link3”> Tillie </a>; 他们住在井底。</ p> <p class =“story”> ... </ p> “”“</pre><p>如果我们喝汤得到了上面那段HTML的结构提取内容方法如下</p><p>1.通过标签名查找soup.select( '标题'),如需要取出含有一个标签的内容则soup.select( 'a')的</p><p>2.通过类名查找soup.select( 'CLASS_NAME ')如取出标题的内容则soup.select('。标题')</p><p>3.通过ID名字查找soup.select( '#ID_NAME')如取出ID = LINK2的内容则soup.select( '#LINK2')</p><p>上述元素名字可以利用左上角箭头取出,如下图</p><p><img src="/upload/otherpic18/35995.jpg" alt="python如何抓取需要扫微信登陆页面"></p><strong>三,程序编写</strong><pre># -*- coding:utf-8 -*- import requests import sys import io from bs4 import BeautifulSoup import sys import xlwt import urllib,urllib2 import re def get_text(): #登录后才能访问的网页,这个就是我们在network里查看到的Request URL url = 'https://app-ticketsys.hezongyun.com/index.php/ticket/ticket_iframe/' #浏览器登录后得到的cookie,这个就是我们在network里查看到的Coockie cookie_str = r'ci_ticketsys_session=‘***********************************' #把cookie字符串处理成字典 cookies = {} for line in cookie_str.split(';'): key, value = line.split('=', 1) cookies[key] = value #设置请求头 headers = {'User-Agent':'Mozilla/5.0(Windows NT 10.0; Win64;x64)AppleWebKit/537.36 (KHTML, like Gecko)Chrome/67.0.3396.62 Safari/537.36'} #在发送get请求时带上请求头和cookies resp = requests.get(url, cookies = cookies,headers = headers) soup = BeautifulSoup(resp.text,"html.parser") print soup</pre><p>上述代码就能得到登陆网页的HTML源码,这个源码呈一个树形结构,接下来针对需求我们提取需要的内容进行提取</p><p>我们需要工单号,对应时间,对应标题</p><p><img src="/upload/otherpic18/35996.jpg" alt="python如何抓取需要扫微信登陆页面"></p><p>按箭头点击到对应工单大块,可以查询到,所有的工单号,工单发起时间,工单标题均在<code><ul id =“ticket-list”></code>这个id下面</p><p><img src="/upload/otherpic18/35997.jpg" alt="python如何抓取需要扫微信登陆页面"></p><p>那么点开一个工单结构,例如工单号ID = “4427” 下面我们需要知道工单号,工单发起时间,工单内容可以看到</p><p>1.工单内容在H3标签下面</p><p>2.工单编号在类=“NUM”下面</p><p>3.工单发起时间在类= “时间” 下面</p><pre>for soups in soup.select('#ticket-list'): if len(soups.select('h4'))>0: id_num = soups.select('.num') star_time = soups.select('.time') h4 = soups.select('h4') print id_num,start_time,h4</pre><p>以上是“python如何抓取需要扫微信登陆页面”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注创新互联行业资讯频道!</p> <br> 新闻标题:python如何抓取需要扫微信登陆页面-创新互联 <br> URL网址:<a href="http://whjierui.cn/article/dhcoso.html">http://whjierui.cn/article/dhcoso.html</a> </div> </div> <div class="other"> <h3>其他资讯</h3> <ul> <li> <a href="/article/gspdhg.html">paras的使用方法是什么</a> </li><li> <a href="/article/gspcsc.html">[Architect]Abp框架原理解析(5)UnitOfWork</a> </li><li> <a href="/article/gspcss.html">vue子组件如何调用父组件</a> </li><li> <a href="/article/gspcsd.html">Android中怎么实现微信支付数字键盘功能</a> </li><li> <a href="/article/gspces.html">ProJavaEE5性能管理和优化</a> </li> </ul> </div> </div> <footer> <div class="foot-top"> <ul> <li> <div class="title">关于美图云海</div> <div class="tbox"> <div class="txt"> 美图云海专注于网站建设、小程序开发, <br /> 用心做好每一个网站,懂您所需、做您所想! <br /> 我们比其他网络公司做的更好、做的更多, <br /> 为客户创造更大的价值,让客户更省心! </div> <a rel="nofollow" href="javascript:;" class="more">MORE</a> </div> </li> <li> <div class="title">相关专题</div> <div class="tbox"> <a href="javascript:;" class="link">企业官网定制</a> <a href="javascript:;" class="link">小程序开发</a> <a href="javascript:;" class="link">品牌网站设计</a> <a href="javascript:;" class="link">网站建设标签</a> <a href="javascript:;" class="link">乐山网站建设</a> <a href="javascript:;" class="link">高端网站设计</a> <a href="javascript:;" class="link">公司做网站</a> </div> </li> <li> <div class="title">凭什么选择我们</div> <div class="tbox"> <a class="link">专业设计团队</a> <a class="link">快速响应服务</a> <a class="link">7个软件著作权</a> <a class="link">已服务3000+客户</a> <a class="link">项目检测具体全面</a> <a class="link">技术研发能力强劲</a> <a class="link">深度符合SEO优化</a> <a class="link">15项设计奖项</a> <a class="link">完善的制作流程</a> <a class="link">售后服务让您省心</a> </div> </li> <li> <div class="title">网站设计案例</div> <div class="tbox"> <ul> <li> <a href="javascript:;" target="_blank"> <div class="img"><img src="/Public/Home/images/gebaili.jpg" alt="哥百利" /> </div> <div class="tboxs"> <div class="t1">哥百利</div> <div class="t2">家具研发、设计、生产、服务为一体的专业实木家具订做企业</div> </div> </a> </li> <li> <a href="javascript:;" target="_blank"> <div class="img"><img src="/Public/Home/images/cdshujin.jpg" alt="蜀锦在线" /></div> <div class="tboxs"> <div class="t1">蜀锦在线</div> <div class="t2">汽车行业网站建设</div> </div> </a> </li> </ul> </div> </li> </ul> </div> <div class="foot-center"> <ul> <li> <div class="f-ewm"><img alt="美图云海微信公众号" src="/Public/Home/images/ewm.jpg" /></div> <div class="tbox ewm"> <div class="t1">扫一扫关注</div> <div class="t2">专业团队为您解答</div> </div> </li> <li> <div class="tbox tel"> <div class="t1">电话/邮箱</div> <div class="t2">400-028-6601 / 028-86922220<br>631063699@qq.com</div> </div> </li> <li> <div class="tbox sz"> <div class="t1">成都(总部)</div> <div class="t2">成华区 双林路22号仁禾商务楼5F<br> 大客户专线:13518219792 </div> </div> </li> <li> <div class="tbox gz"> <div class="t1">网站建设(乐山站)</div> <div class="t2"> 乐山市市中区瑞祥路一段1507号 <br /> 028-86922220 </div> </div> </li> </ul> </div> <div class="foot-button"> <div class="link-box" style="width:100%;float:none;"> <div class="a-box"></div> <div style="border-top:1px solid #ebebeb;font-size:12px;color:#666666;line-height:2;padding-top:20px;margin-top:20px;"> 业务范围包括企业网站建设、商城系统开发、品牌网站设计、旅游网站制作、英文外贸网站、教育培训门户网站开发、微信手机移动端开发、响应式网站建设、微信小程序开发、APP定制和其他类型网站定制等。 <br>服务区域包括成都市锦江区、青羊区、武侯区、金牛区、成华区、龙泉驿、温江、新都、高新区、成都市以及全国各地接受异地服务商的公司企业或者机构。 <br> <div class="a-box"><span><b>友情链接</b></span> <a href="http://www.yunshangf.com/" title="柴油发电机租赁" target="_blank">柴油发电机租赁</a><a href="http://www.hfxishu.com/" title="成都画册设计公司" target="_blank">成都画册设计公司</a><a href="https://www.cdxwcx.com/jifang/yaan.html" title="雅安移动机房" target="_blank">雅安移动机房</a><a href="https://www.cdxwcx.com/jifang/deyang.html" title="四川电信高防服务器托管" target="_blank">四川电信高防服务器托管</a><a href="http://www.hfjike.com/" title="成都网站维护公司" target="_blank">成都网站维护公司</a><a href="http://www.wzjierui.cn/" title="wzjierui.cn" target="_blank">wzjierui.cn</a><a href="https://www.cdxwcx.com/city/pengzhou/" title="彭州网站建设" target="_blank">彭州网站建设</a><a href="http://www.cdxwcx.cn/tuoguan/sichuan.html" title="四川服务器托管" target="_blank">四川服务器托管</a><a href="http://www.tyruijie.cn/" title="成都门头招牌制作" target="_blank">成都门头招牌制作</a><a href="http://www.schdfang.cn/" title="气球装饰" target="_blank">气球装饰</a> </div> </div> <div class="copyright">©2025 青羊区美图云海设计工作室(个体工商户)乐山站 蜀ICP备19037934号</div> </div> </div> </footer> <div class="fixed-contact-wrap show"> <ul class="item-list clearfix"> <li class="phone"> <a rel="nofollow" target="_blank" href="tel:028-86922220"><i class="icon"></i><strong>028-86922220</strong></a> </li> <li class="qq"> <a rel="nofollow" target="_blank" href="http://wpa.qq.com/msgrd?v=3&uin=244261566&site=qq&menu=yes"><i class="icon"></i><strong> 244261566</strong></a> </li> <li class="back-top"> <a href="#" rel="nofollow" class="back-to-top"><i class="icon"></i><strong> 回到顶部</strong></a> </li> </ul> </div> <script type="text/javascript"> //右侧联系我们悬浮窗 $(".fixed-contact-wrap").hover(function () { $(this).addClass("active"); }, function () { $(this).removeClass("active"); }) function show_phone_menu() { $(".right-side ul").toggle(); } </script> </body> </html> <script> $(".con img").each(function(){ var src = $(this).attr("src"); //获取图片地址 var str=new RegExp("http"); var result=str.test(src); if(result==false){ var url = "https://www.cdcxhl.com"+src; //绝对路径 $(this).attr("src",url); } }); window.onload=function(){ document.oncontextmenu=function(){ return false; } } </script>