python爬取设置了权限的qq空间_Python爬取qq空间说说的实例代码

具体代码如下所示:

#coding:utf-8

#!/usr/bin/python3

from selenium import webdriver

import time

import re

import importlib2

import sys

importlib2.reload(sys)

def startspider():

driver = webdriver.chrome('/users/zachary/zachary/chromedriver.exe') #这个是chormedriver的地址

driver.get('https://qzone.qq.com/')

driver.switch_to.frame('login_frame')

driver.find_element_by_id('switcher_plogin').click()

driver.find_element_by_id('u').clear()

driver.find_element_by_id('u').send_keys('qq号') #这里填写你的qq号

driver.find_element_by_id('p').clear()

driver.find_element_by_id('p').send_keys('qq密码') #这里填写你的qq密码

driver.find_element_by_id('login_button').click()

time.sleep(2)

#设置爬取内容保存路径

f = open('/users/zachary/documents/shuoshuo.txt','w')

#---------------获得g_qzonetoken 和 gtk

html = driver.page_source

'''g_qzonetoken=re.search('window\.g_qzonetoken = \(function\(\)\{ try\{return (.*?);\} catch\(e\)',html)#从网页源码中提取g_qzonetoken'''

g_qzonetoken = "e794139a284d6ea9e0b26826e541b55df37d0667a3544f534de25aebdb64628d3ab75e1d7104bbb22a"

cookie = {}#初始化cookie字典

for elem in driver.get_cookies():#取cookies

cookie[elem['name']] = elem['value']

gtk=getgtk(cookie)#通过getgtk函数计算gtk

#print(g_qzonetoken)

#print(gtk)

#--------------获得好友列表 注意下面的链接

driver.get('https://user.qzone.qq.com/proxy/domain/r.qzone.qq.com/cgi-bin/tfriend/friend_hat_get.cgi?hat_seed=1&uin=你的qq号fupdate=1&g_tk='+str(gtk)+'&qzonetoken='+str(g_qzonetoken)+'&g_tk='+str(gtk))

friend_list = driver.page_source

friend_list = str( friend_list )

abtract_pattern = re.compile('\"(.\d*)\":\{\\n"realname":"(.*?)"}',re.s)

qq_name_list = re.findall(abtract_pattern,str(friend_list)) #数组

print(qq_name_list)

numlist=dict()# numlist => (qqnum:qqname) #列表

for i in qq_name_list:

numlist[str(i[0])]=str(i[1])

begin = 0

last_source = ""

tag = 1

first = 0

firsttime=""

#如果要爬取自己的说说,手动添加自己的qq号

#numlist['你的qq号']='你的名字'

#print(numlist)

for key in numlist.keys():

qqnum = key

qqname = numlist[qqnum]

if qqnum == "好友qq号": #根据qq号查找指定好友说说

count = 1

begin = 0

while tag==1 :

#-------------进入好友说说页面 #'+qqnum+' '+str(begin)+'

#print("begin:"+str(begin))

driver.get('https://user.qzone.qq.com/proxy/domain/taotao.qq.com/cgi-bin/emotion_cgi_msglist_v6?uin='+qqnum+'&ftype=0&sort=0&pos='+str(begin)+'&num=40&replynum=200&g_tk='+str(gtk)+'&callback=_preloadcallback&code_version=1&format=jsonp&need_private_comment=1&qzonetoken='+str(g_qzonetoken)+'&g_tk='+str(gtk))

try:

msg_list_json = driver.page_source

except:

begin = begin + 40

continue

msg_list_json = str(msg_list_json)

if last_source==msg_list_json :

break

else:

last_source=msg_list_json

#检测是否没有权限访问

abtract_pattern = re.compile(',"message":"(.*?)","name":',re.s)

message = re.findall(abtract_pattern,str(msg_list_json))

if message!=[]:

if str(message[0])=='对不起,主人设置了保密,您没有权限查看':#对不起,主人设置了保密,您没有权限查看

break

#print(msg_list_json)

#解析json

#webdriver没有现成的json解析器,所以采用获取源码的方式,然后使用正则表达式获取具体细节

msg_list_json = msg_list_json.split("msglist")[1]#拆分json,缩小范围,也能加快解析速度

msg_list_json = msg_list_json.split("smoothpolicy")[0]

msg_list_json = msg_list_json.split("commentlist")[1:]

#说说动态分4种:1、文字说说(或带有配图的文字说说)

# 2、只有图片的说说

# 3、转发,并配有文字

# 4、转发,不配文字

for text in msg_list_json:

# 1、先检查说说,用户是否发送了文字,如果没有文字,正则表达式匹配无效

abtract_pattern = re.compile('\}\],"content":"(.*?)","createtime":"(.*?)","created_time":(.*?),"',re.s)

msg_time = re.findall(abtract_pattern,str(text))

if msg_time!=[]:

# 2、如果作者说说有文字,那么检查是否有转发内容

msg = str(msg_time[0][0])

sendtime = str(msg_time[0][1])

abtract_pattern = re.compile('\}\],"content":"(.*?)"},"rt_createtime":"(.*?)","',re.s)

text = text.split("created_time")[1]

msg_time2 = re.findall(abtract_pattern,str(text))

#合并发送内容 格式:评论+转发内容

if msg_time2!=[]:

msg = msg +" 转发内容:"+str(msg_time2[0][0])

else:

# 3、说说内容为空,检查是否为 =>只有图片的说说 or 转发,不配文字

#获取正文发送时间 (发送时间分为:正文发送时间 or 转发时间)

abtract_pattern = re.compile('"conlist":null,"content":"","createtime":"(.*?)",',re.s)

msgnull_time = re.findall(abtract_pattern,str(text))

if msgnull_time!=[]:

#如果有正文发送时间,那么就是这条说说仅含有图片 =>只有图片的说说

msg = "图片"

sendtime = str(msgnull_time[0])

else:

#如果没有正文发送时间,那么就是说这条说为 =>转发,不配文字

abtract_pattern = re.compile('\}\],"content":"(.*?)"},"rt_createtime":"(.*?)","',re.s)

msg_time = re.findall(abtract_pattern,str(text))

msg =" 转发内容:"+str(msg_time[0][0])

sendtime = str(msg_time[0][1])

#写入本地文件

#f.write('{},{},{},{}\n'.format(str(qqname),str(qqnum),sendtime,msg))

print(str(count)+" : "+str(qqname)+" : "+str(qqnum)+" : "+sendtime+" : "+msg)

count = count + 1

begin = begin + 40

def getgtk(cookie):

hashes = 5381

for letter in cookie['p_skey']:

hashes += (hashes << 5) + ord(letter)

return hashes & 0x7fffffff

startspider()

print("爬取结束")

总结

以上所述是小编给大家介绍的python爬取qq空间说说的实例代码,希望对大家有所帮助

如您对本文有疑问或者有任何想说的,请点击进行留言回复,万千网友为您解惑!


版权声明:本文为weixin_39809168原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。