CHENGGGDD
2021-04-11 16:33
采纳率: 100%
浏览 50

哪位大神帮我看下我的代码 解析这块一直搞不好

import json
import requests
from requests.exceptions import RequestException
import time
from pyquery import PyQuery as pq
#链接检测返回
def get_one_page(url):
    try:
        headers = {
                'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 11_2_1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.114 Safari/537.36'
                }
        response = requests.get(url,headers=headers)
        response.encoding = 'utf-8'
        if response.status_code == 200:
            return response.text
        return None
    except RequestException:
        return None
#解析网页    
def parse_one_page(html):
    doc = pq(html)
    results = []   
    for i in doc('.list_009 li'):
        sub_d = pq(i)
        item ={
             'nero':sub_d('a').text(),
             'shij':sub_d('span').text()
        }
        results.append(item)
#保存文件        
def write_to_file(content):
    with open('result.txt','a',encoding='utf-8') as f:
        f.write(json.dumps(content,ensure_ascii=False)+'\n')
#启动函数      
def main(offset):
    url = 'https://finance.sina.com.cn/roll/index.d.html?lid=1008&page={}'.format(offset)
    html = get_one_page(url)
    #print(html)
    for item in parse_one_page(html):
        print(item)
        write_to_file(item)
    #write_to_file(html)
#分页循环    
if  __name__ == '__main__':
    for i in range(1,5):
        main(offset=i+1)
        print(f"==========正在采集第{i}页==========")
        time.sleep(2)
    print('爬取完成')

错误代码 TypeError: 'NoneType' object is not iterable

  • 写回答
  • 关注问题
  • 收藏
  • 邀请回答

3条回答 默认 最新

  • CSDN专家-HGJ 2021-04-11 17:01
    已采纳

    在parse_one_page(html)这个函数里,只有数据添加 ,没有数据返回语句,在后面调用和遍历时,就会报None类型对象不可迭代的错误。在该函数末尾添加上return results即可。

    打赏 评论
  • 要问题描述一下,遇到什么问题,要怎么处理。

    打赏 评论
  • 有问必答小助手 2021-04-12 10:28

    您好,我是有问必答小助手,你的问题已经有小伙伴为您解答了问题,您看下是否解决了您的问题,可以追评进行沟通哦~

    如果有您比较满意的答案 / 帮您提供解决思路的答案,可以点击【采纳】按钮,给回答的小伙伴一些鼓励哦~~

    ps:问答VIP仅需29元,即可享受5次/月 有问必答服务,了解详情>>>https://vip.csdn.net/askvip?utm_source=1146287632

    打赏 评论

相关推荐 更多相似问题