栖' 2019-08-07 14:52 采纳率: 0%
浏览 675

pandas写入csv,字段行业一直重复怎么解决???

import requests
import json
import re
import csv
import pandas as pd

获取每个电影分类链接的函数

def get_movie_type():
url='https://movie.douban.com/chart'
resp=requests.get(url)
result=re.findall(r'(.*?)',resp.text)
return result

获取每种电影前100部:

def get_movie_rank(type_url):
type_url = 'https://movie.douban.com/j/chart/top_list?' + type_url[23:] + '&start=0&limit=100'
resp=requests.get(type_url)
return resp.text

存储

def save(movie):
movie=pd.DataFrame([movie],columns=['类型','电影名称','地区','上映日期','评分','排行','地址'])
movie.to_csv(r'C:\Users\Administrator\Desktop\python\练习\第五周作业_周峰\test3.csv',mode='a',index=None)

def run():

types_url=get_movie_type()
for url in types_url:
    global movie_type_name
    movie_type_name = url[1]
    print('正在储存'+movie_type_name+'类型的电影')
    type_url = url[0]
    result=get_movie_rank(type_url)

    #json解析
    result=json.loads(result)

    #获取所需电影信息

    for massage in result:
        #global title,regions,release_date,score,rank,movieurl
        title=massage['title']
        regions=massage['regions'][0]
        release_date=massage['release_date']
        score=massage['score']
        rank = massage['rank']
        url = massage['url']

        movie=[movie_type_name,title,regions,release_date,score,rank,url]



        # 储存包含电影信息
        save(movie)
    print(movie_type_name + '的类型储存完毕!')

run()

图片说明

  • 写回答

3条回答 默认 最新

  • 拉灯的小手 博客专家认证 2019-08-09 15:57
    关注
        with open("demo.csv", "a+", encoding='utf-8', newline="") as f:
            k = csv.writer(f, delimiter=',')
            with open("demo.csv", "r", encoding='utf-8', newline="") as f1:
                reader = csv.reader(f1)
                if not [row for row in reader]:
                    k.writerow(['品牌索引', '品牌名称', '车系名称', '车型', '汽车型号', '指导价', '参考价', '经销商名称',
                                '地区', '简称', '地址', '销售区域', '电话1', '电话2', '时间'])
                    k.writerows(data)
                    print('第[{}]条数据插入成功'.format(self.count))
                else:
                    k.writerows(data)
                    print('第[{}]条数据插入成功'.format(self.count))
    
    
    自己对应着改一下参数吧,这段代码的意思就是写入数据前会判断有没有表头没有就写入,有就不写
    
    评论

报告相同问题?

悬赏问题

  • ¥20 求数据集和代码#有偿答复
  • ¥15 关于下拉菜单选项关联的问题
  • ¥15 如何修改pca中的feature函数
  • ¥20 java-OJ-健康体检
  • ¥15 rs485的上拉下拉,不会对a-b<-200mv有影响吗,就是接受时,对判断逻辑0有影响吗
  • ¥15 使用phpstudy在云服务器上搭建个人网站
  • ¥15 应该如何判断含间隙的曲柄摇杆机构,轴与轴承是否发生了碰撞?
  • ¥15 vue3+express部署到nginx
  • ¥20 搭建pt1000三线制高精度测温电路
  • ¥15 使用Jdk8自带的算法,和Jdk11自带的加密结果会一样吗,不一样的话有什么解决方案,Jdk不能升级的情况