想问问各位
为什么我用线程池来下载数据保存的excel中,只能保存最后一条数据
用的是openpyxl储存的
各位有头绪吗
数据存储为什么只能保存最后一条
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
2条回答 默认 最新
- 牟柯丞 2023-03-30 17:39关注
当你使用线程池下载数据时,线程池中的线程可能会同时向同一个Excel文件写入数据,这可能会导致写入数据的冲突,从而只保存最后一条数据。
```python import openpyxl from concurrent.futures import ThreadPoolExecutor def write_data_to_excel(excel_path, row, col, data): try: wb = openpyxl.load_workbook(excel_path) except FileNotFoundError: wb = openpyxl.Workbook() ws = wb.active ws.cell(row=row, column=col, value=data) with open(excel_path, 'a') as f: wb.save(f) def download_and_save_data(url, excel_path, row, col): # 下载数据 data = download_data(url) # 保存数据到Excel write_data_to_excel(excel_path, row, col, data) def main(): excel_path = 'data.xlsx' urls = [...] row = 1 col = 1 with ThreadPoolExecutor(max_workers=8) as executor: futures = [] for url in urls: futures.append(executor.submit(download_and_save_data, url, excel_path, row, col)) row += 1 col += 1 # 等待所有任务完成 for future in futures: future.result() if __name__ == '__main__': main()
```
在这个示例中,我们定义了一个write_data_to_excel函数,它使用openpyxl库将数据写入Excel文件。为了避免冲突,我们使用了一个with open(excel_path, 'a') as f:的语句来打开Excel文件,这样每个线程都可以在文件末尾追加数据。注意,这里我们需要传递文件对象而不是文件名给wb.save(),否则可能会导致冲突。
在download_and_save_data函数中,我们首先下载数据,然后调用write_data_to_excel函数将数据写入Excel文件。
在main函数中,我们使用ThreadPoolExecutor创建了一个线程池,并将download_and_save_data函数提交给线程池来执行。注意,我们将每个任务的行和列位置分别保存在row和col变量中,以确保写入的数据不会发生冲突。
最后,在等待所有任务完成后,我们的Excel文件中应该包含了所有下载的数据。
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 1无用
悬赏问题
- ¥15 基于卷积神经网络的声纹识别
- ¥15 Python中的request,如何使用ssr节点,通过代理requests网页。本人在泰国,需要用大陆ip才能玩网页游戏,合法合规。
- ¥100 为什么这个恒流源电路不能恒流?
- ¥15 有偿求跨组件数据流路径图
- ¥15 写一个方法checkPerson,入参实体类Person,出参布尔值
- ¥15 我想咨询一下路面纹理三维点云数据处理的一些问题,上传的坐标文件里是怎么对无序点进行编号的,以及xy坐标在处理的时候是进行整体模型分片处理的吗
- ¥15 CSAPPattacklab
- ¥15 一直显示正在等待HID—ISP
- ¥15 Python turtle 画图
- ¥15 stm32开发clion时遇到的编译问题