注册
登录
互助问答 » 多个url同时爬取并写入同一个txt文件,如何在写入的过程中去重
我要提问 / 分享返回列表
正解
发表于 2022/11/3 14:22:52
12楼

用数据库作为你的缓存列表，追求速度，可以用内存数据库redis

比较内容可用simhash

佚名
发表于 2022/11/3 14:23:43
13楼

好的谢谢，我试试


共有12条回复，每页10条    上一页  1  2   刷新
返回列表
立即注册站大爷用户，免费试用全部产品
立即注册站大爷用户，免费试用全部产品

快速咨询热线：

024-31823261

  • 国家高新技术企业证书编号：GR202321001563

  • 增值电信经营许可证： 辽B2-20180026

  • 互联网虚拟专用网业务许可证：B1-20181940

  • 公司地址：沈阳市浑南区上深沟村沈阳国际软件园F7座

产品

支持

文档

关于

声明：本站不搜集数据不存储数据，也不买卖数据，所有资源仅用作数据传输通道。禁止利用本平台资源从事任何违反本国（地区）法律法规的活动，用户所有操作行为均有日志存档并保留6个月。
站大爷 - 专业的大数据基础服务平台 Copyright@2012-2024 | 辽B2-20180026