全球主机交流论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

CeraNetworks网络延迟测速工具IP归属甄别会员请立即修改密码
查看: 1310|回复: 11

[Windows VPS] 问问有什么源码能做爬虫云端数据处理吗

[复制链接]
发表于 2020-11-20 17:37:50 | 显示全部楼层 |阅读模式


我现在需要写一个软件进行爬虫 商品的价格和名字和介绍

为了数据的准确性 我要对商品的UID在云端检查是否入库

然后在进行采集商品信息入库云端 并入库UID

然后对数据进行数据分析  不知道有什么源码能有这种功能并能提供api方便对接
发表于 2020-11-20 17:38:50 | 显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽
 楼主| 发表于 2020-11-20 17:39:29 | 显示全部楼层
主要还是能方便我云端去重 我也不知道该称呼这些功能类型的源码叫啥..只能问问各位大佬了
 楼主| 发表于 2020-11-20 17:40:38 | 显示全部楼层
软件我会写但是网页云端去重的我不会 但是想要做云端来对商品UID去重入库 不知道有没有这种类型源码
发表于 2020-11-20 17:41:23 | 显示全部楼层
这不是easy
发表于 2020-11-20 17:41:27 来自手机 | 显示全部楼层
帮顶 ,业务范围之外,哈哈哈哈哈
发表于 2020-11-20 17:42:14 | 显示全部楼层
这个有点难度,加钱!
 楼主| 发表于 2020-11-20 17:56:12 | 显示全部楼层
tir 发表于 2020-11-20 17:42
这个有点难度,加钱!

我要采集的数据也就撑死也就十来万条不至于吧
发表于 2020-11-20 18:31:04 | 显示全部楼层
都会写软件了,利用软件的语言写个去重就好了
需求还应该细致,加钱
发表于 2020-11-20 18:34:30 | 显示全部楼层
有开发能力的话自己去重呗。找别人写,别人问你要需求问着问着你自己也懂了该怎么处理,这不就很尴尬了
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|全球主机交流论坛

GMT+8, 2024-4-28 06:25 , Processed in 0.064590 second(s), 9 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表