5
新手入门 功能点介绍 实战案例

如何免费采集天猫评论大图的数据

2019-10-30 16:52:41
浏览 974 次

摘要:本文主要介绍如何使用后羿采集器的智能模式加辅助点击,免费采集天猫商品评论的大图数据。 免费下载软件

本文主要介绍如何使用后羿采集器的智能模式加辅助点击,免费采集天猫商品评论的大图数据。

采集对象简介:

天猫(www.tmall.com)原名淘宝商城,是一个综合性购物网站,其整合数千家品牌商、生产商,为商家和消费者之间提供一站式解决方案。

教程为大家介绍如何采集天猫商品评论大图数据,我们采用智能模式加辅助点击的方式来采集数据,在设置预加载的时候,由于天猫评论比较特殊,我们需要添加一系列的组件,且要修改点击元素的xpath,本教程会为大家提供这个xpath,大家直接使用就好。教程中还为大家介绍了如何批量将评论中的图片大图下载到本地,天猫评论中的图片有大图也有小图,本教材为大家介绍如何统一改成大图,其他的商品评论图片采集也可以参照这个办法,另外由于淘宝的评论需要滚动加载完才会出现下一页,因此建议大家在设置分页时设置成瀑布流分页+点选分页的形式。

采集工具简介:

后羿采集器(www.houyicaiji.com)是一款基于人工智能技术的网页采集器,只需输入网址就能够自动识别网页数据,无需配置即可完成数据采集,是业内首家支持三种操作系统(包括Windows、Mac和Linux)的网络爬虫软件

该软件是一款真正免费的数据采集软件,对采集结果导出没有任何限制,没有编程基础的小白用户也可轻松实现数据采集要求。

采集字段:

会员名、初次评价、追加评价、类型、初次评价图片、追加评价图片

采集结果预览:

导出到Excel表格:

 下载的图片效果:
下面我们来详细介绍一下如何免费采集天猫商品评论大图的数据,我们以华为P30pro为例,具体步骤如下:

步骤一:下载安装后羿采集器,并注册登录

1、点此打开后羿采集器官网,下载并安装爬虫软件工具—后羿采集器软件

2、点击注册登录,注册新账号,登录后羿采集器

下载和注册后羿采集器

【温馨提示】您可以直接使用此款爬虫软件,不需要进行注册,但是匿名账户下的任务在切换到注册用户时会丢失,因此建议您注册后使用。

后羿采集器为神箭手云旗下产品,如果您是神箭手用户,可直接登录。

步骤二:新建采集任务

1、复制天猫华为P30pro的网址。

点此了解关于如何正确地输入网址。

 2、新建智能模式采集任务您可以在软件上直接新建采集任务,也可以通过导入规则来创建任务。

点此了解如何导入和导出采集规则。

步骤三:配置采集规则

1、设置预登录

天猫商品的评价需要登录之后才能采集,所以这里我们要使用到“预登录”功能,点击“预登录”按钮即可打开登录窗口,如下图所示。后羿采集器不会存储和上传您的账户信息,您可以放心使用此功能。

点此深入了解预登录功能的使用用法。

 

2、使用辅助点击功能

由于网址输入进去之后,要滚动一定的页面才是评论的内容,我们可以选择直接点击评论,然后进行数据采集,由于一些天猫评论比较特殊,不同的产品评论的位置也不相同,在这里我们直接为大家提供一个写死的xpath,大家可以直接复制这个xpath到点击元素组件中,然后再在点击元素组件前面添加等待组件,组件排序情况为:滚动加载组件+定时等待组件+点击元素组件+定时等待组件,定时等待组件的等待时间大家可以按照自己情况设置,教程中设置为5秒,具体操作步骤如下所示:

点击元素xpath:/html/body//ul[@id=’J_TabBar’]/li/a[contains(text(),’评价’)]/.

在采集评论的过程中,我们会发现采集下来的评论图片有的大有的小,这里我们教大家统一设置图片规格。首先我们选中所有图片,并设置字段属性为外部html,具体步骤如下图所示:

然后我们右击字段,选择数据处理:

在数据处理中,我们新建文本替换的选项:

我们把将_40x40.jpg直接处理成_400x400.jpg,具体步骤如下图所示:

字段设置效果如下:

步骤四:设置并启动采集任务

1、启动采集任务

点击“开始采集”按钮,可在弹出的启动设置页面中进行一些高级设置,包括“定时启动、防屏蔽、自动导出、文件下载、加速引擎、数据去重、开发者设置”功能,由于我们需要下载图片到本地,此时我们需要勾选文件下载功能,下载图片,保存地址我们可以自己设置,然后点击启动开始数据采集。

点此深入了解什么是定时启动。

点此深入了解什么是自动导出。

点此深入了解如何下载图片。

【温馨提示】免费版本可以使用非周期性定时采集功能,下载图片功能是免费的;专业版及以上用户可使用定时启动功能;旗舰版用户可以使用自动导出功能及加速引擎功能。

2、运行任务提取数据

任务启动之后便开始自动采集数据,我们从界面上可以直观的看到程序运行过程和采集结果,采集结束之后会有提醒。

步骤五:导出并查看数据

数据采集完成后,我们可以查看和导出数据,后羿采集器支持多种导出方式(手动导出到本地、手动导出到数据库、自动发布到数据库、自动发布到网站)和导出文件的格式(EXCEL、CSV、HTML和TXT),同时还支持导出具体条数,可以在数据中选择想导出的条数,然后点击“确认导出”。

点此深入了解如何查看和清空采集数据。

点此深入了解如何导出采集结果。

【温馨提示】:所有手动导出功能都是免费的。个人专业版及以上版本可以使用发布到网站功能。

 

再为您推荐几个教程:

如何免费采集淘宝评论大图的数据

如何免费采集淘宝同一关键词下商品评论

如何免费采集淘宝商品评论的数据

分享到: