1. 研究目的与意义（文献综述）

网络爬虫（又被称为网页蜘蛛，网络机器人，在foaf社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。
对于网络爬虫的研究从上世纪九十年代就开始了，目前爬虫技术已经趋见成熟，网络爬虫是搜索引擎的重要组成部分。网络上比较著名的开源爬虫包括nutch,larbin,heritrix。网络爬虫最重要的是网页搜索策略（广度优先和最佳度优先）和网页分析策略（基于网络拓扑的分析算法和基于网页内容的网页分析算法）。
随着网络的迅速发展，万维网成为大量信息的载体，如何有效地提取并利用这些信息成为一个巨大的挑战。搜索引擎(search engine)，例如传统的通用搜索引擎altavista，yahoo!和google等，作为一个辅助人们检索信息的工具成为用户访问万维网的入口和指南。但是，这些通用性搜索引擎也存在着一定的局限性，如：
(1)不同领域、不同背景的用户往往具有不同的检索目的和需求，通用搜索引擎所返回的结果包含大量用户不关心的网页。
(2)通用搜索引擎的目标是尽可能大的网络覆盖率，有限的搜索引擎服务器资源与无限的网络数据资源之间的矛盾将进一步加深。
(3)万维网数据形式的丰富和网络技术的不断发展，图片、数据库、音频、视频多媒体等不同数据大量出现，通用搜索引擎往往对这些信息含量密集且具有一定结构的数据无能为力，不能很好地发现和获取。
(4)通用搜索引擎大多提供基于关键字的检索，难以支持根据语义信息提出的查询。
为了解决上述问题，定向抓取相关网页资源的聚焦爬虫应运而生。聚焦爬虫是一个自动下载网页的程序，它根据既定的抓取目标，有选择的访问万维网上的网页与相关的链接，获取所需要的信息。与通用爬虫(general purpose web crawler)不同，聚焦爬虫并不追求大的覆盖，而将目标定为抓取与某一特定主题内容相关的网页，为面向主题的用户查询准备数据资源。

互联网是一个庞大的非结构化的数据库，将数据有效的检索并组织呈现出来，有着巨大的应用前景。搜索引擎作为一个辅助人们检索信息的工具成为用户访问万维网的入口和指南。但是，这些通用性搜索引擎也存在着一定的局限性。不同领域、不同背景的用户往往具有不同的检索目的和需求，通用搜索引擎所返回的结果包含大量用户不关心的网页。为了解决这个问题，一个有针对性的爬虫程序有着重要意义。

本课题选用python作为编程语言，其优点为：

2. 研究的基本内容与方案

研究（设计）的基本内容

数据的抓取是数据分析工作的基础,网络爬虫可以快速抓取互联网各类信息,论文研究 内容如下：

1. 分析利用python语言编写网络爬虫程序的优势；

3. 研究计划与安排

1. 2019/1/19—2019/2/28：确定选题，查阅文献，外文翻译和撰写开题报告；
2. 2019/3/1—2019/4/30：系统架构、程序设计与开发、系统测试与完善；
3. 2019/5/1—2019/5/25：撰写及修改毕业论文；
4. 2019/5/26—2019/6/5：准备答辩。

4. 参考文献（12篇以上）

1.基于爬虫与文本挖掘的“985”高校图书馆微信公众号的调研[d]. 安徽大学, 2017.

2.分布式网络爬虫技术研究与实现[d]. 电子科技大学, 2012.

3.谢克武. 大数据环境下基于python的网络爬虫技术[j]. 电子制作, 2017(9):44-45.