全部评论(1条)
-
- lsbb198801 2016-07-19 00:00:00
- 数据抓取 目前社交网站的公开数据很多,为研究者检验自己的理论模型提供了很多便利。例如斯坦福的社会网络分析项目就分享了很多相关的数据集。社交网站为了自身的发展,往往也通过各种合作项目(例如腾讯的“犀牛鸟项目”)和竞赛(例如Facebook通过Kaggle竞赛公布部分数据)向研究者分享数据。 但是,有时候研究者还是被迫需要自己收集数据。受限于网站本身对于信息的保护和研究者自身的编程水平,互联网数据的抓取过程依然存在众多问题。以下,我们将从三个方面着手简要介绍使用Python进行数据抓取的问题:直接抓取数据、模拟登录抓取数据、基于API接口抓取数据。 一、直接抓取数据 通常的数据抓取遵循可见即可得的规律,即可以观察到的,就可以被抓取。对于网页内容的抓取,可以是把整个网页都存下来,回头再清洗。这样做比较简单有效,但是还是回避不了之后的从html文件中进行的数据提取工作。在下面的例子当中,我们将尝试抓取百度新闻页面(http://news.baidu.com/)的热点新闻。在这个例子当中,我们要使用urllib2这个类库来获取该网页的html文本。 在获取html之后,我们将使用一个流行的类库BeautifulSoup来解析html并提取我们需要的信息。现在的BeautifulSoup已经发展到第四个版本。可以使用easy_install或者pip install的方法安装。如果读者使用的是Spyder的话,可以点击Tools--Open command prompt。然后,在打开的命令窗口中输入:easy_install beautifulsoup4 就可以了。 easy_install beautifulsoup4
-
赞(11)
回复(0)
热门问答
- python中有什么套件可以用于社会网络分析
2016-07-18 06:31:50
345
1
- 社会网络分析怎么样
2014-04-02 02:00:15
349
1
- 社会网络分析属于什么学科范畴?
2013-03-18 13:08:41
234
1
- 社会网络分析的内容简介
2018-12-01 02:29:11
211
0
- 为什么社会网络分析如此盛行
2017-06-08 12:45:53
299
1
- 如何使用python进行社交网络分析
2018-12-05 22:35:04
357
0
- 求助!社会网络分析该如何学习?
- 本人刚开始接触社会网络,导师的意思是具体针对微博数据进行社会网络相关分析。在网上买了两本书,《社会网分析讲义》和《社会网络分析:理论、方法与应用》。大概内容翻了一遍,但是... 本人刚开始接触社会网络,导师的意思是具体针对微博数据进行社会网络相关分析。在网上买了两本书,《社会网分析讲义》和《社会网络分析:理论、方法与应用》。大概内容翻了一遍,但是这边看完,那边就忘记了。我是不是应该看分析软件,如ucinet的教程来学习呢?光看理论实在效率不高。。。有没有社会网络分析领域的大神可以给些指导呢??? 展开
2013-04-11 04:48:13
464
1
- 为什么rost社会网络分析的图出不来
2018-11-25 20:03:07
288
0
- 社会网络分析接近度,中间度怎么计算
2018-11-29 14:49:17
439
0
- 非0,1赋值矩阵怎么进行社会网络分析
2017-06-12 23:43:22
239
1
- 社会网络分析计算结构洞需要对分吗
2017-06-01 00:22:41
275
1
- 关于"社会网络分析方法及其应用"
- 谁有这方面的电子文档,或是网页,能否告诉我一下,我想对这个方向有一个了解... 谁有这方面的电子文档,或是网页,能否告诉我一下,我想对这个方向有一个了解 展开
2014-09-25 10:41:03
344
1
- 关于社会网络分析的综述应该发到哪个期刊
2018-11-26 22:56:58
302
0
- python 中有没有解析midi文件的工具包
2018-12-09 03:25:51
285
0
- 什么是社会网络分析,英文social network analysis.现在这个分析越来越时髦
2015-09-24 06:10:29
344
1
- 社会网络分析与算法研究这门课,闭卷,怎么复习
2018-12-12 09:30:50
248
0
- 社会网络分析与社会网络理论是一个概念吗 还是包含与被包含的关系
2012-10-06 02:50:21
315
1
- 有没有老师了解Python用于Meta分析的工具包
2018-11-20 12:37:14
341
0
- 社会网络分析中,为节点赋予颜色,有多个选择时怎么办
2018-12-03 10:25:12
266
0
- 社会网络分析中,为节点赋予颜色,有多个选择时怎么办
2018-11-14 13:28:48
190
0
9月突出贡献榜
- 单位预算忏悔
- 饿啊地方
- 空中有牛
- 依然相信你会
- 本生(天津)健康科技有限公司
- 猫合宝
- 广东皓天检测仪器有限公司
- 武汉安德信检测设备有限公司
- 上海一科仪器有限公司
- 牛牛麻麻2
- 东莞市皓天试验设备有限公司
- futu888
推荐主页
最新话题
参与评论
登录后参与评论