首先,在搜索数据集时要记住这几点:
- 数据集不应该是混乱的,因为你不希望花费大量时间来清理数据。
- 数据集不应包含太多行或列,要很容易使用。
- 数据越干净越好,因为清理大型数据集可能非常耗时。
- 这个数据集应该可以回答一个非常有趣的问题。
话不多说,开始吧!
数据集查找器
1、Kaggle: 一个包含各种外部贡献数据集的数据科学网站。你可以在其主列表中找到各种合适的数据集,从拉面评级到篮球数据,甚至是西雅图宠物许可证,应有尽有。
2、UCI 机器学习 库 :网络上最古老的数据集源之一,是寻找有趣的数据集的第一站。虽然这里的数据集是用户贡献的,因此清洁度不一,但绝大多数都是干净的。你可以直接从 UCI 机器学习库下载数据,无需注册。
一般数据集
政府公开数据集
3、Data. gov : 该网站可以从多个美国政府机构下载数据。数据范围从政府预算到学校绩效分数。但请注意:大部分数据有待进一步研究。
4、食物环境地图集 :包含当地食物选择如何影响美国饮食的数据。
5、学校系统财务 :对美国学校系统财务状况的调查。
6、慢性病数据 :美国各地区慢性病指标数据。
7、美国国家教育统计中心 :来自美国和世界各地的教育机构和教育人口统计数据。
8、英国数据服务 :英国最大的社会、经济和人口数据集。
9、Data USA :美国公共数据的全面可视化。
金融与经济
10、Quandl :经济和金融数据很好的数据源,有助于建立预测经济指标或股票价格模型。
11、世界银行开放数据 :涵盖全球人口统计数据和大量经济和发展指标的数据集。
12、 国际货币基金组织 数据 :国际货币基金组织公布的有关国际金融、债务利率、外汇储备、商品价格和投资的数据。
13、金融时报市场数据 :来自世界各地的金融市场最新信息,包括股票价格指数、商品和外汇。
14、 谷歌 趋势 :检查和分析世界各地的互联网搜索活动和热门新闻报道的数据。
15、美国经济协会(AEA) :寻找美国宏观经济数据的良好来源。
机器学习数据集
图像
16、Labelme :带图像标注的大型数据集。
17、ImageNet :业界最新算法图像数据集。根据 WordNet 层次结构进行组织,其中层次结构的每个节点由数百和数千个图像描述。
18、LSUN :有众多辅助任务的场景理解(房间布局估计、特点预测等)
19、MS COCO :通用图像理解和字幕。
20、COIL100 :100 个不同的物体,在 360 度旋转的每个角度成像。
21、视觉基因组 :非常详细的视觉知识库,带有~100K 图像的字幕。
22、谷歌的开放图像 :在知识共享版权下的 900 万个图像网址集合,“超过 6000 个类别标签注释”。
23、Labelled Faces in the Wild :13,000 张人脸标记图像,用于开发人脸识别应用程序。
24、斯坦福狗数据集 :包含 20,580 张图片和 120 种不同的狗品种。
25、室内场景识别 :一种非常特殊的数据集,因为大多数场景识别模型都最好建立在“室外”,这个数据集非常实用。包含 67 个室内类别,总共 15620 张图像。
情绪分析
26、多域情绪分析数据集 :一个有点老旧的数据集,其中包含来自 亚马逊 的产品评论。
~mdredze/datasets/sentiment/
27、IMDB 评论 :一个较旧的,相对较小的二元情绪分类数据集,包含 25,000 个电影评论。
~amaas/data/sentiment/
28、斯坦福情绪树库 :带有情感注释的标准情绪数据集。
29、Sentiment140 :一个流行的数据集,使用 160,000 条预先删除表情符号的推文。
30、 Twitter 美国航空公司情绪 :2015 年 2 月美国航空公司的 Twitter 数据,分类为正面、负面和中性推文。
自然语言处理
31、 安然 数据集 :来自安然高级管理层的电子邮件数据,以文件夹形式分类存放。
~./enron/
32、亚马逊评论 :包含亚马逊 18 年来约 3500 万条评论。数据包括产品和用户信息、评级和明文审核。
33、Google Books Ngrams :Google 图书中的一系列文字。
34、 blogger Corpus :收集了来自 blogger.com 的 681288 篇博文。每个博客至少包含 200 个常用英语单词。
~koppel/BlogCorpus.htm
35、 维基百科 链接数据 :维基百科全文。该数据集包含来自 400 多万篇文章的近 19 亿个单词。你可以按段落、短语或段落本身的一部分进行搜索。
36、Gutenberg 电子书列表 :Project Gutenberg 的电子书注释列表。
37、 加拿大议会 议事录 :来自第 36 届加拿大议会记录的 130 万对文本。
38、Jeopardy :来自有奖竞猜节目 Jeopardy 的超过 200,000 个问题归档。
39、英语短信垃圾邮件集 :由 5574 条英文短信垃圾邮件组成的数据集。
~tiago/smsspamcollection/
40、 Yelp 评论 :Yelp 发布的一个开放数据集,包含超过 500 万条评论。
41、UCI 垃圾邮件集 :一个大型垃圾邮件数据集,对 垃圾邮件过滤 非常有用。
更详细列表:
自动驾驶
42、Berkeley DeepDrive BDD100k :目前是自动驾驶 AI 的最大数据集。包含超过 100000 个视频,包括一天中不同时段和天气条件下超过 1100 小时的驾驶体验。带注释的图像来自纽约和 旧金山 地区。
43、百度 Apolloscapes :大型数据集,定义了 26 种不同的语义项目,如汽车、自行车、行人、建筑物、路灯等。
44、Comma.ai :超过 7 小时的高速公路驾驶数据。细节包括汽车的速度、加速度、转向角和 GPS 坐标。
45、牛津的 机器人汽车 :在英国牛津的同一条路线重复行驶 100 多次、耗时一年多收集的数据集。该数据集包含天气、交通和行人的不同组合,以及建筑和道路工程等长期变化。
46、城市景观数据集 :一个大型数据集,记录 50 个不同城市的城市街景。
47、CSSAD 数据集 :此数据集对于自动驾驶车辆的感知和导航非常有用。但该数据集严重偏向发达国家的道路情况。
48、KUL 比利时 交通标志数据集 :比利时法兰德斯地区数以千计的物理交通标志,有超过 10000 多个交通标志注释。
~timofter/traffic_signs/
49、麻省理工学院实验室 :在 AgeLab 收集的 1000 多个小时多传感器驾驶数据集的样本。
50、LISA :智能和安全汽车实验室,加州大学圣地亚哥分校数据集:该数据集包括交通标志、车辆检测、交通信号灯和轨迹模式。
原文链接: