网络机器人吧社区

机器学习项目实践:30+ 必备数据库(预测模型、图像分类、文本分类)

新智元 2018-11-08 12:44:30

1 新智元编译

来源:analyticsvidhya.com

作者:Kunal Jain

编译:李静怡

新智元启动新一轮大招聘:COO、执行总编、主编、高级编译、主笔、运营总监、客户经理、咨询总监、行政助理等 9 大岗位全面开放。 

简历投递:jobs@aiera.com.cn

HR 微信:13552313024

新智元为COO和执行总编提供最高超百万的年薪激励;为骨干员工提供最完整的培训体系、高于业界平均水平的工资和奖金。

加盟新智元,与人工智能业界领袖携手改变世界。


【新智元导读】有了好的数据,机器学习项目也就成功了一半。希望这份资源清单有助于那些寻找机器学习项目实践的人。对于初学者来说,这绝对是一个金矿。确保你在业余时间选择一些项目,并在上面投入时间和精力,将对你的技术成长大有益处。



大规模通用数据库:从这里入手


data.gov - 这是美国政府开放数据集总部。这些数据集的主题包括气候、教育、能源、金融和更多领域的数据。


data.gov.in - 这是印度政府公开数据库,你可以在这里查找关于印度各行业、气候、医疗保健等数据。同样,稍微改变后缀,就能查看不同地区国家政府的公开数据库,比如


  • 英国:data.gov.uk

  • 澳大利亚:data.gov.au


当然,也并非全世界国家的公开数据库都是“data.gov”加更改后缀就可以了,比如


  • 加拿大:open.canada.ca

  • 中国:data.stats.gov.cn

  • 法国:etalab.gouv.fr

  • 德国:destatis.de


总之,国家公开数据库相关权威标准,是你进行机器学习项目实践的一个不错的选择。


World Bank - 世界银行的公开数据库。该平台提供了好几个工具,比如开放数据目录(Open Data Catalog)、世界发展指数、教育指数等等。


Five Thirty Eight Datasets - 这里是美国偏政治新闻网站 Five Thirty Eight 在他们的文章中使用的数据集。每个数据集里不仅包括了数据,还有解释这些数据的字典,以及相关报道链接。如果你想学习如何创建数据报道,这是你的最佳选择。


大型数据库:机器学习项目必备


Amazon Web Services (AWS) datasets - 亚马逊提供了一些大数据集,可以在他们的平台或你自己的本地计算机上使用。亚马逊上的热门数据集包括完整的 Enron 电子邮件数据集,Google图书 n-gram,NASA NEX 数据集,Million Songs 数据集等等。


Google datasets - Google提供了几个数据集作为其 Big Query 工具的一部分,包括婴儿名字、GitHub公共存储库的数据、所有来自Hacker News的故事和评论等。


Youtube labeled Video Dataset - 几个月前,谷歌发布了YouTube标记的资料集,其中包含800万个YouTube影片ID和4800个视觉实体的相关标签。不仅如此,这个数据集里面还配备了几十亿帧经过预计算的、最先进的视觉feature。


预测模型与机器学习专用数据库


UCI Machine Learning Repository - UCI机器学习库显然是最著名的数据库,也是寻找与机器学习知识库相关数据集最常去的地方之一。该数据集包括从诸如 Iris 和Titanic 等流行数据集,以及诸如空气质量和GPS轨迹等新建的数据集。UCI机器学习库包含超过350个数据集,其标签分类包括域、目的(分类、回归)。你可以使用这些过滤器找到你所需要的数据集。


Kaggle - Kaggle 提出了一个平台,人们可以在这里捐赠数据集,其他社区成员则可以对这些数据集进行投票或在这些数据集上运行内核/脚本。Kaggle共有超过350个数据集,其中,超过200个作为精选数据集(Featured datasets)。 虽然一些数据集跟其他地方有重复,但在这里我也发现了在其他平台没有的一些有趣的数据集。此外,Kaggle 界面的另一个好处是,您可以在同一界面上查看社区成员的脚本和问题。


Analytics Vidhya - 这是我们自己网站的数据集,包括使用问题数据集和黑客马拉松数据集。这里的数据集都是基于现实生活中的行业问题,并且有专为为期2 - 7天的黑客马拉松的相对较小的数据集。虽然关于真实生活中的实际问题数据集哪里都有,但黑客马拉松比赛之后相关数据集就不可再用。所以,你需要参加黑客马拉松,才能获得相关数据集。


Quandl - Quandl 通过其网站/ API或其他一些工具直接集成金融、财经方面的数据,分为Open 和 Premium 两种。其中,所有 Open 数据集都是免费的。


Past KDD - Cup KDD Cup是由ACM知识发现和数据挖掘特别兴趣小组组织举办的年度数据挖掘和知识发现比赛。这里的存档包括数据集和比赛说明。大多数年份的冠军机器数据库都能在这里找到。


Driven Data - 现实世界实际问题数据库,你可以用它来创造积极的社会影响。Driven Data 举行在线模拟竞赛,从而让参赛者开发出最好的模型来解决这些现实问题。如果你有兴趣使用数据科学对社会做贡献,这就是你该去的地方。


图像分类数据库


MNIST 数据库 - 使用手写数字进行图像识别最流行的数据集,包括 6 万个训练样本和 1 万个示例测试集。MNIST数据库是你用作练习图像识别的第一数据集。

 

Chars74K - 这是 MNIST 数据库的下一级,其中几包括一些自然图像中字符识别数据集。Chars74K 数据集包含 7.4 万个图像,这也是该数据集名称的由来。

 

Frontal Face Images - 如果您已经处理过前面的2个项目,并且能够识别数字和字符,那么这里是图像识别中的下一级挑战。这些图像由CMU 和 MIT 整理收集,列在四个文件夹中。

 

ImageNet - 这个数据集想必不用多做介绍,这里简单说一下。ImageNet 是根据 WordNet 层次结构组织的图像数据库(目前只有名词)。每个节点由数百个图像分层次行描绘。刚想治疗术了; 具有每个节点图像平均超过500个图像(并且持续增加中)。


文本分类数据库


Spam - Non-Spam - 一个有趣的数据集,你需要构建一个分类器将 SMS 分类为垃圾邮件或非垃圾邮件。

 

Twitter Sentiment Analysis - 该数据集包含超过 157 万条分类过的推文,正面情绪标记为1,负面情绪标记为0。这些数据基于一项 Kaggle 竞赛建立的,作者是Nick Sanders


Movie Review Data - 提供电影评论文档资料的集合,这些资料根据内容的情绪极性(正面或负面)或主观评价(例如“两颗半星”),以及根据句子的主观性状态(主观或客观 )或极性(polarity)进行了标记。

推荐引擎数据库


MovieLens - 帮人找电影的网站,有上万的注册用户。这些用户会填写 MovieLens 在线问卷,包括自动内容推荐、推荐界面、基于标签的推荐等等。这些数据集可供下载,用于创建你自己的推荐系统。


Jester - 关于在线笑话推荐系统的数据集。


更多数据库资源


KDNuggets - KDNuggets的数据集页面一直是寻找数据集的人的常用参考。这里有一个非常全面的列表,但有些源不再提供数据集。因此,在使用时需要对数据集及源自行判断。

 

Awesome Public Datasets - GitHub 库,包含按域分类的数据集的完整列表。数据集在各个域中被整齐地分类。但是,没有关于库本身的数据集的描述。

 

Reddit 数据集 Subreddit - 由于是社区驱动的论坛,这个数据集可能会相对有一点凌乱(与前两个源相比)。但是,你可以按热门程度或投票排序数据集,以查看最受欢迎的数据集。此外,Reddit 网站上还有一些有趣的关于数据集的讨论。


我希望这份资源清单有助于那些寻找机器学习项目实践的人。对于初学者来说,这绝对是一个金矿。确保你在业余时间选择一些项目,并在上面投入时间和精力,这将对你的技术成长大有益处。


如果你能想到这些数据集的任何其他应用或知道任何其他流行的资源,欢迎在分下面的评论里分享。


编译来源:https://www.analyticsvidhya.com/blog/2016/11/25-websites-to-find-datasets-for-data-science-projects/



新智元招聘


职位  运营总监


职位年薪:36- 50万(工资+奖金)

工作地点:北京-海淀区

所属部门:运营部

汇报对象:COO

下属人数:2人

年龄要求:25 岁 至 35 岁

性别要求:不限

工作年限:3 年以上

语  言:英语6级(海外留学背景优先)


职位描述


  1. 负责大型会展赞助商及参展商拓展、挖掘潜在客户等工作,人工智能及机器人产业方向

  2. 擅长开拓市场,并与潜在客户建立良好的人际关系

  3. 深度了解人工智能及机器人产业及相关市场状况,随时掌握市场动态 

  4. 主动协调部门之间项目合作,组织好跨部门间的合作,具备良好的影响力

  5. 带领团队完成营业额目标,并监控管理项目状况

  6. 负责公司平台运营方面的战略计划、合作计划的制定与实施


岗位要求


  1. 大学本科以上学历,硕士优先,要求有较高英语沟通能力

  2. 3年以上商务拓展经验,有团队管理经验,熟悉商务部门整体管理工作

  3. 对传统全案公关、传统整合传播整体方案、策略性整体方案有深邃见解

  4. 具有敏锐的市场洞察力和精确的客户分析能力、较强的团队统筹管理能力

  5. 具备优秀的时间管理、抗压能力和多任务规划统筹执行能力

  6. 有广泛的TMT领域人脉资源、有甲方市场部工作经验优先考虑

  7. 有媒体广告部、市场部,top20公关公司市场拓展部经验者优先


新智元欢迎有志之士前来面试,更多招聘岗位请访问新智元公众号。


Copyright © 网络机器人吧社区@2017