数据的历史与发展

2022-03-22 16:04:04   来源: 大数据DT

根据《韦氏词典》,数据指的是用作推理、讨论或计算基础的事实信息。

基于这个定义,我们可以进一步得出:数据可以理解为是收集到的任何信息,可以使用、进一步处理和分析以获得见解。而且通常与计算机联系在一起,因为数据通常是在计算机中生成和存储的,然而数据存在的时间比我们想象的要长得多。

一. 数据的历史

人类存储和分析数据的最早例子可以追溯到公元前18000年,当时人们发现史前人类使用计数棒进行初步计算。这些旧石器时代部落的人在木棍和骨头上刻上刻痕,以记录人类的活动,比如交易和监控物资。到公元前2400年,在巴比伦发明出了用于计算的算盘。

纵观历史,数据收集、处理和分析的不断发展是通过石板、粘土、纸莎草、木头和纸卷上的大量文字来体现的。最终,随着更多形式的数据被发现,处理、收集、存储和分析数据的需求也在不断发展。

随着人类社会的进步,对数据处理的要求也越来越高。

19世纪,在美国开始人口普查进行。人口普查中的数据点数量呈指数增长,美国人口普查局估计,收集和分析人口普查中的所有数据需要几年甚至几十年的时间。

这是个很大的问题,因为只有在下一次人口普查即将开始时,才会完成对当前人口普查数据的汇编和分析。

幸运的是,一位名叫赫尔曼·霍勒里斯的年轻工程师和发明家开发了霍勒里斯制表机。这是一种机电式制表机,将收集和分析人口普查数据所需的时间从几年缩短到仅仅几个月。正因为如此,霍勒里思被视为现代自动计算之父,后来因创立IBM而闻名。

快进到20世纪,计算机出现了。随着功能更强大的计算机的出现,对数据存储的要求也越来越高。

德国-奥地利工程师弗里茨·普夫勒默发明了一种在磁带上磁性存储信息的方法。他的一些发明原理至今仍被用于数字数据存储。

在这个时代,“商业智能”一词越来越流行,因为对新兴软件以及用于分析商业和运营绩效的系统的需求迅速增加。

1989年,蒂姆·伯纳斯·李创建了万维网(又称互联网),数据革命发生了真正的变化。这导致了全世界人民之间的自动信息共享。这意味着今天有更多的数据被共享、创建和存储,从而产生了收集、使用和分析数据的新方法。

二. 向“大数据”过渡

由于20世纪90年代互联网的惊人增长以及个人电脑和计算设备的稳定发展,在线设备的数量以及由此产生的数据量迅速增长。

虽然大数据的概念早在20世纪90年代就已经存在,但直到2005年罗杰·穆加拉斯才正式给它贴上标签。他将其描述为"使用传统商业智能工具几乎无法管理和处理的大量数据"。

大数据是一个用来描述大量数据的术语,包括结构化数据和非结构化数据,这些数据每天都会淹没企业。它包括信息量、创建和收集信息的速度,以及所覆盖数据点的种类或范围。

考虑到大数据的规模和复杂性,收集、组织和分析它以发现模式和其他有用信息的过程已经成为帮助许多组织做出商业决策的一部分。这反过来又催生了数据科学——一个跨学科领域,它使用科学方法、流程、算法和系统从大量数据中发现模式,并使商业领袖能够获得见解。

三. 什么是数据科学?

根据IBM的说法,数据科学是一种多学科方法,可以从当今组织收集和创建的大量且不断增加的数据中提取可操作的见解。

该领域通常需要计算机科学和纯科学技能,因为数据科学家在其方法中应用科学方法,并使用预测分析和人工智能从数据中提取见解。

如今,“数据科学”经常被企业和组织用作处理大量数据的通用术语,无论是准备、清理、分析数据还是可视化数据以揭示模式。

以下我们列出了可从事的七种数据相关职业:

1. 数据科学家

数据科学家需要能够应用数学、统计学和科学方法。

使用多种工具和技术来清理和准备数据;进行预测分析和人工智能;并解释如何利用这些结果来为商业问题提供数据驱动的解决方案。数据科学家需要的技能比数据分析师多得多。

2. 数据分析师

数据分析师收集、处理和执行统计数据分析,为组织得出有意义的结论。

数据分析师将大型数据集转化并处理成可用的形式,如报告或演示。他们还通过研究重要的模式来帮助决策过程,并从数据中收集洞察力,然后有效地传达给组织领导,以帮助商业决策。

3. 数据工程师

数据工程师负责准备、处理和管理收集和存储的数据,用于分析或操作用途。

像传统的工程师一样,数据工程师建立和维护数据 "管道",将数据从一个系统连接到另一个系统,使数据科学家能够获得信息。正因为如此,数据工程师被要求了解数据科学中使用的几种编程语言,如Python、R和SQL。

4. 数据架构师

数据架构师主要是设计和创建数据管理系统的蓝图,然后由数据工程师建立。

类似于传统的建筑师,数据架构师是 "远见者",因为他们负责可视化和设计一个组织的数据管理框架。此外,数据架构师改善现有系统的性能,确保数据库管理员和分析师能够使用这些系统。

5. 商业智能(BI)开发人员

商业智能开发者是专门的工程师,他们使用软件工具将数据转化为有用的见解,以帮助商业决策。

他们负责简化技术信息,让公司里的其他人都能轻松理解。简而言之,他们创建和运行包含他们使用商业智能工具找到的数据的报告,并将信息转化为更通俗的术语。

6. 统计员

鉴于统计学是数据科学的主要基础之一,许多统计学家可以轻松地过渡到数据科学领域。

统计学家主要负责数据的收集和处理。他们决定需要什么数据以及如何收集数据。此外,他们设计实验,分析和解释数据,并报告结论。

7. 机器学习工程师

机器学习工程师是另一组专业工程师,他们专注于研究、构建和设计人工智能和机器学习系统,以实现预测模型的自动化。

基本上,他们开发的算法使用输入数据并利用统计模型预测输出,同时在新数据可用时不断更新输出。

下面我们看看以上这些数据科学职业的最受欢迎程度。下图显示了2021年12月8日美国的职位空缺情况。

数据架构师是最受欢迎的数据科学职业道路,因为他们在创建其他数据科学专业人员随后使用的数据管理系统方面非常重要。

接下来是机器学习工程师,考虑到利用人工智能预测许多科技公司结果的重要性。

需求最少的是统计人员,主要是因为许多传统的统计学家现在正在成为数据科学家。统计学家从纯统计学转向数据科学相对简单是,他们已经拥有成为一名成熟的数据科学家所需的基础知识。

四. 数据科学的发展速度并不慢

毫无疑问,数据科学如今非常流行,但更好的问题是,它在未来还会如此流行吗?根据就业预测,情况似乎的确如此。

美国劳工统计局2020-2030就业预测的数据显示,数据科学职业,包括统计学、数据科学以及数据工程等其他基于数学和科学的职业,从2020年到2030年的百分比变化来看,将呈现出非常高的增长率。统计学家总体排名第14位,而数据科学家和其他数学科学职业在数据中包含的790个职位中总体排名第31位。

尽管统计学家和数据科学家在总劳动力中所占的份额与其他职业相比很小,但随着数据科学职业道路变得越来越流行,这些数字预计将在未来几年增加。

下图显示了统计学家、数据科学家和其他数学科学职业与其他预计增长率较高的职业的对比情况。

五. 当之无愧的高收入职业

数据相关职业备受欢迎的一个主要原因在于其收入高。

下图显示了纽约市10种不同职业--包括数据科学家和数据分析师的工资范围。这些数据来自Teleport,该网站汇总了不同城市的生活条件,如工资的数据。

根据Teleport的数据,数据科学家的年薪中位数在纽约市排名第四,为114105美元,仅次于企业高管和医护人员。事实上,在马尼拉等其他一些城市,数据科学家的排名高达第二,仅次于企业高管。

数据分析师的薪资也很可观,数据分析师的年薪中位数为61818美元,仍然相当于纽约市的平均家庭收入。

六. 就业市场不断增长

数据科学受欢迎的另一个主要原因是,如今的企业将数据科学的原理整合到日常运作中。下图显示了工作中涉及数据科学的前10个行业,其中涉及到8000家公司的样本数据。

毫不奇怪,包括谷歌、苹果和优步等科技公司占据了榜首。毕竟,大数据的激增是由互联网的诞生引起的,互联网与软件和技术密切相关。数据科学实际上是使用各种工具和技术处理大量信息。

接下来是金融服务公司,这是金融科技公司崛起带来的。作为“金融”和“技术”的门户,金融科技公司将技术和创新整合到其服务和产品中,以改善其对客户的交付,扰乱传统金融服务。由于它涉及处理大量数据,如客户信息,金融服务公司看到了数据科学工具的潜力,可以帮助简化和优化流程,改进服务。

七. 结语

数据科学是一条非常有发展的职业道路,而且没有放缓的迹象。在未来的许多年里,它将继续塑造和影响企业和组织的运作方式。

至于你应该走哪条特定的数据科学职业道路,这主要取决于你的个人优势和总体兴趣。重要的是,上述任何职业都是值得的。

关键词: 数据的历史 事实信息 分析数据 人口普查局

精彩阅读

数据的历史与发展

大数据

根据《韦氏词典》,数据指的是用作推理、讨论或计算基础的事实信息。基于这个定义,我们可以进一步得出:数据可以理解为是收集到的任何信息

【数据分析】如何增强客户忠诚度?

大数据

《纽约时报》畅销书《销售圣经》的作者Jeffrey Gitomer撰写了另一本著作,其名称为《客户满意一文不值,客户忠诚至尊无价》。在这本书中,

“错换人生28年”涉事夫妇故意换子?警方:不予立案

大数据

  中新网4月21日电 河南开封市公安局鼓楼分局官方微博21日发布情况通报称,2021年3月15日,“错换人生28年”事件当事人许某委托其表弟王

中东部地区有大范围降水 江淮江南广西等地局地有大雨

大数据

  中新网4月21日电 据中央气象台网站消息,21日至22日白天,西北地区东南部、华北中南部、黄淮、江汉、江淮、江南西部和北部、华南西部

出门带伞!北京小雨光顾气温降 市民出行需添衣

大数据

  出门带伞!今日北京小雨光顾气温降 市民出行需添衣  中国天气网讯 预计今明两天(4月21日至22日),北京天空的云量将会增多,气温下

91位捐献遗体新冠肺炎患者:他们的名字永远留在武汉

大数据

  武汉特殊的91个名字  一年前,91个中国人以捐献遗体的方式“在至暗时刻迈出勇敢一步”, 帮助世人认识了新冠肺炎的发生发展机理,永

600多只海龟曾被非法出售 他们帮涉案海龟找回野性

大数据

  一只寄养在北京工体富国海底世界的涉案海龟。 中青报·中青网记者 魏晞 摄  2019年3月的一天,江苏徐州警方正在一名犯罪嫌疑人的办

当捐款成为习惯 这位老北漂只留给自己“六平方米”

大数据

  留给自己六平方米  攒够200元也不是一件易事,作为一名在街头流动的理发师,刘易理一次发10元,这意味着他至少要给20个人理发。有时

云南省新增本土确诊病例2例

大数据

  中新网4月21日电 据云南省卫健委网站消息,4月20日0时至24时,云南省新增本土确诊病例2例,为瑞丽市重点人群核酸检测中发现。确诊病例

发展学前教育 提升教育质量

大数据

  发展学前教育 提升教育质量  加大各类幼儿园建设,推进学前教育多元化,优先照顾有困难的家庭儿童……不少国家采取多项措施,努力提

财富

大数据时代,如何保护个人信息?

资讯

一、大数据时代个人隐私数据泄露已成为全球重大的社会问题随着信息技术的飞速发展,数据化生存已逐渐成为人类社会运行的常态,数据在公共管

3月LPR报价公布:1年期3.7%5年期以上4.6%

资讯

3月LPR(贷款市场报价利率)如期公布。3月21日,中国人民银行授权全国银行间同业拆借中心公布,2022年3月21日LPR):1年期为3 7%,5年期以上为

郭明錤:iPhone14系列“新瓶旧酒”是一种营销策略

资讯

郭明錤认为,iPhone 14系列新瓶旧酒的做法,其实是一种营销策略和财务导向的决策。3月20日消息,天风国际分析师郭明錤在社交媒体表示,iPh

猝不及防!比亚迪、小鹏等车企宣布涨价

资讯

这波新能源汽车涨价潮让人猝不及防。比亚迪、小鹏等车企宣布涨价之后,昨晚也在官网宣布,将对在售车型价格进行调整,综合补贴后售价上调幅

特斯拉推送四大新功能:空调功能更新、新增语言支持

资讯

近日,特斯拉推送了2022 8 2版本OTA升级,带来了四大新功能,包括空调功能更新、更加精准的预计充电时间、正在进行的通话更新、以及新增语

企业:做电商专供家电是为了渠道差异化

资讯

在嗅觉敏锐的华强北商人眼中,食品正在成为这里的新标签。3月2日,时代财经来到深圳华强北实地探访发现,华强北的几大主要商场如今都已有了

做不做高端,厨电企业摁下“高端键”背后有何深意?

资讯

中国人对厨房和烹饪的关注历史是源远流长的,一张餐桌的背后演绎着国民经济的发展脉络,也展示着居民生活水平的不断提高,而对于厨电企业而

清洁电器行业又迎来新品类,如何布局?

资讯

继洗地机之后,清洁电器行业又迎来了一个新品类。近期,中国家电网记者注意到了某品牌推出了一款名为多功能蒸汽清洁器的产品,据了解该产品

废旧家电回收体系亟待完善

资讯

我国家电行业已从增量市场转为存量市场,家电保有量已超过21亿台。如今我国家电需求以换新为主,每销售一台家电新品就要处理一台废旧电器,

安吉尔净水机滤芯货不对板,厂家同意三倍赔偿

资讯

此前齐鲁晚报·齐鲁壹点报道《巩俐代言安吉尔净水机,用户三年后发现RO膜非原厂》之后,记者报道安吉尔方面松口与用户协商。13日,记者了解

诈骗、灰产、荷尔蒙,畸形生态下养活的陌陌、探探和Soul

交友软件充斥着骗局、“杀猪盘”,也让用户的试探性交流成为常态。

教你如何摘取区块链中的明珠 - 智能合约

从目前最为基础的eth生态来说,智能合约就是基于区块链的可直接控制数字资产的程序。

科技活动中的“领域变迁”和“关键变迁”

科技发展过程中,常有“领域变迁”的问题。

“数字员工”已悄然登场,将带来怎样一场变革?

随着信息技术的发展,特别是人工智能、虚拟现实等新技术的不断迭代更新,各行各业开始探索虚拟数字人的应用场景。

数字经济的内涵、界定和各国规模测算

数字经济是随着蓬勃发展、不断演进的数字技术而产生的新经济形态。

为户外劳动者提供便利 重庆已建成665座“劳动者港湾”

  中新网重庆4月22日电 (韩璐 王雪宇)记者22日从重庆市城市管理局获悉,2020年重庆市已建成“劳动者港湾”665座。今年,重庆还将继续建

沈阳警方侦破特大贩卖毒品案 抓获88名涉毒违法犯罪嫌疑人

  中新社沈阳4月22日电 (王景巍)沈阳市公安局22日发布消息,近日,在中国公安部和辽宁省公安厅的指导协调下,历经9个多月,沈阳市公安局

上海警方侦破特大制售假普洱茶案 市场价值高达18亿元

  中新网上海4月22日电 (记者 李姝徵)记者22日从上海警方获悉,2021年3月,上海警方全链条侦破一起销售假冒知名品牌普洱茶案,捣毁制售

西安强化知识产权司法保护 商标权案件占比高

  中新网西安4月22日电 (记者 张一辰)在世界知识产权日即将到来之际,西安市中级人民法院(以下简称:西安中院)22日召开新闻发布会,发

今年5月至明年2月底 江西4A级及以上景区对全国学子免门票

  中新网南昌4月22日电 (记者 李韵涵)记者22日从“红五月·嘉游赣”江西五一假日旅游工作媒体吹风会上获悉,2021年5月1日至2022年2月28

福州乡村公益图书馆:图书“接地气” 门口即是农田

  中新网福州4月22日电 (叶秋云 曾路淇)世界读书日即将来临之际,驾车五十余分钟,记者来到距离福建省福州市30多公里的闽侯县白沙镇马