大数据国内外研究现状

首先，从技术体系结构上来看，当前的大数据技术已经趋于成熟了，在数据存储、数据分析、数据呈现和数据应用等方面，已经形成了一整套技术框架，相关的技术生态也在不断完善当中。当前大型科技公司也开始逐渐形成自己的大数据平台，不同平台也都有自身的技术特点，总的来说，当前在技术上已经为大数据的行业应用创新奠定了基础。从大数据的生态体系来看，大数据领域的产业链正在逐渐形成和完善，行业内逐渐形成了一定的行业分工，比如有的公司专注于数据采集，有的公司专注于数据分析，有的公司专注于数据应用等等，这种产业链的丰富和发展将为大数据的落地应用奠定一个扎实的基础。当然，从大数据自身的发展空间来看，当前的大数据产业链还远没有成熟，在大数据的落地应用过程中，依然还需要一大批具有行业垂直能力的大数据企业，这也为众多创业者在大数据领域创业奠定了基础。从大数据当前的落地应用情况来看，当前的大数据落地应用依然处在初期阶段，虽然大数据的落地应用有巨大的空间和潜力，但是也有很多制约大数据落地应用的因素，这些因素可以总结为三点，其一是基础信息系统；其二是大数据建设成本过高；其三是大数据人才短缺。以产业领域为例，大数据未来在产业领域的应用场景非常大，产业领域也确实有大量的场景需要使用大数据，但是大数据要想在产业领域落地，首先就要解决如何通过大数据为产业领域的发展，带来新的价值增量。大数据在产业领域的落地应用，往往需要企业从上云开始，基于云计算来完成企业众多资源的整合，同时基于云计算来完成大数据应用的落地。所以说，企业要想全面打开大数据的价值空间，首先要考虑云计算平台的搭建，从这个角度来看，大数据方案的落地是一个系统且复杂的过程，不仅仅需要技术方案，同时还需要管理方案。实际上，从当前大数据的行业应用情况来看，制约当前大数据落地应用的核心问题已经不是技术问题了，而是企业的管理问题，企业能不能打造，或者认可大数据的价值体系，是大数据在行业落地应用的关键问题之一。从大数据的发展前景来看，大数据的发展前景还是非常广阔的，一方面大数据自身能够打造出一个庞大的价值空间，而且大数据的价值体系具有非常大的成长性，在互联网从消费互联网发展到产业互联网阶段时，大数据的价值会得到越来越多的体现。另一方面，大数据当前被列入到“新基建”计划，这能够为大数据带来更强的资源整合能力，从而全面推动大数据的落地应用。最后，对于当前的大学生、职场人和创业者来说，在当前的网络化时代，掌握一定的大数据技术还是很有必要的，对于大学生来说，掌握大数据能够提升自身的就业竞争力，对于职场人来说，掌握大数据能够提升自身的职场价值，同时会为职场人打开新的发展空间，而对于创业者来说，如果能够抓住大数据时代的发展红利，能够获得更快的发展速度。我从事互联网行业多年，目前也在带计算机专业的研究生，主要的研究方向集中在大数据和人工智能领域，我会陆续写一些关于互联网技术方面的文章，感兴趣的朋友可以关注我，相信一定会有所收获。如果有互联网、大数据、人工智能等方面的问题，或者是考研方面的问题，都可以在评论区留言，或者私信我！

这既是国家级，又是世界级的研究所：中国与联合国将在杭州建立大数据研究所！据新华社报道，这是联合国机构首次与相关国家合作建立大数据研究所；这一项目选址杭州，在于充分发挥中国相关地方政府和企业在大数据领域的先发和引领优势，重点聚焦新技术、新产业、新业态，更好服务于经济和社会发展。大数据是数据集合，以容量大、类型多、存取速度快、应用价值高为主要特征；大数据的集合过程，就是对来源分散、数量巨大、格式多样的数据进行采集、存储，并进行关联分析，从而发现新知识、创造新价值、提升新能力。大数据时代，正是从“人人互联”逐步延展至“人机交互”“物物相联”，发展空间无限广大。杭州的大数据领域，具有先发和引领优势，大数据研发的底层土壤比较深厚。跨行业、跨领域的大数据资源开发，唤醒了越来越多“沉睡”的数据，累积了层出不穷的新数据。一方面，大数据服务于企业，海量的数据已经成为企业最具价值的财富，发展“数字经济”已成共识，大数据技术的应用场景也越来越广泛。比如电商领头羊阿里巴巴，从市场营销到平台设计，从市场预测到决策支持，从效能提升到运营管理，从云计算到人工智能，大数据发挥着重要的支撑作用。另一方面，大数据开始蔓延到社会的各个领域，让城市越来越智慧，协助解决交通、消防、警务、医疗、城管等群众最关切的“难点”“痛点”。对于大数据的研究，是世界性的必需和必然。如何加强关键技术研发、强化数据治理？如何参与并促进全球数据创新？“数字革命”如何推进？核心技术生态圈如何构建？随着可获取的数字资源的大爆炸，用作分析大数据的技术工具该如何发展、跟上步伐？5G时代的到来，将会给大数据带来怎样的变革？还有，如何保障大数据的安全？等等等等，很多既宏观又具体的论题需要深入研究。不研究，无进步；不应用，无发展。大数据是真正的人类好资源、国家好土壤。大数据的研究和发展，要追求范式的进步。在创建一个数据库的过程中，必须依照一定的准则，这些准则即为范式，从第一范式到第二范式再到第三范式、第四范式……范式的迭代就是创新与进步。至于数据应用和数据共享，则需要更大的突破。比如医疗领域的数据量巨大，数据类型复杂，包括临床数据、影像数据、病历数据、检验检查数据、诊疗费用数据等等，如果合理利用好这些数据，来支持临床决策、帮助远程治疗病人、促进药品研发等等，那一定是人类的健康福音。如今，大数据的研究与发展过程中，最大的“瓶颈”问题其实是大数据人才短缺的问题。相关数据显示，大数据领域正面临全球性的“人才荒”：去年，美国的大数据人才和高级分析专家缺口高达19万，其企业界与大数据相关的管理人才则缺口150万；而我国目前大数据人才仅46万，未来3到5年内大数据人才的缺口将高达156万！赢得人才，就赢得先机。所以，为了更好地研究大数据、更快地发展大数据，最为迫切的就是更多更好地吸引和培养大数据人才。

中国特色社会主义进入新时代，实现中华民族伟大复兴的中国梦开启新征程。党中央决定实施国家大数据战略，吹响了加快发展数字经济、建设数字中国的号角。习近平总书记在十九届中共中央政治局第二次集体学习时的重要讲话中指出：“大数据是信息化发展的新阶段”，并做出了“推动大数据技术产业创新发展、构建以数据为关键要素的数字经济、运用大数据提升国家治理现代化水平、运用大数据促进保障和改善民生、切实保障国家数据安全”的战略部署，为我国构筑大数据时代国家综合竞争新优势指明了方向！今天，我拟回顾大数据的发端、发展和现状，研判大数据的未来趋势，简述我国大数据发展的态势，并汇报我对信息化新阶段和数字经济的认识，以及对我国发展大数据的若干思考和建议。—— 十三届全国人大常委会专题讲座第十四讲01大数据的发端与发展 从文明之初的“结绳记事”，到文字发明后的“文以载道”，再到近现代科学的“数据建模”，数据一直伴随着人类社会的发展变迁，承载了人类基于数据和信息认识世界的努力和取得的巨大进步。然而，直到以电子计算机为代表的现代信息技术出现后，为数据处理提供了自动的方法和手段，人类掌握数据、处理数据的能力才实现了质的跃升。信息技术及其在经济社会发展方方面面的应用（即信息化），推动数据（信息）成为继物质、能源之后的又一种重要战略资源。“大数据”作为一种概念和思潮由计算领域发端，之后逐渐延伸到科学和商业领域。大多数学者认为，“大数据”这一概念最早公开出现于1998年，美国高性能计算公司SGI的首席科学家约翰·马西（John Mashey）在一个国际会议报告中指出：随着数据量的快速增长，必将出现数据难理解、难获取、难处理和难组织等四个难题，并用“Big Data（大数据）”来描述这一挑战，在计算领域引发思考。2007年，数据库领域的先驱人物吉姆·格雷（Jim Gray）指出大数据将成为人类触摸、理解和逼近现实复杂系统的有效途径，并认为在实验观测、理论推导和计算仿真等三种科学研究范式后，将迎来第四范式——“数据探索”，后来同行学者将其总结为“数据密集型科学发现”，开启了从科研视角审视大数据的热潮。2012年，牛津大学教授维克托·迈尔-舍恩伯格（Viktor Mayer-Schnberger）在其畅销著作《大数据时代（Big Data：A Revolution That Will Transform How We Live，Work，and Think）》中指出，数据分析将从“随机采样”、“精确求解”和“强调因果”的传统模式演变为大数据时代的“全体数据”、“近似求解”和“只看关联不问因果”的新模式，从而引发商业应用领域对大数据方法的广泛思考与探讨。大数据于2012、2013年达到其宣传高潮，2014年后概念体系逐渐成形，对其认知亦趋于理性。大数据相关技术、产品、应用和标准不断发展，逐渐形成了包括数据资源与API、开源平台与工具、数据基础设施、数据分析、数据应用等板块构成的大数据生态系统，并持续发展和不断完善，其发展热点呈现了从技术向应用、再向治理的逐渐迁移。经过多年来的发展和沉淀，人们对大数据已经形成基本共识：大数据现象源于互联网及其延伸所带来的无处不在的信息技术应用以及信息技术的不断低成本化。大数据泛指无法在可容忍的时间内用传统信息技术和软硬件工具对其进行获取、管理和处理的巨量数据集合，具有海量性、多样性、时效性及可变性等特征，需要可伸缩的计算体系结构以支持其存储、处理和分析。大数据的价值本质上体现为：提供了一种人类认识复杂系统的新思维和新手段。就理论上而言，在足够小的时间和空间尺度上，对现实世界数字化，可以构造一个现实世界的数字虚拟映像，这个映像承载了现实世界的运行规律。在拥有充足的计算能力和高效的数据分析方法的前提下，对这个数字虚拟映像的深度分析，将有可能理解和发现现实复杂系统的运行行为、状态和规律。应该说大数据为人类提供了全新的思维方式和探知客观规律、改造自然和社会的新手段，这也是大数据引发经济社会变革最根本性的原因。02大数据的现状与趋势全球范围内，研究发展大数据技术、运用大数据推动经济发展、完善社会治理、提升政府服务和监管能力正成为趋势。下面将从应用、治理和技术三个方面对当前大数据的现状与趋势进行梳理。一、已有众多成功的大数据应用，但就其效果和深度而言，当前大数据应用尚处于初级阶段，根据大数据分析预测未来、指导实践的深层次应用将成为发展重点。按照数据开发应用深入程度的不同，可将众多的大数据应用分为三个层次。第一层，描述性分析应用，是指从大数据中总结、抽取相关的信息和知识，帮助人们分析发生了什么，并呈现事物的发展历程。如美国的DOMO公司从其企业客户的各个信息系统中抽取、整合数据，再以统计图表等可视化形式，将数据蕴含的信息推送给不同岗位的业务人员和管理者，帮助其更好地了解企业现状，进而做出判断和决策。第二层，预测性分析应用，是指从大数据中分析事物之间的关联关系、发展模式等，并据此对事物发展的趋势进行预测。如微软公司纽约研究院研究员David Rothschild通过收集和分析赌博市场、好莱坞证券交易所、社交媒体用户发布的帖子等大量公开数据，建立预测模型，对多届奥斯卡奖项的归属进行预测。2014和2015年，均准确预测了奥斯卡共24个奖项中的21个，准确率达87.5%。第三层，指导性分析应用，是指在前两个层次的基础上，分析不同决策将导致的后果，并对决策进行指导和优化。如无人驾驶汽车分析高精度地图数据和海量的激光雷达、摄像头等传感器的实时感知数据，对车辆不同驾驶行为的后果进行预判，并据此指导车辆的自动驾驶。当前，在大数据应用的实践中，描述性、预测性分析应用多，决策指导性等更深层次分析应用偏少。一般而言，人们做出决策的流程通常包括：认知现状、预测未来和选择策略这三个基本步骤。这些步骤也对应了上述大数据分析应用的三个不同类型。不同类型的应用意味着人类和计算机在决策流程中不同的分工和协作。例如：第一层次的描述性分析中，计算机仅负责将与现状相关的信息和知识展现给人类专家，而对未来态势的判断及对最优策略的选择仍然由人类专家完成。应用层次越深，计算机承担的任务越多、越复杂，效率提升也越大，价值也越大。然而，随着研究应用的不断深入，人们逐渐意识到前期在大数据分析应用中大放异彩的深度神经网络尚存在基础理论不完善、模型不具可解释性、鲁棒性较差等问题。因此，虽然应用层次最深的决策指导性应用，当前已在人机博弈等非关键性领域取得较好应用效果，但是，在自动驾驶、政府决策、军事指挥、医疗健康等应用价值更高，且与人类生命、财产、发展和安全紧密关联的领域，要真正获得有效应用，仍面临一系列待解决的重大基础理论和核心技术挑战。在此之前，人们还不敢、也不能放手将更多的任务交由计算机大数据分析系统来完成。这也意味着，虽然已有很多成功的大数据应用案例，但还远未达到我们的预期，大数据应用仍处于初级阶段。未来，随着应用领域的拓展、技术的提升、数据共享开放机制的完善，以及产业生态的成熟，具有更大潜在价值的预测性和指导性应用将是发展的重点。二、大数据治理体系远未形成，特别是隐私保护、数据安全与数据共享利用效率之间尚存在明显矛盾，成为制约大数据发展的重要短板，各界已经意识到构建大数据治理体系的重要意义，相关的研究与实践将持续加强。随着大数据作为战略资源的地位日益凸显，人们越来越强烈地意识到制约大数据发展最大的短板之一就是：数据治理体系远未形成，如数据资产地位的确立尚未达成共识，数据的确权、流通和管控面临多重挑战；数据壁垒广泛存在，阻碍了数据的共享和开放；法律法规发展滞后，导致大数据应用存在安全与隐私风险；等等。如此种种因素，制约了数据资源中所蕴含价值的挖掘与转化。其中，隐私、安全与共享利用之间的矛盾问题尤为凸显。一方面，数据共享开放的需求十分迫切。近年来人工智能应用取得的重要进展，主要源于对海量、高质量数据资源的分析和挖掘。而对于单一组织机构而言，往往靠自身的积累难以聚集足够的高质量数据。另外，大数据应用的威力，在很多情况下源于对多源数据的综合融合和深度分析，从而获得从不同角度观察、认知事物的全方位视图。而单个系统、组织的数据往往仅包含事物某个片面、局部的信息，因此，只有通过共享开放和数据跨域流通才能建立信息完整的数据集。然而，另一方面，数据的无序流通与共享，又可能导致隐私保护和数据安全方面的重大风险，必须对其加以规范和限制。例如，鉴于互联网公司频发的、由于对个人数据的不正当使用而导致的隐私安全问题，欧盟制定了“史上最严格的”数据安全管理法规《通用数据保护条例》（General Data Protection Regulation，GDPR），并于2018年5月25日正式生效。《条例》生效后，Facebook和谷歌等互联网企业即被指控强迫用户同意共享个人数据而面临巨额罚款，并被推上舆论的风口浪尖。2020年1月1日，被称为美国“最严厉、最全面的个人隐私保护法案”——《加利福利亚消费者隐私法案》（CCPA）将正式生效。CCPA规定了新的消费者权利，旨在加强消费者隐私权和数据安全保护，涉及企业收集的个人信息的访问、删除和共享，企业负有保护个人信息的责任，消费者控制并拥有其个人信息，这是美国目前最具典型意义的州隐私立法，提高了美国保护隐私的标准。在这种情况下，过去利用互联网平台中心化搜集用户数据，实现平台化的精准营销的这一典型互联网商业模式将面临重大挑战。我国在个人信息保护方面也开展了较长时间的工作，针对互联网环境下的个人信息保护，制定了《全国人民代表大会常务委员会关于加强网络信息保护的决定》《电信和互联网用户个人信息保护规定》《全国人民代表大会常务委员会关于维护互联网安全的决定》和《消费者权益保护法》等相关法律文件。特别是2016年11月7日，全国人大常委会通过的《中华人民共和国网络安全法》中明确了对个人信息收集、使用及保护的要求，并规定了个人对其个人信息进行更正或删除的权利。2019年，中央网信办发布了《数据安全管理办法（征求意见稿）》，向社会公开征求意见，明确了个人信息和重要数据的收集、处理、使用和安全监督管理的相关标准和规范。相信这些法律法规将在促进数据的合规使用、保障个人隐私和数据安全等方面发挥不可或缺的重要作用。然而，从体系化、确保一致性、避免碎片化考虑，制订专门的数据安全法、个人信息保护法是必要的。但我们也应看到，这些法律法规也将在客观上不可避免地增加数据流通的成本、降低数据综合利用的效率。如何兼顾发展和安全，平衡效率和风险，在保障安全的前提下，不因噎废食，不对大数据价值的挖掘利用造成过分的负面影响，是当前全世界在数据治理中面临的共同课题。近年来，围绕大数据治理这一主题及其相关问题，国际上已有不少成功的实践和研究探索工作，诸如在国家层面推出的促进数据共享开放、保障数据安全和保护公民隐私的相关政策和法规，针对企业机构的数据管理能力评估和改善，面向数据质量保证的方法与技术，促进数据互操作的技术规范和标准等。然而，考察当前的研究和实践，仍存在三个方面的主要问题。1、大数据治理概念的使用相对“狭义”，研究和实践大都以企业组织为对象，仅从个体组织的角度考虑大数据治理的相关问题，这与大数据跨界流动的迫切需求存在矛盾，限制了大数据价值的发挥。2、现有研究实践对大数据治理内涵的理解尚未形成共识，不同研究者从流程设计、信息治理和数据管理应用等不同视角，给出了大数据治理的不同定义，共识的形成尚有待时日！3、大数据治理相关的研究实践多条线索并行，关联性、完整性和一致性不足。诸如，国家层面的政策法规和法律制定等较少被纳入大数据治理的视角；数据作为一种资产的地位仍未通过法律法规予以确立，难以进行有效的管理和应用；大数据管理已有不少可用技术与产品，但还缺乏完善的多层级管理体制和高效管理机制；如何有机结合技术与标准，建立良好的大数据共享与开放环境仍需要进一步探索。缺少系统化设计，仅仅在已有的相关体系上进行扩展和延伸，可能会导致数据治理的“碎片化”和一致性缺失等等。当前，各界已经普遍认识到了大数据治理的重要意义，大数据治理体系建设已经成为大数据发展重点，但仍处在发展的雏形阶段，推进大数据治理体系建设将是未来较长一段时间内需要持续努力的方向。三是数据规模高速增长，现有技术体系难以满足大数据应用的需求，大数据理论与技术远未成熟，未来信息技术体系将需要颠覆式创新和变革。近年来，数据规模呈几何级数高速成长。据国际信息技术咨询企业国际数据公司（IDC）的报告，2020年全球数据存储量将达到44ZB（1021），到2030年将达到2500ZB。当前，需要处理的数据量已经大大超过处理能力的上限，从而导致大量数据因无法或来不及处理，而处于未被利用、价值不明的状态，这些数据被称为“暗数据”。据国际商业机器公司（IBM）的研究报告估计，大多数企业仅对其所有数据的1%进行了分析应用。近年来，大数据获取、存储、管理、处理、分析等相关的技术已有显著进展，但是大数据技术体系尚不完善，大数据基础理论的研究仍处于萌芽期。首先，大数据定义虽已达成初步共识，但许多本质问题仍存在争议，例如：数据驱动与规则驱动的对立统一、“关联”与“因果”的辩证关系、“全数据”的时空相对性、分析模型的可解释性与鲁棒性等；其次，针对特定数据集和特定问题域已有不少专用解决方案，是否有可能形成“通用”或“领域通用”的统一技术体系，仍有待未来的技术发展给出答案；再次，应用超前于理论和技术发展，数据分析的结论往往缺乏坚实的理论基础，对这些结论的使用仍需保持谨慎态度。推演信息技术的未来发展趋势，较长时期内仍将保持渐进式发展态势，随技术发展带来的数据处理能力的提升将远远落后于按指数增长模式快速递增的数据体量，数据处理能力与数据资源规模之间的“剪刀差”将随时间持续扩大，大数据现象将长期存在。在此背景下，大数据现象倒逼技术变革，将使得信息技术体系进行一次重构，这也带来了颠覆式发展的机遇。例如，计算机体系结构以数据为中心的宏观走向和存算一体的微观走向，软件定义方法论的广泛采用，云边端融合的新型计算模式等；网络通信向宽带、移动、泛在发展，海量数据的快速传输和汇聚带来的网络的Pb/s级带宽需求，千亿级设备联网带来的Gb/s级高密度泛在移动接入需求；大数据的时空复杂度亟需在表示、组织、处理和分析等方面的基础性原理性突破，高性能、高时效、高吞吐等极端化需求呼唤基础器件的创新和变革；软硬件开源开放趋势导致产业发展生态的重构；等等。03大数据与数字经济大数据是信息技术发展的必然产物，更是信息化进程的新阶段，其发展推动了数字经济的形成与繁荣。信息化已经历了两次高速发展的浪潮，始于上世纪80年代，随个人计算机大规模普及应用所带来的以单机应用为主要特征的数字化（信息化1.0），及始于上世纪90年代中期，随互联网大规模商用进程所推动的以联网应用为主要特征的网络化（信息化2.0）。当前，我们正在进入以数据的深度挖掘和融合应用为主要特征的智能化阶段（信息化3.0）。在“人机物”三元融合的大背景下，以“万物均需互联、一切皆可编程”为目标，数字化、网络化和智能化呈融合发展新态势。在信息化发展历程中，数字化、网络化和智能化是三条并行不悖的主线。数字化奠定基础，实现数据资源的获取和积累；网络化构建平台，促进数据资源的流通和汇聚；智能化展现能力，通过多源数据的融合分析呈现信息应用的类人智能，帮助人类更好地认知复杂事物和解决问题。信息化新阶段开启的另一个重要表征是信息技术开始从助力经济发展的辅助工具向引领经济发展的核心引擎转变，进而催生一种新的经济范式—“数字经济”。数字经济是指以数字化知识和信息为关键生产要素、以现代信息网络为重要载体、以信息通信技术的有效使用为效率提升和经济结构优化的重要推动力的一系列经济活动，是以新一代信息技术和产业为依托，继农业经济、工业经济之后的新经济形态。从构成上看，农业经济属单层结构，以农业为主，配合以其他行业，以人力、畜力和自然力为动力，使用手工工具，以家庭为单位自给自足，社会分工不明显，行业间相对独立；工业经济是两层结构，即提供能源动力和行业制造设备的装备制造产业，以及工业化后的各行各业，并形成分工合作的工业体系。数字经济则可分为三个层次：提供核心动能的信息技术及其装备产业、深度信息化的各行各业以及跨行业数据融合应用的数据增值产业。当前，数字经济正处于成型展开期，将进入信息技术引领经济发展的爆发期、黄金期！从另一个视角来看，如果说过去20多年，互联网高速发展引发了一场社会经济的“革命”，深刻地改变了人类社会，现在可以看到，互联网革命的上半场已经结束。上半场的主要特征是“2C”（面向最终用户），主战场是面向个人提供社交、购物、教育、娱乐等服务，可称为“消费互联网”。而互联网革命的下半场正在开启，其主要特征将是“2B”（面向组织机构），重点在于促进供给侧的深刻变革，互联网应用将面向各行业，特别是制造业，以优化资源配置、提质增效为目标，构建以工业物联为基础和工业大数据为要素的工业互联网。作为互联网发展的新领域，工业互联网是新一代信息技术与生产技术深度融合的产物，它通过人、机、物的深度互联，全要素、全产业链、全价值链的全面链接，推动形成新的工业生产制造和服务体系。当前，新一轮工业革命正在拉开帷幕，在全球范围内不断颠覆传统制造模式、生产组织方式和产业形态，而我国正处于由数量和规模扩张向质量和效益提升转变的关键期，需要抓住历史机遇期，促进新旧动能转换，形成竞争新优势。我国是制造大国和互联网大国，推动工业互联网创新发展具备丰富的应用场景、广阔的市场空间和巨大的推进动力。数字经济未来发展呈现如下趋势：一、以互联网为核心的新一代信息技术正逐步演化为人类社会经济活动的基础设施，并将对原有的物理基础设施完成深度信息化改造和软件定义，在其支撑下，人类极大地突破了沟通和协作的时空约束，推动平台经济、共享经济等新经济模式快速发展。以平台经济中的零售平台为例，百货大楼在前互联网时代对促进零售业发展起到了重要作用。而从上世纪九十年代中后期开始，伴随互联网的普及，电子商务平台逐渐兴起。与要求供需方必须在同一时空达成交易的百货大楼不同，电子商务平台依托互联网，将遍布全球各个角落的消费者、供货方连接在一起，并聚合物流、支付、信用管理等配套服务，突破了时空约束，大幅减少了中间环节，降低了交易成本，提高了交易效率。按阿里研究院的报告，过去十年间，中国电子商务规模增长了10倍，并呈加速发展趋势。二、、各行业工业互联网的构建将促进各种业态围绕信息化主线深度协作、融合，在完成自身提升变革的同时，不断催生新的业态，并使一些传统业态走向消亡。如随着无人驾驶汽车技术的成熟和应用，传统出租车业态将可能面临消亡。其他很多重复性的、对创新创意要求不高的传统行业也将退出历史舞台。2017年10月，《纽约客》杂志报道了剑桥大学两名研究者对未来365种职业被信息技术淘汰的可能性分析，其中电话推销员、打字员、会计等职业高居榜首。三、在信息化理念和政务大数据的支撑下，政府的综合管理服务能力和政务服务的便捷性持续提升，公众积极参与社会治理，形成共策共商共治的良好生态。四、信息技术体系将完成蜕变升华式的重构，释放出远超当前的技术能力，从而使蕴含在大数据中的巨大价值得以充分释放，带来数字经济的爆发式增长。04我国大数据发展的态势党的十八届五中全会将大数据上升为国家战略。回顾过去几年的发展，我国大数据发展可总结为：“进步长足，基础渐厚；喧嚣已逝，理性回归；成果丰硕，短板仍在；势头强劲，前景光明”。作为人口大国和制造大国，我国数据产生能力巨大，大数据资源极为丰富。随着数字中国建设的推进，各行业的数据资源采集、应用能力不断提升，将会导致更快更多的数据积累。预计到2020年，我国数据总量有望达到8000EB（1018），占全球数据总量的21%，将成为名列前茅的数据资源大国和全球数据中心。我国互联网大数据领域发展态势良好，市场化程度较高，一些互联网公司建成了具有国际领先水平的大数据存储与处理平台，并在移动支付、网络征信、电子商务等应用领域取得国际先进甚至领先的重要进展。然而，大数据与实体经济融合还远不够，行业大数据应用的广度和深度明显不足，生态系统亟待形成和发展。随着政务信息化的不断发展，各级政府积累了大量与公众生产生活息息相关的信息系统和数据，并成为最具价值数据的保有者。如何盘活这些数据，更好地支撑政府决策和便民服务，进而引领促进大数据事业发展，是事关全局的关键。2015年9月，国务院发布《促进大数据发展行动纲要》，其中重要任务之一就是“加快政府数据开放共享，推动资源整合，提升治理能力”，并明确了时间节点，2017年跨部门数据资源共享共用格局基本形成；2018年建成政府主导的数据共享开放平台，打通政府部门、企事业单位间的数据壁垒，并在部分领域开展应用试点；2020年实现政府数据集的普遍开放。随后，国务院和国务院办公厅又陆续印发了系列文件，推进政务信息资源共享管理、政务信息系统整合共享、互联网政务服务试点、政务服务一网一门一次改革等，推进跨层级、跨地域、跨系统、跨部门、跨业务的政务信息系统整合、互联、协同和数据共享，用政务大数据支撑“放管服”改革落地，建设数字政府和智慧政府。目前，我国政务领域的数据开放共享已取得了重要进展和明显效果。例如：浙江省推出的“最多跑一次”改革，是推进供给侧结构性改革、落实“放管服”改革、优化营商环境的重要举措。以衢州市不动产交易为例，通过设立综合窗口再造业务流程，群众由原来跑国土、住建、税务3个窗口8次提交3套材料，变为只跑综合窗口1个窗口1次提交1套材料，效率大幅提高。据有关统计，截至2019年上半年，我国已有82个省级、副省级和地级政府上线了数据开放平台，涉及41.93%的省级行政区、66.67%的副省级城市和18.55%的地级城市。我国已经具备加快技术创新的良好基础。在科研投入方面，前期通过国家科技计划在大规模集群计算、服务器、处理器芯片、基础软件等方面系统性部署了研发任务，成绩斐然。“十三五”期间在国家重点研发计划中实施了“云计算和大数据”重点专项。当前科技创新2030大数据重大项目正在紧锣密鼓地筹划、部署中。我国在大数据内存计算、协处理芯片、分析方法等方面突破了一些关键技术，特别是打破“信息孤岛”的数据互操作技术和互联网大数据应用技术已处于国际领先水平；在大数据存储、处理方面，研发了一些重要产品，有效地支撑了大数据应用；国内互联网公司推出的大数据平台和服务，处理能力跻身世界前列。国家大数据战略实施以来，地方政府纷纷响应联动、积极谋划布局。国家发改委组织建设11个国家大数据工程实验室，为大数据领域相关技术创新提供支撑和服务。发改委、工信部、中央网信办联合批复贵州、上海、京津冀、珠三角等8个综合试验区，正在加快建设。各地方政府纷纷出台促进大数据发展的指导政策、发展方案、专项政策和规章制度等，使大数据发展呈蓬勃之势。然而，我们也必须清醒地认识到我国在大数据方面仍存在一系列亟待补上的短板。一、大数据治理体系尚待构建。首先，法律法规滞后。目前，我国尚无真正意义上的数据管理法规，只在少数相关法律条文中有涉及到数据管理、数据安全等规范的内容，难以满足快速增长的数据管理需求。其次，共享开放程度低。推动数据资源共享开放，将有利于打通不同部门和系统的壁垒，促进数据流转，形成覆盖全面的大数据资源，为大数据分析应用奠定基础。我国政府机构和公共部门已经掌握巨大的数据资源，但存在“不愿”、“不敢”和“不会”共享开放的问题。例如：在“最多跑一次”改革中，由于技术人员缺乏，政务业务流程优化不足，涉及部门多、链条长，长期以来多头管理、各自为政等问题，导致很多地区、乡镇的综合性窗口难建立、数据难流动、业务系统难协调。同时，由于办事流程不规范，网上办事大厅指南五花八门，以至于同一个县市办理同一项事件，需要的材料、需要集成的数据在各乡镇的政务审批系统里却各有不同，造成群众不能一次性获得准确的相关信息而需要“跑多次”。当前，我国的政务数据共享开放进程，相对于《行动纲要》明确的时间节点，已明显落后，且数据质量堪忧。不少地方的政务数据开放平台，仍然存在标准不统一、数据不完整、不好用甚至不可用等问题。政务数据共享开放意义重大，仍需要坚持不懈地持续推进。此外，在数据共享与开放的实施过程中，各地还存在片面强调数据物理集中的“一刀切”现象，对已有信息化建设投资保护不足，造成新的浪费。再次，安全隐患增多。近年来，数据安全和隐私数据泄露事件频发，凸显大数据发展面临的严峻挑战。在大数据环境下，数据在采集、存储、跨境跨系统流转、利用、交易和销毁等环节的全生命周期过程中，所有权与管理权分离，真假难辨，多系统、多环节的信息隐性留存，导致数据跨境跨系统流转追踪难、控制难，数据确权和可信销毁也更加困难。二、核心技术薄弱。基础理论与核心技术的落后导致我国信息技术长期存在“空心化”和“低端化”问题，大数据时代需避免此问题在新一轮发展中再次出现。近年来，我国在大数据应用领域取得较大进展，但是基础理论、核心器件和算法、软件等层面，较之美国等技术发达国家仍明显落后。在大数据管理、处理系统与工具方面，我国主要依赖国外开源社区的开源软件，然而，由于我国对国际开源社区的影响力较弱，导致对大数据技术生态缺乏自主可控能力，成为制约我国大数据产业发展和国际化运营的重大隐患。三、融合应用有待深化。我国大数据与实体经济融合不够深入，主要问题表现在：基础设施配置不到位，数据采集难度大；缺乏有效引导与支撑，实体经济数字化转型缓慢；缺乏自主可控的数据互联共享平台等。当前，工业互联网成为互联网发展的新领域，然而仍存在不少问题：政府热、企业冷，政府时有“项目式”、“运动式”推进，而企业由于没看到直接、快捷的好处，接受度低；设备设施的数字化率和联网率偏低；大多数大企业仍然倾向打造难以与外部系统交互数据的封闭系统，而众多中小企业数字化转型的动力和能力严重不足；国外厂商的设备在我国具有垄断地位，这些企业纷纷推出相应的工业互联网平台，抢占工业领域的大数据基础服务市场。05若干思考和建议 最后，我想基于自己在大数据领域的研究实践，汇报若干思考和建议。一家之见，仅供参考。一、大力发展行业大数据应用当前，我国互联网领域的大数据应用市场化程度高、发展较好，但行业应用广度和深度明显不足，生态系统亟待形成和发展。事实上，与实体经济紧密结合的行业大数据应用蕴含了更加巨大的发展潜力和价值。以制造业为例，麦肯锡研究报告称：制造企业在利用大数据技术后，其生产成本能够降低10%—15%。而大数据技术对制造业的影响远非成本这一个方面。利用源于产品生命周期中市场、设计、制造、服务、再利用等各个环节数据，制造业企业可以更加精细、个性化地了解客户需求；建立更加精益化、柔性化、智能化的生产系统；创造包括销售产品、服务、价值等多样的商业模式；并实现从应激式到预防式的工业系统运转管理模式的转变。制造业是国民经济不可或缺的一环，也是一个国家竞争力背后的强大力量支撑。我国制造业位居世界第一，却大而不强。企业创新能力不足，高端和高价值产品欠缺，在国际产业分工中处于中低端，大力推动制造业大数据应用的发展，对产业升级转型至关重要。当前，我国不同行业领域正在积极推进数字化转型、网络化重构、智能化提升，推动行业大数据应用，也是推进数字中国建设的重要途径和基础。二、建立系统全面的大数据治理体系大数据是数字经济的关键要素，强大的信息技术产业和全面深度信息化赋能的传统行业无疑是数字经济的基础！大数据治理须从营造大数据产业发展环境的视角予以全面、系统化考虑！我以为，在一国之范围内，大数据治理体系建设涉及国家、行业和组织三个层次，至少包含数据的资产地位确立、管理体制机制、共享与开放、安全与隐私保护等四方面内容，需要从制度法规、标准规范、应用实践和支撑技术等视角多管齐下，提供支撑。在国家层次，重点是要在法律法规层面明确数据的资产地位，奠定数据确权、流通、交易和保护的基础，制定促进数据共享开放的政策法规和标准规范，促进政务数据和行业数据的融合应用，并且出台数据安全与隐私保护的法律法规，保障国家、组织和个人的数据安全。在行业层次，重点是要在国家相关法律法规框架下，充分考虑本行业中企业的共同利益与长效发展，建立规范行业数据管理的组织机构和数据管控制度，制定行业内数据共享与开放的规则和技术规范，促进行业内数据的共享交换和融合应用。在组织层次，重点是要提升企业对数据全生命期的管理能力，促进企业内部和企业间的数据流通，提升数据变现能力，保障企业自身的数据安全及客户的数据安全和隐私信息。在数据治理体系建设中，数据共享开放是大数据资源建设的前提，在现阶段重要性尤其突出。在平衡数据共享开放和隐私保护、数据安全的关系时，我以为，还是需要强调应用先行、安全并重的原则。数据共享开放不应被孤立看待，可能需要综合考虑数据的使用场合及数据主体的权益。如，数据集中管理可能带来保管上的安全问题，然而数据融合才能产生价值，一定程度的集中是趋势所在，也更利于建立更强大可靠的保护机制；多源数据的融合可能导致信息泄露，然而在确知风险前，是否需要因其“可能性”而拒绝技术的应用？数据脱敏仍然可能存在隐私泄露的风险，是否允许个体在知情前提下“用隐私换方便”、“用隐私换治疗换健康”？是否允许使用符合当前“标准”、但无法确保未来一定不出现信息泄露的脱敏方法，并对相关应用予以免责？当然，加强兼顾隐私保护、数据安全和数据流动利用的新技术研发，也非常必要。当前，如安全多方计算、同态加密、联邦学习等技术研发，希望允许拥有数据的各方在不向其他组织或个人公开数据中所含敏感信息的情况下，实现数据的融合利用。虽然这些技术尚处于发展的初级阶段，但因其广阔的应用前景而受到普遍关注。另外，打破信息孤岛、盘活数据存量是当前一项紧迫的任务，而在此过程中，不宜过分强调物理集中，而应将逻辑互联作为打通信息“孤岛”的手段，逻辑互联先行，物理集中跟进。在数据共享体系建设中，需要在一定层级上构建物理分散、逻辑统一、管控可信、标准一致的政务信息资源共享交换体系，在不改变现有信息系统与数据资源的所有权及管理格局的前提下，明晰责权利，即：数据应用部门提需求、数据拥有部门做响应、交换平台管理部门保流转。同时，集约化的政务云建设正成为政府、企业建设新的信息系统的首选方案，如何在新一轮建设热潮中，从规划、立项审批、建设、审计等环节以及方案指导、标准规范和技术支持等方面给予全方位保障，尽可能避免新“孤岛”的产生，也是一项重大挑战。三、以开源为基础构建自主可控的大数据产业生态在大数据时代，软件开源和硬件开放已成为不可逆的趋势，掌控开源生态，已成为国际产业竞争的焦点。建议采用“参与融入、蓄势引领”的开源推进策略，一方面鼓励我国企业积极“参与融入”国际成熟的开源社区，争取话语权；另一方面，也要在建设基于中文的开源社区方面加大投入，汇聚国内软硬件资源和开源人才，打造自主可控开源生态，在学习实践中逐渐成长壮大，伺机实现引领发展。中文开源社区的建设，需要国家在开源相关政策法规和开源基金会制度建立方面给予支持。此外，在开源背景下，对“自主可控”的内涵定义也有待更新，不一定强调硬件设计和软件代码的所有权，更多应体现在对硬件设计方案和软件代码的理解、掌握、改进及应用能力。四、积极推动国际合作并筹划布局跨国数据共享机制2018年11月17日，习近平总书记在APEC工商领导人峰会上发表主旨演讲指出“经济全球化是人类社会发展必经之路”，“各国都是全球合作链条中的一环”。在数字经济快速发展的时代背景下，我国应该积极推动在大数据技术和应用方面的国际合作，建立跨国数据共享机制，与其他国家一起分享数字经济的红利，同时也使我国获得更多发展机遇和更大发展空间，积极促进数字经济下人类利益共同体和命运共同体的构建。当前，我国正在积极推动“一带一路”合作发展。各国在合作的各个领域都将产生大量的数据。建议积极推进跨国的大数据治理合作，在保障数据安全的前提下，促进数据跨境流动，从而形成围绕国家合作各个领域的大数据资源，为数字经济领域的国际合作奠定坚实的基础。“一带一路”沿线大都属发展中国家，无论技术还是经济水平较之发达国家都有明显差距。而数字经济这一新经济形态的成型发展将带给包括中国在内的各发展中国家经济转型发展的历史性机遇期。经济后发国家有机会在新经济的全球垄断性格局形成之前，与发达国家站在同一起跑线上，并且由于没有“路径依赖”所带来的历史包袱，也有可能在新一轮的竞争中占有优势。五、未雨绸缪，防范大数据发展可能带来的新风险大数据发展可能导致一系列新的风险。例如，数据垄断可能导致数据“黑洞”现象。一些企业凭借先发展起来的行业优势，不断获取行业数据，但却“有收无放”，呈现出数据垄断的趋势。这种数据垄断不仅不利于行业的健康发展，而且有可能对国家安全带来冲击和影响。又如，数据和算法可能导致人们对其过分“依赖”及社会“被割裂”等伦理问题。大数据分析算法根据各种数据推测用户的偏好并推荐内容，在带来便利的同时，也导致人们只看到自己“希望看到的”信息，从而使人群被割裂为多个相互之间难以沟通、理解的群体，其可能引发的社会问题将是难以“亡羊补牢”的。需要看到，以互联网为代表的新一代信息技术所带来的这场社会经济“革命”，在广度、深度和速度上都将是空前的，也会是远远超出我们从工业社会获得的常识和认知、远远超出我们的预期的，适应信息社会的个体素质的养成、满足未来各种新兴业态就业需求的合格劳动者的培养，将是我们面临的巨大挑战！唯有全民提升对大数据的正确认知，具备用大数据思维认识和解决问题的基本素质和能力，才有可能积极防范大数据带来的新风险；唯有加快培养适应未来需求的合格人才，才有可能在数字经济时代形成国家的综合竞争力！主讲人：梅宏，中国科学院院士、中国人民解放军军事科学院副院长本文相关名词解释API：应用编程接口（Application Programming Interface）的首字母缩写，是指某软件系统或平台为其他应用软件系统提供的一组函数，通过调用这些函数，其他应用软件系统可以使用此软件系统或平台的部分功能或访问某些数据。开源平台：“开源”是开放源代码的简称，开源平台是指支持开源社区活动，管理开放源代码，向所有开源社区参与者提供相关服务的软件平台（平台基于互联网构建并通过互联网通过服务）。任何人都可以获得开源软件的源代码并加以修改，并在某个预先约定的开源协议限制范围内发布修改后的新版本。结合上下文，这里的开源平台是指提供大数据管理、处理、分析等方面能力的开源软件的软件平台。可伸缩的计算体系结构：可伸缩英文为scalable，指一个计算系统的能力和性能随应用负载的增加，通过极少的改动或配置甚至只是简单的硬件资源增加，而保持线性增长的能力，是表征计算系统处理能力的一个重要的设计指标。可伸缩的计算体系结构是计算系统体系结构设计追求的重要指标，软件定义、虚拟化、资源池化等方法和技术常用于可伸缩性的实现。鲁棒性：鲁棒是英文Robust的音译，也就是健壮的意思，因此鲁棒性也被翻译为健壮性。鲁棒性一般用于描述一个系统在异常或极端情况下仍然可以工作的能力。结合上下文，这里谈及的大数据分析模型的鲁棒性是指在数据存在错误、噪音、缺失，甚至在恶意数据攻击等异常情况下，模型仍然能得到较为准确结论的能力。数据互操作：数据互操作是指不同信息系统之间可以通过网络连接对彼此的数据进行访问，包括对其他系统数据的读取与写入。数据互操作是实现数据共享的基础。“全数据”：“全数据”也称“全量数据”，是与“采样数据”相对的概念。传统的数据分析受限于数据采集、存储、处理的成本，一般都仅对问题相关的所有数据进行局部采样，并基于采样获得的部分数据进行分析，得出结论，结论的准确性与采样方法以及对被采样数据的统计假设密切相关。而大数据时代，人们开始提出“全数据”的概念，即，并不采样，而是将与问题相关的所有数据全部输入到分析模型中分析。这种方法避免了因采样而可能带来的误差，但是也增加了计算成本。云边端融合：云是指云计算中心，边是指边缘计算设备，端是指终端设备。以智能家居为例，智能电视、冰箱、空调等直接与用户交互的设备是“端”，通过互联网连接的异地的云计算平台是“云”，而安装在每个家庭的智能家居中控服务器是“边”。云计算中心具有强大的计算存储能力，一般用于复杂的数据计算处理；终端设备距离最终用户较近，对用户的操作响应快，一般负责与用户进行交互；边缘计算设备介于“云”和“端”之间，负责对端所采集的数据做本地化处理，同时将需要更强大计算能力支持的任务和数据发往云计算中心处理，并将“云”返回的结果提供给端设备。云边端融合是一种“云”、“边”、“端”不同计算设备各司其职，密切协同且优势互补的新型计算模式。宽带、移动、泛在的网络通信：“宽带”是指通信速率高，海量大数据的高速传输需求推动骨干网络向Pb/s发展；“移动”是指移动通信；“泛在”是指无所不在。宽带、移动、泛在通信是指：未来大量移动终端和物联网设备通过无所不在的接入网络接入主干网并通过高速主干网络进行通信。安全多方计算：安全多方计算是为解决在保护隐私信息以及没有可信第三方的前提下，一组互不信任的参与方之间的协同计算问题而提出的理论框架。安全多方计算能够同时确保输入的隐私性和计算的正确性，在无可信第三方的前提下通过数学理论保证参与计算的各方成员输入信息不暴露，且同时能够获得准确的运算结果。此项技术的研究尚处于初级阶段。同态加密：同态加密是一种密码学技术，其核心在于保证：对经过同态加密的数据进行处理（如：运行某种数据分析算法）后得到输出，将这一输出进行解密，其结果与用同一方法（即上述数据分析算法）处理未加密的原始数据得到的输出结果一致。同态加密技术使得数据拥有者可以将数据加密后交给第三方处理，从第三方获得处理结果后，对此结果进行解密便可获得所期望的结果。如此一来，数据拥有者就不必担心因将原始数据交给第三方而存在的隐私泄露风险，同时又能获得第三方提供的数据分析服务。此项技术的研究尚处于初级阶段。联邦学习：联邦机器学习是一个多组织协同的机器学习框架，使得一个组织在不共享原始数据的情况下，可以利用其他组织数据中所蕴含的信息和知识，建立协同的机器学习模型。此模型比各组织仅利用本组织内部数据而训练的机器学习模型有更高的性能。此项技术的研究尚处于初级阶段。ZB、EB、Pb/s、Gb/s：在计算机领域，一个二进制位称为一个比特，一般用小写b表示；而8个二进制位称一个字节，用大写B表示。简言之：1B=8b。计算数据量或数据所需存储空间大小时，习惯用字节为单位（用B表示）。1KB=1024B，1MB=1024KB，1GB=1024MB（通常简记为109），1TB=1024GB，1PB=1024TB，1EB=1024PB，1ZB=1024EB。1EB约等于10亿GB，而1ZB约等于1万亿GB。假设一首长为3分钟的歌曲录制成MP3文件（44K/320kbps音质），大小约为8MB，那么1ZB的数据存储空间可存储MP3格式歌曲140万亿多首，如果全部听一遍，需要8亿多年。计算网络传输速率时习惯上用比特每秒为单位（用b/s表示）。1Pb/S和1Gb/S分别代表1秒钟传输的数据是1P（1000万亿）个比特和1G（10亿）个比特。网络速率1Gb/S（此处是小写b）的情况下，下载一个2GB（此处是大写B）的电影，需要16秒；而网络速率1Pb/S的情况下，仅需要0.016毫秒。

中商情报网讯：大数据产业是对数量巨大、来源分散、格式多样的数据进行采集、存储和关联分析，从中发现新知识、创造新价值、提升新能力的新一代信息技术和服务业态。大数据主要应用领域包括教育、交通、能源、大健康、金融等。随着移动互联网、物联网、云计算产业的深入发展，大数据国家战略的加速落地，2019年大数据体量呈现爆发式增长态势。一、大数据产业链大数据产业链可以从数据源、大数据产品、大数据服务应用这三大块来讲。目前，我国的数据来源包括政府部门、企业数据采集及供应商、互联网数据采集及供应商、数据流通平台等。而大数据产品包括大数据平台、云储存、数据安全等基础软件产品；加工分析、解决方案等软件产品；大数据采集、接入、存储、传输等硬件设备产品。大数据服务方面，主要为应用服务、分析服务、基础设施服务等供应商。数据来源：中商产业研究院二、大数据市场分析随着移动互联网、物联网、云计算产业的深入发展，大数据国家战略的加速落地，2019年大数据体量呈现爆发式增长态势。数据显示，2017年中国大数据产业规模达到4800亿元，同比增长23%；其中，大数据硬件产业的产值为234亿元，同比增长39%。据中商产业研究院发布的《2019年中国大数据产业市场前景研究报告》显示，2018年我国大数据产业规模突破6000亿元；随着大数据在各行业的融合应用不断深化，预计2019年中国大数据市场产值将达到8080亿元。2019年包括数据挖掘、机器学习、产业转型、数据资产管理、信息安全等大数据技术及应用领域都将面临新的发展突破，成为推动经济高质量发展的新动力。数据来源：中商产业研究院具体分市场来看，未来大数据产业中应用层的规模将占比最大。目前，大数据广泛应用在工业、企业管理、交通、金融、医疗等方面，但应用深度仍有待挖掘。随着技术的不断提升，未来大数据技术的应用不管从纵向或是横向来看都将更加广泛，规模扩大。除了应用以外，大数据产业衍生的其他产品也将不断扩张，市场规模排名第二。硬件、技术作为必不可少的环节，在大数据产业规模中占比不小。而数据的来源、采集以及交易方面的市场占比则相对较小。（1）应用层：大数据的应用是实现其价值的重要渠道，随着大数据在实体经济行业、政府机构、新兴行业等领域的融合应用加深，通过分布式并行计算、人工智能等技术对大量数据进行分析、挖掘，再作用到行业的生产、管理等。随着大数据技术及产品的应用进一步普及，预计应用市场在大数据产业中的占比将提高。（2）衍生层：大数据产业链涉及的环节众多，随着大数据市场需求扩大，为了更好的满足用户需要，更好的支持大数据技术、大数据产品或是大数据服务，将衍生出不少相关的新业态。此外，新兴产业快速发展的背景下，“大数据+”将带来新业态、新模式。大数据产业衍生市场占比将进一步提高，将近两成。（3）硬件层：大数据技术中的硬件产品包括芯片、传感器、传输设备、存储设备、服务器、安全设备等，是支撑大数据产业基础设施的建设，在大数据产业的占比不小。随着需求升级、应用扩大，未来大数据技术硬件支撑也将不断优化升级。（4）技术层：大数据产业链涉及的环节众多，随着大数据市场需求扩大，为了更好的满足用户需要，更好的支持大数据技术、大数据产品或是大数据服务，将衍生出不少相关的新业态。此外，新兴产业快速发展的背景下，“大数据+”将带来新业态、新模式。大数据产业衍生市场占比将进一步提高，将近两成。（5）数据源：数据源是大数据产业的基础，大数据概念在我国的发展相对较晚，整体体系仍待完善，数据源覆盖面不够大。目前，我国数据来源主要有政府部门、互联网巨头、移动通信企业等。相对于应用、技术等领域来说，数据源市场份额在大数据产业中占比较小。（6）交易层：大数据交易可以打破行业信息壁垒，为用户提供大量数据源、管理、分析等，实现数据价值的最大化。但目前，我国大数据产业仍在发展阶段，大数据交易市场尚未成熟。未来，随着大数据交易市场统一规范，平台、流通、管理等环节更为成熟、完善，大数据交易市场将进一步扩大。来源：中商产业研究院三、大数据产业发展前景随着移动互联网、物联网、云计算产业的深入发展，大数据国家战略的加速落地，2019年大数据体量呈现爆发式增长态势。2019年包括数据挖掘、机器学习、产业转型、数据资产管理、信息安全等大数据技术及应用领域都将面临新的发展突破，成为推动经济高质量发展的新动力。据预测，2019年大数据最令人瞩目的应用领域是健康医疗、城镇化智慧城市、金融、互联网电子商务、制造业工业大数据；取得应用和技术突破的数据类型是城市数据、视频数据、语音数据、互联网公开数据以及企业数据、人体数据、设备调控、图形图像；在数据资源流转上，会自己收集大量数据、会利用数据提供服务、会免费提供数据集、会只下载和获得免费数据集、会买数据集；大数据的最佳拍档概念是数据科学、机器人和人工智能、智能计算或认知计算；我国大数据发展的最主要推动者来自于大型互联网公司、政府机构。来源：中商产业研究院未来，人口红利将转变为网民红利，成为支撑应用驱动创新的最大因素。随着老龄化社会的到来，以往在经济发展中扮演重要角色的“人口红利”逐渐消失，与此同时，我国网民规模不断扩大，网民红利更加凸显，中国已是世界上产生和积累数据体量最大、类型最丰富的国家之一。依托庞大的数字资源与用户市场，使得中国企业在应用驱动创新方面更具优势，大量新应用和服务将层出不穷并迅速普及。更多资料请参考中商产业研究院发布的《2019-2024年中国大数据产业发展前景及投资机会研究报告》，同时中商产业研究院还提供产业大数据、产业规划策划、产业园策划规划、产业招商引资等解决方案。

大数据是物联网、Web系统和信息系统发展的综合结果，其中物联网的影响最大，所以大数据也可以说是物联网发展的必然结果。大数据相关的技术紧紧围绕数据展开，包括数据的采集、整理、传输、存储、安全、分析、呈现和应用等等。目前，大数据的价值主要体现在分析和应用上，比如大数据场景分析等。大数据正在进入一个成熟的新阶段，在未来的十年中，这将带来更大的业务影响。随着大数据计算的成熟，现在正在将大数据流程的敏捷性与人工智能（AI）功能的规模相结合，以加快业务价值的交易，那大数据时代的发展趋势和现状怎么样？大数据与AI的融合已成为非常重要的发展，它正在塑造企业通过其数据和分析功能推动业务价值的未来。更大数量和数据源的可用性首次使AI和机器学习功能一直处于休眠状态，这归因于缺乏数据可用性，有限的样本大小以及无法在毫秒内分析大量数据。数字功能已将数据从批处理转移到实时处理。尽管许多AI技术已经存在了几十年，但直到现在它们才能够利用足够大小的数据集来提供有意义的学习和结果。通过敏捷性和即时访问来访问大量数据的能力正在导致AI应用程序和机器学习应用程序的快速发展。尽管统计学家和早期数据科学家通常仅限于处理“样本”数据集，但大数据使数据科学家能够不受限制地访问和处理海量数据。数据科学家不再依赖代表性的数据样本，而是可以依靠数据本身的所有粒度和细节。这就是为什么许多组织已从基于假设的方法转变为“数据优先”方法的原因。组织现在可以加载所有数据，让数据本身指明方向并讲故事。可以收集不必要或冗余的数据，并可以使用“分析沙箱”或大数据“卓越中心”来分析更多指示性和预测性数据，这些数据可以利用数据管理方法的灵活性和敏捷性。现在，大量数据发生之后，有低成本的存储器将其存储，有高速的CPU对其进行处理，所以才有了人工智能后两个分支的理论得以实践。由此，人工智能就能做出接近人类的处理或者判别，提高精准度。同时，选用人工智能的服务作为高附加值服务，成为了获取更多用户的主要因素，而不断添加的用户，发生更多的数据，使得人工智能进一步优化。大数据运用通常将他们的方法称为“加载和运行”。大数据提供了一种鼓励通过迭代发现数据的环境。结果，企业可以更快地行动，进行更多实验并快速学习。换句话说，大数据使组织能够快速失败并更快地学习。

大数据是最近几年新兴的概念，自从出现，就一直是IT行业的话题“宠儿”。一时之间，与大数据相关的大数据分析、大数据挖掘等行业开始快速发展，引起了国内外政府、学术界和产业界的高度关注。为什么大数据会这么火，各国又为什么这么重视大数据呢？1、国外研究现状早在2009年的时候，联合国就启动了“全球脉动计划”，拟通过大数据推动落后地区的发展。2012年1月的世界经济论坛年会也把“大数据，大影响”作为重要议题之一。2009年至今，美国全面开放了40万政府原始数据集，大数据已成为美国创新战略、国家安全战略及国家信息网络安全战略的交叉领域和核心领域。2014年7月，欧盟委员会也呼吁各成员国积极发展大数据，迎接“大数据”时代，将采取具体措施发展大数据业务。国外学术界大数据发展在学术界，美国麻省理工大学计算机科学与人工智能实验室建立了大数据科学技术中心——ISTC。通过明确自主领域带头人、提供合作研究中心的方式，以发掘共享、存储和操作大数据的解决方案为目标，涉及多个国际产业巨头。除此之外，英国牛津大学成立了首个综合运用大数据的医药卫生科研中心；以英国为首的欧洲核子中心在匈牙利科学院魏格纳物理学研究中心建设了一座超宽带数据中心。国外产业界大数据发展在产业界，国外很多著名企业和组织都将大数据作为主要业务，并提出了各自大数据解决方案或应用。IBM从2005年起，花费了超过160亿美元收购了35家与大数据分析相关的公司。2、国内研究现状我国政府、产业界和学术界也早已开始大数据的研究和应用工作，纷纷启动了相应的研究计划。在政府层面，科技部“十二五”部署了关于物联网、云计算的相关专项。地方政府也对大数据战略高度重视。在学术研究层面，国内很多高等院校和研究所开始成立大数据的研究机构。国内有关大数据的学术组织和活动也纷纷成立。在产业层面，国内很多知名的企业和组织都成立了大数据产品团队和实验室，力争在大数据产业竞争中占据领先地位。在未来，无论是人工智能，还是物联网和云计算的发展，都离不开大数据的支持。

当前大数据应用的成功案例主要集中在欧美发达国家，除技术突破和应用创新之外，大数据正逐渐引起公众意识形态的变革甚至社会结构的深层调整。受到世界各主要国家和地区的广泛关注，纷纷从国家层面提出具体的大数据发展战略。由于大数据自身内涵发展迅速，随着存储设备、记录工具和分析技术的不断发展，其应用的深度与影响力也日新月异，各国在大数据战略也是基于国家整体发展趋势进行布局。美国：2012年3月美国联邦政府推出“大数据研究和发展倡议”，其中对于国家大数据战略的表述如下：“通过收集、处理庞大而复杂的数据信息，从中获得知识和洞见，提升能力，加快科学、工程领域的创新步伐，强化美国国土安全，转变教育和学习模式”。作为响应，同年5月，奥巴马政府发布了“构建21世纪数字政府”战略规划，通过Data.gov平台的建设吸引更多参与者加入，同时以行政管理和预算局牵头推进政府自身的公共数据开放，2015年3月，联邦总务管理局公民服务与科技创新办公室旗下的18F创新小组，会同联邦数字服务中心、白宫科技政策办公室联名发布了关于政府网站的数字化分析仪表盘，协助公众实时、便捷地了解美国联邦政府网站提供的社会公共服务。2009年，美国政府推出Data.gov，这是为了增加政府资料透明度而设立的一系列网站。该网站依照原始、地理数据和数据工具三个门类，截至2012年11月，Data.gov共开放出了超过40万项原始数据和地理数据，涵盖大约50个细分门类。为方便公众使用和分析，Data.gov平台还加入了数据的分级评定、高级搜索、用户交流以及和社交网站互动等新功能，汇集了1264个应用程序和软件工具、103个手机应用插件。通过开放API接口，Data.gov使得私人领域的开发者能够利用那些政府采集但未经梳理的各类信息，开发应用来提供公共服务或者进行盈利。但随着近年美国政府陷入财政困局，白宫于2011年4月宣布这些网站将终止营运，但会将它们开源化，以供各国的开发者使用或者根据需要修改。2012年3月29日，美国白宫科技政策办公室发布《大数据研究和发展计划》，成立“大数据高级指导小组”。该计划旨在通过对海量和复杂的数字资料进行收集、整理，以增强联邦政府收集海量数据、分析萃取信息的能力，提升对社会经济发展的预测能力。美国国家科学基金会、国家卫生研究院、国防部、能源部、国防部高级研究局、地质勘探局等6个联邦部门和机构宣布将进行2亿美元的投资，提高从大量数据中访问、组织、收集发现信息的工具和技术水平。同时，奥巴马政府还计划与工业界、大学研究界、非营利性机构与管理者一起利用大数据所创造的机会。这是美国政府在政策层面上将“大数据”上升到国家意志的重要举措，其影响极为深远。2013年11月，美国信息技术与创新基金会发布了《支持数据驱动型创新的技术与政策》的报告。报告指出，“数据驱动型创新”是一个崭新的命题，其中最主要的包括“大数据”、“开放数据”、“数据科学”和“云计算”。一方面，数据规模不断膨胀，且可获性越来越大，极大地刺激了新技术和新方法的发展。另一方面，这些技术反过来又提高了原始数据的使用价值，激励着更广泛、更大规模的数据收集和应用。报告就政府如何支持数据型驱动的创新提出了建议。一是政府应大力培养所需的有技能的劳动力，二是政府要推动数据相关技术的研发。报告还指出政府应该发挥的一项重要作用是，不仅要收集和提供数据，还要制定推动数据共享的法律框架，并提高公众对数据共享的重大意义的认识。2014年5月美国发布《大数据：把握机遇，守护价值》白皮书，对美国大数据应用与管理的现状、政策框架和改进建议进行了集中阐述。该白皮书表示，在大数据发挥正面价值的同时，应该警惕大数据应用对隐私、公平等长远价值带来的负面影响。从《白皮书》所代表的价值判断来看，美国政府更为看重大数据为经济社会发展所带来的创新动力，对于可能与隐私权产生的冲突，则以解决问题的态度来处理。报告最后提出六点建议：推进消费者隐私法案；通过全国数据泄露立法；将隐私保护对象扩展到非美国公民；对在校学生的数据采集仅应用于教育目的；在反歧视方面投入更多专家资源；修订电子通信隐私法案。

大数据(big data)，是指需要通过快速获取、处理、分析以从中提取价值的海量、多样化的交易数据、交互数据与传感数据，其规模往往达到了PB(1024TB)级。不同机构对大数据也有不同的定义。麦肯锡对大数据的定义：一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合，具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低四大特征。移动信息化研究中心对大数据的定义：大数据是帮助企业利用海量数据资产，实时、精确地洞察未知逻辑领域的动态变化，并快速重塑业务流程、组织和行业的新兴数据管理技术。IDC认为大数据具备海量(volume)、异构(Variety)、高速(Velocity)和价值(Value)四大特性。2、全球大数据储量规模爆发式增长随着物联网、电子商务、社会化网络的快速发展，全球大数据储量迅猛增长，成为大数据产业发展的基础。根据国际数据公司(IDC)的监测数据显示，2013年全球大数据储量为4.3ZB(相当于47.24亿个1TB容量的移动硬盘)，2018年全球大数据储量达到33.0ZB，同比增长52.8%。从大数据储量分布情况来看，美国大数据储量占比为21%，EMEA(欧洲、中东、非洲)占比为30%，中国地区占比为23%。2013-2018年全球大数据储量统计及增长情况数据来源：前瞻产业研究院整理2018年全球大数据储量区域分布情况数据来源：前瞻产业研究院整理3、流式处理占主导地位，Kafka和Spark成为主流应用根据数据处理的时效性，大数据处理系统可以分为批式(batch)大数据和流式(streaming)大数据两类。其中，批式大数据又被称为历史大数据，流式大数据又被称为实时大数据。以Hadoop为代表的批处理大数据系统需先将数据汇聚成批，经批量预处理后加载至分析型数据仓库中，以进行高性能实时查询。这类系统虽然可对完整大数据集实现高效的即席查询，但无法查询到最新的实时数据，存在数据迟滞高等问题。以Spark Streaming、Storm、Flink为代表的流处理大数据系统将实时数据通过流处理，逐条加载至高性能内存数据库中进行查询。此类系统可以对最新实时数据实现高效预设分析处理模型的查询，数据迟滞低。随着互联网、计算机行业快速发展，企业对数据的时效性越发重视，企业应用也逐渐由批处理数据平台向实时的流数据数据平台转移。以流数据处理为代表的Spark、kafka大数据系统近年来大放异彩，取代了Hadoop的主导地位。大数据实施流式处理特点分析情况资料来源：前瞻产业研究院整理2018年全球主要大数据处理系统热度排行情况数据来源：前瞻产业研究院整理以上数据来源请参考于前瞻产业研究院发布的《中国大数据产业发展前景与投资战略规划分析报告》，同时前瞻产业研究院还提供产业大数据、产业规划、产业申报、产业园区规划、产业招商引资等解决方案。来源: 前瞻网

大数据具有四大特性大数据(big data)，是指需要通过快速获取、处理、分析以从中提取价值的海量、多样化的交易数据、交互数据与传感数据，其规模往往达到了PB(1024TB)级。不同机构对大数据也有不同的定义。麦肯锡对大数据的定义：一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合，具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低四大特征。移动信息化研究中心对大数据的定义：大数据是帮助企业利用海量数据资产，实时、精确地洞察未知逻辑领域的动态变化，并快速重塑业务流程、组织和行业的新兴数据管理技术。IDC认为大数据具备海量(volume)、异构(Variety)、高速(Velocity)和价值(Value)四大特性。全球大数据储量规模爆发式增长随着物联网、电子商务、社会化网络的快速发展，全球大数据储量迅猛增长，成为大数据产业发展的基础。根据国际数据公司(IDC)的监测数据显示，2013年全球大数据储量为4.3ZB(相当于47.24亿个1TB容量的移动硬盘)，2018年全球大数据储量达到33.0ZB，同比增长52.8%。从大数据储量分布情况来看，美国大数据储量占比为21%，EMEA(欧洲、中东、非洲)占比为30%，中国地区占比为23%。流式处理占主导地位，Kafka和Spark成为主流应用根据数据处理的时效性，大数据处理系统可以分为批式(batch)大数据和流式(streaming)大数据两类。其中，批式大数据又被称为历史大数据，流式大数据又被称为实时大数据。以Hadoop为代表的批处理大数据系统需先将数据汇聚成批，经批量预处理后加载至分析型数据仓库中，以进行高性能实时查询。这类系统虽然可对完整大数据集实现高效的即席查询，但无法查询到最新的实时数据，存在数据迟滞高等问题。以Spark Streaming、Storm、Flink为代表的流处理大数据系统将实时数据通过流处理，逐条加载至高性能内存数据库中进行查询。此类系统可以对最新实时数据实现高效预设分析处理模型的查询，数据迟滞低。随着互联网、计算机行业快速发展，企业对数据的时效性越发重视，企业应用也逐渐由批处理数据平台向实时的流数据数据平台转移。以流数据处理为代表的Spark、kafka大数据系统近年来大放异彩，取代了Hadoop的主导地位。以上数据来源参考前瞻产业研究院发布的《中国大数据产业发展前景与投资战略规划分析报告》。