网络学习研究

选自arXiv作者：Chaoyun Zhang等机器之心编译近来移动通信和 5G 网络等快速发展，它们的调控与配置因为充满了多样性和动态变化而面临非常多的挑战。因此近来很多研究科学家开始利用机器学习及深度学习加强移动和无线网络的配置，并帮助应对数据量和算法驱动的应用程序的增长。本论文基本是首篇综述深度学习及无线网络交叉学科研究面貌的调研，读者可以阅读原论文全面了解该新兴交叉学科。　　互联网连接的移动设备正在渗透生活、工作和娱乐的各个方面。智能手机数量不断增加以及不断增多的应用程序引发了移动数据流量的激增。事实上，最新行业预测显示，到 2021 年，全球 IP 年流量将达到 3.3 泽字节 ( 1015 兆字节)，同年，智能手机流量将超过 PC 流量 [1]。由于用户偏好转向无线连接，当前移动基础设施面临着巨大的容量需求。针对这一日益增长的需求，有人建议采用灵活的资源供给方式 [ 2 ]，分布式解决移动管理问题 [ 3 ]。然而，长远来看，互联网服务提供商 ( ISP ) 必须开发智能异构架构和工具，以催生第五代移动系统 ( 5G )，并逐步满足终端用户的迫切需求 [4], [5]。移动网络架构日益多样化且复杂性不断提高，监控和管理众多网络元素的问题因而变得棘手。因此，广大研究人员对多功能机器智能嵌入未来移动网络这一课题的兴趣空前高涨 [6]，[7]。这种趋势反映在机器学习（ML）解决方案中，从无线接入技术（RAT）选择 [8] 到恶意软件检测 [9]，以及支持机器学习实践的网络系统的开发（例如 [10 ]，[11]）。机器学习能够从流量数据中系统地挖掘有价值的信息，并自动发现其相关性，这类问题对于人类专家来说太过复杂 [12]。作为机器学习的重要部分，深度学习在计算机视觉 [13] 和自然语言处理（NLP）[14] 等领域取得了卓越的进展。网络研究人员也开始认识到深度学习的重要性，并探索如何将深度学习应用到移动网络领域 [15], [16]。我们有充分理由在在 5G 移动和无线网络中嵌入深度学习，尤其在处理移动环境产生的异构数据。因为这些数据通常来源广泛，格式各异，并且表现出复杂的相关性 [17]。传统的机器学习工具需要繁琐的特征工程才能根据这些数据做出准确的推论和决策。深度学习消除了领域专业知识的门槛，因为它采用分层特征提取，该技术可以有效地提取信息并从数据中获取越来越抽象的相关性，同时最大限度地减少数据预处理工作量。基于图形处理单元（GPU）的并行计算进一步使深度学习能够在毫秒内进行推理。这有利于分析网络，提高管理准确度并克服传统数学技术（例如凸优化、博弈论、元启发式）的运行时间限制。尽管移动网络领域的深度学习炙手可热，但现有的成果分散在不同的研究领域，缺乏全面而简明的研究。本文通过介绍这两个领域交叉研究的最新调查，填补了深度学习与移动、无线网络之间的鸿沟。除了回顾相关度最高的文献之外，本文还讨论了各种深度学习架构的优缺点，并提出深度学习模型的选择策略，以解决移动网络问题。此外，本文还进一步研究了针对个人移动网络任务量身定制深度学习的方法，以在复杂环境下实现最佳性能的方法。最后，本文指出未来值得深入研究的方向和尚未解决的重要问题，而最终目标是为用深度学习来解决各领域问题的网络研究人员和从业人员提供明确的指导。本文结构：如图 1 所示，本文采用自上而下的方式组织文章。首先，本文将讨论围绕深度学习、未来移动网络和使用深度学习构建的网络应用程序进行的高层次概述工作，这些工作有助于定义本文的范围和贡献 (第 2 节)。鉴于深度学习技术是移动网络社区中的新课题，第 3 节给出了深度学习的基本背景，突出了解决移动网络问题的直接优势。许多因素能够促进移动网络应用领域的深度学习实现 (包括专用的深度学习库、优化算法等)。第 4 节讨论了这些促进因素，帮助移动网络研究人员和工程师选择合适的深入学习软硬件平台。图 1：本文图解示意图第 5 节介绍和比较了最先进的深度学习模型，并提供了网络问题解决方案。第 6 节回顾了近期深度学习领域中移动和无线网络应用，本文将这些应用分为不同的场景，从移动流量分析到安全以及新兴应用。第 7 节讨论了如何针对移动网络问题定制深度学习模型，并强调网络研究中，深度学习应用相关的开放性问题（第 8 节）。本文结尾部分简要讨论移动网络和深度神经网络之间的相互作用（第 9 节）。论文：Deep Learning in Mobile and Wireless Networking: A Survey论文https://arxiv.org/abs/1803.04311摘要：移动设备以及移动应用和服务的日益普及对移动和无线网络基础设施的需求达到前所未有的高度。即将推出的 5G 系统正在发展，以应对移动通信量的爆炸式增长，并灵活管理网络资源，从而最大限度地提高用户体验及细粒度抽取实时分析的能力。该任务颇具挑战性，因为移动环境日趋复杂、多样化并不断发展变化。一个潜在的解决方案是采用先进的机器学习技术来帮助应对数据量和算法驱动的应用程序的增长。深度学习的最新成果是有效解决这一问题的基础。本文通过对深度学习与移动、无线网络研究的交叉领域开展综合性研究，填补了二者之间的鸿沟。首先，本文简要介绍了深度学习技术的基本背景和最新进展，以及在网络方面的潜在应用。然后讨论了几种有助于在移动系统上高效部署深度学习的技术和平台。随后，本文对基于深度学习的移动和无线网络研究进行了百科全书式的回顾，并按不同领域进行了分类。此外，本文还基于自己的经验讨论了如何根据移动环境定制深度学习。最后明确了当前的挑战和未来的研究方向。近来深度学习有很多先进的综述性调查或研究，它们都令深度学习尤其是移动端网络架构在终端设备上有很大的提升。一般来说，深度学习的这些进步主要体现在先进的并行计算、分布式机器学习系统、便捷的深度学习框架和高效的最优化方法等。我们在下表 3 展示了这些进步，并在论文中详细讨论它们。表 2：与深度学习和移动网络相关的现有调研、学术论文和专著汇总。符号 D 表示该出版物所处的研究领域，标记不直接覆盖该领域的文章，但读者可以从中检索一些相关的见解，与深度学习和移动网络相关的出版物都使用阴影表示。3. 深度学习基础我们首先将简述深度学习，并重点介绍该领域的核心原则以及成功的关键优势。深度学习实际上是机器学习的一个分支，它通过多层非线性处理单元从原始数据中分层抽取特征与知识，因而能针对一些目标执行高效的预测或决策。相比传统机器学习，深度学习的主要优势是在于自动抽取特征，因而避免了昂贵的人工特征预处理过程。此外，我们在下图 2 中展示了深度学习、机器学习以及人工智能之间的关系。图 2：深度学习、机器学习和 AI 之间关系的维恩图。本调研重点关注移动和无线网络中的深度学习应用。对于一般的深度学习来说，它们可以抽象为一系列相互嵌套的复合函数，且这种复合函数在直观上可以表示为一系列叠加的层级。如下展示了一般深度神经网络架构的训练和推断过程，其中正向传播即神经网络的推断过程。因为它们可以抽象为一个复合函数，那么根据复合函数的链式求导法则，我们可以轻松地使用反向传播和最优化方法训练神经网络。图 3：4 层卷积网络的学习和推断过程，其中 w(·) 代表每一个隐藏层的权重、σ(·) 代表激活函数、λ 为学习率、(·) 表示了卷积运算，而 L(w) 为需要优化的损失函数。4. 深度学习在移动网络中的应用5G 系统是试图提升信息吞吐量并获得低延迟通信服务的协议，它们能很大程度上提升用户的 QoE [4]。但在 5G 系统上构建深度学习智能系统是非常复杂和昂贵的。幸运的是，目前一些进步令深度学习在移动端的应用变成了可能：（i）高级并行计算，（ii）分布式机器学习系统，（iii）优秀的深度学习框架，（iv）快速优化算法和（v）雾计算（fog computing）。我们在下表 3 中总结了这些优势。表 3：在移动系统中嵌入深度学习的工具和技术汇总因为并行计算和分布式系统的进步，目前深度学习出现了很多适用于移动端的框架和平台，它们都寻求在移动端上精简和优化深度模型。我们在表 4 中对比了这些平台。表 4：深度学习移动平台对比5. 深度学习：顶尖性能若我们重新回顾图 2，机器学习方法可以很自然地分为监督学习、无监督学习和强化学习，而深度学习在这些领域中都实现了当前最顶尖的性能。在这一章节中，我们将介绍深度学习的关键原则，并讨论它们在解决移动网络问题上的潜力。下图 4 和表 5 都展示了当前基本的深度神经网络架构。图 4：MLP、RBM、AE、CNN、RNN、GAN 和 DRL 的基本结构和操作原理。如上所示为基本的深度网络架构，当然最基础的是有感知机发展而来的多层感知机或全连接网络，该网络前后两层的所有神经元都相互有连接。而后卷积神经网络和循环神经网络都基于一些先验特征而只有局部连接，这样不仅减少了权重数量，同时还加强了模型的性能。以下展示了各神经网络架构的属性、优势和应用于移动网络的潜力等：表 5：不同深度学习架构汇总。阴影部分是 GAN 和 DRL，因为它们是建立在其他模型之上的。6. 深度学习驱动的移动和无线网络深度学习在移动网络领域应用广泛。本文在不同的网络管区中组织和分类深度学习应用，并描述其贡献。接下来，本文将介绍所有领域的重要出版物，并对比其设计和原则。无线传感器网络（WSN）由一组分布在不同地理区域的独特或异构传感器组成。它们通过无线通道协同监测物理或环境状态（如温度、压力、运动和污染），并将已收集数据传输到中心服务器。图 5：蜂窝、WiFi 和无线传感器网络中的移动数据收集过程示意图。BSC：基站控制器；RNC：无线电网络控制器。不同无线网络中收集的数据是不一样的，如下展示了由不同基础设施收集的不同数据及及其类型。表 6：移动大数据的分类。后面表 7、图 6 和表 8 展示了上述不同数据类型的应用、部署与研究工作等。表 7：网络级移动数据分析工作总结。图 6：应用级移动数据分析的两种部署方法示意图，即基于云（左）的方法和基于边缘（右）的方法。基于云的方法在云端推断并将结果发送给边缘设备。相反，基于边缘的方法则是在边缘设备上部署可进行本地推理的模型。表 8：应用级移动数据分析工作的总结。表 9：深度学习驱动的移动分析和室内定位的研究工作总结。表 10：深度学习驱动的 WSNs 研究工作总结。无线网络其实还能使用强化学习和模仿学习等先进的技术控制移动网络：图 7：应用于移动和无线网络管控的三种管控方法的原理，即强化学习（上）、模仿学习（中）和分析管控（下）。表 11：深度学习驱动的网络管控研究工作总结。表 12：深度学习驱动的网络安全研究工作总结。7. 把深度学习适用于移动网络尽管深度学习在诸多移动网络领域表现不凡，但免费午餐定理（NFL）表明，一个模型不可能一劳永逸地解决所有问题 [356]。这意味着对于任何特定的移动和无线网络问题，我们可能需要采用不同的深度学习架构以取得更好表现。本节将重点讨论如何从三个角度为移动网络应用定制深度学习，即移动设备和系统、分布式数据中心以及不断变化的移动网络环境。表 13：深度学习驱动的新兴移动网络应用总结。表 14：移动设备和系统的深度学习研究工作总结。图 8：模型并行（左）和训练并行（右）的基本原理。图 9：深度终身学习（左）和深度迁移学习（右）的基本原理。终身学习保留已学的知识，而迁移学习利用源领域标记数据改善没有知识保留的目标领域学习。8. 未来研究展望尽管深度学习在移动网络领域取得的成果日益显著，但仍有若干个关键的开放性研究问题存在，值得去关注。接下来，本文将讨论这些挑战并界定这些可通过深度学习解决的重要移动网络问题，进而为未来的移动网络研究提供见解。图 10：意大利米兰 3D 移动流量表面（左）和 2D 投影（右）的实例。图像 [163] 通过 [402] 中的数据绘制而成。图 11：移动流量数据（左）和其他数据（右）之间的类比。9. 结论深度学习在移动和无线网络领域扮演着日益重要的角色。本文给出了一份有关这两个不同领域之间交叉点的最新的全面工作调查，并总结了各种深度学习模型的基本概念和高级原理，然后通过回顾不同应用场景下的工作来关联深度学习和移动网络学科。本文还讨论了如何针对一般移动网络应用定制深度学习模型，这是以前调查完全忽视的一个方面。最后，本文得出了可能会带来有价值的未来研究结果的若干个开放的研究问题和有希望的方向，并希望这篇文章能成为研究人员和从业人员将机器智能应用于移动网络环境中复杂问题的有趣而明确的指南。

牵一发而动全身，网络中有些节点一旦被去除，就会对网络的连通性产生断崖式的影响。该如何找到这样的节点。近日，发表在 Nature Machine Intelligence 上的一篇论文“通过深度强化学习识别复杂网络中的关键节点”中，提出的 FINDER 算法，开辟了解决该类问题的全新范式。1. 找到关键节点，四两拨千斤地改变网络结构在传染病防控中，那些一旦被去除之后，就会让整个网络传播疾病的能力显著降低的节点被称为“超级传播者”；在营销方案设计中，需要找到关键用户，通过这些用户，让产品信息快速传遍全网；而在药物设计中，找到蛋白质相互作用网络的中心节点，同样能指导药物靶点的选择。 上述场景，都可以归类为这样一类问题：即在网络中寻找一组节点，当按照顺序从网络中去除这些节点之后，在所有可能情况下，网络的连通性会发生最大程度的改变。图1：911恐怖分子网络在不同去除节点方案情况下，最大连通部节点数的情况上图中 a 是参与 911 事件的恐怖分子的社交网络，如果从图中 62 个节点中，选择 16 个去除，去除后，要求网络中相互连接最多的恐怖分子数最低（图中紫色部分），图 b 代表去除的是度数最大的 16 个节点（浅蓝色），图 c 代表通过通过总影响力算法得出的去除的节点，而图 d 代表本文提出的算法去除的节点。可以看出，相比传统的方法，通过新的算法，仅仅去除 14 个节点，就能够让恐怖分子的网络分崩离析互相能联系的恐怖分子是 9 个，而之前为 14 个）。该案例说明，找到网络中关键节点，在现实中有着诸多实际的用途。2. 强化学习与图嵌入强化学习是机器学习三种范式中的一种，其与其他范式的区别之处，在于实时的奖励。其学习的过程是：智能体根据初始策略，决定采取何种行动，外界环境会根据智能体的行动，为其提供奖励，智能体会基于奖励，调整策略，以此迭代提升智能体的决策力。在寻找关键节点的问题上，策略是建立算法根据网络结构，在有限的计算中，找出应该去掉哪些节点。行动是依次去掉这些节点。而奖励则是去掉后，按照定义的网络连通性评价方式，网络连通性会有多大的改变。 复杂网络通常用图这种数据结构来记录，而将图用更低维度的数据进行表征，则被称为图嵌入。通过图嵌入，替代原图的数据，能保留原图中拓扑结构，节点之间的相互关系，以及关于图、子图的其他相关信息。通过图嵌入，能够在之后对图的分析任务中，获得更好的结果。3. FINDER有何不同之处寻找关键节点的问题，如果通过穷举法，随着网络中节点数的增加，会导致计算所需的时间呈指数级增加。这在计算机科学中被称为 NP-hard 问题，是优化算法领域的终极挑战。之前的对该问题的解法，是通过网络中节点的局部特征，例如根据节点分布，属于的模体数，来决定去除哪些节点的。但网络节点的异质性，以及网络的涌现特征，会使得节点对连通性的贡献度，难以通过一个简单指标概括。图2：FINDER 算法示意图FINDER 先在模拟的，节点数较少的 BA 无标度网络中，能够通过穷举法找到最优解的网络中，进行离线学习。如上图前半部分所示。之后在真实场景下的网络中，使用之前训练好的智能体，让其不断根据当前网络，决定要去掉哪个节点。最终得到去除节点的顺序，并据此评价算法的表现，如上图下半部分所示。具体分为两步：首先是编码。使用图嵌入算法 GraphSAGE，通过迭代，提取网络中每个节点的特征。例如最初每个节点的特征是其度数，之后，每个节点的特征向量会向周围的节点传递该节点的特征。 之后的解码步骤：利用强化学习中的 Q-learning，基于当前去除节点后连通度的变化，相比最优连通度的变化差距多少，调整产生策略（下一步去除哪个节点）的神经网络的参数。该神经网络为两层的全连接结构，Relu 为激活函数。在端对端的训练过程中，待优化的损失函数为网络重构误差与 n 步之后的 Q-learning 的奖励函数之和。4. FINDER效果如何随着网络中节点数的增加，实用的算法其运行时间，不应该有明显的增加。对于 FINDER，其时间复杂度为 O（E+V+V * logV），其中 E 代表网络中边的个数，V 代表节点个数。这意味着该算法可以在大数据集上高效执行。 为了说明算法的灵活性，在训练时，采取了两种连通度的评价方法（连接边/最大连通部大小），并分别在节点有权重和无权重的情况下，进行训练和评测。结果表明 FINDER 在上述四种组合下，都表现优异。 评价 FINDER 的效果，分为两步，首先是在 BA，ER 和 WS 模型生成的随机网络上进行评价。由于 FINDER 训练时，使用的是由 BA 模型生成数据，因此其在 BA 模型生成的测试集中表现最佳。如果将训练数据的生产模型替换为 ER 或者 WS 模型，则其在真实网络中的效果会下降。这一点反映了巴拉巴西的无标度网络模型，其模型组成虽然简单，但其包含了真实网络中具有的节点异质性等特征。若非如此，在模拟网络中训练出的智能体，也难以在真实网络中，同样表现出色。 相关阅读：无标度网络模型开山之作：随机网络中标度的涌现真实世界的网络中，评价 FINDER 时，文中使用了 9 种不同来源的网络。其中包含 4 种社交网络，电子邮件通信网、P2P 文件共享网络、社交新闻评价网络、人体内蛋白质互作网络及不同罪犯和所犯罪行的二分网络。在所有 9 种网络中，FINDER 的性能都显著优于之前的方法。图3：FINDER效果对比举例上图的网络，是随机生成的网络，图中横轴是去除的节点比例，纵轴是网络连通性相比之前的比例。从左到右，依次代表节点无权重，节点权重为其度数，节点随机权重的场景。图中红色代表的 FINDER 算法，效能显著优于其他方法。5. FINDER代表了解决一类问题的通用范式该方法为如何解决网络上的优化问题，尤其是那些与具体知识无关，但是由于节点异质性而变得难以解决的问题，提供了一种全新的范式。即将问题转换为，如何通过强化学习，在已知答案的模拟网络上训练智能体找到最优策略。 之前的方法，基于的是一般性的统计规律，例如度数大的节点，连接的节点更多。因此去掉后可能会影响网络的连通性，这种基于相关性推演出的启发式规则，对于特定的场景下，不一定适用。例如小世界网络中，连通两个部分的关键节点，其本身的连接数不多，其重要性来自与其在网络中所处的位置。 而强化学习加图嵌入，则能够让算法基于训练中学到的复杂规则，针对特定场景，动态地制定解决方案。基于这种模式，可以找到解决很多其他问题算法，例如在网络中，识别出该保存哪些节点，能够使网络的连通性最大程度的得到保存。图4：通过强化学习解决最小渗滤阀值问题示意图由于强化学习能够处理延迟反馈带来的问题，即第一步的行动，在第四步才得到反馈，因此对需要多步操纵网络的任务，该方法也是使用的。上图描述的是用该类方法，解决网络中最小渗滤阀值这一问题。由于该问题中，每一步的决策依赖于之前的决策，因此相比寻找关键节点这个问题，在离线训练过程中，其不同点在于，会让智能体先行动 N 轮，之后再给出反馈。基于强化学习，找出网络中为达成某一目标的最优行动，进一步的研究，需要关注的是算法的可解释性。即为何算法会给出这样的策略，如何对其解释。可解释性的增强，可以让这类算法应用到更真实的场景当中。例如警察决定起诉黑帮中的关键成员，通过网络分析，得出了应该起诉哪些人。但还需要有额外的算法，说明如果不起诉这些人，为什么就不能打击该黑帮。否则，公众会怀疑算法是否公平，是否会造成对女性或少数族裔的歧视。苇草智酷简介——苇草智酷（全称：北京苇草智酷科技文化有限公司）是由长期从事互联网前沿思想、人文、科技和投资领域的专家所组成一个的思想者社群组织，其前身是已运营 5 年的互联网思想者社区—网络智酷。苇草智酷秉承“让天下思想者连接起来”、“让思想流动起来”、“让思想直立行走”的主旨和愿景，在泛互联网思想领域中，立足全球视野，感知时代脉搏，聚焦思想前沿。

疫情期间，为了更好的保护学生生命安全，各地教育部门纷纷发布延期开学的通知，同时推出了各种网上学习平台供大家学习，比如学而思，新东方，微课等。面对一种新的教学形式，有些同学还没有完全适应，即使适应了也还无法做到高效的学习，那么这个问题如何很好的去解决呢？笔者有如下建议：1，对于新的教学形式，孩子的认知还不够，需要父母的引导和陪伴，这样的话孩子不会无所适从，也能增加自信，这对于孩子来说非常重要，不过需要注意一点的就是，孩子学习时不要去干扰，我们只要静静的陪伴就好，除非孩子明确需要我们的帮助，我们再去介入。2，劳逸结合，提前跟孩子确定好作息时间，达成共识，并且以文字的形式进行明确，该学习的时候学习，该休息的时候休息，在休息期间，可以做一些简单的运动，玩一些有趣的游戏，或者听一些舒缓的轻音乐，这样可以有效的放松孩子的身心。3，丹田呼吸法，一般来说，孩子的专注力无法持续一整节课的时间，这是由人体的生理特性决定的，人在专注达到一定时间时，能量消耗大，会感到疲倦，需要补充，那么如何补充呢？丹田呼吸法是一个很好的解决办法，主要优点是不需要借助器具，不用离开座位，时间也非常短，具体的操作方法如下：1,双手交叉（左手在外）放在丹田处，2,坐姿是三个90度,脚掌与小腿形成90度，小腿与大腿形成90度，大腿与背部形成90度，3，先用嘴吐气5秒，要长长的吐，吐的同时要想象自己身体里面的疲倦，压力，不开心这些负能量全部随之吐出去了，吐完之后就用鼻子吸，吸5秒，深深的吸，吸外面的能量，一直要吸到丹田，吸到丹田不能立马吐出去，要憋5秒钟，再吐出去。需要提醒的是每个人的丹田位置是不一样的，肚脐眼垂直下方横四指位置处，这是一个区域，而不是一个点。好的网络学习平台，是利用高科技，利用老师丰富的教学经验或者利用有趣的教学手段以达到更好的教学效果，但这些也只能解决老师知识传授的问题，如何解决学生接受知识的问题，才是更加重要的，这也是为什么同样的一个老师上课，学生的成绩却有很大区别的核心所在， 其实每个孩子都是天才，如何去引导和唤醒？方法无他，用心足矣

笔者有幸全程参与了对一小城市里的一所城区小学六年级50多位小学生进行的为期两个礼拜的家访。通过这次家访，笔记发现了以下三个问题：1.当前除实在偏远的山区，其它的学生家家户户并无一人是无网络工具。2.大多数的学生比笔者想象中自觉性要差得多。根据其老师反映，原本在校自觉学习的孩子也压根不用担心，网课完成也十分好。而有许多网络不交作业，平时网课也不回信息进行互动的孩子本身就自觉性很差，在校时期也需要老师和其“斗智斗勇”才有可能上交作业的孩子，并且这类孩子不是因为没手机、电脑、电视等网络设备，相反的是孩子们天天抱着这些网络设备，但其压根不去看微信群老师布置的学习任务、也不看网课，反而一直去刷各种游戏视频，或者玩游戏。家访时，尽快教师跟学生和家长一再探讨此问题，但事后具其教师所诉依旧收效甚微。3.家长由于各种原因无法起到监督作用。有的家长白天一天十分忙，晚上是难得休息时间，觉得自己没精力一一检查孩子学习。有的家长是说自己文化水平不高，无法辅导，就把手机等给孩子，剩下就看孩子自己。有的家长网课没必要，开学后还是要重头讲。其中有一位家长的话让笔者印象深刻：白天自己为生计操劳，回家立马又要买菜做饭，晚上是难得休息。本来自己一开始也确实花时间辅导孩子学习，但是现在学校安排下来的的各种事情越来越多，比如一会要帮孩子在那个禁毒平台学习、一会又要在另外一个禁毒平台完成禁毒知识比赛，一会又要这个安全平台那个平台完成的这个那个的学雷锋、森林防火、假期安全、清明、元宵呀等等专题的学习，一会又要完成这个调查问卷，一会又要完成那个手抄报，这些杂七杂八的东西实在是数之不尽，光是应付这些就让人不胜其烦，那还有多少时间去给孩子辅导课文知识？

人工神经网络研究的先锋麦卡洛克和皮茨曾于1943年提出一种叫做“似脑机器(mindlike machine)”的思想,这种机器可由基于生物神经元特性的互连模型来制造,这就是神经学网络的概念。他们构造了一个表示大脑基本组成部分的神经元模型,对逻辑操作系统表现出通用性。随着大脑和计算机研究的进展,研究目标已从“似脑机器”变为“学习机器”,为此一直关心神经系统适应律的赫布(Hebb)提出了学习模型。罗森布拉特(Rosenblatt)命名感知器,并设计了一个引人注目的结构。到20世纪60年代初期,关于学习系统的专用设计方法有威德罗(Widrow)等人提出的 Adaline(adaptive linearelement,自适应线性元)以及斯坦巴克(Steinbuch)等人提出的学习矩阵。由于感知器的概念简单,因而在开始介绍时人们对它寄予很大希望。然而,不久之后,明斯基和帕伯特( Papert)从数学上证明了感知器不能实现复杂的逻辑功能。神经网络到了20世纪70年代,格罗斯伯格( Grossberg)和科霍恩( Kohonen)对神经网络研究作出重要贡献。以生物学和心理学证据为基础,格罗斯伯格提出几种具有新颖特性的非线性动态系统结构。该系统的网络动力学由一阶微分方程建模,而网络结构为模式聚集算法的自组织神经实现。基于神经元组织自调整各种模式的思想,科霍恩发展了他在自组织映射方面的研究工作。沃博斯( Werbos)在20世纪70年代开发出一种反向传播算法。霍普菲尔德在神经元交互作用的基础上引入一种递归神经网络,这种网络就是有名的Hopfield网络。在20世纪80年代中叶,作为一种前馈神经网络的学习算法,帕克(Parker)和鲁梅尔哈特等人重新发现了反向传播算法。近十多年来,神经网络已在从家用电器到工业对象的广泛领域找到它的用武之地,主要应用涉及模式识别、图像处理、自动控制、机器人、信号处理、管理、商业、医疗和军事等领域。人工智能人工神经网络有哪些重要的特性？(1)并行分布处理。神经网络具有高度的并行结构和并行实现能力,因而具有较好的耐故障能力和较快的总体处理能力。这一特性特别适于实时和动态处理。(2)非线性映射。神经网络具有固有的非线性特性,这源于其近似任意非线性映射(变换)能力。这一特性给处理非线性问题带来新的希望。(3)通过训练进行学习。神经网络是通过所研究系统过去的数据记录进行训练的，一个经过适当训练的神经网络具有归纳全部数据的能力。因此,神经网络能够解决那些由数学模型或描述规则难以处理的问题。(4)适应与集成。神经网络能够适应在线运行,并能同时进行定量和定性操作。神经网络的强适应和信息融合能力使得它可以同时输入大量不同的控制信号,解决输入信息间的互补和冗余问题,并实现信息集成和融合处理。这些特性特别适于复杂、大规模和多变量系统。(5)硬件实现。神经网络不仅能够通过软件而且可以借助硬件实现并行处理。近年来,一些超大规模集成电路实现硬件已经问世,而且可以从市场上购买到。这使得神经网络成为具有快速和大规模处理能力的网络。人工神经网络显然,神经网络由于其学习和适应、自组织、函数逼近和大规模并行处理等能力,因而具有用于智能系统的潜力。神经网络在模式识别、信号处理、系统辨识和优化等方面的应用,已有广泛研究。在控制领域,已经做出许多努力,把神经网络用于控制系统,处理控制系统的非线性和不确定性以及逼近系统的辨识函数等。

选自github.io作者：Rylan Schaeffer机器之心编译参与：吴攀、李泽南、李亚洲前几天，Google DeepMind 公开了一篇新论文《克服神经网络中的灾难性遗忘（Overcoming catastrophic forgetting in neural networks）》，介绍了这家世界顶级的人工智能研究机构在「记忆（memory）」方面的研究进展，之后该公司还在其官方博客上发布了一篇介绍博客，参见机器之心的报道《为机器赋予记忆：DeepMind 重磅研究提出弹性权重巩固算法》。近日，加利福尼亚大学戴维斯分校计算机科学工程和统计学的毕业生 Rylan Schaeffer 在其博客上发表了一篇对该研究的深度解读文章，机器之心对该文章进行了编译介绍，论文原文可点击文末「阅读原文」查看。引言我发现网络上铺天盖地的人工智能相关信息中的绝大多数都可以分为两类：一是向外行人士解释进展情况，二是向其他研究者解释进展。我还没找到什么好资源能让有技术背景但对不了解更前沿的进展的人可以自己充电。我想要成为这中间的桥梁——通过为前沿研究提供（相对）简单易懂的详细解释来实现。首先，让我们从《Overcoming Catastrophic Forgetting in Neural Networks》这篇论文开始吧。动机实现通用人工智能的关键步骤是获得连续学习的能力，也就是说，一个代理（agent）必须能在不遗忘旧任务的执行方法的同时习得如何执行新任务。然而，这种看似简单的特性在历史上却一直未能实现。McCloskey 和 Cohen（1989）首先注意到了这种能力的缺失——他们首先训练一个神经网络学会了给一个数字加 1，然后又训练该神经网络学会了给数字加 2，但之后该网络就不会给数字加 1 了。他们将这个问题称为「灾难性遗忘（catastrophic forgetting）」，因为神经网络往往是通过快速覆写来学习新任务，而这样就会失去执行之前的任务所必需的参数。克服灾难性遗忘方面的进展一直收效甚微。之前曾有两篇论文《Policy Distillation》和《Actor-Mimic: Deep Multitask and Transfer Reinforcement Learning》通过在训练过程中提供所有任务的数据而在混合任务上实现了很好的表现。但是，如果一个接一个地引入这些任务，那么这种多任务学习范式就必须维持一个用于记录和重放训练数据的情景记忆系统（episodic memory system）才能获得良好的表现。这种方法被称为系统级巩固（system-level consolidation），该方法受限于对记忆系统的需求，且该系统在规模上必须和被存储的总记忆量相当；而随着任务的增长，这种记忆的量也会增长。然而，你可能也直觉地想到了带着一个巨大的记忆库来进行连续学习是错误的——毕竟，人类除了能学会走路，也能学会说话，而不需要维持关于学习如何走路的记忆。哺乳动物的大脑是如何实现这一能力的？Yang, Pan and Gan (2009) 说明学习是通过突触后树突棘（postsynaptic dendritic spines）随时间而进行的形成和消除而实现的。树突棘是指「神经元树突上的突起，通常从突触的单个轴突接收输入」，如下所示：具体而言，这些研究者检查了小鼠学习过针对特定新任务的移动策略之后的大脑。当这些小鼠学会了最优的移动方式之后，研究者观察到树突棘形成出现了显著增多。为了消除运动可能导致树突棘形成的额外解释，这些研究者还设置了一个进行运动的对照组——这个组没有观察到树突棘形成。然后这些研究者还注意到，尽管大多数新形成的树突棘后面都消失了，但仍有一小部分保留了下来。2015 年的另一项研究表明当特定的树突棘被擦除时，其对应的技能也会随之消失。Kirkpatrick et. 在论文《Overcoming catastrophic forgetting in neural networks》中提到：「这些实验发现……说明在新大脑皮层中的连续学习依赖于特定于任务的突触巩固（synaptic consolidation），其中知识是通过使一部分突触更少塑性而获得持久编码的，所以能长时间保持稳定。」我们能使用类似的方法（根据每个神经元的重要性来改变单个神经元的可塑性）来克服灾难性遗忘吗？这篇论文的剩余部分推导并演示了他们的初步答案：可以。直觉假设有两个任务 A 和 B，我们想要一个神经网络按顺序学习它们。当我们谈到一个学习任务的神经网络时，它实际上意味着让神经网络调整权重和偏置（统称参数/θ）以使得神经网络在该任务上实现更好的表现。之前的研究表明对于大型网络而言，许多不同的参数配置可以实现类似的表现。通常，这意味着网络被过参数化了，但是我们可以利用这一点：过参数化（overparameterization）能使得任务 B 的配置可能接近于任务 A 的配置。作者提供了有用的图形：在图中，θA 代表在 A 任务中表现最好的 θ 的配置，还存在多种参数配置可以接近这个表现，灰色表示这一配置的集合；在这里使用椭圆来表示是因为有些参数的调整权重比其他参数更大。如果神经网络随后被设置为学习任务 B 而对记住任务 A 没有任何兴趣（即遵循任务 B 的误差梯度），则该网络将在蓝色箭头的方向上移动其参数。B 的最优解也具有类似的误差椭圆体，上面由白色椭圆表示。然而，我们还想记住任务 A。如果我们只是简单使参数固化，就会按绿色箭头发展，则处理任务 A 和 B 的性能都将变得糟糕。最好的办法是根据参数对任务的重要程度来选择其固化的程度；如果这样的话，神经网络参数的变化方向将遵循红色箭头，它将试图找到同时能够很好执行任务 A 和 B 的配置。作者称这种算法「弹性权重巩固（EWC/Elastic Weight Consolidation）」。这个名称来自于突触巩固（synaptic consolidation），结合「弹性的」锚定参数（对先前解决方案的约束限制参数是二次的，因此是弹性的）。数学解释在这里存在两个问题。第一，为什么锚定函数是二次的？第二，如何判定哪个参数是「重要的」？在回答这两个问题之前，我们先要明白从概率的角度来理解神经网络的训练意味着什么。假设我们有一些数据 D，我们希望找到最具可能性的参数，它被表示为 p(θ|D)。我们可以是用贝叶斯规则来计算这个条件概率。如果我们应用对数变换，则方程可以被重写为：假设数据 D 由两个独立的（independent）部分构成，用于任务 A 的数据 DA 和用于任务 B 的数据 DB。这个逻辑适用于多于两个任务，但在这里不用详述。使用独立性（independence）的定义，我们可以重写这个方程：看看（3）右边的中间三个项。它们看起来很熟悉吗？它们应该。这三个项是方程（2）的右边，但是 D 被 DA 代替了。简单来说，这三个项等价于给定任务 A 数据的网络参数的条件概率的对数。这样，我们得到了下面这个方程：让我们先解释一下方程（4）。左侧仍然告诉我们如何计算整个数据集的 p（θ| D），但是当求解任务 A 时学习的所有信息都包含在条件概率 p（θ| DA）中。这个条件概率可以告诉我们哪些参数在解决任务 A 中很重要。下一步是不明确的：「真实的后验概率是难以处理的，因此，根据 Mackay (19) 对拉普拉斯近似的研究，我们将该后验近似为一个高斯分布，其带有由参数θA 给定的均值和一个由 Fisher 信息矩阵 F 的对角线给出的对角精度。」让我们详细解释一下。首先，为什么真正的后验概率难以处理？论文并没有解释，答案是：贝叶斯规则告诉我们p(θ|DA) 取决于 p(DA)=∫p(DA|θ′)p(θ′)dθ′，其中θ′是参数空间中的参数的可能配置。通常，该积分没有封闭形式的解，留下数值近似以作为替代。数值近似的时间复杂性相对于参数的数量呈指数级增长，因此对于具有数亿或更多参数的深度神经网络，数值近似是不实际的。然后，Mackay 关于拉普拉斯近似的工作是什么，跟这里的研究有什么关系？我们使用θ*A 作为平均值，而非数值近似后验分布，将其建模为多变量正态分布。方差呢？我们将把每个变量的方差指定为方差的倒数的精度。为了计算精度，我们将使用 Fisher 信息矩阵 F。Fisher 信息是「一种测量可观察随机变量 X 携带的关于 X 所依赖的概率的未知参数θ的信息的量的方法。」在我们的例子中，我们感兴趣的是测量来自 DA 的每个数据所携带的关于θ的信息的量。Fisher 信息矩阵比数值近似计算更可行，这使得它成为一个有用的工具。因此，我们可以为我们的网络在任务 A 上训练后在任务 B 上再定义一个新的损失函数。让 LB（θ）仅作为任务 B 的损失。如果我们用 i 索引我们的参数，并且选择标量λ来影响任务 A 对任务 B 的重要性，则在 EWC 中最小化的函数 L 是：作者声称，EWC 具有相对于网络参数的数量和训练示例的数量是线性的运行时间。实验和结果随机模式EWC 的第一个测试是简单地看它能否比梯度下降（GD）更长时间地记住简单的模式。这些研究者训练了一个可将随机二元模式和二元结果关联起来的神经网络。如果该网络看到了一个之前见过的二元模式，那么就通过观察其信噪比是否超过了一个阈值来评价其是否已经「记住」了该模式。使用这种简单测试的原因是其具有一个分析解决方案。随着模式数量的增加，EWC 和 GD 的表现都接近了它们的完美答案。但是 EWC 能够记忆比 GD 远远更多的模式，如下图所示：MNIST这些研究者为 EWC 所进行的第二个测试是一个修改过的 MNIST 版本。其没有使用被给出的数据，而是生成了三个随机的排列（permutation），并将每个排列都应用到该数据集中的每张图像上。任务 A 是对被第一个排列转换过的 MNIST 图像中的数字进行分类，任务 B 是对被第二个排列转换过的图像中的数字进行分类，任务 C 类推。这些研究者构建了一个全连接的深度神经网络并在任务 A、B 和 C 上对该网络进行了训练，同时在任务 A（在 A 上的训练完成后）、B（在 B 上的训练完成后）和 C（在 C 上的训练完成后）上测试了该网络的表现。训练是分别使用随机梯度下降（SGD）、使用 L2 正则化的均匀参数刚度（uniform parameter-rigidity using L2 regularization）、EWC 独立完成的。下面是它们的结果：如预期的一样，SGD 出现了灾难性遗忘；在任务 B 上训练后在任务 A 上的表现出现了快速衰退，在任务 C 上训练后更是进一步衰退。使参数更刚性能维持在第一个任务上的表现，但却不能学习后续的任务。而 EWC 能在成功学习新任务的同时记住如何执行之前的任务。随着任务数量的增加，EWC 也能维持相对较好的表现，相对地，带有 dropout 正则化的 SGD 的表现会持续下降，如下所示：Atari 2600DeepMind 曾在更早的一篇论文中表明：当一次训练和测试一个游戏时，深度 Q 网络（DQN）能够在多种 Atari 2600 游戏上实现超人类的表现。为了了解 EWC 可以如何在这种更具挑战性的强化学习环境中实现连续学习，这些研究者对该 DQN 代理进行了修改，使其能够使用 EWC。但是，他们还需要做出一项额外的修改：在哺乳动物的连续学习中，为了确定一个代理当前正在学习的任务，必需要一个高层面的系统，但该 DQN 代理完全不能做出这样的确定。为了解决这个问题，研究者为其添加了一个基于 forget-me-not（FMN）过程的在线聚类算法，使得该 DQN 代理能够为每一个推断任务维持各自独立的短期记忆缓存。这就得到了一个能够跨两个时间尺度进行学习的 DQN 代理。在短期内，DQN 代理可以使用 SGD 等优化器（本案例中研究者使用了 RMSProp）来从经历重放（experience replay）机制中学习。在长期内，该 DQN 代理使用 EWC 来巩固其从各种任务上学习到的知识。研究者从 DQN 实现了人类水平表现的 Atari 游戏（共 19 个）中随机选出了 10 个，然后该代理在每个单独的游戏上训练了一段时间，如下所示：这些研究者对三个不同的 DQN 的代理进行了比较。蓝色代理没有使用 EWC，红色代理使用了 EWC 和 forget-me-not 任务标识符。褐色代理则使用 EWC，并被提供了真实任务标签。在一个任务上实现人类水平的表现被规范化为分数 1。如你所见，EWC 在这 10 个任务上都实现了接近人类水平的表现，而非 EWC 代理没能在一个以上的任务上做到这一点。该代理是否被给出了一个真实标签或是否必须对任务进行推导对结果的影响不大，但我认为这也表明了 FMN 过程的成果，而不仅仅是 EWC 的成功。接下来的这个部分非常酷。如前所述，EWC 并没有在这 10 个任务上实现人类水平的表现。为什么会这样？一个可能的原因是 Fisher 信息矩阵可能对参数重要程度的估计不佳。为了实际验证这一点，这些研究者研究了在仅一个游戏上训练的代理的权重。不管这个游戏是什么游戏，它们都表现出了以下模式：如果权重受到了一个均匀随机扰动的影响，随着该扰动的增加，该代理的表现（规范化为 1）会下降；而如果权重受到的扰动得到了 Fisher 信息的对角线的逆的影响，那么该分数在面临更大的扰动时也能保持稳定。这说明 Fisher 信息在确定参数的真正重要性方面是很好的。然后，研究者尝试在 null 空间中进行扰动。这本来应该是无效的，但实际上研究者观察到了与逆 Fisher 空间中的结果类似的结果。这说明使用 Fisher 信息矩阵会导致将一些重要参数标记为不重要的情况——「因此很有可能当前实现的主要限制是其低估了参数的不确定性。」讨论贝叶斯说明作者们对 EWC 给出了非常好的贝叶斯解读：「正式来说，当需要学习新的任务时，网络参数被先验所调节，也就是先前任务在给定数据参数上的后验分布。这能实现先验任务被约束的更快的参数学习率，并为重要的参数降低学习率。」网络重叠在刚开始时，我提到神经网络的过参数化（overparameterization）让 EWC 能实现优异的表现。有一个很合理的问题就是：为了每个不同的任务将网络划分到特定部分，这些神经网络能否给出更好的表现？或者通过共享表征，这些网络是否能高效地使用其能力？为了解答这个问题，作者们测量了任务对在 Fisher 信息矩阵上的重叠情况（Fisher Overlap）。对高度类似的任务（例如只有一点不同的两个随机排列）而言，Fisher Overlap 相当高。即使不相似的任务，Fisher Overlap 也高于 0。随着网络深度的增加，Fisher Overlap 也会增加。下图演示了该结果：突触可塑性的理论研究者还讨论了 EWC 可能能为神经可塑性方面的研究提供信息。级联（Cascade）理论企图构建突触状态的模型来对可塑性和稳定性建模。尽管 EWC 不能随时间缓和参数，也因此不能遗忘先前的信息，但 EWC 和级联都能通过让突触更不可塑而延展记忆稳定性。最近的一项研究提出除了存储自身的实际权重之外，突触也存储当前权重的不确定性。EWC 是该思路的延展：在 EWC 中，每个突触存储三个值：权重、均值和方差。总结没有遗忘的连续学习任务对智能而言很有必要；研究表明哺乳动物大脑中的突触巩固有助于实现连续学习；EWC 通过让重要参数变的更可塑，从而模拟人工神经网络中的突触巩固；EWC 应用于神经网络时表现出了比 SGB 更好的表现，而且在更大范围上有一致的参数稳定性；EWC 提供了说明权重巩固是连续学习的基础的线索证据。

智东西（公众号：dxcom）编 | 董温淑智东西6月29日消息，近日，中国国防科技大学、美国加州大学洛杉矶分校和哈佛医学院的研究人员研发了一个深度强化学习框架FINDER。相比于现有的解决方案，FINDER能够更快速、更高效地找到复杂网络中一组最关键的节点，进而使复杂网络以较高的效率运行。这项研究发表在国际期刊《自然》旗下的《自然–机器智能》上，论文标题为《用深度强化学习找到复杂网络的关键参与者（Finding key players in complex networks through deep reinforcement learning）》。论文链接：https://www.nature.com/articles/s42256-020-0177-2一、FINDER：适用场景更广泛，运行速度快出几个数量级在物理科学、信息科学、生物科学等领域的研究中，研究人员可以通过建立网络拓扑结构来模拟实际情况、进而作出预测。在这类复杂网络的运行过程中，节点间的配合直接决定了复杂网络运行的效率。当被用于解决NP难题（NP-hard）时，复杂网络中节点的“分工协作”尤其重要。NP难题指的是在多项式时间内可以被验证其正确性的问题。比如，在疫情防控领域，复杂网络模型可以模拟出疫情传播情况、帮助找到疫苗药物分子等。运行这些任务时，复杂网络要推演和验证病毒是否会传染给下一个人、某种药物分子是否有效的各种情况。在这个过程中，找到最关键的节点能够提升复杂网络的运行效率。对于这类问题，现有的解决方案通常基于大型网络进行训练、针对特定场景提出策略，但缺乏统一的框架。相比之下，中国国防科技大学、加州大学洛杉矶分校、哈佛医学院的研究人员提出的FINDER可以应用于广泛的复杂网络场景，其运行速度快了几个数量级。二、分两阶段进行训练，分别采用不同奖励函数FINDER框架采用纯数据驱动的方法，分两个阶段进行训练。在两个阶段中，研究人员用不同的奖励函数来训练FINDER。第一阶段用经典模型生成的小型合成网络对FINDER进行离线训练。离线训练采用-greedy策略。离线训练阶段分三步进行：首先，研究人员生成一批合成图形；然后，研究人员从合成图形中任意取样一个图形；接下来，FINDER框架在这一图形上进行整个寻找关键节点的流程。这一流程中，代理与图形通过一系列状态、动作、激励进行交互。为了确定状态的正确动作，代理先在当前的图形上编码，并获取每个节点的嵌入向量。节点的嵌入向量会捕获节点的结构信息和节点特征之间的长程相互作用（long-range interaction）。接下来，代理将嵌入向量解码为标量Q值，以便所有节点能够预测部署某个动作的长程增益。▲离线训练阶段示意图一旦离线训练结束，FINDER就进入第二个训练阶段，被应用于真实网络拓扑结构中。研究人员在浣熊接触网络（the raccoon contact network）的最大连通元件（connected component）上进行测试。最大连通元件包括14个节点和20条边。这一阶段中，代理首先将当前网络编码为低维嵌入向量，然后利用这些向量对每个节点的Q值进行解码。第二阶段采用“批量节点选择（batch nodes selection）”策略。该策略在每个自适应步骤中选择一个有限分数的最高Q节点，避免了对嵌入向量和Q值的逐个迭代选择和重新计算。批量节点选择策略不会影响最终的结果，但可以降低几个数量级的时间复杂度。研究人员会重复这个过程，直到复杂网络达到用户定义的终端状态、被移除的节点构成最优的节点集合。▲用真实复杂网络进行训练示意图三、对比3个模型性能，FINDER找出关键节点的效率最高相比于机器人等传统的强化学习技术（状态和动作较为简单），复杂网络技术更加复杂和难以表示。研究团队高级研究员孙怡舟称，这是因为复杂网络具有离散的数据结构和处于极其高维的空间。本项研究中，研究人员用图神经网络（GNN）来解决这个问题。图神经网络中的节点代表动作、图形代表状态。以911恐怖袭击事件发生预测网络为例，网络中每个节点代表参与911恐袭的恐怖分子、每个边（edge）代表他们的社会交流。研究人员在911恐怖袭击事件发生预测网络上运行FINDER框架，并运行现有的高维（HD）方法和集体影响（CI）方法做对比。下图d显示了三种方法的ANC曲线。在框架部署动作后，剩余节点的重要性越低，代表框架性能越好。可以看到，FINDER框架最有效地找到了复杂网络中关键节点。相比于其他两个解决方案，随着被移除节点的重要性升高，运行FINDER框架的复杂网络中剩余的节点重要性最低。▲911恐怖袭击事件发生预测网络（蓝色点代表剩余图形中的节点，红色点代表当前时间步长中FINDER找出的关键节点，灰色点代表剩余的孤立节点）结语：未来将可用于更多类型复杂网络FINDER框架通过深度强化学习方法进行训练，可以找到复杂网络中的关键节点。在未来，FINDER框架或可被用于优化社交网络、电力网络、传染病蔓延网络等模型的性能。目前，加州大学洛杉矶分校的研究团队正计划将FINDER框架用于网络科学研究。哈佛医学院的团队希望将FINDER用于生物网络，以确定蛋白质交互网络和基因调控网络中的关键参与者。另外，研究人员称未来将从以下三方面着手，提升框架寻找关键节点的性能：设计出更好的图形表示学习架构；探索如何在跨图形甚至跨域转移知识；研究并解决复杂网络上的其他NP难题。文章来源：TechXplore、Nature Machine Intelligence

懵懵懂懂的我，被卷入“网络教学”大潮之中，从开始的胡冲乱撞，到现在的熟练操作；从一名青涩的新手，到现在“线上教学”从容应对的“网络教学”教师，我从中收获了失败的困惑和成功的喜悦，这里我重点与各位分享不同网络系统的教学功能。今天是2020年2月13日，星期四。往年这个时候的学校，早已是上课书声琅琅，下课欢声笑语。可今天的学校，依然静悄悄，大家都待在家中，新型冠状肺炎疫情已经到了决胜关键的时刻。虽然不能出门上学，可我们身处“地球村”，“线上教学”正如火如荼地进行着。身为一名教师，也是一名家长，从接受“停课不停学”的任务开始，到正式开始了网络教学，我们一路走，一路看，一路思索，一路实践，与各种教学软件开展了各种“PK赛”，困难多，收获更多。希沃云课堂平台的运用：这是目前教育系统最先进的网络教学平台了。因为这款网络系统使用起来方便灵活，课件内容丰富有趣，成了我---一名小学低年级语文教师的首选。一切准备就绪，我就拉上女儿开始了实验。课件很醒目，网络很流畅，我情绪饱满地讲了十来分钟以后，发现了问题：作为小学低年级的学生来说，他们的注意力很容易转移。如果教师一个人在电脑前唱四十钟的“独角戏”，观察不到他们的学习状态，提醒不了他们集中注意力，也不能让学生发言，把他们的朗读训练切进课堂，对于语文教学来说，是很不合适的。看来，“最先进的，不一定是最好的”，我只好“忍痛割爱”了。希沃知识胶囊平台的运用：因为一个知识胶囊相当于一个小视频，时间可长可短，有利于保护学生眼睛，适合讲一个个小知识点，更有利于保护学生眼睛，可以把学生的注意力完全集中过来，更高效地完成教学任务，。我在试验之后，把它作为我教学的首选。通过这几天的使用，我发现“知识胶囊”制作起来耗时短，家长使用也很方便：把二维码发到微信群里，让学生在家长地帮助下扫码进群，观看视频就可以了。哪个小知识点没有听懂，再一次观看视频即可。“知识胶囊”是教师上课的“必备神器”呀！腾讯会议平台的运用：我校五年级的罗老师成了第一个“吃螃蟹”的人---她是本校第一个使用腾讯会议系统的。她在手机上进行了两次腾讯直播后，在学校微信群里向老师们强烈推荐了它。我以一个家长身份观察了女儿两节课的上课情况：第一节上课时，罗老师试着让学生打开了摄像头进行授课，好坏立见分晓---网速快时，画面稳定，声音清晰；网速慢时，画面卡顿，声音诡异，还时常有人掉线。第二节上课时，罗老师要求所有学生关闭摄像头，上了一堂《阅读分享》课。虽然偶尔在手机中能听到老师或其他发言同学的回响，但整体效果不错。可以这样说：腾讯会议软件更适合语文、英语课堂教学。如果网速有保证，能打开摄像头，那就完美！班级优化大师平台的运用： 这个APP的开发，是老师批改作业的“必备利器”--因为它用起来真得很方便！在这个软件里，可以接收学生的视频作业：体育课锻炼的、背诵课文的、阅读童话的……可以接收学生的交本作业图片，并且能批改对错。还可以以语音方式在学生作业下留言，评价学生作业的形式更是多种多样：有各种有趣的头像，有各种鼓励性的语言，教师只要轻轻一点，操作就能完成，有了这样的评价，更能激发学生写好作业的兴趣！无论是云课堂、知识胶囊、班级优化大师，还是腾讯会议等网络平台，都是老师们智慧的结晶。有这么多高端产品的技术支撑，有全体教师的共同努力，我们的网上教学之路会越走越平坦，越走越宽阔！俗话说得好“一花独放不是春，百花齐放春满园”。各位同行老师，以上几款网络教学平台使用的优势和劣势就分享到这里，你对这几款网络教学平台的使用有什么新的看法？不妨相互交流一下吧？欢迎发表评论。

为什么有的人收入低，为什么有的人收入高？想要提高收入的朋友要反思，要聚焦到自己的业务上，要聚焦到流量上，要聚焦到成交上。想好自己做什么项目，首先要了解项目的盈利模式与推广模式。如果做低端市场，可以卖产品，只是绝对不能卖服务。 收入越低的人，越现实，他们只在乎眼前的利益。 他们只能接受看得见、摸得着的产品，所以卖给他们产品就行了。收入高的人，喜欢充电，他们对具体的产品不怎么感兴趣，只是对那些能够提高自己理财能力或开阔自身投资眼光的课程感兴趣，我们可以为他们提供这方面的服务。所以对很多创业者来说，知识变现一直是一个重大的课题，许多人纷纷开始尝试打造自己的内容产品，其实网络上有很多种内容变现的方式。简单来说，将你要分享的内容整理成一期接着一期的音频栏目；将领域内的知识整理好，制作成一系列的课程.让购买者可以随时自学。互联网上基本包含了一切你想要的客户源，只是在不同的平台，或喜欢不同的形类的内容，只要你明白你的客户是哪些人？在哪些平台上，你就能轻松吸引他们与你发生关联。写文章或者拍视频就是最佳营销模式，成本低，见效快，人人可以，只要你有料，有货，随时都可以获得用户，获得成交。持续的经营自己的IP，就会让客户养成购买习惯。比如某读书会每天都会推书，粉丝的购买习惯，是从小培养起来的，他读书累，自然就开始付费来学习。用户的购买习惯是通过舆论，以及小东西培养起来的。不管我们做什么项目，都最好先研究一下人性，喜欢什么，厌恶什么，研究人都容易被哪些东西误导，研究人的思维的局限性，研究人为什么经常不理智。做广告要研究人，做生意要研究人，创业要研究人，搞投资要研究人，几乎做好任何跟人有关的事情，都需要我们更好的了解人。不管是销售产品还是卖服务，本质上都是营销，满足用户的某种需求，只要你明白用户的需求和你的工作关系，赚钱就会变得轻而易举。