信息化研究论文

机器之心原创作者：邱陆陆6 月，计算机视觉领域重要会议之一 CVPR 2018 正在美国盐湖城火热举办，目前会议日程已接近尾声。近年来，随着计算机视觉算法从实验室走向商用，这朵「高岭之花」逐渐走进「寻常百姓家」，我们毫不意外地看到越来越多的商业公司出现在学术会议上。国外，我们能看到谷歌、Facebook 的大批论文；国内，我们能看到腾讯、阿里巴巴、商汤等巨头与创业公司在论文接收量与挑战赛成绩上不输于国外巨头，其中商汤科技的论文接收数量达到创纪录的 44 篇。值此大会期间，机器之心走进商汤，尝试从 44 篇接收论文中找出商汤近期的主攻方向，分析公司为 3-5 年乃至更长期的发展进行了哪些战略技术储备，也观照 CVPR 会议，乃至视觉领域的关注点迁移趋势。同时我们采访了三位来自商汤入选本届 CVPR oral / spotlight 环节的论文作者，与他们谈了自己的研究，如何进行开发，以及对 CVPR 乃至 CVPR 之外整个视觉领域研究现状的看法。自 2012 年以来，经过视觉领域诸多学者们的不懈努力，「物体识别」、「人脸检测」等传统任务的性能在一定程度上达到饱和，因此纵观本届 979 篇入选论文，我们会看到研究者们纷纷将目光转向近年来的一些新兴问题。在今年，商汤的研究者们就大规模分布式训练、人体理解与行人再识别、三维场景理解与分析、底层视觉算法、物体检测、识别与跟踪、深度生成式模型、视频与行为理解等多个问题展示了自己的最新工作。而纵观 CVPR，已经有一批从实际应用场景出发的、有针对性的新问题受到了广泛关注，一些数据模态和模型结构设计已经形成了声势浩大的热门子领域。例如，CVPR 2018 总共有超过 30 篇论文探讨如何解决行人再识别问题，其中 7 篇来自商汤。行人识别问题的难度某种程度上胜于人脸识别这个视觉领域的传统研究热点：大多数情况下，行人属于非合作状态，视角比人脸更多样；同时因为人体关节的活动范围远大于面部肌肉的活动范围，即使视角相同，不同动作的同一行人差异也会非常大。行人再识别无疑是继人脸识别之后，另一个有着广阔应用场景的研究课题，在智慧城市中，其可以应用于多摄像头联动的行人追踪；在智能零售行业里，也可以用于调研用户的行为轨迹，为分析顾客购物需求与商品关注度提供宝贵的数据。本届行人再识别领域唯一一篇 oral 论文就来自商汤，第一作者 Dapeng Chen 近三年都在从事行人再识别中相似性测度部分的研究，在后文的采访中，他也提到，自己的研究逐渐从非深度学习方法转向深度学习方法，从小数据集延伸到大规模数据集。除了行人再识别之外，商汤入选论文中也有 4 篇涉及三维场景理解与分析。在 CVPR 收录的论文中，有高达 83 篇以「3D」为名，涉及三维视觉的工作则超过 90 篇，占据了全体收录论文的近 1/10。三维视觉研究的再度火热一方面归功于三维传感器的快速发展，另一方面也来自于自动驾驶等三维应用场景快速发展衍生的强烈需求。能够处理无序三维点云数据的新算法不断涌现，三维检测、三维分割等问题的精度与效率均在快速提升中。面向传统的三维视觉问题，如运动恢复结构（Sturcture from Motion）、同步定位与地图构建（SLAM）、基于单目图像的三维结构恢复等问题，研究人员也基于深度学习技术提出众多新颖算法，不断突破原有算法的性能瓶颈。商汤的 spotlight 论文 Single View Stereo Matching 就关注自动驾驶场景下基于单目图像的深度估计。基于视觉的自动辅助驾驶系统通常使用单目摄像头获取图像，判断当前车辆与周围车辆、行人和障碍物的距离，该论文提出了一种能够大幅度提升单目图像深度估计精度的算法。此外，商汤科技还有 3 篇文章基于对抗生成网络提出了新颖算法，而 CVPR 共有 81 篇文章使用了对抗生成网络。图像生成是经典的视觉问题，而对抗式方法的引入让研究者得以生成分辨率更高、与真实图像更接近的图像。基于对抗式生成网络的图像生成已经成为数据增强的有效手段之一，数据生成的进步意味着研究者在一定程度上可以摆脱深度学习模型对巨型数据集的需求这一制约条件。对抗性损失函数也可以帮助其他视觉问题（如检测、分割、识别等）增强性能与鲁棒性。这些与实践紧密结合的工作反映了商汤如何把实践中遇到的问题抽象为研究问题，以及如何利用研究推动自身的商业边界。而除了自身应用息息相关的相关问题之外，当商业公司趋向成熟，也会以支持基础研究的形式吸引最优秀的研究者来到公司，进行前沿的基础研究也是公司「秀技术肌肉」的好方法。当前深度神经网络的结构往往对最终结果有着重要影响，神经网络自动设计算法因此在近年引发大量关注。商汤科技本次 CVPR 三篇 oral 论文之一，Practical Block-wise Neural Network Architecture Generation 就致力于解决面向自动设计网络结构的难题。论文第一作者 Zhao Zhong 在采访中特别强调了商汤为研究提供的大量计算资源：这是商业公司相比于实验室在基础研究方面的一个重要优势。除了从宏观的角度对商汤的全体论文进行解读之外，机器之心向三位来自商汤、主攻不同研究方向的本届 CVPR oral/spotlight 环节入选论文作者提出了 几个问题，呈现一线研究者视角下的 CVPR。三位研究者分别是：Zhao Zhong：Practical Block-wise Neural Network Architecture Generation 第一作者，自动化网络设计方向Dapeng Chen：Group Consistent Similarity Learning via Deep CRFs for Person Re-Identification 第一作者，行人再识别方向Chao Dong：Crafting a Toolchain for Image Restoration by Deep Reinforcement Learning 第二作者，底层计算机视觉与强化学习方向能否用一句话概括一下你本次 CVPR 的文章主题，并用一段话简述一下文章内容。Zhao Zhong（简称 Z）：自动设计网络结构的算法框架 BlockQNN。本次我作为第一作者发表的论文提出了一种基于强化学习的网络结构自动设计算法，通过「网络块」的设计思想，让搜索空间大大降低，并且使设计的网络具有非常强的可迁移性。同时，我们使用了「提前停止」和分布式架构来加速整个网络结构学习过程，达到了百倍于之前算法的速度（32 块 GPU，3 天的训练）。实验表面，其生成的网络结构在 CIFAR 数据集上达到并且超越人类设计的网络结构的精度，并且结构可以迁移到大规模的 ImageNet 数据上，取得优异的分类性能。Dapeng Chen（简称 D）：引入组一致性约束条件的高精度行人再识别。行人再识别是新一代智慧城市系统中的重要组件之一。给定一幅行人图像，行人再识别要求跨不同摄像头，对同一行人基于其视觉外观进行准确匹配和识别。现有深度学习算法通常使用过于局部的约束损失函数进行行人特征学习，因而不能精确的学习行人图像之间的视觉相似度。本次我们的这篇论文针对该问题提出一种新颖的组一致性约束条件，并通过连续条件随机场对该约束条件进行建模。将该随机场加入深度神经网络，实现了该深度模型的端对端训练。实验结果表明提出的一致性条件在训练与测试中均能够大幅度提升最终视觉特征的鲁棒性与判别性，实现高精度的行人再识别。该论文是本次 CVPR 大会在行人再识别方向唯一的一篇 oral 论文。Chao Dong（简称 C）：使用多个小型 CNN 专家以协作方式解决困难的真实图像复原任务。在底层视觉算法领域，卷积神经网络（CNN）近年取得了巨大的进展，在诸如去模糊、去噪、去 JPEG 失真、超分辨率等图像复原任务上已经达到了优异的性能。但是现实图像中的失真往往更加复杂，例如，经过多个图像降质过程后，图像可能包含模糊、噪声、JPEG 压缩的混合失真。这类混合失真图像对目前的图像复原算法仍然充满挑战性。近期的一些图像复原工作（如 VDSR、DnCNN 等）证实了一个 CNN 网络可以处理多种失真类型或不同失真程度的降质图像，这为解决混合失真问题提供了新的思路。但是，这类算法均选用了复杂度较高的网络模型，带来了较大的计算开销。另外，这些算法的网络均使用同一结构处理所有图像，未考虑一些降质程度较低的图像可以使用更小的网络进行复原。针对现有图像复原 CNN 算法模型复杂，计算复杂度高的问题，这篇论文我提出的 RL-Restore 算法弥补了这些不足，以更加高效灵活的方式解决了复杂的图像复原问题。你的研究方向是什么？本次 CVPR 投稿论文在你的研究方向上处于什么位置？Z：我的研究方向是自动化网络设计。这篇文章在投稿时是性能先进的自动网络结构设计算法。但过了半年多，后续又出现了很多新的优秀工作，我们本身也在继续迭代研究新的方法。D：我的研究方向集中在视频监控中的行人再识别问题。近三年来我一直从事行人再识别问题中相似性测度学习的研究，之前的研究以非深度学习的方法对测度学习的形式和空间约束等进行研究（发表论文收录于 CVPR'15、CVPR'16、IJCV'17），主要应用于小规模训练数据。这次的投稿是将深度神经网络与传统概率图模型相结合，以样本之间的相似性为对象构建条件随机场，约束行人特征的学习过程。C：我的研究方向是底层计算机视觉，包括图像和视频等画质增强，超分率，去噪等。本次投稿论文对我来讲是非常重要的一篇工作，我们首次利用增强学习的方法解决图像处理问题，是用一种全新的思路解决，更加贴近真实场景的实际问题，也是一次大胆的尝试，我们希望它能够激发更多人的灵感，带来更多优秀的成果。如果让你对今年 CVPR 的近一千篇论文进行分类，你会以什么为标准进行分类？分成哪些类别？Z：我会按照题目和方法的创新度来分类：1）提出新问题用老方法解；2）在老问题上提出新方法；3）在别人的已有方法基础上做修改；4）发现新问题提出新方法解决。D：根据不同方法解决问题的数据模态，我将方法进行了分类，这是因为不同数据类型所包含的信息有各自的特点，因此处理的方式很有很大的不同。不同数据的模态包括：图像数据、视频数据、点云数据、文字数据以及音频数据C：我可以简单的把 CVPR 论文分成三类，一类是理论性较强的论证性论文，一类是偏重应用但关注的仍是传统问题或数据集的论文，最后一类是提出并尝试解决一些真实问题的论文，这些论文在今年越来越多，人们开始关注那些真实的场景，比如去噪方面已经不再局限在高斯噪声，而是关注拍照应用场景中的实际噪声，并有新的数据集出现。在你的研究中，除了深度学习之外，还引入了哪些机器学习/数学/物理学概念？为什么考虑结合深度学习与这个特定概念？Z：我还引入了强化学习，其能够自动设计网络结构而没有确定的优化方式，所以基于试错的强化学习是一种比较合理的解决方案。D：我引入了经典图模型中的条件随机场模型。条件随机场是一种能够描述变量之间依赖关系的数学工具，与深度学习结合在图像语义分割等问题中已经得到了一定的应用。这次投稿的论文中，深度条件随机场的用法与众不同: 之前深度条件随机场通常将像素值建模为模型中的随机变量，建立一张图像中像素与像素之间的依赖关系。而这篇论文提出的方法以不同图像之间的相似性作为随机变量，建立了不同样本之间相似性的依赖关系进行特征学习。C：我这两年在关注增强学习，并尝试结合增强学习与深度学习，解决一些单一深度学习框架不能解决的问题。深度学习对于动态规划决策一类的问题无法很好的解决，而增强学习可以弥补这个缺陷，将深度学习的模型融入增强学习的框架中，可以延伸深度学习解决问题的范畴，发挥更大的力量。你在与同行交流你的这篇工作时被问到最多的问题是什么？Z：该工作用了多少 GPU 卡？自动设计的网络以后真的能取代调参侠么？我们在工作中使用了 32 块 GPU，从目前该方向的发展趋势来看，自动设计的网络架构能够在 1-2 年内替代人类的手工设计。D：为什么在这篇论文中要提出群组相似性的概念而使用 CRF 建模？因为图像之间的相似性本身很难定义。两张图片是否相似往往能够通过与更多的图片比较获得，因此建立利用更多图片并建立它们之间的依赖关系能够建立更加合理的相似性描述。C：增强学习的框架是否很难训练，初学者如何上手？我们的论文网页上提供相应的训练和测试代码，会帮助想学习的人快速起步，掌握要领。除了自己的研究方向外，本届 CVPR 你最感兴趣的方向是什么？为什么？Z：深度学习的可解释性，深度学习火了这么多年还是没有在原理上解释的突破，而且学界也非常想从原理上来指导设计网络结构。D：3D 视觉方向。首先，3D 信息能够展示与图像不同维度的信息，是对图像信息的进一步补充，与图像结合具有更加广阔的研究空间。此外，在目前自动驾驶和机器人研究火热的氛围中，3D 视觉领域的应用有着强烈的应用需求，更有可能将研究的成果应用到实际的产品中，实现研究对社会的价值。C：我开始关注人脸编辑这个方向，比如美妆，美颜，人脸老化等。主要原因是这个方向的产品开始逐渐增多，也越来越受到大众的喜爱。商汤为你的研究带来了哪些帮助？自己有哪些提升和感受？Z：感谢商汤给我的研究提供了大量的计算资源，没有这些 GPU，这个工作单单在高校实验室是不可能完成的。还有就是和商汤研究院里研究员们的讨论氛围非常浓，容易产生更多的研究想法。D：商汤科技有着天然的应用需求，强大的深度学习平台和硬件支持，鼓励创新的氛围以及一起奋斗的小伙伴。C：商汤提供了一个非常广阔的平台，我们可以和客户面对面的交流互动，深入了解客户的需求，清楚实际问题和论文的差距。同时商汤有非常多优秀的员工和实习生，与他们在一起工作是很开心的事情。当然，商汤的工作也是非常紧张快节奏的。

近日，一篇题为《关于屁的社会学研究》的硕士毕业论文在网上流传，引发争议。有网友“讥讽”：寒窗苦读那么多年，还真是研究了个“屁”。也有网友读后评论称，看似无意义的被嗤之以鼻的事物，“深究起来，是严肃的事”。据了解，该论文写于2007年，作者系华中师范大学社会学在职硕士高建伟。彼时，高建伟不仅凭借这篇论文通过硕士论文答辩，还被评为“优秀”。(6月16日 澎湃新闻)《关于屁的社会学研究》的硕士毕业论文被传上网后，招来了不少网友的讥讽。实际上，网友并没有认真看这篇论文，不少网友甚至没有看论文，看到的只是这篇硕士毕业论文的标题、作者名等等一些简单内容，就对这篇论文嗤之以鼻。实际上，这篇论文研究的不仅是“屁”这个生理现象，更是背后存在的社会现象。这篇论文学术态度端正，没有止于简单的就事论事，而是运用社会学的理论对“屁”进行分析。高建伟的研究另辟蹊径，这篇论文是一篇有创新价值的论文。正因如此，这篇论文才会被评为“优秀”。现实中，一些学生选择写论文时，更容易陷入同质化的窠臼，有的学生是偷懒，毕竟大家都研究的课题，更为熟悉，更好上手，有的学生甚至就是为了方便抄袭，这也是学术抄袭成风的原因之一。这么来看，《关于屁的社会学研究》就更显可贵。这背后是学术创新。而学术研究正是需要多一些这样冷门、另类的研究，这样才更有利于推动学术研究的发展。而像这样的“另类研究”也有一些，比如此前《网络会话中“呵呵”的功能研究》《乌有之猫：云吸猫迷群的认同与幻想》《八角茴香对卤鸡肉挥发性风味的影响极其作用机制》等论文都曾引发热议。这样的另类论文并非是学术研究的“浊流”，反倒是一股“清流”。这样的创新论文多多益善，但从现实来说，这样的创新论文、创新研究又太少了。一些网友对这种创新论文、另类论文大惊小怪，甚至予以质疑。一方面是对学术创新欠缺了解，对此，需要舆论对此类创新研究、独立研究多一些理解与包容，营造良好的舆论环境。另一方面，网友的调侃与质疑，也折射了社会对于学术论文质量的担忧。研究了个“屁”的调侃，不过是对学生论文、学术研究空洞无物的焦虑。论文质量下降、学术抄袭现象成风，确实是普遍现象。对此，教育部门、高校等相关方要能“两手抓”，一方面要鼓励学术创新，鼓励多一些《关于屁的社会学研究》这样的创新研究;一方面还要严把论文质量关，对于抄袭现象严惩不贷，把那些真正言之无物的学术研究或抄袭之作扫进垃圾堆。文/戴先任

随着日本的动漫游戏等御宅文化对国内的影响，动漫以及游戏爱好者在校园中所占到的比例还是挺惊人的，再加上有不少的商家企业为了吸引围拢青少年受众，不管懂不懂日本的御宅文化，也要借这个概念给自己的产品或者服务贴上相关的标签，诸如“二次元爆款手游”什么的，年轻人受到“二次元风暴”的影响也就越来越大了......部分正在就读，或者曾经就读过大学的阿宅们，在应对课外科研课题或者毕业论文的时候，或许会有着这样的想法：如果将自己对日本御宅文化现象的喜爱和了解做成研究课题的话，做起来不就更加有热情，而且应该也会更加轻松吗？于是乎，基于类似这样的想法，这些大学生阿宅们纷纷提出了各种与日本御宅文化现象有关的研究课题，拾部君觉得这其实是一件挺好的事情，不过遗憾的就是，在本科生这个层面中，相当一部分与日本御宅文化有关的课题，只不过就是脑子一热，然后随便拍脑袋想出来的而已，整个课题完全经不起严谨的推敲。日本御宅文化领域有很多可供现在的大学生阿宅拿来当论文选题的内容，如果这些大学生阿宅们不担心吓到导师的话，还可以想出一些很奇葩的课题，比如说下面这一位：近日，有国内的网友在贴吧上发了一张帖子，内容是这名网友去围观大学大四的学生做论文的开题报告，本来去看大四的学生做论文的开题报告是很正常的事情，而让其他网友们引发热议的重大原因当然就是这名大四学生的论文选题了。（图片来源：百度贴吧）这名大四学生究竟选择了怎样的日本御宅文化现象来当选题呢？各位看看图里面的内容就知道了：没错，这名大四学生当着导师和其他同学的面前大说特说的论文主题就是——妹控文化。（图片来源：百度贴吧）从发帖网友所列出的图中，各位可以看出，这名大四的阿宅用了比较长的篇幅列举了日本动漫以及游戏中的经典妹系作品以及经典的妹系美少女角色（看得出来，这名阿宅确实看了不少相关的作品）。而这名阿宅列举了这么多的妹系作品以及妹系美少女角色，是要干嘛呢？原来，这名阿宅想要研究喜欢日本妹系动漫游戏作品的阿宅们如此钟爱妹系美少女角色，甘愿对外宣称自己就是一名“妹控”的心理原因到底有哪些......（拾部君书读得少，这真的可以写出一篇合格的科研论文？）尤其是就图片中所展示的内容来看，这名阿宅应该是没有列出其想出这个课题时所参考过的专业资料和文献，拾部君不免担心起这名阿宅将来论文答辩时被诸位导师质疑的命运......拾部君到网上查了一下，国内之前去做日本御宅文化相关内容的课题还不少呢。但是当拾部君看了一下这些论文的摘要之后，只能够从心里面感叹一句：这都是些什么玩意儿！拾部君觉得，去从不同的学科角度研究日本御宅文化的现象，这其实挺好的，起码不用去做那种千篇一律的东西，但是，拾部君想要提醒个别大学生阿宅们，你们在通过这些课题满足自己的兴趣爱好的同时，请不要忘了如何去通过导师的质疑和审查，到时候写出来的论文质量直接让导师脸上的表情相当复杂，原本有部分导师就对日本御宅文化存在偏见，这样留给导师的坏印象就更加深刻了。关注【拾部次元】，一个由漫画家撰写，有态度的动漫频道

刚开始接触论文的同学往往都有种不知从何下手的感觉，总感觉没办法完整地把一篇论文从头到尾认真看一遍，即使看完一遍之后，也总会立马忘记，而对于那些马上要着手毕业论文写作的同学来说，他们要短时间内看大量的文献，一方面要求通过文献阅读能掌握足够的文章写作技能，另一方面，通过大量文献的积累，找到自己毕业论文方向和研究的主要内容。因此，能准确抓住阅读文章的技巧非常重要，它能帮你节约大量时间，也能帮你准确抓住重点！那么，今天就跟大家分享一下当我们确定了自己的研究方向，怎么能高效快速把握当前文献研究的主要内容以及如何准确把握文献！首先，确定研究方向后先找出这个研究方向中写得比较好的文献综述。至于去哪里找，你可以关注一下国内外比较好的期刊发出的相关文章，或者你也可以关注一下对于这个研究方向国内外有哪些学者的研究比较深入，重点去参考他们的文章。找到质量高的论文是你能写出好文章的基础，在找到好文章之后，我们该怎么做呢？在找到这样的一篇文献综述后，你可以重点了解你的研究方向目前已得出了什么研究结论，还有什么问题需要解决，目前已有文献存在的缺陷，有没有什么问题急需解决但还未解决的，这些问题就是你研究的重点！其次，当我们在对这个领域有了大致了解后，我们需要扎根在每一篇具体的文章，这就是要求你必须要找出最近发出的质量比较高的文章，仔仔细细把每一篇文章弄明白。那如何高效快速把握一篇文章呢？第一，抓题目。题目大多会点明文章主要研究是什么，所以如果你是目标明确，特意找某个研究方向的文章，你可以先通过关键字去检索文章题目。第二，抓摘要和关键词。当你要看一篇文章时，注意，一定要先去看摘要，摘要真的非常重要！一般文章摘要会控制在差不多三百字左右，这三百多字非常简练的点出了文章的主要研究内容、研究方法和研究结论。所以这是文章的最精华之所在，必看！有同学说，我看着摘要，看完根本不知道它在说什么，有这种情况的同学，说明你真的没看过几篇文章，如果摘要看不懂没关系，你可以在精读每篇文章之后再来看一下摘要，我想这个时候你一定能看得非常懂了。第三，通读全文。通读全文不是说让你读一遍就可以的，真正要读懂真的要2遍以上，而且第一遍一定要去精读，作者每一句话你都要明白他想表达的意思。第四，要总结每一节作者在主要讲什么。这个非常重要，可以自己总结一下，这篇文章作者是采用了什么方法论证了什么观点。最后，我们在不断精读文章之后，一定要学会把相同领域的不同文章串起来。其实这个串起来也就是让你自己去写一篇文献综述，这个文献综述，你可以先介绍一下你这个研究具有什么研究背景，研究意义，说一下目前这个研究都取得了什么进展，哪些人对该方向进行了研究，这个你可以按照时间进行归类排序，当然也可以按照观点进行归纳和排序（我的建议是按照观点进行归类），接着再说一下目前的研究存在的问题和未来需要进一步研究的方向，也就是文献评述和未来展望。在完成上述一系列操作后，你就对目前的研究方向有了比较深刻的了解了，在这个过程中呢，你也会慢慢积累阅读文献的技巧，希望这篇分享能给大家带来些许收获！

10月21日，白城师范学院召开了本科毕业论文（设计）信息化管理系统建设优化研讨会，重庆泛语科技有限公司吉辽地区经理田志伟、产品经理焦鹏，该校教务处副处长史晓星，各学院副院长、教学秘书及教务处相关工作人员参加会议。会议由史晓星主持。史晓星首先对2020届本科生毕业论文（设计）工作基本情况和各教学单位线上答辩工作开展情况进行了总结。他指出各教学单位高度重视疫情防控形势下的毕业论文（设计）管理工作，措施落实到位，线上答辩过程顺畅有序，效果良好。田志伟就毕业论文（设计）管理系统的运行、模块功能、改进思路和业务流程进行了汇报。参会教师各抒己见，逐一结合自己的毕业论文（设计）指导实际，并根据本学院具体情况，提出了毕业论文（设计）管理系统在指导过程中出现的问题和今后系统优化的建议，分享了关于如何规范毕业论文（设计）、提高毕业论文（设计）质量的途径和措施。田志伟针对老师提出的问题进行了反馈，提出了整改措施。最后，史晓星充分肯定了本次研讨会对毕业论文（设计）管理系统逐步优化的积极意义，并部署了2021届毕业论文（设计）的准备工作。（通讯员：白城师范学院史晓星来稿）

利用人工智能技术建设临床科研大数据平台。采用了Openstack作为数据平台私有云的解决方案，应用层使用Docker容器化的方案，数据库使用了开源数据库软件PostgreSQL，平台的应用主要由科研数据中心、临床大数据治理平台、智能科研检索、临床科研采集系统、全院级科研随访系统五部分组成。通过该平台临床研究人员获取数据将更便捷、科研管理更高效、探索新的研究方向更容易。基于临床科研大数据平台，能为医院各专科提供有效的科研服务，实现科研、论文和核心技术等方面的突破提升。随着医疗体制改革的深入，科研水平成为衡量医院发展水平的重要因素。科研大数据平台作为医院科研、教学工作的一个重要组成部分，在提高临床科研水平和培养医学研究人才方面发挥着十分重要的作用。如何为临床科研人员搭建平台，以有限的资源发挥最大效应，实现资源共享，最大限度地发挥科研支撑平台的作用，是目前大型综合性医院亟需解决的课题。研究背景 2017年国务院发布的《新一代人工智能发展规划》中提出要大力推广应用人工智能治疗新模式新手段，建立快速精准的智能医疗体系。随着大数据和人工智能的运用，国内外涌现了一大批借助医学信息学和机器学习技术进行临床研究数据分析挖掘，取得了丰硕成果。通过对医疗电子化数据的建模、分析、挖掘，并且基于数据二次利用所形成的进一步应用，已经成为医疗信息化、精准化、智能化的下一个核心发展方向。我国健康大数据和医疗人工智能行业尚处于起步阶段，基础薄弱。目前国内最有代表性的医疗人工智能产品，在于基于医疗影像的人工智能自动筛查和诊断系统，对胸片、皮肤照片、脑部影像等医学影像进行自动分析，并生成相应的影像诊断报告。但在其他人工智能的技术领域，例如自然语言处理、语音识别，以及通用的机器学习方法，目前在中国形成可落地的产品尚不多见 。基于临床科研大数据平台的架构与应用目前大部分医院已经建立了较为全面的医疗信息化支撑体系，无论是电子处方、医嘱套餐，还是临床路径、电子病历，在提高临床效率服务上下足了功夫，但由于临床数据分散在多个应用系统中（如EMR、LIS、PACS等），且都是非结构化的海量数据。本文通过人工智能技术的应用进行探讨，为有兴趣致力于研究大数据的临床科研工作者提供一点思路。技术架构研究采用了Openstack作为数据平台私有云的解决方案。通过使用Openstack搭建私有云平台，既可以获得类似阿里云等公有云的灵活、弹性、扩展性等云计算的优势，又可以降低安全风险。在应用层使用Docker容器化的方案。通过使用Docker容器化部署，每个服务运行在了一个独立的环境之中，互不干扰，也不会影响宿主机的环境，解决了长久以来生产环境与开发测试环境不一致导致的各种问题。同时，通过Docker提供的集群化以及资源分配功能，提供了更高的可用性，并提供了不停机升级的特性。数据库使用了开源数据库软件PostgreSQL。PostgreSQL作为当前最先进的开源关系型数据库管理系统，体现了极高的性能与稳定性，支持python、perl、c、R、Java、Javascript、PL/PgSQL等多种语言编写存储语言及扩展，支持多种特殊索引结构、支持自定义的数据结构、支持机器学习库以及GPU并行计算等。基于临床科研大数据平台的应用基于临床科研大数据平台的应用主要由以下几部分构成：科研数据中心、临床大数据治理平台、智能科研检索、临床科研采集系统、全院级科研随访系统等应用（表1）。在此治理和科研采集的基础之上，未来可支持科研统计分析及临床辅助决策。在人工智能支撑下，通过临床辅助决策应用到电子病历等业务系统中，将治疗评价、风险预测贯穿在诊疗流程，基于医院原有临床数据进行实时决策支持，最终实现临床采集-科研分析-指导临床的闭环。表1 临床科研大数据平台应用全院级专病科研数据中心通过将原有院内临床数据中心CDR，未充分结构化的病历、报告等文本数据，经过人工智能技术处理形成高质量、多维度的结构化数据，以满足科研检索、临床数据收集、统计分析的需要。结合科研采集、随访管理等系统采集的数据，进一步丰富“以患者为中心”的科研数据库。临床大数据治理平台基于自然语言处理、知识图谱、机器学习等AI引擎的大数据治理平台，实现各类临床数据的结构化、标准化和归一化等处理。针对数据驱动的临床研究场景，能够将医院积存的海量临床数据自动结构化、标准化成可被临床研究直接分析、利用的科研数据。治理后的结果为后续的临床应用提供了良好的数据基础。智能科研检索提供多维度、多病种符合专病模型的检索功能，从病历、诊断、用药医嘱、检验、检查报告、体征等结构化及非结构化文本中提取检索点位，个性化定制专病检索模型。支持通过入选和排除等集合运算实现研究人群的精确筛选，实现自动发现满足条件的新病人并自动入组，实时精准从海量病历中定位研究人群。临床科研采集系统在数据治理基础上，满足科研所需的病例报告表（CRF）设计与数据采集、科研项目管理、团队管理与多中心、权限设置与隐私、数据核查与质疑、数据导入导出等常见功能模块。高度结构化、规范化的病历数据，利于病例报告单（CRF）自动填写，科研流程管理支持研究全过程协同。全院级科研随访系统可有效解决院内外数据整合、患者依从性差、失访率居高不下的难题，在全面提升随访专业度、保证科研项目的顺利推进的同时，极大地提升科研人员的工作效率。随访平台从患者管理和科研需求出发，整合随访计划提醒、随访量表填写、智能科普患教、在线病情咨询、患者报告结局（ePRO）信息采集等功能；自动问答功能为患者提供准确的知识问答和健康建议，实现个性化健康宣教和科普。同时为满足临床科研需要，可将患者采集结果便捷地返回给专病科研库，实现对患者离院后健康信息的全量收集。结论与展望智能化的临床科研支持系统不仅能对历史病历数据进行快速检索浏览，而且能便捷地将临床数据应用于具体研究中，成为医院各科室开展临床研究提供高效的工具，加速推进学术研究及成果转化，释放积压的大量医疗数据潜在学术价值。同时在全院级临床科研大数据平台与应用平台上，实现了各业务系统历史数据及实时数据的整合、治理。经过治理后的数据保障临床科研数据质量，在此基础上各科室临床研究人员获取数据将更便捷、科研管理更高效、探索新的研究方向更容易，从而实现科研效率整体提升，不断提升学术研究能力，实现医院临床学术研究质和量提升。【引用本文：朱明宇. 基于临床科研大数据平台研究[J]. 中国数字医学,2020,15(7):17-18,35.】新媒体部： 010-81138718；81138717

核心摘要：教育信息化2.0时代，教育相关政府/学校以更开放的姿态对待社会各类业态的进入，共建共享优质教育资源，提升教育公平与教育质量。同时2.0时代希望将1.0时代买来的设备用起来，收集并实现各类数据的连通，以数据为驱动来提升教学效率和体验。2019年中国教育信息化市场规模预计突破4300亿元，其中财政性教育经费大约贡献了70%-80%的份额，国家拨款是市场发展的重要推动力。教育信息化市场产业链上各服务环节的界限趋于模糊，但上中下游市场特点明显：上游重资产，中游重渠道，下游重效率和体验。整个教育信息化市场呈现出市场体量大、市场高度分散、地域性强的特点，垄断型企业尚未出现意味着市场可供攫取的空间非常大，各领域企业伸出触手开始圈地。现阶段教育信息化行业处于缓慢平稳增长期，企业间竞争加剧的同时合作也不断深入。新技术带来的产品和服务升级、C端用户付费市场的拓展等都是刺激行业快速增长的机会点。宏观环境：坐享天时地利人和教育信息化行业研究的必要性从B端到C端研究的转变：教育行业toC市场重点在于满足C端用户对“效果”的满意度，而toB市场则更加强调帮助企业客户提高管理和运营效率、降低运营成本。作为与toC截然不同的市场，教育信息化行业有其独特的发展特征与发展逻辑，对其开展系统性的研究也极具必要性。市场成型且进入发声期：我国教育信息化市场已经明确成型且处于日益激烈的市场竞争阶段，各类玩家纷纷通过投资、并购、战略合作等形式整合并最大化输出自身资源，进而为学校、政府、教育机构提供更加完善的服务，占领更大的市场。因此针对教育信息化市场的研究需更加关注企业的服务链路及其周边潜在机会，分析业内重点企业的布局和运营思路，帮助市场玩家或待进入的企业了解行业重点竞争领域、洞悉行业发展动态，促进行业健康良性发展。市场空间大，潜在机会多：从需求端看，50.7万余所学校（含学前教育）、2.6亿余在校生（含在园人数）和1600余万在校老师，对信息化的需求庞大且持续。从供给端机会看：1）硬件产品会随着技术升级而进行产品迭代；2）软件及服务产品随着服务场景的深化、数据分析技术优化、与AI技术的深度融合而有更多可供挖掘的个性化的、定制化的服务类型；3）内容方面，新增科目知识体系的合作开发、原有科目知识图谱的建立与抽象等都是潜在机会；4）B端提供服务后，潜在的C端流量入口已经占据，对C端付费市场的挖掘仍充满想象空间。主要服务类型软件/技术服务和内容服务是目前最为活跃的两种服务类型现阶段教育信息化企业主要有四种服务类型：1）硬件提供商；2）教务管理软件/技术平台提供商；3）教学管理软件或教学内容提供商；4）补充性的课程解决方案提供商。第一种和第二种侧重于教学、教务线上化，得益于政策自上而下的推动，市场发展快且相对成熟，行业主流玩家多具有成立时间长、具有政府背景或母公司支持的企业。第三种和第四中则是将服务场景拓展至教学过程中，多为创业公司在不断摸索，向学校（B端）或学生/家长（C端）收费是其主要业务展开逻辑。第三、四种模式主要有三个问题：其一，服务对象涉及老师、学生甚至家长，不同用户在需求、使用习惯、使用目的等方面有所不同，但市场同质化竞争激烈，企业需要考虑开发成本、开发周期和差异化竞争等因素；其二，受政策影响大，企业的业务逻辑可能因为政策不向好而停滞，甚至终止；其三，如何为C端提供有价值的服务并收费需要不断摸索和验证。政策环境：教育信息化2.0做创收以“用”为出发，以数据为驱动，以提升效率和体验为根本，加快实现教育现代化技术环境：教育+科技的不断试探成熟技术向教育领域“蔓延”，一定程度上提升学习效率技术在教育的应用滞后性强，即技术成熟了，与教育的适配性或融合度不一定高。整体来看，现阶段中国的教育+技术主要有三点特征：其一，体制内学校受教育部门监管严格，改革难以推进，其受技术影响的速度和程度都比体制外培训机构慢；其二，高学龄阶段受众成熟度和自控力比较高，教育+技术的应用程度更深；其三，技术多应用在教学活动的外围层次（即“练-测-评”），相关的学习数据结构化程度高，分析和反馈机制好；与思考和规划相关的核心环节“教”现阶段尚处于初级阶段，产生的数据也是非结构化的，数据资源无法有效利用。但即便如此，师生的教学效率已在一定程度上得到提升，未来技术与教育的深度融合将为教学效率的提升带来更广阔的想象空间。市场空间：四千亿市场等待被分割教育信息化整体市场规模2019年教育信息化市场规模预计突破4300亿元艾瑞咨询统计及核算数据显示，2019年中国教育信息化整体市场规模预计突破4300亿元，未来两年持续增长但增速趋于稳定。教育信息化1.0时代的快速增长得益于硬件设备自上而下的推广和购买。十九大之后，硬件普及基本完成，教育信息化2.0时代刚进入以客户为导向的软件和服务市场，市场处于赛道抢占期。未来，随着5G、AI、VR/AR等技术在教育领域的应用，新的硬件升级、覆盖于整个教学活动的软件服务以及C端用户的付费场景增加等，整个教育信息化市场将迎来一波新的高速增长机会点。产业链条：要产品要服务更要有渠道现阶段教育信息化产业链结构上游企业市场集中度高，中游市场极度离散，中游企业对下游市场的拓展受渠道关系影响大中游端：重渠道、重合作赛道技术+合作是硬件产商迎接一下增长红利的关键现阶段，教育信息化硬件设备供应商优劣势明显。其中优势主要有三点：其一，采购政策自上而下推行，市场盈利模式清晰（即直接向政府/学校收费）；其二，受技术推动，硬件产品的品类和覆盖范围不断扩大；其三，经过教育信息化1.0的建设期，厂商已积累了一定的客户资源和渠道。反观不足，也有三点：首先，硬件设备未真正用起来，用户对产品依赖性差；其次，现阶段硬件普及基本完成，预算申请难度大，市场增量空间有限，未来市场红利可能出现在与技术升级相关的硬件设备升级或迭代方面；最后，市场渠道依赖性强，很难全国性扩张。就未来而言，硬件设备产商一方面需要把握新技术（如5G）的节点，加速产品升级或迭代，另一方面，更需要与软件产商、集成商深度结合，互利互惠。中游端：重渠道、重体验赛道（1）教育信息化软件服务市场重视用户体验，易垂直细分、易聚集流量、易规模经济，但也易沦为标准化产品中游端：重渠道、重体验赛道（2）综合类服务供应商本身具有很强的渠道优势和客户资源，对内可提供整套服务，对外拓展可成为系统集成商的角色市场特征：多方混战，各显神通特征二：市场极度分散（1）A股上市企业教育业务占教育信息化市场的比重不足4%教育信息化覆盖的服务场景广，服务对象涉及从学校到政府、从校长到教职工、从学生到家长等各个类型，服务内容囊括了政府管理、学校运转、教师教学、学生学习、家校沟通等方方面面。从市场主流玩家来看，包含传统教育信息化企业、新兴创业型教育信息化企业、大的互联网企业、传统教育企业以及其他或转型或布局的企业五大类，市场参与者众多，但又高度离散。据艾瑞不完全统计，2018年部分A股上市的教育信息化企业中教育营收大致150亿左右，占整个教育信息化市场规模的比重在3.7%左右，市场极度分散。特征二：市场极度分散（2）部分A股教育信息化企业的服务内容和营收情况从部分A股教育信息化企业的服务内容来看，单一服务类别的企业较少，大部分都有两种或两种以上的服务。这与他们进入市场较早，积累了足够的渠道资源、客户资源等息息相关，同时这些资源的积累为他们向系统集成商的角色过渡提供了重要的支撑作用。现阶段A股上市的教育信息化企业营收高，但教育业务占比低，教育市场服务竞争激烈。发展启示：搜索新一轮市场增长点启示一：部分玩家向集成商发展系统集成商的数量和类型增加，市场扁平化程度高据艾瑞不完全统计，A股上市的教育信息化企业中有超过50%的企业提供系统集成服务，新三板中有25%的企业同时发展系统集成服务，整个市场玩家中系统集成商仍有较大空间可供攫取，市场扁平化程度有望增加。渠道、客户资源、口碑、管理、服务、技术和整合能力等是系统集成商的核心要素，对于渠道依赖性强、产品同质化程度高的教育信息化行业而言，很多厂商都可以结合自身优势资源而向系统集成商发展，通过拓展服务类别和服务范围，既可以夯实已经建立的客户资源，又可以丰富/构建产品体系，提升抗风险能力和竞争力。当然提供集成服务时尽量做到服务体系轻量化、操作/管理简易化。启示二：“马斯洛需求”的适用性欠发达地区的教育信息化市场空间大，拓展相对容易不同地区的教育信息化程度受当地的经济、政策等影响而不同。对于发达地区而言，经济水平高，高精尖产业多，其教育信息化程度高且对教育信息化的要求更加具象，如将什么知识通过什么方式点引爆后，可以促进学生的独立思考能力、针对性的学习路径设计和学习内容推送等。贫困地区属于市场空白区，他们的诉求比较集中，即获得优质教育资源，满足师生教学需求。相比较而言，欠发达地区无论是教育部门还是学生对教育信息化都有一定认知，并且希望通过信息化助力当地教育质量提升、教育公平普及，故当地对教育信息化企业接纳度高。能够带来优质教育资源、丰富教学方式、提升教学沉浸感的企业将优先获得当地市场“入场券”。启示三：C端增值服务市场值得拓展如何将C端流量转化为付费用户是关键目前教育信息化市场比较成熟且经过市场验证的服务模式是直接向教育部门/学校/教育机构售卖自上而下的硬件产品、软件、平台，对于将教育部门/学校/教育机构作为通道打开C端流量入口进而向C端收费的模式（即2B2C模式）一直处于探索阶段，虽然有成功的案例（如口语100向学生收取人工智能老师的服务费用），但就整个市场而言，2B2C模式的服务价值需要不断挖掘和放大，以满足C端市场的付费意愿和期许。整体来看，企业想要针对C端用户收费，首先需要了解用户不同阶段的需求，其次要结合自身资源制定满足用户需求的方案，最后要衡量提供的服务是否能够打破用户付费意愿与需求程度之间的落差。在提供C端服务的过程中，企业需要注意两点，即投入产出比和实时把握政策风向。总结：建议&展望—整体市场从需求满足看，短期内重点满足定制化需求，长期看需要关注行业标准化走势；从客户拓展看，离客户越近的渠道，其投资价值越高总结：建议&展望—细分市场大企业打造生态布局，小企业提升服务价值对于上游产商：明确自身业务体系构建的方向和全局性，针对性的寻找下游合作伙伴，打造企业全产业的生态布局。对于中游硬件提供商：1）5G风口下VR/AR市场、直播教学市场值得重点关注。2）大的硬件提供商可以利用自身渠道、客户等优势直接向系统集成商过渡。3）细分垂直领域对硬件设备的需求也可能出现小而美的市场，如音乐类。对于中游软件提供商：1）对于深度垂直且易沦为标准品的软件服务商，主要有两种路径：其一，向整体解决方案提供商发展；其二，守住学校流量入口，争取C端市场，保证潜在增量空间。但现阶段从可行性方面看，更看好第一种路径。2）对于深度接触教学活动的软件服务商，如教学系统，挖掘并利用自身的数据资源以建立竞争壁垒是当前重点。目前来讲，与大数据、人工智能等领域的企业/权威机构合作开采数据资源的价值似乎更具可行性。对于中游内容提供商：重点要明确自身对校内教育资源的“补充作用”，而不是替代作用。市场新兴的、尚未建立健全的学科是最好的切入点。但内容提供商需要传递出内容的专业、权威性，主要有两种途径：其一，与学校合作，共同研发知识框架和教学内容体系；其二，与业内专家/专业机构合作开发。除了课程内容之外，与新兴硬件相匹配的教学内容资源的开发（如VR/AR在实验、特定教学场景）也表现出一定潜力。

大数据文摘出品文章来源：opendatascience.com编译：Ivy、狗小白、云舟作为一名前半生奉献给学术，现在投身业界的研究者，Daniel Gutierrez习惯在数据科学业内工作的同时，跟进学术界的最新动态。最近，通过一场网络研讨会，他发现人工智能大神吴恩达（Andrew Ng）也有一样的习惯。吴恩达提到，他经常随身携带一个装满研究论文的文件夹，利用搭车的空闲时间研究论文。Daniel Gutierrez因此建议，不管是数据科学从业者还是研究者，都可以准备一个论文文件夹来装一些论文，就像吴恩达建议的：如果你每周阅读几篇论文（部分论文可以泛读），一年后你就阅读了100多篇论文，足够比较深入地了解一个新领域。在这篇文章中，Daniel Gutierrez列出了2018年最具影响力的20篇数据科学研究论文清单，所有数据科学家都应该认真回顾。我还收录了一些综述性文章，它们可以帮助你看到当前技术领域的发展情况，同时还有完整的参考文献列表，其中不乏很多具有开创性的论文。新一年随身携带的论文合集，不如就从这里开始吧！无法科学上网的同学，可以在大数据文摘后台回复“数据科学论文”下载合集。一种新型无梯度下降的反向传播算法我们都知道，在20世纪70年代初引入的反向传播算法是神经网络学习的支柱。反向传播利用大名鼎鼎的一阶迭代优化算法进行梯度下降，用于寻找函数的最小值。本文中， Bangalore的PES大学研究人员描述了一种不使用梯度下降的反向传播方法。他们设计了一种新算法，使用Moore-Penrose伪逆找出人工神经元权重和偏差的误差。本文还在各种数据集上进行了数值研究和实验，旨在验证替代算法的结果是否符合预期。下载链接：https://arxiv.org/pdf/1802.00027.pdf一份基于深度学习的情感分析情感分析经常被用于识别和分类文本中所表达的观点，因为它可以确定作者对特定主题、产品等态度是积极、消极还是中性的，所以在处理社交媒体数据时，情感分析非常有价值。深度学习日益流行，它是一种强大的机器学习技术，可以学习到数据的多层特征并生成预测结果。随着深度学习在许多其他应用领域的成功，近年来，深度学习在情感分析中也得到了广泛的应用。本文对深度学习进行了全面的综述，并对其在情感分析领域的应用现状也进行了分析。下载链接：https://arxiv.org/ftp/arxiv/papers/1801/1801.07883.pdf应用数学家所理解的深度学习是什么作为一名数学家，我喜欢看一些关于数据科学的技术文档，并找到它们与应用数学的联系。本文从应用数学的角度出发，对深入学习的基本思想进行阐述。多层人工神经网络已在各个领域中被广泛使用，这场深度学习革命的核心实际上可以追溯到应用和计算数学的基础概念：特别是在微积分、偏微分方程、线性代数和近似/优化理论的概念中。下载链接：https://arxiv.org/pdf/1801.05894.pdf论深度学习的起源本文对深度学习模型进行了全面的历史回顾，它从人工神经网络的起源介绍到在过去十年的深度学习研究中占据主导地位的模型：如卷积神经网络、深度信念网络和循环神经网络。本文还重点介绍了这些模型的先例，分析了早期模型的构建过程，以及模型的发展历程。下载链接：https://arxiv.org/pdf/1702.07800.pdf?递归神经网络研究进展递归神经网络（RNN）能够从时间序列数据中学习序列特征和长期依赖性。RNN由一堆非线性单元组成，单元之间至少有一个连接形成有向循环。一个训练完备的RNN可以模拟任何一个动态系统，然而，RNN在训练时一直受到长期依赖性问题的困扰。本文对RNN进行了综述，并着重介绍了该领域的一些最新进展。下载链接：https://arxiv.org/ftp/arxiv/papers/1801/1801.00631.pdf关于深度学习的十大质疑尽管深度学习的历史根源可以追溯到几十年前，但“深度学习”这一术语和技术在五年前才开始流行起来，当时该领域被Krizhevsky、Sutskever和Hinton等人所统治，他们在2012年发表了经典之作“基于深度卷积神经网络的图像分类”。但在接下来的五年中，深度学习领域中又有什么发现呢？在语音识别、图像识别和游戏等领域取得长足进步的背景下，纽约大学的AI反对者Gary Marcus对深度学习提出了十个问题，并表明如果我们想要获得通用的人工智能，深度学习必须辅以其他技术。下载链接：https://arxiv.org/ftp/arxiv/papers/1801/1801.00631.pdf深度学习中的矩阵微积分本文较为全面的介绍了深度神经网络中（以及参考文献表中大多数论文）所需的所有线性代数知识。除了基础微积分知识之外，本文深奥的数学知识很少。请注意，若你还是深度学习新手，这篇论文对你来说意义不大；相反，若你已经熟悉神经网络基础知识并希望加深对基础数学的理解，这篇论文将非常适合你研究。相关报道：https://arxiv.org/abs/1802.01528群组归一化批量归一化（BN）是深度学习开发中的里程碑技术，它使得各种网络的训练成为了可能。但是，沿批量维度进行归一化会带来一些问题：当批量大小变小时，由于批次统计估计不准确，BN的误差会迅速增加。这限制了BN在训练大型模型以及计算机视觉任务（包括检测、分割视频）中的使用，因为这些任务需要的是受内存消耗限制的小批量。本文由Facebook AI研究人员（FAIR）提出，将Group Normalization（GN）作为BN的简单替代方案。GN将通道分成群组，并在每组内计算标准化的均值和方差。GN的计算与批量大小无关，并且其准确性在各种批量大小中都是稳定的。下载链接：https://arxiv.org/pdf/1803.08494.pdf平均参数比重能带来更广泛的优化和更好的概括能力深度神经网络的训练一般通过使用随机梯度陡降（SGD）变量和递减学习率来优化一个损失函数，直至其收敛。这篇论文指出，对SGD曲线上的多个点取简单平均数，并使用周期波动或恒定的学习率比传统训练方式有更好的概括能力。这篇论文还展示了，这个随机平均参数比重（SWA）过程比SGD有更广泛的优化能力，仅用一个模型就达到了之前快速集合法的效果。下载链接：https://arxiv.org/pdf/1803.05407.pdf对基于神经网络进行文本总结方法的调查自动总结归纳文本，或者说在保留主要含义的同时压缩文本长度，是自然语言处理(NLP)领域的一个重要研究范畴。这篇论文对近来基于神经网络的模型在自动文本总结方面进行了研究。作者详细审查了十款最前沿的神经网络摘要器：五款摘要模型，以及五款提炼模型。下载链接：https://arxiv.org/pdf/1804.04589.pdf神经网络风格传输的回顾Gatys等人在2015年“针对艺术风格的神经网络算法”这篇开创性著作中，展示了卷积神经网络(CNN) 能够分离和重组图片的内容和风格，在生成艺术图像上表现出了强大的能力。这个使用CNN来渲染不同风格的内容图像被称作神经网络风格传输(NST)。此后，NST在学术著作和工业应用上都很是热门，受到越来越多的关注，也产生了很多种致力改善或者扩展原有NST算法的方法。这篇论文对NST目前的发展状况提供了概览，也对未来研究提出了一系列问题。下载链接：https://arxiv.org/pdf/1705.04058.pdf几何数据：在机器学习领域针对黎曼几何的一个Python包在机器学习领域应用黎曼几何越来越受人们关注。这篇论文引入了几何数据这一概念，也给出了应用于诸如超球面、双曲空间、空间对称正定矩阵和李群变换等多重内容计算的python包。此外，论文中还包含了对于这些多重内容的应用，以及实用的黎曼度量和相关的外生性、对数图。相应的测地线距离提供了一系列机器学习损失函数的直观选择。作者还给出了对应的黎曼梯度。几何数据的操作可用于不同的计算后台，比如numpy, tensorflow和keras。文章作者使keras深度学习框架综合应用GPU和几何数据多重内容计算变成了可能。下载链接：https://arxiv.org/pdf/1805.08308.pdf一个更通用的稳健损失函数这篇论文展示了一个双参数损失函数，可视为对稳健统计学中很多常用的损失函数的一个概括，这些常用的损失函数包括Cauchy/Lorentzian, Geman-McClure, Welsch/Leclerc和广义卡尔波涅尔损失函数（按传递性分为L2，L1，L1-L2和pseudo-Huber/Charbonnier损失函数）。作者描述并可视化展示了这个损失和相应的分布，并列出了它的一些实用性特质。下载链接：https://arxiv.org/pdf/1806.01337.pdf反向退出：随机反向传播算法这篇论文引入了“反向退出”的概念，也即一个灵活而应用简便的方法，可以直观地表述为，退出现象仅沿着反向传播管道发生。反向退出的应用是沿着网络中特定点插入一个或多个屏蔽层。每个反向退出的屏蔽层在正推法中被视为特征，但几乎不屏蔽部分反向梯度传播。直观来看，在任何卷积层之后插入反向退出层会带来随机梯度，随刻度特征不同而有不同。因此，反向退出非常适用于那些有多重刻度、金字塔结构的数据。下载链接：https://arxiv.org/pdf/1806.01337.pdf关系型强化深度学习这篇论文引入了一个通过结构化感知和关系型推理从而提升强化深度学习(RL)的方法，主要表现在改善效率、泛化能力和提升传统方法的解读能力。通过自我感知来迭代推理场景中的主题和引导无模型原则之间的关系。结果显示，在一个拥有新型导航和任务计划的“盒世界”中，代理找到了可解释的解决方案，从而可以在基线之上改善样本的复杂度、泛化能力（在训练中能应对更的复杂场景）以及整体表现。下载链接：https://arxiv.org/pdf/1806.01830.pdf一个非常有趣的案例：卷积神经网络和执行坐标转化方法的失败深度学习里几乎没有别的概念像“卷积”那样大的影响力了。对包含像素或空间表征的任何问题，普遍的直觉就是试试看CNNs。这篇论文通过一个看似微不足道的坐标转化问题展示了一个反直觉的案例，也即单纯要求机器在坐标(x,y)笛卡尔空间和一个热像素的空间之间学习一个地图。虽然CNNs似乎很适用于这个场景，来自Uber的作者们证明了卷积神经网络法最终失败了。这篇论文展示并仔细检验了这个失败案例。下载链接：https://arxiv.org/pdf/1807.03247.pdf反向传播法的演变反向传播算法是深度学习的基石。尽管其非常重要，但很少有方法尝试调整其算法。这篇论文展示了一种发现新的反向传播方程变式的方法。来自Google的作者使用了一种领域专用语言，将升级的方程描述为一系列原始方程。基于进化的方法被用来发现新的反向传播原则，该原则在一系列最大训练次数后能够最大化泛化能力。这个研究发现了一些升级方程，相较标准的反向传播算法在较少次数内训练得更快，并在收敛时有与标准反向传播算法近似的表现。下载链接：https://arxiv.org/pdf/1808.02822.pdf在深度卷积神经网络学习时代里，物体探测领域近来的发展物体探测就是对于特定类别图片，比如车、飞机等进行探测的计算机视图任务 ，它在过去五年里在人工智能领域里吸引了非常多的关注。这些关注，既源于该领域在实际应用的重要性，也是因为自从CNNs时代的到来，它是人工智能领域里现象级的发展。这篇论文是对近来使用深度卷积神经网络学习方法的物体探测领域著作的一个全面回顾，也对近来这些发展进行了深刻的透析。下载链接https://arxiv.org/pdf/1809.03193.pdf语言交互式AI的神经网络法这篇论文对近年来发展出的语言交互式AI中神经网络方法进行了调查。语言交互式AI可被分为三个类别：1. 回答问题的机器人2. 以任务为导向的对话机器人3. 自动化语音聊天机器人。针对每个类别，文章使用特定系统和模型为案例，展示了领域最前沿的神经网络方法，并将其与传统方法比较，讨论其进步之处和仍面临的问题。下载链接：https://arxiv.org/pdf/1809.08267.pdf可撤销的循环神经网络循环神经网络（RNNs）在运行序列数据上表现最优秀，但训练起来更占用内存，也就限制了RNNs模型的灵活性。可撤销的循环神经网络，也就是“隐藏对隐藏”的转化能被撤销的RNNs，提供了减少训练所需内存的一个路径，因其隐藏状态无需存储，从而能够在反向传播算法中被重新计算。这篇论文展示了完美可撤销RNNs从根本上就是受限的，因为它们依然需要记住隐藏状态。随后，为了实现能够忘记隐藏状态的完美可撤RNNs，文章提供了存储少量bits的方法。作者这个方法达到了传统模型的近似效果，同时减少了活动内存成本约10-15个百分点。下载链接：https://arxiv.org/pdf/1810.10999.pdf相关报道：https://opendatascience.com/most-influential-data-science-research-papers-for-2018/

未来网高校频道8月21日讯（记者 杨子健 通讯员 张娜）近期，南京信息工程大学应用气象学院冯兆忠团队发表在Science Advances上，题为“Ozone affects plant, insect, and soil microbial communities: A threat to terrestrial ecosystems and biodiversity”的研究论文，被Science 正刊选为本周亮点“This Week in Science”进行推介。在文章发表当周（8月15日，33期），Science Advances 共发表40篇论文，该文章是唯一一篇被推荐到Science作为本周研究亮点进行报道的论文。 该文揭示了臭氧污染威胁陆地植物、昆虫和土壤微生物的多样性。论文第一作者和通讯作者分别为应用气象学院生态研究院Evgenios Agathokleous教授和冯兆忠教授，并联合国内外10余家单位共同完成。本研究得到了国家自然科学基金和南京信息工程大学人才启动基金等基金的资助。 近地面臭氧（O3）污染是最常见的大气污染之一，可对陆地植物造成肉眼可见的伤害，进而对依赖植物生存的其它生物产生影响。虽然O3污染对陆地植被的危害越来越备受关注，但现有的生物多样性全球评估模型中并没有考虑O3的影响。该文重点阐释大气O3浓度升高不仅影响植物群落组成，还会通过改变植物-昆虫、植物-微生物的相互关系影响昆虫和微生物群落。文章认为，O3导致植物物种丰度和群落多样性发生变化，可能是因为不同物种对O3的敏感性存在差异，O3不敏感物种反而获得竞争优势，以及O3污染影响植物化学组成的间接作用。同时，大气O3污染可以通过改变植物化学组成和挥发性有机物（BVOCs）的释放，影响植物与昆虫的相互作用以及昆虫群落的组成。大气O3对昆虫丰度和物种多样性的影响也具有物种特异性，并且会随时间而变化，O3浓度升高对昆虫群落多样性的影响较为深远。文章阐明了大气O3浓度升高会影响微生物驱动的地下过程和改变微生物活动驱动的物质循环途径，并指出，通过改变植物根系和根系分泌物的化学组成，影响根内和根际微生物群落，其中真菌比细菌对O3更敏感。论文建议在通过《欧盟2030年生物多样性战略》时，应考虑O3浓度升高对生物多样性和生态系统服务的潜在威胁。