欢迎来到加倍考研网! 北京 上海 广州 深圳 天津
微信二维码
在线客服 40004-98986
推荐适合你的在职研究生专业及院校
阿尔伯塔大学博士毕业论文:基于图结构的自然语言处理或使

阿尔伯塔大学博士毕业论文:基于图结构的自然语言处理

机器之心发布机器之心编辑部自然语言处理(Natural Language Processing)是人工智能的核心问题之一,旨在让计算机理解语言,实现人与计算机之间用自然语言进行通信。阿尔伯塔大学(University of Alberta)刘邦博士在他的毕业论文《Natural Language Processing and Text Mining with Graph-Structured Representations》中,对基于图结构(graph-structured representations)的自然语言处理和文本挖掘进行了深入研究。这篇博士论文将自然语言处理和文本挖掘的多个核心任务与图结构的强大表示能力结合起来,从而充分利用深度学习的表示能力和文本中的结构信息来解决诸多问题:(1)组织信息(Information Organization):提出了基于树/图结构的短文本/长文本对的分解算法以提高语意匹配任务(semantic matching)。基于文本匹配,进一步提出事件粒度的新闻聚类和组织系统 Story Forest;(2)推荐信息(Information Recommendation):提出了 ConcepT 概念挖掘系统以及 GIANT 系统,用于构建建模用户兴趣点以及长短文本主题的图谱(Ontology)。构建的兴趣图谱 Attention Ontology 有助于对用户与文本的理解,并显著提高推荐系统的效果;(3)理解信息(Information Comprehension):提出了 ACS-Aware Question Generation 系统,用于从无标注的文本中生成高质量的问答对,大大降低问答系统的数据集构建成本,并有助于提高阅读理解系统的效果。论文链接:https://sites.ualberta.ca/~bang3/files/PhD-Thesis.pdf引言自然语言处理(NLP)旨在读取和理解未结构化的自然语言文本来完成不同的任务。「如何表示文本」以及「如何进行计算」是其中的两个核心问题。早期的 NLP 研究中,利用 bag-of-words 模型表示文本,通过统计不同单词的频次来形成文本的向量表示,同时结合统计方法进行文本处理,这丢失了文本的词序信息以及单词之间的联系,本质上是用 one hot encoding 来表示每个单词;在深度学习中,研究者根据单词的共现来学习词向量,每个单词由一个 dense vector 表示,语意相似或联系紧密的词在向量空间中距离更小,再结合 RNN 模型(LSTM,GRU 等)进行文本编码完成各种任务;其后又有研究工作将文本类比图像,编码形成矩阵表示,结合 CNN 类模型进行计算;近年来,预训练语言模型,利用自监督学习训练各类大型语言模型,从而给单词或文本赋予上下文敏感的(context-sensitive),多层的语义向量表示,其采用的模型是多层的 Transformer。自然语言的形式及其语意具有层次性(hierarchical),组合性(compositional)和灵活性(flexible)。已有的研究并未充分利用各类文本中存在的语义结构。图(graph)是一种通用且强大的表示形式,可以表达各种不同对象以及它们之间的联系,无论是在自然语言处理,还是在社交网络,现实世界等各种场景都无处不在。本论文在深度学习强大的表示学习能力的基础上,设计并结合了不同的文本的图结构化表示,并利用图结构计算模型,例如图神经网络(Graph Neural Networks), 去解决不同的自然语言处理和文本挖掘问题。论文包含三大部分:第一部分介绍了文本的聚类和匹配,提出各类匹配问题的结构化算法,并进一步提出 Story Forest 系统用于新闻事件的聚类组织和结构化表示。该系统落地到腾讯 QQ 浏览器热点事件挖掘。第二部分关注文本挖掘,提出了 Attention Ontology 兴趣图谱,挖掘和描述用户不同粒度的兴趣点,建立不同兴趣点之间的联系,并可用于刻画文章主题。这部分工作显著提高了 QQ 浏览器,手机 QQ,微信等应用中的信息流推荐系统的效果。第三部分关注文本生成,提出了 ACS-QG 系统,自动从无标注文本中生成高质量的问答对,可用于问答系统的训练,有助于大大减少数据集创建成本,以及提高机器阅读理解的能力。图 1. 文本表示形式以及计算模型的演化图 2. 论文的组成框架第一部分:文本的匹配与聚类第三章 Story Forest 事件聚类组织系统在信息爆炸的年代,查询并找到有价值的信息,对用户而言并不是非常简单的任务。目前的搜索引擎或者信息流服务,会给用户提供一个文章列表。这些新闻文章会包含大量冗余信息,缺乏结构化的组织。本文提出 Story Forest 系统,对新闻文章做事件(event)粒度的聚类,使得报道同一个现实中的事件的不同文章聚类成一个节点,相关联的事件形成结构化的故事树(story tree), 来表征关联事件之间的时间顺序和发展关系。图 3.「2016 年美国总统大选」的故事树,树中的每一个节点代表一个事件已有的文本聚类方法不能很好地对文章进行事件粒度的聚类效果。本文提出 EventX 聚类算法,它是一种双层聚类算法:在第一层聚类中,利用所有文章中的关键词,形成关键词网络(Keyword Graph)并对其进行图分割,分割后的每一个关键词子图,代表一个大的话题,再利用相似度将每篇文章分配到一个最相似的关键词子图之下;在第二层聚类中,每一个关键词子图下的文章形成一个文章图(doc graph), 相连的边代表两篇文章讲述同一个事件,再对文章图进行社区检测(community detection),从而做了第二次聚类。每一个文章子图里的文章代表一个事件。通过双层聚类,即可以对文章对之间做细粒度的语义比较,又可以控制时间复杂度。在得到事件聚类之后,不同的事件节点通过故事结构组织算法,在线插入到已有的故事树中形成故事结构。如果一个事件不属于任何已有的故事树,则形成一个新的故事。图 4. Story Forest 系统以及 EventX 聚类算法第四章 基于图分解和图卷积的长文本匹配文本匹配是判断两个文本之间的关系或者相关度,是 NLP 中的核心问题,有很多的任务其核心都可视为一个文本匹配任务。根据匹配的源文本和目标文本的长短,我们可以将文本匹配任务分成四大类:长文本匹配任务,例如 Story Forest 系统中,一个核心的任务是判断两个文章是否在讲同一个事件;短-长文本匹配,例如输入 query 搜索匹配的文章;短文本匹配,例如问答对匹配,句子对相似度衡量等;长-短文本匹配,例如文本主题分类等等。图 5. 根据源文本和目标文本的长短,将不同文本匹配任务分成四类本章专注于长文本匹配任务,这是很重要的研究问题,然而在此之前,很少的研究工作专注于此。已有的算法基于 Siamese Neural Network 或者 CNN 来编码句子对或者句子之间的交互,无法很好的处理长文本匹配的任务。因为长文本的长度,导致计算复杂度较高;语言的灵活性,导致文本对之间对应的内容难以对齐;同时编码器也难以准确地编码长文本的语义。本文提出 Concept Interaction Graph 用于分解一篇或者一对文章。其主要思想是「化整为零,分而治之」。CIG 中的每个节点包含几个高度关联的关键字,以及和这些关键字高度相关的句子集。当进行文本对匹配时,每个节点包含来自两篇文章的两个句子集。这样,多个节点代表了两篇文章中的不同的子话题,并囊括了文章中的一部分句子并进行了对齐。节点之间的边代表不同子话题之间的联系紧密度。图 6. 根据文章构建 Concept Interaction Graph 的 toy example基于 Concept Interaction Graph,论文进一步提出通过图神经网络(Graph Neural Networks)对文本对进行局部和全局匹配。具体而言,对每个节点上的文本对,利用编码器进行局部匹配,从而将长文本匹配转化为节点上的短文本匹配;再通过图神经网络来将文章结构信息嵌入到匹配结果中,综合所有的局部匹配结果,来得到全局匹配的结果。图 7. 基于 Concept Interaction Graph 和图卷积神经网络的长文本匹配第五章 基于层次化分解和对齐的短文本匹配对于短文本匹配,论文提出了层次化句子分解(Hierarchical Sentence Factorization)来将句子分解为多层的表达,每一层都包含完整的所有单词,并且语句重排列为「predicate-argument」的顺序。随着层数的增加,一个句子逐渐被分解为更加细粒度的语义单元。因此,利用这种多层次,重排序的句子表示,我们可以对齐两个句子,并结合不同的语义粒度去比较他们的语义距离。图 8. 基于层次化句子分解(Hierarchical Sentence Factorization)的句子匹配这种句子分解技术利用了 Abstract Meaning Representation 来对句子做 semantic parsing。然后,它通过一系列的操作,使得每一层都包含句子中的所有单词。对于每一个语义单元,都是谓词(predicate)在前,参数(argument)在后。这种表示充分展现了自然语言的层次性,组合性,并利用归一化的词序来克服自然语言表达的灵活顺序。基于句子的层次分解,论文进一步提出无监督的 Ordered Word Mover's Distance, 结合了最优传输理论的思想去建模句子之间的语义距离。其效果经试验验证显著优于 Word Mover's Distance。同时,论文也提出了将句子的多语义粒度表达,应用于不同的文本匹配模型中,例如 Siamese Neural Networks 中。实验证明,多粒度的匹配效果,显著优于只利用原句进行匹配的效果。第二部分:文本挖掘第六章 ConcepT 概念挖掘系统概念蕴涵了世界的知识,促进了人类的认知过程。从文档中提取概念并构建它们之间的联系对于文本理解以及下游任务有着重要的作用。认识「概念」(concept)是人类认识世界的重要基石。例如,当看到本田思域(Honda Civic)或者现代伊兰特(Hyundai Elantra)时,人们可以联想到「油耗低的车」或者「经济型车」这类的概念,并且能进而联想到福特福克斯(Ford Focus)或者尼桑 Versa(Nissan Versa)等车型。图 9. 人类能对事物进行概念化并产生联想过去的研究工作,包括 DBPedia, YAGO, Probase 等等知识图谱或者概念库,从维基百科或者网页文章中提取各种不同的概念。但是这样提取的概念和用户的认知视角并不一致。例如,与其认识到丰田 4Runner 是一款丰田 SUV 或者说是一种汽车,我们更感兴趣是否能把它概念化为「底盘高的汽车」或者「越野型汽车」。类似地,如果一篇文章在讨论《简爱》,《呼啸山庄》,《了不起的盖斯比》等电影,如果我们能认识到它在讨论「小说改编的电影」这个概念,那么会帮助极大。然而,目前的知识图谱等工作目的是建立一个关于这个世界的结构化知识表示,概念提取自语法严谨的文章。因此,它们不能从用户的视角去对文本(例如 query 和 document)进行概念化,从而理解用户的意图。另一方面,目前的工作也主要在于提取长期稳定的概念,难以提取短时间出现的热门概念以(例如「贺岁大片」,「2019 七月新番」)及它们之间的联系。我们提出了 ConcepT 概念挖掘系统,用以提取符合用户兴趣和认知粒度的概念。与以往工作不同的是,ConcepT 系统从大量的用户 query 搜索点击日志中提取概念,并进一步将主题,概念,和实体联系在一起,构成一个分层级的认知系统。目前,ConcepT 被部署在腾讯 QQ 浏览器中,用以挖掘不同的概念,增强对用户 query 意图的理解和对长文章的主题刻画,并支持搜索推荐等业务。目前它已经提取了超过 20 万高质量的基于用户视角的概念,并以每天挖掘超过 11000 个新概念的速度在不断成长。ConcepT 系统的核心算法架构同样适用于英语等其他语言。图 10. ConceptT 概念挖掘流程:从用户搜索点击日志中挖掘概念ConcepT 系统还可以用于给文章打上概念标签。主要包含两种策略:基于匹配的标记算法和基于概率推断的标记算法。图 11. ConcepT 文章标记流程:将文章打上关联的概念标签图 12. ConcepT 系统从用户搜索 query 中提取的概念展示图 13. 在线 A/B test 结果。ConcepT 系统对 QQ 浏览器信息流业务各项指标有明显提升。其中最重要的指标曝光效率(IE)相对提升了 6.01%。图 14. ConcepT 系统对文章打上概念标签。目前每天可处理 96700 篇文章,其中约 35% 可以打上概念标签。我们创建了一个包含 11547 篇文章的概念标记数据用以评测标记的准确率。人工评测发现,目前系统的标记准确度达 96%。第七章 用户兴趣点建模 Attention Ontology上一章中,我们介绍了概念挖掘系统。为了更加全面的刻画用户兴趣点,我们进一步挖掘包括概念(concept)和事件(event),话题(topic)等等在内的多种短语,并和预定义的主题(category)以及实体库中的实体(entity)等形成上下位等关系。我们将这个包含多种节点,多种边关系,用于用户兴趣点或关注点建模的图谱命名为 Attention Ontology。图 15. Attention Ontology,包含五种节点,代表不同语义粒度的用户兴趣点;三种关系,代表节点之间的上下位,包含,以及关联。Attention Ontology 可以解决「推荐不准」和「推荐单调」的问题。例如:当一个用户看了关于「英国首相特蕾莎梅辞职讲话」的文章后,目前基于关键词的推荐系统可能会识别关键词「特蕾莎梅」,从而推荐给用户很多关于特蕾莎梅的文章。然而这大概率并不是用户的兴趣点。这是「推荐不准」的问题,原因在于系统中缺乏或无法识别合适粒度的兴趣点。另一方面,系统也可能继续推荐更多关于「英国首相特蕾莎梅发表演讲」的文章,这些文章与用户已经浏览过的文章产生了冗余,无法带给用户更多有价值的信息,因此用户也不感兴趣。这是「推荐单调」的问题,而这个问题的本质在于缺乏不同兴趣点之间的联系。Attention Ontology 中包含不同粒度的用户兴趣点,并且不同的节点之间有边来表示它们之间的联系。例如根据 Attention Ontology,我们可以认识到「特蕾莎梅辞职讲话」是和「英国脱欧」这一中等粒度的兴趣点相关的。如果用户浏览了「英国脱欧」这一兴趣点下的不同事件的文章,我们便可以识别出用户不是关注「特蕾莎梅」这个人或者「特蕾莎梅辞职演讲」这一个特定事件,而是关心「英国脱欧」这一话题。而另一方面,知道了用户关注这一话题之后,利用不同兴趣点之间的联系,我们可以给用户推荐相关的文章,从而解决推荐不准和推荐单调的问题。为了挖掘不同性质的短语,如概念和事件短语,论文提出了 Query-Title Interaction Graph(QTIG)用于建模 query 文章 title 之间的联系。这种表示结构将不同 query 和 title 之间的对齐信息,词的 tag,词之间的距离,语法依赖等等信息嵌入在节点特征和边的特征中。利用这种表示,论文进一步提出 GCTSP-Net 模型,将短语挖掘问题建模为「节点分类+节点排序」的问题。该模型对 QTIG 进行节点二分类,抽取出属于目标短语的词;再将节点排序建模为一个旅行商问题,寻找一个最优路径将所有的分类为正的节点进行排序。按照得到的路径,将分类为正的节点串联起来,便得到了输出短语。图 16. Query-Title Interaction Graph. 图中绿色节点为属于输出短语的词。每一个节点代表 query 或 title 中的一个独特的词,边代表两个词相邻或者存在语法依赖。论文设计并实现了构建 Attention Ontology 并将其应用在不同应用中的 GIANT 系统。GIANT 系统包含几大模块:首先,根据用户的搜索 query 和点击日志形成的二分图,来进行聚类得到不同的 query-doc clusters。每个 query-doc cluster 包含一个或多个相似的 query,以及他们的 top 点击的文章。对每一个 query-doc cluster, 我们将其转化为 Query-Title Interaction Graph 表示,并利用 GCTSP-Net 抽取潜在的短语。接下来,我们再利用不同的算法去抽取不同短语之间的关系,形成 Attention Ontology。最后,利用 Attention Ontology 去实现多种应用,包括文章的 tagging,query 的概念化,文本的聚类组织等。同时,Attention Ontology 中的节点可用于在用户画像中描述用户的兴趣点。这样可以提高用户和其感兴趣的文章之间的匹配,从而提高推荐系统的效果。图 17. GIANT 系统架构第三部分:文本生成第八-九章 问答对自动生成问题生成是一种非常重要的文本生成问题,它可以应用在问答系统的训练数据生成,对话系统,教育等等应用中。图 18. 问题生成的不同应用及重要性已有的问题生成系统一般给定一句话和一个答案,要求系统生成某个特定的问题。这种系统属于 answer-aware question generation 系统。然而,它们生成的问题质量并不够好。一个核心问题在于,给定输入的句子和一个答案,我们能问出多个不同的并且合理的问题,是「一对多匹配(one-to-many mapping)」,而训练集中每个输入只有一个标准答案,是「一对一匹配(one-to-one mapping)」。图 19. 根据同样的输入可以问不同的问题本文提出 answer-clue-style aware question generation(ACS-QG)任务,将人提问的过程建模成四步:第一,根据输入选择一部分作为答案(answer);第二,选择一部分和答案相关的信息作为线索(clue)在问题中复述或转述;第三,根据答案选择问题的种类(style),例如 who, where, why 等等,共 9 种;第四,根据输入的句子和以上三种信息(答案 answer,线索 clue, 问题种类 style),生成问题。图 20. 根据输入生成问题的过程问题生成的过程可以从语法树的角度去观察:选择答案片段就像是从语法树中覆盖了一部分信息,而选择线索片段(clue)的过程就是在覆盖的信息附近,选择一部分节点作为提示输出到问题中。图 21. 利用语法树建模问题生成过程本文提出的 ACS-QG 系统,可以从无标注的句子中,生成高质量的问答对数据。它由以下模块组成:数据集创建模块,可以从目前已有的问答数据集(例如 SQuAD)中,创建 ACS-QG 任务的训练数据集;输入选择模块,可以从无标注的句子中,合理的选择和创建(answer, clue, style)三元组作为问题生成的输入;问题生成模块,可以利用输入三元组生成问题,这个模块的训练数据来自于第一个数据集创建模块;质量控制模块,用于过滤低质量的问答对。图 22. ACS-QG 问题生成系统实验证明,ACS-QG 系统能生成大量高质量的问答对,并且效果显著优于一系列已有的问题生成算法。第十章 结论和未来工作本论文利用图结构建模了一系列 NLP 问题中的文本数据,并结合深度学习模型,提高了多种任务的效果。论文中的各种研究,对信息的聚类组织,推荐,以及理解有着重要的意义。未来的研究方向包括:长文本理解,多任务协同学习,以及通用的基于图结构的表示,学习与推理。本论文中的研究已经发表在 SIGMOD,KDD,ACL,WWW,TKDD,CIKM 等各类 top conference 中,论文列表可在作者个人主页找到:https://sites.ualberta.ca/~bang3/publication.html

郭璞

加拿大著名的研究大学:阿尔伯塔大学

于1908年成立的阿尔伯塔大学,是多年稳居在加拿大研究型大学前五,世界排百名以内;阿尔伯塔大学是加拿大U15大学联盟的创世成员以及世界大学联盟的成员。校方的目标是在20所公立大学。加拿大最大的五所以科研为主的综合性大学之一的阿尔伯塔大学,其科研水平居加拿大大学队伍的前列。参加全加14个优秀科研网的仅有3所大学,阿尔伯塔大学便跻身其列。在全国大学中,阿尔伯塔大学占皇家学会会员人数以及申请美国技术专利和技术转让总数均居第五位,其科研收入与所得资助总额居全国第五。阿尔博塔大学落座于加拿大阿尔伯塔省会城市埃德蒙顿。是加拿大人口第二多的省会城市(排在多伦多之后)。阿尔伯塔省的埃德蒙顿是阿尔伯塔省的文化、征服和教育中心,拥有轻轨运输,一年当中会有很多的节日,大多集中在夏季,埃德蒙顿还拥有北美大型室内购物中心:西部埃德蒙顿购物中心与全加拿大最大的历史公园:埃德蒙顿堡垒公园。阿尔伯塔大学共有五个校园,主校园也是建校原址,在埃德蒙顿市中心北萨斯彻温河南岸,主校园东面是法语学院圣约翰分校;在主校园以南福第体育场所在的南校区;以及在北萨斯喀彻温河北岸市中心的市中心校区。位于埃德蒙顿东南一百多公里的小城康罗斯中,有奥古斯塔纳分校。阿尔伯塔大学优势:加拿大最大的科研和教育高等学府之一,在《麦克林杂志》中医学博士类大学排名第5。设有16个可授予学位的学院,包括超过200个本科学位专业。拥有世界先进的教学设备,校区广阔,上百个教学楼和实验室。每年学校为国际学生提供的奖学金超过两千一百万加币。学校提供全面的学生服务,保障高质量的学生生活。发放双录取,为语言成绩达不到要求的学生,提供更多进入阿尔伯塔大学的机会。阿尔伯塔大学是加拿大著名综合性大学之一,以科研为主,其科研水平在加拿大名列前茅,同时它还是参加加拿大十四个优秀科研网的三所大学之一。艾伯塔大学在有三个“第五”:皇家学者协会会员人数名列第5,申请美国专利技术和技术转让总数名列第5,科研收入和所得资助总额名列第5。阿尔伯塔大学阿尔伯塔的特色专业:石油工程阿尔伯塔大学的石油专业和工程专业在加拿大全国乃至世界排名都很高。因为本身在阿尔伯塔省,石油产业较为发达,是加拿大全国大部分石油的出产地。并且,阿尔伯塔省具有对全加拿大石油价格的调控权。因为阿尔伯塔大学的良好地理位置,为石油研究提供得天独厚的平台,很多学生毕业后都会选择留在阿省石油产业内工作。此外,阿尔伯塔大学在地球环境工程,林业鱼类研究,化工等学科也非常著名。石油工程专业硕士申请条件:1.申请者必须具备一个石油工程或者相关的工科的本科学位。2.语言要求需满足TOEFL 88(20)或IELTS 6.5(5)。3.GPA需满足3.0 / 4.0(后两年),对于中国学生来讲,必须在80%以上。由于加拿大石油工程硕士的院校数量有限,而中国学生申请者数量庞大,加上阿尔伯塔大学是石油工程专业的理想学府,所以申请竞争十分激烈,每年有将近1300多个学生申请,而学院每年的录取名额只有90-110个左右,所以同学们要努力提升自己在硬件成绩和软件活动背景各个方面的能力,争取在众多申请者当中脱颖而出。阿尔伯塔石油工程注意:很多专业的确存在宽进严出,如Computer/工程/商学院。相对其他学校淘汰率不算很高,有时会延迟毕业,不过只要上完所有必修课程就好。阿尔伯塔是一个抓作弊很严格的地方,所有作业,论文和考试中有疑似行为,相似度有时超过10%就会被惩罚。阿尔博塔大学入学要求:本科入学要求1、高考成绩单(参考总分为70%,即525分左右);2、高中毕业证和高中成绩单(平均分不得低于80%)工程学院和其他学院的荣誉系要求会更严格3、新托福iBT录取线为86分、单项不低于21分(旧托福录取线为580分、单项不低于50分;机考237分);或雅思6.5分、单项不低于5.5分;或达到阿尔伯塔大学双录取EAP英语录取分数线(即通过EAP145)阿尔伯塔录取条件阿尔伯塔大学绿色通道高中毕业平均分达75%或以上以及高中即将毕业的学生,由于语言成绩尚不具备本科直接录取条件,可以申请阿尔伯塔大学“双录取”。需要托福成绩530(iBT70分)/雅思成绩5.5分以上,最快可于4个月内完成学校独家提供的语言课程(无需中介)。成绩符合标准者,即豁免托福或雅思成绩直接升读阿尔伯塔大学本科。阿尔伯塔录取条件研究生入学本科毕业,拥有学士学位证书,大学平均成绩80%以上新托福iBT录取线为88分或雅思6.5分(单项不低于6分)以上医学院和教育学院等特殊学院要求7.5部分专业需要GRE或GMAT(商科)申请费:75加元费用明细学费:约$16000/年-$19000/年住宿费:约$7000-$9,000/年开学日期本科开学时间:每年1月、5月、9月申请截至日:每年1月、3月、10月研究生开学时间:每年1月、5月、9月申请截至日:每年1月1日、3月1日、9月1日

一多

皱眉细节完美复刻,阿尔伯塔大学团队的项目生成超逼真的肖像画

机器之心报道机器之心编辑部深度卷积神经网络已经被广泛用于显著目标检测,并获得了 SOTA 的性能。在 CVPR 2019 的一篇论文中,来自加拿大阿尔伯塔大学的研究者曾提出了边界感知显著目标检测网络 BASNet,并衍生出了一系列流行的工具。今年,该团队又提出了一种用于肖像画生成的深度网络架构 U^2-Net,不仅所需的计算开销较少,而且生成肖像画具有丰富的细节。该论文被 ICPR 2020 会议接收。从人脸图片生成艺术肖像画的 AI 应用不在少数,但效果惊艳的不多。上面这张图片中的输入 - 输出结果,来源于一个 GitHub 热门项目 U^2-Net (U square net),开源至今已经获得了 1.7K 的 star 量。这项研究来自阿尔伯塔大学的一个团队,论文此前已被国际模式识别大会 ICPR 2020 会议接收。论文链接:https://arxiv.org/pdf/2005.09007.pdf项目地址:https://github.com/NathanUA/U-2-Net最近,研究者又将其应用于人脸肖像画的生成中,并基于 APDrawingGAN 数据集为此类任务训练了新的模型。不管是儿童肖像还是成年男性、成年女性,都能获得相当细致的生成结果:近年来,显著性目标检测广泛应用于视觉跟踪和图像分割等领域。随着深度卷积神经网络(CNN)的发展,尤其是全卷积网络(FCN)在图像分割领域的兴起,显著性目标检测技术得到了明显的改善。大多数 SOD 网络的设计都有一个共同的模式,也就是说,它们专注于充分利用现有的基础网络提取的深度特征,例如 Alexnet、VGG、ResNet、ResNeXt、DenseNet 等。但这些主干网络最初都是为图像分类任务设计的。它们提取代表语义含义的特征,而不是代表局部性细节或全局对照信息,这对于显著性目标检测至关重要。并且这些网络通常需要在 ImageNet 数据上进行预训练,效率比较低。为了解决这个问题,阿尔伯塔大学的研究者提出了 U^2-Net。研究团队在论文中介绍,U^2-Net 是一个简单而强大的深度网络架构,其架构是两层嵌套的 U 形结构。该研究提出的 ReSial U-block(RSU)中混合了不同大小的接收域,因此它能够从不同尺度中捕获更多的语境信息。此外,RSU 中使用了池化操作,因此在不显著增加计算成本的情况下,也能够增加整个架构的深度。方法在方法部分,研究者不仅详细阐释了其提出的残差 U-block 以及利用该 U-block 构建的嵌套 U 形架构,而且还描述了该网络的监督策略和训练损失。残差 U-block受到 U-Net 网络的启发,研究者提出了新型残差 U-block(ReSial U-block, RSU),以捕获阶段内的多尺度特征。RSU-L (C_in, M, C_out)的结构如下图 2 (e)所示,其中 L 表示编码器中的层数,C_in、C_out 分别表示输入和输出通道,M 表示 RSU 内层通道数。本研究提出的 RSU 与现有其他卷积块的结构对比具体而言,RSU 主要有三个组成部件,分别是一个输入卷积层、一个高度为 L 的类 U-Net 对称编码器 - 解码器结构以及一个通过求和来融合局部和多尺度特征的残差连接。为了更好地理解设计理念,研究者在下图 3 中对 RSU 与原始残差块进行了比较。结果显示,RSU 与原始残差块的最大区别在于 RSU 通过一个类 U-Net 的结构替换普通单流卷积,并且通过一个由权重层转换的局部特征替换原始特征。更值得注意的是,得益于 U 形结构,RSU 的计算开销相对较少,因为大多数运算在下采样特征图中应用。下图 4 展示了 RSU 与其他特征提取模块的计算成本曲线图:U^2-Net 架构研究者提出了一种用于显著目标检测的新型堆叠 U 形结构 U^n-Net。从理论上讲,n 可以设置成任意正整数,以构建单级或多级嵌套 U 形结构。研究者将 n 设置为 2 以构建二级嵌套 U 型结构 U^2-Net,具体如下图所示:具体而言,U^2-Net 主要由三部分组成:(1)6 阶段编码器;(2)5 阶段解码器;(3)与解码器阶段和最后编码器阶段相连接的显著图融合模块。总的来说,U^2-Net 的设计构建了具有丰富多尺度特征以及较低计算和内存成本的深度架构。此外,由于 U^2-Net 架构仅在 RSU 块上构建,并且没有使用任何经过图像分类处理的预训练主干网络,所以在性能损失不大的情况下 U^2-Net 可以灵活且方便地适应不同的工作环境。监督在训练过程中,研究者使用了类似于整体嵌套边缘检测(Holistically-nested edge detection, HED)的深度监督算法。训练过程定义如下:训练过程努力将上述公式 (1) 的整体损失最小化。在测试过程中,研究者选择将融合输出 l_fuse 作为最终显著图。实验研究者在 DUTS-TR 上训练了 U^2-Net 网络,该数据集包含 10553 张图片,是目前最大和最常用的显著目标检测数据集。研究者对数据进行了水平翻转,总共获得了 21106 张训练图像。在评估阶段,研究者使用了 DUTOMRON、DUTS-TE、HKU-IS、ECSSD、PASCAL-S、SOD 六个常用的基准数据集来评估方法。控制变量研究实验从三个方面来验证 U^2 -Net 的效果:基本块、架构和主干网络。表 2:不同模块的控制变量实验结果。“PLN”、 “RES”、 “DSE”、“INC”、“PPM” 和 “RSU” 分别代表普通卷积块、残差块、 密集块、初始化块、金字塔池化模型和残差 U-block。粗体字代表的是性能最佳的两种。不同方法性能对比下表 3 展示了在 DUT-OMRON、DUTS-TE、HKU-IS 三个数据集上,本文方法与其他 20 种 SOTA 方法的对比。红、绿、蓝分别代表了性能上的最佳、第二和第三。下表 4 展示了在 ECSSD、PASCAL-S 和 SOD 三个数据集上的方法对比结果。下图 7 展示了本文方法与其他 7 种 SOTA 方法定性比较的结果。(a) 是原图, (c)是本文方法的生成结果。研究团队该研究的第一作者秦雪彬,目前是加拿大阿尔伯塔大学的一名计算机科学在读博士,共同作者还包括 Zichen Zhang、Chenyang Huang、Masood Dehghan、Osmar R. Zaiane 和 Martin Jagersand。左起:秦雪彬、Zichen Zhang、Chenyang Huang。此前,机器之心也介绍过秦雪彬等研究者在显著目标检测方面的另一篇论文《BASNet: Boundary-Aware Salient Object Detection》,该论文被 CVPR 2019 接收。研究公布后,业界随之诞生了许多基于 BASNet 的图像处理工具,比如「隔空移物」神器 AR Cut & Paste、在线抠图程序「ObjectCut」等。

学习

AI博士年薪高达80万元,开设人工智能专业的国内外大学如何选择?

全球各国具有人工智能研究方向的大学数图一:全球各国具有人工智能研究方向的大学数目全球大学共有367所高校具有人工智能研究方向,这其中,美国占有168所,占全球份额的45.7%,加拿大、中国、印度、英国分别位于二、三、四名,但与美国相差较大。具有人工智能研究方向的大学实力排名图二:具有人工智能研究方向的大学实力排名TOP1:卡内基梅隆大学(CMU)TOP2:清华大学TOP3:康奈尔大学和斯坦福大学TOP5:北京大学TOP6:佐治亚理工学院TOP7:华盛顿大学TOP8:加州大学伯克利分校TOP9:马萨诸塞大学安姆斯特分校TOP10:麻省理工学院TOP24:浙江大学TOP51:南京大学全球实力排名中国高校占2所。全球大学人工智能研究排名图三:全球大学人工智能研究排名TOP1:卡内基梅隆大学TOP2:清华大学TOP3:牛津大学TOP4:北京大学TOP5:香港科技大学TOP6:新南威尔士大学TOP7:南洋理工大学TOP8:阿尔伯塔大学TOP9:南京大学TOP10:浙江大学全球研究排名中国高校占4所。中国高校AI前60排名图四:中国高校AI前60排名如果不想去世界顶级的大学学习人工智能,舍弃了欧美,如美国、加拿大、英国,在国内就要去上面这些大学进行本科阶段的学习,硕士研究生和博时研究生阶段的学习,最好还是去美国顶级院校学习,毕竟毕业之后的工作,要比国内丰富很多。人工智能企业拥有数量前五名图五:人工智能企业拥有数量前五名TOP1:美国,1078家TOP2:中国,592家TOP3:英国,138家TOP4:以色列,74家TOP5:加拿大,70家世界人工智能强国人口数世界人工智能强国人口占比图六:世界人工智能强国人口数与占比美国占地球人口4%,加拿大0.49%,英国0.89%,以色列0.12%,而中国占地球18.93%,资源很不均衡。看到这些数据,就应该明白,去美国学习人工智能,就能享受到优越的教育资源,一流的师资,高端的设备,最前沿的学术思想,在最顶尖的平台上才能越走越远,攀登科学高峰,不至于走弯路,走错路,这也是很多一流科学家曾经最明智的选择。

不耕而食

名校博士为何退学

根据《自然》杂志面向全球26个国家、2200余名研究生的调查报告,这个群体的焦虑和抑郁倾向均为普通大众的6倍,有中度到重度抑郁或者焦虑的受访者分别约占总人数的40%……本文共4134字预计阅读时间:11分钟作者 / 李雅娟 编辑 / 秦珍子只读了一年博士,金雯决定从就读的国内知名高校退学。开学不久,导师就交给她一个课题,要求她从头开始研究某种微生物的作用机制。在整个实验室中,没有人在这个方向做过任何先期研究。导师期望金雯能发一篇影响因子为10的论文。“就连导师自己发过的论文,都远没达到这个水平。”给了课题,导师却不再指导研究方向,金雯成为唯一的探索者。实验进行了几个月,没做出导师期望的结果,她得到的批评越来越严厉,压力越来越大。她知道,就在这所名家辈出的大学里,许多硕士、博士研究生在心理咨询室痛诉他们承受的种种压力。金雯不想像他们一样,所以选择离开。近日,国际顶级期刊《自然》发布了一篇面向全球26个国家、2200余名研究生的调查报告,受访者中九成为博士生,理工科和人文社会学科的研究生比例大致为1:1。这份题为《研究生教育中的心理健康危机》的报告表明,研究生群体的焦虑和抑郁倾向均为普通大众的6倍,有中度到重度抑郁或焦虑的受访者分别约占总人数的40%。论文的通讯作者之一、美国肯塔基大学毒理学和癌症生物学系助理教授内森·L·范德福德告诉中国青年报·中青在线记者,研究团队曾对比过来自不同学科、不同区域的受访者填写的问卷,都没有发现系统性差异。“说明这(研究生的焦虑、抑郁倾向)是一个全球性的问题。”“那股兴奋劲儿持续不了多久”3月26日,《自然》杂志官方推特转发了这篇调查报告。推文发布后,世界各地的研究生占领了评论区。有网友说:“实验室来了兴高采烈、干劲十足的新同学,我们都默默看着不说话,那股兴奋劲儿持续不了多久。”博士研究生莎拉·纳森回复:“总有人告诉你,每天工作10多个小时、一周工作6到7天还是不够好。你还得为自己的每一个决定自我辩护,而且你从来不被信任,你作的决定从来不被认为是正确的。”关于“压力”,《自然》杂志的这条推文,还“炸”出一些早已成名成家的教授。在这篇报告之前,2014年,加州大学伯克利分校的调查表明,生物科学领域的研究生中,43%~46%的人患有抑郁症;2015年亚利桑那大学发布报告称,大部分博士生报告有“超出一般的”或者“巨大的”压力,受访者认为学校和教育相关的事务是压力的最主要来源。在中国,尤其是近年来,研究生因种种压力自杀的新闻屡见报端。加拿大阿尔伯塔大学护理系教授亚历山大·克拉克表示,研究生一般每周工作80~90小时,如果还有另一份工作,时间会更久。在美国纽约州求学的法国人比翁告诉中国青年报·中青在线记者,他的同学有不少人为了读博士,在做实验、上课之余,还要打两份甚至三份工挣钱。比翁回忆,自己读博时压力很大,很少会跟朋友出去玩。他生活的区域房租昂贵,学校发的工资勉强够付房租,“根本不能有什么爱好,爱好是要花钱的,出去放松、释放压力,都要花钱”。女性面临的状况更糟。根据那份新出炉的报告,跨性别群体和性别不适者(gender-nonconforming)面临更大的抑郁和焦虑风险,女性比男性更有可能罹患心理疾病。金雯记得一位师姐曾因怀孕引起导师不满。克拉克说,已婚的女性除了完成研究任务,还要照顾家人,她们只能工作更长时间、睡得更少。当德克萨斯大学的同行特蕾莎·M·埃文斯提议做这项研究生心理健康调查时,范德福德毫不犹豫地答应了。他想起自己读博经历中高度的紧张感、不确定感还有经济压力。他在读博期间结了婚,妻子是没有收入的在校学生,他一年两万多美元的博士生工资捉襟见肘。多年过去了,范德福德觉得当下的研究生比他那时艰难:发论文压力更大,就业市场情况不容乐观,教职越来越难找。导师也会失败在聚集不少硕博士生的小木虫论坛上,有人困惑地发帖:“高校研究生和导师之间究竟是一种什么关系?”“楼主”表示,自己已经失去学习知识的激情,与导师之间人情味也很淡薄,多了许多利益的色彩。在前述研究中,经历过焦虑或抑郁的研究生,有50%的人不认为他们的导师提供了真正的指导;超过50%的人不认为导师有助于自己的职业发展。在《自然》杂志去年的一项针对5700多名博士生的调查中,大部分受访者对导师很满意,但也有将近1/4的受访者表示希望换个导师。研究者认为,研究生和导师之间密切的、支持性的、积极的关系,与减少焦虑和抑郁显著相关。在金雯短暂的读博经历中,导师急着出成果,几乎天天催问进度。但要研究出一种微生物的作用机理,尤其是对于一个没有任何研究基础的课题而言,并不那么容易。拿不出导师期望的结果,金雯参加组会时被当作反面教材屡次受到批评,不开组会时,也经常挨导师训斥。她考虑,再忍受3年乃至更久的委屈是否值得,更重要的是,到时候,被导师寄予厚望的课题也许依然一无所获。克拉克在艾尔伯塔大学任教15年以来,曾参加过不少面向学生的工作坊,他试图在科研知识之外再教给学生一些“街头智慧”——更加切合实际、能够付诸实践的建议。工作坊的主题形形色色:如何写论文、怎么申请研究基金、如何管理时间、怎样应对情绪问题……前述报告的研究者认为:“研究生的培养囊括了许多获得成功非常重要的技能,但常常会忽略心理健康因素。”“学生的论文被拒、没有拿到心仪学校的教职,等等,这些都会带来情绪上的挫折,都需要关注。”克拉克说,“(读研期间)除了丰富你的简历之外,更要丰富自己的人生、让心智得到成长。”克拉克曾在读博时经历过一次艰难的考试,这个以“乐观主义者”自居的人一度怀疑自己的能力,足足花了10年才重拾对科研的信心。他希望能在学生身上培养出“成长型”的心智:“例如当你有一次考试得了低分,你不会认为自己就是个失败者,而是会继续努力前进。”他不避讳在学生面前展现自己的失败。“我的论文也会被拒,我不在学生面前假装完美。”他认为,当学生看到导师经历失败和挫折,就会觉得失败很平常, “(在研究生阶段)因为你研究的内容更难了,所以遇到更多的失败也很正常。”范德福德等研究者呼吁改变学术界的“文化”:“学术界的许多人曾大胆说出自己的心理疾病以及他们在学术界面对的污名。担心得不到终身教职、害怕同事评头论足,仅仅是患有心理疾病的学术界人士所承受压力的一小部分。”留下很好,离开也没关系在小木虫论坛里,“吐槽”读研经历的“硕博家园”与考研考博交流板块挨在一起。考生为能不能如愿考上而担忧,并表达着对上榜者的羡慕。这两类帖子下面,总有人引用小说《围城》中的经典语句来劝慰“楼主”:外面的人想进去,里面的人想出来。根据《自然》杂志2017年的调查,在那些因焦虑或抑郁寻求帮助的博士生当中,将近一半的人表示对自己的博士项目满意或非常满意。在全体受访者中,有四分之三的人表示对自己的博士项目满意或非常满意,这些数据与往年的调查结果高度一致。尽管读博期间压力很大,范德福德表示自己从未想过放弃。他会鼓励那些想放弃的学生坚持下去。“博士学位很有价值,它意味着你更能胜任雇主的工作。”在《自然》杂志编辑部看来,情况没那么简单。最近的那条推文在短短两三天内就得到上千次转发和上百条回复,《自然》杂志于3月29日发布社论,语气严肃地表示:“是时候谈谈为何这么多研究生的心理健康状况都这么糟糕。”文章将矛头直指学术界的风气:“科学界的文化出了问题,这让年轻一代研究者肩上的负担越来越沉重。”社论中提到的“问题”包括:工作时间长、官僚习气、就业市场形势严峻、研究生缺乏适当的职业指导……“改变这种文化要花一段时间,不幸的是,要让这个共同体中的一些人意识到改变的必要性,也要经过一段漫长的时间。”文章说,“但改变势在必行。”社论认为,切入点是导师和研究生之间的关系:“有太多的资深科学家把拿到博士学位、却不在学术界工作视为失败。”但现实是,学术界确实没有足够的职位提供给毕业生。这份期刊已经不是第一次表示:研究生不应局限在学术界找工作,学术界外的广阔天地,大有可为。在肯塔基大学,范德福德的调研引起了管理者和教师的重视。就在接受中国青年报·中青在线记者采访当天,他还要去参加校方举行的研究生心理健康问题研讨会——自那篇论文发表后,这类研讨邀约几乎没断过。对于中途“退场”的人来说,生活还在继续。法国留学生比翁的导师没能申请到下一阶段的科研经费,他没法继续课题研究,还要帮导师处理与研究工作不相关的琐事。开学一年半之后,比翁选择退学。读博时,比翁可以做自己感兴趣的研究。离开实验室、在家里做全职奶爸,他也没有感到太多的遗憾——照顾3岁的女儿同样给他带来很多快乐。现在他在考虑找一份与自己专业相关的工作,在喜欢的领域中继续探索。向导师申请退学时,金雯挨了最后一顿批评。办完退学手续后,她感觉特别轻松。临走时,她看到办公室桌上的一张纸,上面写着:同意×××等180名同学退学。金雯试图回想离开学校的那一天,却发现她对校园的记忆已经模糊——自打入学,她还没顾上完整地绕校园走一次。对于那里,她的感受还有点复杂:学校的讲座、活动其实丰富多彩,“遗憾的是我来错了时间”。(应采访对象要求,文中金雯和比翁为化名)丝巾,保温杯,KTV里的电饭煲 丨 最了解我的人 丨 中国唯一的手语律师:为无声的世界呐喊 丨 马路上有烟头应该罚保洁员吗? 丨 在生命的暮年,他们挤进了这个房间 丨看出《头号玩家》里的暗梗,我们就是自己人了 丨再见了,我的蛙丨号子唱了一辈子丨 同一个世界 同一种歧视丨医治村庄 丨 厌倦人世,就迷上了它 丨 河南这个村,照亮中国大片 丨 18岁写成千万富翁,这个女文青的人生你复制不了 丨 震后十年 丨 我们不需要户口簿里的城镇化 丨 我只不过随手点击了“同意” 丨 让这颗心替你去“玩儿命” 丨 参加抗议游行不影响你申请哈佛 丨 他走了七万公里,送别人的家人回家 丨 如何科学地做好大龄女青年

墓碑镇

怎么样申请国外大牛实验室的博士?按照实力排名努力考公费研究生

中国双一流高校和世界第一的差距国内的精英为何选着海外留学?施一公的青年梦想是国内学子可以不需要远渡重洋就可以享受到最好的高等教育,经过十几年的努力,施一公确实完成了自己青年时候的梦想,清华大学的生科院已经成为世界顶级学院,培养的博士生素质非常高,其中最著名的万雪蕊博士未毕业就有6篇CNS主刊论文,这样的成绩在哈佛和普林斯顿都算最优秀的博士生,但是中国像施一公这样的大师教授太少,在其他学科中国的整体的高教水平还是非常的薄弱,一名施一公只能提升生物蛋白结构,而最近的生物医药领域被曝光的新闻,凸显中国生物医药领域发展不平衡,前沿学科发展强劲,基础的生物医药发展缓慢,这也是每年大量国内高校精英们想办法申请海外大牛实验室的重要原因!中国优秀的海外人才团队规模还是比较小,并不能整体拉动中国高等研究生教育的水平,下面小编就以网络一名研究生的申请海外博士经历故事,来说明怎么样可以提升申请率!名师出高徒是选择优先权 海外申请博士学位,不是大牛不需要出国读博士中西方教育有差别,但是也有相似的地方,在申请博士职位的时候,一定要做足功课,先列一个业内大牛的名单,然后从业内高影响杂志上寻找崛起的青年科研大师,从施一公培养的颜宁和万雪蕊等强人就知道,想要做科研,没有好的导师,那么所谓的读博士就是混日子,与其混日子不如在国内舒服的混,根本没有必要选择出国去受罪!具体的选择为最近5年期刊青年大牛>业内知名大牛>期刊崛起新秀>海外华人大牛实验室>海外普通小牛。申请博士尽量选择非华裔老板,没有办法在选择华人科研大牛,一般华人大牛实验室中都有国内实验室的陋习,老板的压榨和同事间的勾心斗角!而且海外华人大牛更喜欢中国学生,更听话,更容易被安排加班,所以这些实验室中,会有大量的中国博士后和中国学生,加上这些华人学者走穴国内科研,很多关系户博士后也在这些实验项目组里,造成实验室的水平参差不齐!唯一的好处是,未来回国可以提前扩展人脉,但是对于科研的提升却非常的有限!最好申请到国家奖学金 海外大牛实验室经费也紧张其实海外大牛对来自国内的研究生有很多的抱怨,主要是中国的学生交流问题是最大的毛病,这也让很多海外大牛非常排斥来自中国的学生,如果没有别人推荐,一般这些大牛根本不会考虑来自中国学生的申请,但是最近几年欧美经济也开始下滑,海外大牛的实验室经费也开始紧张,如果中国学生自己带着奖学金来申请实验室博士或者博士后,那么这些老板还是会考虑来自中国的学生,毕竟免费的打工者,每一位老板都会喜欢,即便是这位打工者的交流水平有限!申请海外大牛实验室,很难 以下文字大部分摘自网络:网络上一位成功申请博士学位的中国学生的心得:研二上学期坚定了出国的想法,接着年前把第二篇文章写完投出去(申请过程中分量最重的一篇),研二下学期一来文章就回消息(修改),然后就复习雅思,因为本身英语功底就不是很好,考了三次才考过(2015年7月25号 6.5/8/6/6)。我硕士期间做的是天然药物化学,申请前就想好了要换方向到天然产物生物合成领域,换方向申请难度本身就大,然后申请的时候又野心勃勃的盯着那些大小牛(当然我这个版本并不一定十分正确或者完善),结果可想而知(回复寥寥无几)!!!研三上学期就开始了边做实验边套磁的生活,前前后后陶瓷了17-18位老师(德国、瑞士、英国、澳大利亚、加拿大),下面逐一分析。。。第一封套磁信,正文可以简单地写上你是谁,来自哪儿,想申博士,你以前的研究方向,对老师什么研究方向感兴趣等等(简短的100-200字左右,太长了老师也不一定看,真要有兴趣回去看你的简历的),然后附上自己的简历,我当时还附上了成绩单以及雅思成绩。(陶瓷似的顺序并不完全是按照以下顺序)1. Jrn Piel---瑞士苏黎世理工 (回复无职位,这是我第一个陶瓷的教授,过了两天就回复我)http://www.micro.biol.ethz.ch/research/piel/jpiel2. Gregory L. Challis---英国华威大学 (大牛啊,NPR的编委啊,认为我背景不够好,悲剧了,这个是我刚开始最想去的,但是认为我背景不够优秀无法申请到学校的奖学金,被拒绝了。。这个打击是最大的)http://www2.warwick.ac.uk/fac/sc ... hallis/challisgroup3. Rolf Muller---德国亥姆霍兹研究院(大牛,不回复。。。)http://www.helmholtz-hzi.de/en/r ... cts/rolf_mueller/4. Christian Hertweck---德国莱布尼兹研究院(大牛啊, Cell Chemistry & Biology主编!!回复无职位,这个老师我是9月23号陶瓷的,回复时说在外旅游,过几天小蜜回复我,暂时没位子)http://www.leibniz-hki.de/en/bmc-head.html5. Robert J. Capon---澳大利亚昆士兰大学 (这个老师是做海洋天然产物的,由于之前被拒绝太多了,对自己产生怀疑,是不是不适合换方向,因为都没老师理我,随后陶瓷了这个教授,这是第一个给我面试的老师,并且导师已同意接收,让自己申奖学金,后被我拒了,放不下心中的执念。。)http://capon.imb.uq.e.au/index.php?id=256. Barrie Wilkinson---英国John Inners Centre (不回复。。)https://www.jic.ac.uk/directory/barrie-wilkinson/7. Helge B. Bode---德国法兰克福大学 (不回复。。)http://www.bio.uni-frankfurt.de/48050101/ak-bode8. Russell J. Cox---英国布里斯托大学 (回复让走csc,而且该教授现在在德国汉诺威大学,刚开始不是很热情,后来12月某一天突然问我还愿不愿意申csc,然当时已决定去其他地方,所以也拒绝了)http://www.bris.ac.uk/chemistry/ ... j-cox/overview.html9. Christine L. Willis---英国布里斯托大学 (回复让走csc,联系过两次,感觉不合适后放弃)http://www.bris.ac.uk/chemistry/ ... illis/research.html10. Nathan A. Magarvey---加拿大麦克马斯特大学 (不回复。。)http://www.fhs.mcmaster.ca/biochem/magarvey_nathan.html11. Michael E. Webb---英国利兹大学 (不回复,原因是我可能邮件标题写错了。。。大家一定要引以为戒)http://www.chem.leeds.ac.uk/People/Webb.html12. Christopher N. Boddy---加拿大渥太华大学 (不回复。。)http://www.boddylab.ca/en/left/people/13. Mohamed A. Marahiel---德国马尔堡大学 (德国老院士,不回复。。)http://www.uni-marburg.de/fb15/ag-marahiel/group14. David L. Jakeman---加拿大达尔豪斯大学 (回复可以,然该校雅思要7分,让我继续考雅思。。。并不想考了那时候,遂放弃)http://www.dal.ca/sites/jakeman/david-jakeman.htmlhttp://www.nottingham.ac.uk/~pcznjo/HomePage.html16. *******---澳大利亚西澳大学 (套磁回复欢迎申请,然后约时间面试,面试后感觉还可以同意接受,让我自己申奖学金IPRS 和CSC都申请)17. John C. Vederas---加拿大阿尔伯塔大学 (大牛,联系过两次,后感觉课题组做的东西还是主要在合成、虽然生物合成也做。。)http://www.chem.ualberta.ca/~vederas/home.html最后结果大家在我之前的帖子都知道了,很幸运的申到了西澳大学的IPRS奖学金,在申请过程中一直和老师有联系,这个是我心中的完美选择(学校、研究方向、导师、奖学金的完美结合),在陶瓷前期,不断地经历着被打击、自我怀疑、又自我鼓励地过程。。。大家可以看到套磁的有效回复其实是很低的,能碰到你想去的老师、既愿意要你、同时做的东西你也感兴趣、并且学校什么的也还不错真的是很难的,不管陶瓷过程中老师们的回复有多么的消极,也一定要记得自我鼓励!!同时请在陶瓷过程中不断地完善自己的简历,我当时是一个导师不要我我才继续套磁下一个的,而且导师都是我精挑细选出来的,所以陶瓷的过程中工作量并不大。刚开始大家的邮件、简历什么的并不一定十分完美,但是在套磁过程请记得随时完善更新自己的简历、陶瓷邮件!!!还有邮件标题、老师称呼请自己仔细核对,不要像我一样出现错误。。。一旦出现这个套磁就是失败了。。关于选导师,我当时就是看文献(JACS, Angewandte,PANS, Chemical Sciences,ACS chemical biology, Cell Chemistry & Biology,甚至是Nature Chemical Biology, Nature Chemistry等等),看通讯作者,然后去学校官方看个人主页(具体的研究方向,历年文章等等),所有老师都逐一列下来。最后会形成一个精简版的(人数大概在20个以内),这样陶瓷时就不会盲目的海套。前期虽然陶瓷了这些老师,但是真正进入申请阶段的只有西澳这个(鸡蛋放在一个筐里。。),同时申请了IPRS和CSC,最后侥幸IPRS中了然后就取消CSC了。国内大牛的推荐信也很有用论一份推荐信的重要性最后总结,人脉关系最重要,不管是国内还是海外,一般海外大牛之间对彼此的名誉看的非常的重,如果通过关系可以得到大牛的推荐,特别是国内大牛老板的推荐,这些海外大牛也会非常的重视,问题是国内很多大牛教授可以轻易在国内推荐,但是为了自己的声誉,他们一般也不会轻易推荐国内的学生去海外大牛实验室,害怕砸了自己的招牌,毕竟很多国内看似优秀的学生,似乎只适合考试,但是做科研这件事却是靠着运气、耐力、以及天赋构成!

能柔能刚

温州医科大学与世界百强名校共建阿尔伯塔学院,今年开始招生

阿尔伯塔大学位于加拿大阿尔伯塔省会城市埃德蒙顿,成立于1908年。阿尔伯塔大学是加拿大G13大学联盟的成员,多年来与多伦多大学、麦吉尔大学、英属哥伦比亚大学一起稳居加拿大研究型大学前五,世界排名前百。阿尔伯塔大学是全加拿大五所最大的以科研为主的综合性大学之一,其科研水平居加拿大大学队伍的前列。参加全加14个优秀科研网的仅有3所大学,阿尔伯塔大学便跻身其列(其他两所是多伦多大学和麦吉尔大学)。在全国大学中,阿尔伯塔大学占皇家学者协会会员人数以及申请美国技术专利和技术转让总数均居第五位,其科研收入与所得资助总额居全国第五。4月28日温州医科大学发布通知称,教育部已发文,批准设立温州医科大学阿尔伯塔学院(下称联合学院),这标志着温医大实现了非独立法人中外合作办学机构零的突破。6月24日上午,温州医科大学阿尔伯塔学院启动仪式在温医大生物医药科研大楼报告厅举行。温州医科大学阿尔伯塔学院是全国首个聚焦临床医学的合作办学机构,2020年将启动首批招生。将开设临床医学本科专业,口腔医学、精神医学硕士专业和精神医学博士专业,办学总规模为395人,其中本科生每年招收60人,硕士研究生每年招收25人,博士研究生每年招收5人。温州医科大学阿尔伯塔学院本科生招生纳入国家普通高等学校招生计划,参加高考,并符合相关招生录取规定和要求;硕士研究生招生纳入全国研究生招生计划,参加全国统一研究生招生考试,并符合相关要求。毕业后,加拿大阿尔伯塔大学和温州医科大学均将为学生颁发相应的学位证书。博士研究生实施自主招生,毕业后颁发加拿大阿尔伯塔大学学位证书。

势荣

十大最佳全球大学,加拿大又拿下一个世界之最

加拿大的教育在全世界一直是名声在外的,无论是对本地学生还是留学生来讲都是非常有吸引力的。近10年来,计划到加拿大上大学的留学生人数,一路攀升。最新数据显示,加拿大高等学府的国际学生入学率,在2018年增长了约16%,而2010年至2018年的增幅更高达154%。选择哪所学校对于学生和父母来讲,权威机构的排名是比较好的衡量标准之一。新闻杂志周刊《美国新闻与世界报导》基于学术研究表现和声誉,评出加拿大10大最佳全球大学。以下是加拿大10所最佳全球大学:01多伦多大学多伦多大学成立于1827年,提供700多个本科课程和200多个研究生课程。该大学网站信息显示,他们拥有北美最大的图书馆系统之一,其44个图书馆的馆藏陈列了1,940多万件实物。多伦多大学是一所公立研究型大学,拥有11所学院,每所学院的性格和历史都各不相同。在学术上,U of T以文学批评和传播理论中的有影响力的运动和课程而闻名,被称为多伦多学派。多伦多凭借领先于其他加拿大大学的能力,多年来一直保持其加国大学排名第一的榜首位置。02UBC卑诗大学有两个主校园,其中较大的1个位于卑诗省的温哥华。该大学称,在化学、经济科学、物理学、生理学或医学领域的八位诺贝尔奖获得者,与之有关。UBC是一所公立研究型大学,在学术界和雇主方面享有盛誉,同时也是一所特别的国际学院。UBC许多科目和课程都颇有优势。03麦吉尔大学麦吉尔大学是蒙特利尔最古老的大学,成立于1821年。该校网站称,3/10的国际学生来自150多个国家,使得麦吉尔成为加拿大最国际化的大学。著名的校友之一詹姆斯.奈史密斯(James Naismith),1888年毕业,是篮球的发明者。麦吉尔大学是加拿大最负盛名的大学之一,每年吸引来自150多个国家的数千名国际学生,是加拿大研究型大学博士生比例最高的大学。麦吉尔大学的声誉归功于其50个研究中心。04阿尔伯塔大学阿尔伯塔大学是加拿大顶尖大学之一,也是世界领先的公立研究型大学之一,在人文科学,科学,创意艺术,商业,工程和健康科学方面享有卓越的声誉。阿尔伯塔大学在2018年排名第六,今年上升了两位,显示阿尔伯塔大学对教育的重视。05麦克马斯特大学McMaster University麦克马斯特大学于1887年在多伦多成立,于1930年迁至安省的汉密尔顿。该大学网站显示,他们的专职教师除了本土的之外,还来自其它55个国家。招收的国际学生来自113个国家,2017年秋季,该大学24%以上的研究生为留学生。麦克马斯特大学是汉密尔顿的一所公立研究型大学,拥有129年的传统,可以激发好奇心、探究和发现。该机构通过突破性的教学方法和世界一流的跨学科研究而闻名。06蒙特利尔大学成立于1878年,蒙特利尔大学主要以法语授课。该大学称,他们招收了约1万名国际学生。8个校区,分别位于魁北克省的勒奴地耶(Lanaudiere)、拉瓦尔(Laval)、圣亚森特(Saint-Hyacinthe),及分散在莫里斯(Maurice)地区。蒙特利尔大学是蒙特利尔的一所法语公立研究型大学。蒙特利尔大学(UniversitédeMontréal)位于世界顶尖大学之列,拥有绿树成荫的校园,位于世界上最具吸引力的学生城市中心,提供真正的国际体验。07滑铁卢大学滑铁卢大学是一所公立研究型大学,位于滑铁卢地区的中心,处于创新的前沿,是改变世界的研究和灵感教学的基地。滑铁卢大学在2018年排名第9,今年上升了一位。滑铁卢的入学人数为36,670名08西部大学Western University西部大学是加拿大顶尖研究型大学之一,2018年排名第10,今年跃升了两位。许多公司使用该大学的研究设施,西部大学在加拿大拥有最先进的研究设施。其研究设施和工作人员经常出现在CBC市场上。09卡尔加里大学卡尔加里大学成立于1966年,共有5个校区。其中4个位于亚伯塔省的卡尔加里大都会区,1个位于卡塔尔(Qatar)的首都多哈(Doha)。该大学的主校园占地490多英亩,比卡尔加里的整个市区都大。卡尔加里大学是加拿大领先的下一代大学;一个充满活力,成长和年轻的机构,位于在加拿大最富有进取精神的城市,以可行的态度拥抱变革和机遇。该大学有明确的战略方向,成为加拿大五大研究型大学之一,以创新学习和教学为基础,并完全融入卡尔加里社区。10女王大学位于安大略省金斯敦的女王大学提供加拿大最权威的大学体验。在女王大学学习期间,学生可以期待接触到创新概念,不同想法和新思维方式。加拿大其他16所顶尖大学在世界大学的排名分别为:西蒙菲沙大学 - 世界排名第264位达尔豪斯大学 - 排名第279位渥太华大学 - 排名第289位维多利亚大学-排名第359位拉瓦尔大学 - 排名第402位萨斯喀彻温大学-排名第461位康考迪亚大学 - 排名联合第464位约克大学 - 联合排名第481位魁北克大学 - 排名541-550圭尔夫大学 - 排名581-590曼尼托巴大学 - 排名601-650卡尔顿大学 - 排名651-700纽芬兰纪念大学 - 排名651-700舍布鲁克大学 - 排名651-700温莎大学 - 排名651-700瑞尔森大学 - 排名801-1000

不拘于俗

深圳这所年轻的大学成立了一个重量级学院,院士担任院长!

深圳是我国经济发达的四大一线城市,不过与其它三个一线城市相比较,深圳的教育特别是高等教育还是有比较大的差距。深圳财力雄厚,近些年对高等教育重金投入,引进了许多知名高校,筹建许多大学,比如深圳师范大学,深圳海洋大学等。01深圳这所年轻大学成立一个重量级学院据深圳本地媒体消息:1月9日,深圳这所年轻的大学成立了一个重量级学校,那就是深圳技术大学聚龙学院揭牌成立,聚龙学院院长由前不久加盟深圳技术大学的加拿大工程院院士刘清侠担任。聚龙学院,这是一个什么学院呢?据了解,深圳技术大学聚龙学院又称创新创业学院,聚龙学院主要将着眼于“创新创业教育模式”。据深圳技术大学校长阮双琛介绍说,聚龙学院将构建分层分类、深度融合、协同推进的创新创业教育模式,推动交叉学科融合、跨学科流通,让学生在创新创业中巩固专业知识,在专业教育中提高创新创业能力,加深对市场产业资本的理解,提升学生创新成果产业化的能力,从而有效解决社会发展和人类面临的重大复杂科学问题、社会问题和全球性问题。从校长的介绍来说,看起来这所新成立的聚龙学院很厉害,堪称重量级学院!另外一个可以佐证重量级学院的是聚龙学院的院长是有国际知名科学家,加拿大工程院院士刘清侠教授。刘清侠是谁?我也不认识,通过查询资料可以简单了解下。02刘清侠是谁,有什么履历?刘清侠,现任加拿大阿尔伯塔大学化学和材料工程系终身教授,博士生导师。加拿大清洁煤和清洁能源及矿物加工中心的主任;中国矿业大学特聘教授、博士生导师。学习工作经历:1991年受美国肯德基(UniversityofKentucky)大学国家应用能源研究中心邀请做客座研究员,从事煤炭精细加工和洁净能源的研究工作。1992年受聘普渡大学(PureUniversity)的客座研究员,从事稀有金属的磁性分选和提炼的研究工作。刘清侠主要研究领域:煤炭洗选深加工,煤炭的气化和液化,煤炭燃烧气体的净化,石油砂的萃取和深度加工,矿物加工,二氧化碳的富集和储藏。在国内外著名杂志和会议上,发表了二十多篇学术论文,获得二十项专利。这履历看起来还是很牛的。03深圳技术大学是一所什么样的年轻大学?说到深圳本土高校,深圳大学,南方科技大学还是比较熟悉,当然还有高职院校排名靠前的深圳职业技术学院。这所深圳技术大学很多人可能没怎么听说过。这也不奇怪,因为深圳技术大学很年轻!2015年,深圳开始筹建深圳技术大学。2018年教育部批准正式设立深圳技术大学。办学年限不长,一只手都能数过来!但是该校高起点、高水平、高标准建设,充分借鉴和引进德国、瑞士等发达国家一流技术大学先进的办学经验,致力于培养本科及以上层次具有国际视野、工匠精神和创新创业能力的高水平工程师、设计师等高素质应用型人才,努力建成一流的应用型技术大学。小伙伴们,对于深圳技术大学成立聚龙学院并由知名科学家担任院长你怎么看,欢迎在下方评论区留言!

柜里孩

每个人都在使用LSTM,主流学术圈却只想让它的发明者闭嘴

大数据文摘作品编译:张南星、傅一洋、蒋宝尚、龙牧雪本文是Bloomberg的一篇人物特写,来自《硅谷钢铁侠》(马斯克传记)作者Ashlee Vance。这次他的镜头对准了LSTM发明者Jürgen Schmidhuber。Jürgen Schmidhuber可以说是人工智能研究领域的Rodney Dangerfield(美国喜剧演员,80年代以一句“没人尊重我”而知名),因为他总是认为他在人工智能领域的开拓性研究没有得到重视。55岁的Schmidhuber高大整洁,留着精心修剪的椒盐色山羊胡。他喜欢从头到脚穿成黑色或白色,身着Nehru夹克和鸭舌帽。他富有感情的慕尼黑口音,加之昂扬顿挫的停顿与变调,让人想起了昆汀电影《希魔撞正杀人狂》中克里斯托弗·沃尔兹饰演的兰达上校。你总是不禁注意到他语言中诗意与严谨的结合,因为这总让人觉得什么重要且不详的事情正在到来。Inglourious Basterds其他科技明星身上都有耀眼的光环,他们或作为导师备受尊敬,或作为专家被大公司争夺,或作为时代的先驱被邀请参加各种会议。而Schmidhuber则游离在主流学术圈之外,不为大众所知。部分原因在于他住在阿尔卑斯山脉深处的瑞士小城卢佳诺(Lugano),地远人偏,但更大的原因是他的同僚并不太喜欢他。在AI界的一些传闻里,Schmidhuber被描述为一个极端利己、狡猾欺诈的人,“他的存在就是痛苦之源”。除此之外,Schmidhuber还常常在学术期刊以及大型会议上训斥其他研究者,打断别人的演讲,声称他们借鉴、甚至是窃取了他的想法。这些事迹成为了其他研究者无意嘲讽、甚至是攻击性语言的素材,甚至已经有了一句谚语“他被Schmidhuber了”(Schmidhuber此处为动词)。大多数情况下,Schmidhuber说的都是对的。但是他越是想得到承认,人们就越不把他当回事。AI圈中很多人已经决定忽略Schmidhuber的存在,希望他离得远远的。“小团队就能创造AGI”“从少年时代起,我就意识到,一个人可以做到最伟大的事情就是创造出比人类更会学习的机器。物理学是万物之基础,因为它揭示了世界的本质以及世界运转的方式,但你还可以做一件事,那就是创造一个物理学家。”——Schmidhuber科技行业很多大牛都投身于开发通用人工智能(AGI)的事业中。与现在很多领先的人工智能软件不同,AGI不需要实际的训练者告诉它怎么将英文翻译为中文,或者怎么在X光照片中识别癌细胞。理论上,AGI某种程度上能独立于其创造者,自行解决复杂的新问题,充分昭示了人类不如机器时代的到来。如果人类真的能够发明AGI,我们可能会觉得最初的突破将会出现在加州硅谷、北京或者莫斯科。因为这三个城市都邻近或拥有世界级AI研究大学,并且也有为AGI比赛注入了数十亿美元投资的大型公司。然而,还有一种可能性。AGI突破口将可能出现在一个意大利边境附近山脉间的田园诗般的瑞士小城卢佳诺——Schmidhuber所在的城市。小城里的Schmidhuber拥有多重身份:教授、研究员以及一家雇有25人的名为Nnaisense的AI公司创始人(公司名寓意人工智能复兴)。Schmidhuber是一个拓荒者。数十年来,Schmidhuber以及其他几个AI专家都在寻找AGI的实现途径,但是直到六年前才开始有足够性能的电脑和足够多的数据供他们进行理论实验。Schmidhuber无比确定,他的命运就是真正搞清楚人类种族的未来将走向何方。所以即使Google、百度以及亚马逊已经拥有上百亿美元以及上千个员工,他却说:“其实像我们这样小的团队就可以创造出AGI,我们已经找到一些基本的拼图碎片了。”一个瑞士小城的AI世外桃源Schmidhuber的AGI之梦始于德国。他出生于一个中产家庭,父母的职业是建筑师和教师。他成长过程中无比崇拜爱因斯坦,并且励志深入科学领域。他的弟弟Christof还记得他们一家人开车经过阿尔卑斯山脉时,Jürgen在后座上高谈阔论的时光:“他告诉我们人类可以创造比我们都聪明的智能机器人,人类可以一个个原子地制造大脑,用铜线进行连接,来代替人类缓慢的神经传输。我下意识地反驳他,一个人造大脑是不可能模仿人类的感情以及自由意志的。但最后,我意识到他是正确的。”后来,Schmidhuber在慕尼黑TUM大学取得了计算机科学博士学位,并发表了他最早关于AI以及神经网络的论文,主要讲述了如何使用软硬件模仿人类大脑内部神经连接的构造。此前,他只用了4年就完成了本科和硕士学位,而别人一般需要花6年。他还特意在简历里提到“曾拒绝加州理工的博士后offer”。Schmidhuber之所以来到卢佳诺湖和周围的秀丽山峰之间一呆23年,还要感谢一个意大利烈酒进口商Angelo Dalle Molle。Dalle Molle使用百合酿出了受欢迎的餐前酒,从中大赚了一笔。他同样梦想着建造一个以智能机器为劳动力的世外桃源,所以在1988年,他捐赠了数百亿美元成立卢佳诺Dalle Molle人工智能研究所,也称为IDSIA(研究所意大利名的首字母)。Schmidhuber每年在位于卢佳诺中心的提契诺大学(USI)教授一门课程,同时在位于郊区的IDSIA实验室工作。IDSIA实验室挤在一个加油站、一条高速公路以及位于山上的农场之间,马、驴以及羊哞声不断。2014年,Schmidhuber和他以前的四个学生在离大学几个街区的地方成立了Nnaisense,希望能够在制造业、健康以及金融领域达成商业合作的同时,进行纯粹的学术研究。LSTM,AI发展的里程碑和他那些更受欢迎的AI同僚们一样,Schmidhuber将一生中大部分时间都献给了计算机科学前沿研究。他坚信,机器意识最有可能出现在神经网络中。这个想法在20世纪50年代非常受欢迎,但当时由于技术限制,导致一直到21世纪才让这个想法重焕生机。21世纪起,互联网上诞生了大量可以用于训练神经网络的数据集,而受到最新电子游戏驱动迅速发展的图像芯片也完美适用于处理这些数据。Schmidhuber和他的同事们坚持认为他们的算法比传统的编程方式更能解决问题。到2012年,神经网络成功在图像识别与语音识别中崭露头角,随后在别的领域中也显示出了不俗实力。如今,AI驱动的软件充分发挥它们的优势,存在于我们的办公室、家庭以及口袋中的智能手机里(别忘了Siri和Alexa)。谷歌、亚马逊、Facebook、百度以及微软等巨头都把它们的未来赌在了AI的进一步发展之上。Schmidhuber发明的拥有学习所需记忆力想读完过去所有的AI研究论文几乎是不可能的,但实际上过去几十年内,真正值得读、需要读的论文也就那么几篇。第一篇在这个领域树立根基的文章需要回溯到1986年,Geoffrey Hinton提出了前馈算法,一个通过对输入数据按照重要进行排序的精准神经网络。1989年,Yann LeCun写了另外一篇旷世之作,描述了卷积神经网络。这些发现突破了计算机难以解决的问题,譬如从一张照片中找到一只猫。第三个突破发生在1997年,Schmidhuber发明了长短期记忆网络(LSTM)。“你用五行代码就可以写出来。”一个神经网络需要进行上百万的计算,而LSTM的代码旨在发现有趣的相关关系:在数据分析中增加时间文本内容,记住之前发生了什么,然后应用于神经网络,观察与神经网络接下来所发生的事情之间的联系,从而得出结论。如此精巧而又复杂的设计让AI自我发展、独自得出结论、并发展成为一个更大的系统成为现实——基于大量文本的学习,达到语言中细微差别的自我学习。Schmidhuber将类似的AI训练比作人类大脑的一种筛选模式,即长时记忆会记住重大的时刻,而对于司空见惯的时刻则任之消失。“LSTM能够学习将重要的事物放在记忆中,然后忽略掉不重要的内容。”他说。如今,LSTM在很多重要的领域里都能够表现出色,比如最出名的就是语音识别和语言翻译,还包括图片说明,即当你看到一张图像时,你能够写下一段话解释你所看到的内容。这些都让LSTM毫无悬念地带来了AI最成功的商业应用。2015年起,谷歌开始使用LSTM做语音识别,它将谷歌语音的性能提升了50%。从各方面来说,Schmidhuber都超越了他所处的时代。每个人都在用LSTM,但他不被承认NIPS(Neural Information Processing Systems的缩写),是世界上最具权威的AI会议。它起源于1987年,一开始只是几百个死忠粉的非正式聚会,经过了几年之后,参加人数就从1000人增长到超过6000人。NIPS是世界超级AI巨星们炫耀他们最新、最重要发现的地方,也是他们最容易被Schmidhuber怼的地方。在2016年巴塞罗那的NIPS大会上,一位名为Ian Goodfellow的后起之秀针对他划时代的论文“生成对抗网络GANs”进行了时长两个小时的演讲。这位来自谷歌的科研工作者率先提出了一种通过网络间相互对抗来加快神经网络求解速度的方法。2016年NIPS大会上的GoodfellowIan Goodfellow留着奇特的发型,戴着眼镜。在演讲开始前,当被介绍为“学术圈内最具创造力和影响力的研究者之一”时,他低着头,双手紧扣站在那里。随后,他走到讲台后面开始他的演讲,脸颊上仍然泛着些许饱受赞美后的红光。之后的一小时,一切进展得很顺利,Ian Goodfellow不断翻动着充满着各种方程式和AI技术的幻灯片。但当他谈论到噪声对比估计这一话题时,一个熟悉的声音说道:“我能问你个问题吗?”“你的PPT做得不错,”Schmidhuber先来了一句。随后,Schmidhuber用了近三分钟时间讲述了对抗式神经网络自1992年以来的历史,其中特别指出了他的研究和Goodfellow之间的联系,最后又问道:“我想知道你对这些已有的对抗式神经网络之间的异同有什么看法?”言外之意就是:“小伙子,这东西不是你发明的!”这时,Goodfellow的脸上泛起略带愤怒的微笑。“他之所以了解我的研究,是因为我们曾通过电邮交流过,我不想在公开场合争论。”Goodfellow向听众们解释说。很多听众都鼓掌称赞了他。掌声停下后,Goodfellow又补充道,他并不认为他的研究和以往相似。Schmidhuber并没有就此作罢。他又一次开口,并试图反驳Goodfellow的回应。此时Goodfellow的耐心即将到达极限:“我宁愿用这个时间来讲授生成对抗网络(而不是争论)。”又一轮掌声响起。Schmidhuber再次尝试发言,而Goodfellow直接忽视了Schmidhuber,继续他的演讲。“对于像Ian这样的天才,Schmidhuber基本上都会站出来说这不是一个有趣的想法,说他几年前就这样想过了。”阿尔伯塔大学的一位AI研究员Kory Mathewson说。他亲眼目睹过多次这样的情况。Schmidhuber怼人似乎成为了一种仪式。Schmidhuber将“重新划分研究者的功劳”这项任务看得比自己本职工作还重。他的个人网站像一块主板一样复杂,从无人车到所谓的万物理论(该理论认为数学可以正确描述宇宙),各种信息交错排列着。在大多数历史学家将英国人如Charles Babbage和Alan Turing视为现代计算的先驱者的时候,Schmidhubered却唯独认准德国工程师Konrad Zuse。“每当我看到有人做了一件重要的事情,但没有得到荣誉,而其他人却声称是另一个人先做了这件事,那么我一定是第一个把这个消息公布给给《自然》或《科学》杂志社或其他媒体舆论的人,并且我一定会把它讲出来。你可以通过回溯历史来证明谁,先做了某事,而在他之后的一切充其量只是重塑,甚至是剽窃。”AI界的许多人认为,Schmidhuber高估了理论的作用,并低估了实际的应用。在起自《自然》杂志并波及整个网络舆论的一场争论中,Schmidhuber迅速将自己的所有同行——AI教父们纳入了吐槽的范围,指责他们扭曲了AI的历史,以此来抹去Schmidhuber和他人的原创想法。“受害者”之一的LeCun认为,来回地反驳是毫无意义的,人们有自己的看法。“我没有抱怨过,”LeCun说道,“因为科学和技术就是这样进步的。”AI界同仁们以这种公平交流和竞争的精神而自豪。尽管如此,一些人认为Schmidhuber被排除在历史之外是不公平的。“我们不应该因为某人的个性而贬低他们所做的工作,”Mathewson说,“科学家的一半工作是传播科学,Schmidhuber做到了这点,即使方式有些脱离常规。”Schmidhuber清楚地意识到他的这些行为已经危及到他的地位,削弱了他的观点的影响力。他补充说,他对自己的工作已经进入主流感到很满意。“每个人都在使用LSTM,每个人都在引用它,这很好,生活也很好。”他说道。根本不愁赚钱!在二月里一个阳光灿烂的日子,Schmidhuber出门转悠。他的IDSIA实验室从外面看来很不起眼,但内部摆满了各种实验无人机和类人机器人。书桌后的书架上摆放着数百册《自然》与《科学》,以及两大罐乳清蛋白。Schmidhuber从曾任教过的大学旁边走过,然后前往Nnaisense办公室。许多员工都是他以前的学生。他曾向学生们贷款以支持他们参与到这些伟大的项目中来,以此来避免学生去寻找利润更丰厚的公司(比如DeepMind)。DeepMind的联合创始人Shane Legg也曾是Schmidhuber的博士生。Nnaisense从西班牙投资者Alma Mundi Ventures那里获得了数百万美元的资金,与少数几家公司建立起合作。放在办公室里的三辆微型车曾是用于帮助奥迪完善自助停车软件的。同时,Nnaisense还希望与一家名为Quantenstein的AI股票交易商以及一家金融公司合作开展未来的研究项目。而Schmidhuber说,他的团队也开发过强大的医疗技术,但他不会透露任何客户的信息,以及合作的细节。这个低调而安静的办公室看起来并不像一个AI超级研发中心,但Schmidhuber的团队却经常能凌驾于拥有更多资金的竞争对手之上。在2017的NIPS会议上,Nnaisense击败了441名参赛者获得了“学会奔跑Learn to Run”比赛的冠军,这个比赛要求类人型的AI以尽可能快的速度跑过虚拟障碍。最初这些“机器人”的动作就像喝醉酒一样,身体由静止,到摇晃,再到跌倒,通过不断学习迭代,慢慢从错误中吸取教训。Nnaisense的作品很不错,看上去甚至像是一个运动员一样,能跑出每秒4.6米的速度,超过了中国一只队伍的每秒4.2米。这场胜利为Ninaisense赢得了一台价值7万美元且功能强大的计算机。午餐时,Schmidhuber和他的员工谈论到AI目前的形势。“如今AI行业的大部分利润都集中在市场营销上。”Schmidhuber说。而他的团队希望能从中分离开来,旨在真正地提升AI处理不同任务的能力,以便其承担更多的工作。而这也正是AGI的最终目标。“什么时候机器能够自己制造自己了,并能处理更多复杂的任务了,那时候你根本不愁赚不到钱。毕竟,谁都想有一个能制造iPhone的AI。”要么完全不同,要么退出历史其实就目前而言,AGI还很遥远,人类距离实现真正可靠的AI技术还有很长的路要走。如今蹩脚的机器翻译,将热狗识别成腊肠狗的视觉系统,发生事故的无人车等等都证明了这一点。然而Schmidhuber认为,实现AGI只是时间问题。“机器劳动在未来将重塑人类社会。”他说。“在不远的将来,我们将能够与一个小机器人对话,并教会它做复杂的事情。比如仅仅通过展示和讲述来教他组装智能手机、制造T恤衫等等,并且所有的这一切都能在发展中国家,在恶劣的条件下,由一个贫困儿童来实现。人类的寿命也将会延长,且生活的更健康,更快乐,更容易,因为现在很多人类的工作未来都将由机器来完成。同时,会涌现出数万亿种不同类型的人工智能,以及形成快速膨胀的AI生态圈”。Schmidhuber对于AI产品的看法与很多人不同,他并不认为AI的进步会导致大量失业。他认为,一些国家或组织能更快地适应新局面,比如像拥有强大福利体系的北欧国家,在那里,没有工作也可以生存。女性将比男性更难被取代,因为她们更善于解决一些“普遍性问题”;还有那些“创造工作者们”,比如能唤起人们深度思考的的作家。尽管Schmidhuber有时候也会很浪漫,但是他和大部分的“AI教父”一样,都非常忠于代码。他们确信机器最终会超越人类,也会陶醉于新世界秩序带来的清晰与高效。Schmidhuber深信AGI一定能实现,这种信念来自于,他相信我们已经生活在了《黑客帝国》式的计算机模拟中。“这就是我的想法,因为它是对所有事情的最简单的解释。”他说。在他看来,人类自身所带有的程序要求人类不断进步,并制造更强大的计算机,直到使自己变得过时,或决定与机器合为一体为止。“你要么变得与人类完全不同,要么会因为怀旧而继续保持人类的样子,”Schmidhuber预测道,“而如果你选择后者,你就永远无法成为一个重要的决策者,也就不会在塑造新世界的过程中发挥任何作用。“至于为什么觉得有必要实现AGI,他觉得这是人类的天性所致。历史的进程需要有人来不断地打破常规,创造新事物,再超越自己的创造,即便会有部分甚至几十亿人对此感到不安。“古老的物竞天择法则,这便是人类发展的正常规律。”他说道。相关报道:https://www.bloomberg.com/news/features/2018-05-15/google-amazon-and-facebook-owe-j-rgen-schmidhuber-a-fortune