商城网站建设价位,asp.net门户网站项目怎么做,vi设计说明范文解析,wordpress的极限访问量本文转载自公众号: 美团技术团队.作为人工智能时代最重要的知识表示方式之一#xff0c;知识图谱能够打破不同场景下的数据隔离#xff0c;为搜索、推荐、问答、解释与决策等应用提供基础支撑。美团大脑围绕吃喝玩乐等多种场景#xff0c;构建了生活娱乐领域超大规模的知识图… 本文转载自公众号: 美团技术团队.作为人工智能时代最重要的知识表示方式之一知识图谱能够打破不同场景下的数据隔离为搜索、推荐、问答、解释与决策等应用提供基础支撑。美团大脑围绕吃喝玩乐等多种场景构建了生活娱乐领域超大规模的知识图谱为用户和商家建立起全方位的链接。我们美团希望能够通过对应用场景下的用户偏好和商家定位进行更为深度的理解进而为大众提供更好的智能化服务帮大家吃得更好生活更好。近日美团 AI 平台部 NLP 中心负责人、大众点评搜索智能中心负责人王仲远博士受邀在 AI 科技大本营做了一期线上分享为大家讲解了美团大脑的设计思路、构建过程、目前面临的挑战以及在美团点评中的具体应用与实践其内容整理如下知识图谱的重要性近年来人工智能正在快速地改变人们的生活我们可以看到各家科技公司都纷纷推出人工智能产品或者系统比如说在 2016 年谷歌推出的 AlphaGo 一问世便横扫整个围棋界完胜了人类冠军。又比如亚马逊推出的 Amazon Go 无人超市用户只需下载一个 App走进这家超市就可以直接拿走商品无需排队结账便可离开这是人工智能时代的“新零售”体验。又比如微软推出的 Skype Translator它能够帮助使用不同语言的人群进行实时的、无障碍的交流。再比如说苹果推出的 Siri 智能助理它让每一个用苹果手机的用户都能够非常便捷地完成各项任务。所有这些人工智能产品的出现都依赖于背后各个领域技术突飞猛进的进展包括机器学习、计算机视觉、语音识别、自然语言处理等等。作为全球领先的生活服务电子商务平台美团点评在人工智能领域也在积极地进行布局。今年 2 月份AI 平台部 NLP 中心正式成立我们的愿景是用人工智能帮大家吃得更好生活更好。语言是人类智慧的结晶而自然语言处理是人工智能中最为困难的问题之一其核心是让机器能像人类一样理解和使用语言。我们希望在不久的将来当用户发表一条评价的时候能够让机器阅读这条评价充分理解用户的喜怒哀乐。当用户进入大众点评的一个商家页面时面对成千上万条用户评论我们希望机器能够代替用户快速地阅读这些评论总结商家的情况供用户进行参考。未来当用户有任何餐饮、娱乐方面的决策需求的时候美团点评能够提供人工智能助理服务帮助用户快速的进行决策。所有这一切都依赖于人工智能背后两大技术驱动力深度学习和知识图谱。我们可以将这两个技术进行一个简单的比较我们将深度学习归纳为隐性的模型它通常是面向某一个具体任务比如说下围棋、识别猫、人脸识别、语音识别等等。通常而言在很多任务上它能够取得非常优秀的结果同时它也有非常多的局限性比如说它需要海量的训练数据以及非常强大的计算能力同时它也有非常多的局限性比如说难以进行任务上的迁移而且可解释性比较差。另一方面知识图谱是人工智能的另外一大技术驱动力它能够广泛地适用于不同的任务。相比深度学习知识图谱中的知识可以沉淀可解释性非常强类似于人类的思考。我们可以通过上面的例子来观察深度学习技术和人类是如何识别猫的以及它们的过程有哪些区别。2012 年Google X 实验室宣布使用深度学习技术让机器成功识别了图片中的猫。它们使用了 1000 台服务器16000 个处理器连接成一个 10 亿节点的人工智能大脑。这个系统阅读了 1000 万张从 YouTube 上抽取的图片最终成功识别出这个图片中有没有猫。我们再来看看人类是如何做的。对于一个 3 岁的小朋友我们只需要给他看几张猫的图片他就能够很快识别出不同图片中的猫而这背后其实就是大脑对于这些知识的推理。2011 年Science 上有一篇非常出名的论文叫《How to Grow a Mind》。这篇论文的作者来自于 MIT、CMU、UC Berkeley、Stanford 等美国名校的教授。在这篇论文里最重要的一个结论就是如果我们的思维能够跳出给定的数据那么必须有 Another Source Of Information 来 Make Up The Difference。这里的知识语言是什么对于人类来讲其实就是我们从小到大接受的学校教育报纸上、电视上看到的信息通过社交媒体通过与其他人交流不断积累起来的知识。近年来不管是学术界还是工业界都纷纷构建自家的知识图谱有面向全领域的知识图谱也有面向垂直领域的知识图谱。其实早在文艺复兴时期培根就提出了“知识就是力量”在当今人工智能时代各大科技公司更是纷纷提出知识图谱就是人工智能的基础。全球的互联网公司都在积极布局知识图谱。早在 2010 年微软就开始构建知识图谱包括 Satori 和 Probase。2012 年Google 正式发布了 Google Knowledge Graph现在规模已经达到 700 亿左右。目前微软和 Google 拥有全世界最大的通用知识图谱Facebook 拥有全世界最大的社交知识图谱而阿里巴巴和亚马逊则分别构建了商品知识图谱。如果按照人类理解问题和回答问题这一过程来进行区分我们可以将知识图谱分成两类。我们来看这样一个例子如果用户看到这样一个问题“Who was the U.S. President when the Angels won the World Series”相信所有的用户都能够理解这个问题也就是当 Angels 队赢了 World Series 的时候谁是美国的总统这是一个问题理解的过程它所需要的知识通常我们称之为 Common Sense Knowledge常识性知识。另外一方面很多网友可能回答不出这个问题因为它需要另外一个百科全书式的知识。因此我们将知识图谱分成两大类一类叫 Common Sense Knowledge Graph常识知识图谱另外一类叫 Encyclopedia Knowledge Graph百科全书知识图谱。这两类知识图谱有很明显的区别。针对 Common Sense Knowledge Graph通常而言我们会挖掘这些词之间的Linguistic Knowledge对于 Encyclopedia Knowledge Graph我们通常会在乎它的 Entities 和这些 Entities 之间的 Facts。对于 Common Sense Knowledge Graph一般而言我们比较在乎的 Relation 包括 isA Relation、isPropertyOf Relation。对于 Encyclopedia Knowledge Graph通常我们会预定义一些谓词比如说 DayOfbirth、LocatedIn、SpouseOf 等等。对于 Common Sense Knowledge Graph 通常带有一定的概率但是 Encyclopedia Knowledge Graph 通常就是“非黑即白”那么构建这种知识图谱时我们在乎的就是 Precision准确率。Common Sense Knowledge Graph 比较有代表性的工作包括 WordNet、KnowItAll、NELL 以及 Microsoft Concept Graph。而 Encyclopedia Knowledge Graph 则有 Freepase、Yago、Google Knowledge Graph 以及正在构建中的“美团大脑”。这里跟大家介绍两个代表性工作1Common Sense Knowledge GraphProbase2Encyclopedia Knowledge Graph美团大脑。常识性知识图谱Common Sense Knowledge GraphMicrosoft Concept Graph 于 2016 年 11 月正式发布但是它早在 2010 年就已经开始进行研究是一个非常大的图谱。在这个图谱里面有上百万个 Nodes节点这些 Nodes 有Concepts概念比如说 Spanish Artists西班牙艺术家有 Entities实体比如说 Picasso毕加索有 Attributes属性比如 Birthday生日有 Verbs动词有 Adjectives形容词比如说 Eat、Sweet。也有很多很多的边最重要的边是这种 isA 边比如说 Picasso还有 isPropertyOf 边。对于其他的 Relation我们会统称为 Co-occurance。这是我们在微软亚洲研究院期间对 Common Sense Knowledge Graph 的 Research Roadmap研究路线图。当我们构建出 Common Sense Knowledge Graph 之后重要的是在上面构建各种各样的模型。我们提出了一些模型叫 Conceptualization概念化模型它能够支持 Term Similarity、Short Text Similarity 以及 Head-Modifier Detection最终支持各种应用比如 NER、文本标注、Ads、Query Recommendation、Text Understanding 等等。到底什么是 Short Text Understanding常识怎么用在 Text Understanding 中下面我们可以看一些具体的例子当大家看到上面中间的文本时相信所有人都能够认出这应该是一个日期但是大家没办法知道这个日期代表什么含义。但如果我们再多给一些上下文信息比如 Picasso、Spanish等等大家对这个日期就会有一些常识性的推理。我们会猜测这个日期很可能是 Picasso 的出生日期或者是去世日期这就是常识。比如说当我们给定 China 和 India 这两个 Entity 的时候我们的大脑就会做出一些常识性的推理我们会认为这两个 Entity 在描述 Country。如果再多给一个 EntityBrazil这时候我们通常会想到 Emerging Market。如果再加上 Russia大家可能就会想到“金砖四国”或者“金砖五国”。所有这一切就是常识性的推理。再比如当我们看到 Engineer 和 Apple 的时候我们会对 Apple 做一些推理认为它就是一个 IT Company但是如果再多给一些上下文信息在这个句子里面由于 eating 的出现我相信大家的大脑也会一样地做出常识推理认为这个 Apple 不再是代表 Company而是代表 Fruit。所以这就是我们提出来的 Conceptualization Model它是一个 Explicit Representation。我们希望它能够将 Text尤其是 Short Text映射到 Millions Concepts这样的 Representation 能够比较容易让用户进行理解同时能够应用到不同场景当中。在这一页 PPT 中我们展示了 Conceptualization 的结果。当输入是 Pear 和 Apple 的时候那么我们会将这个 Apple 映射到 Fruit。但是如果是 iPad Apple 的时候我们会将它映射到 Company同时大家注意这并不是唯一的结果我们实际上是会被映射到一个 Concept Vector。这个 Concept Vector 有多大它是百万级维度的 Vector同时也是一个非常 Sparse 的一个 Vector。通过这样的一个 Conceptualization Model我们能够解决什么样的文本理解问题我们可以看这样一个例子。比如说给定一个非常短的一个文本 Python它只是一个 Single Instance那么我们会希望将它映射到至少两大类的 Concept 上一种可能是 Programming Language另外一种是 Snake。当它有一些 Context比如说 Python Tutorial 的时候那么这个时候 Python 指的应该是 Programming Language如果当它有其他的 Adjective、Verb比如有 Dangerous 时这时候我们就会将  Python 理解为 Snake。同时如果在一个文本里面包含了多个的 Entity比如说 DNN Tool、Python那么我们希望能够检测出在这个文本里面哪一个是比较重要的 Entity哪一个是用来做限制的 Entity。下面我们将简单地介绍一下具体应该怎么去做。当我们在 Google 里搜一个 Single Instance 的时候通常在右侧会出现这个 Knowledge Panel。对于 Microsoft 这样一个 Instance我们可以看到这个红色框所框出来的 ConceptMicrosoft 指向的是 Technology Company这背后是怎么实现的我们可以看到Microsoft 实际上会指向非常非常多的 Concept比如说 CompanySoftware CompanyTechnology Leader 等等。我们将它映射到哪一个 Concept 上最合适如果我们将它映射到 Company 这个 Concept 上很显然它是对的但是我们却没办法将 Microsoft 和 KFC、BMW 这样其他类型的产品区分开来。另外一方面如果我们将 Microsoft 映射到 Largest Desktop OS Vendor 上那么这是一个非常 Specific 的 Concept这样也不太好为什么因为这个 Concept 太 Specific太 Detail它可能只包含了 Microsoft 这样一个 Entity那么它就失去了 Concept 的这种抽象能力。所以我们希望将 Microsoft 映射到一个既不是特别 General抽象又不是一个特别 Specific具体的 Concept 上。在语言学上我们将这种映射称之为 Basic-level我们将整个映射过程命名为 Basic-level Conceptualization。我们提出了一种计算 Basic-level Conceptualization 的方法其实它非常简单而且非常有效。就是将两种的 Typicality 做了一些融合同时我们也证明了它们跟 PMI 和 Commute Time 之间的一些关联。并且在一个大规模的数据集上我们通过 Precision 和 NDCG 对它们进行了评价。最后证明我们所提出来的 Scoring 方法它在 NDCG 和 Precision 上都能达到比较好的结果。最重要的是它在理论上是能够对 Basic-Level 进行很好的解释。下面我们来看一下当 Instance 有了一些 Context 之后我们应该怎么去进行处理。我们通过一个例子来简单地解释一下这背后最主要的思想。比如说 iPad、Apple其中 iPad 基本上是没有歧异的它会映射到 Device、Product。但是对于 Apple 而言它可能会映射到至少两类的 Concept 上比如说 Fruit、Company。那么我们怎么用 iPad 对 Apple 做消歧呢方法其实也挺直观的。我们会通过大量的统计去发现像 iPad 这样的 Entity通常会跟 Company、Product 共同出现。比如说 iPad 有可能会跟三星共同出现有可能会跟 Google 共同出现那么我们就发现它会经常跟 Brand、Company、Product共同出现。于是我们就利用新挖掘出来的 Knowledge 对 Apple 做消歧这就是背后最主要的思想。除了刚才这样一个 General Context 以外在很多时候这些 Text 可能还会包含很多一些特殊的类型比如说 Verb、Adjective。具体而言我们希望在看到 Watch Harry Potter 时能够知道 Harry Potter 是 Movie当我们看到 Read Harry Potter 时能够知道 Harry Potter 是 Book。同样的Harry Potter 还有可能是一个角色名称或者是一个游戏名称。那么我们来看一看应该怎样去解决这样一件事情。当我们看到 Watch Harry Potter 时我们首先要知道Harry Potter 有可能是一本 Book也有可能是一部 Movie。我们可以算出一个先验概率这通常要通过大规模的统计。同时我们要知道Watch 它有可能是一个名词同时它也有可能是一个动词并且我们还需要去挖掘当 Watch 作为动词的时候它和 Movie 有非常紧密的关联。所以我们本质上是要去做一些概率上的推理不仅要将条件概率做非常细粒度的分解最后还要做概率计算。通过概率计算的方法我们实际上就可以构建出一个非常大的离线知识图谱那么我们在这个上面就可以有很多的 Term以及它们所属的一些 Type以及不同 Term 之间的一些关联。当我们用这样一个非常大的离线知识图谱来做 Text Understanding 的时候我们可以首先将这个 Text 进行分割处理在分割之后我们实际上是可以从这个非常大的离线知识图谱中截取出它的一个子图。最后我们使用了 Random Walk With Restart 的模型来对这样一个在线的 Subgraph 进行分类。我们再来看一下如果一个文本里包含了 Multiple Entities要怎样处理我们需要做知识挖掘怎么做首先我们可以得到非常多的 Query Log然后我们也可以去预定一些 Pattern通过这种 Pattern 的定义可以抽取出非常多 Entity 之间 Head 和 Modifier 这样的 Relation那么在接下来我们可以将这些 Entity 映射到 Concept 上之后得到一个 Pattern。在这个过程之中我们要将 Entity 映射到 Concept 上那么这就是前面所提到的 Conceptualization。我们希望之后的映射不能太 General避免 Concept Pattern 冲突。但是它也不能太 Specific因为如果太 Specific可能就会缺少表达能力。最坏的情况它有可能就会退化到 Entity Level而 Entity 至少都是百万的规模那么整个 Concept Patterns 就有可能变成百万乘以百万的级别显然是不可用的。所以我们就用到了前面介绍的 Basic-Level Conceptualization 的方法将它映射到一个既不是特别 General也不是特别 Specific 的 Concept 上。大家可以看一下我们能够挖掘出来的一些 Top 的 Concept Patterns比如说 Game 和 Platform就是一个 Concept 和一个 Pattern。它有什么用举一个具体的例子当用户在搜 Angry Birds、iOS 的时候我们就可以知道用户想找的是 Angry Birds 这款游戏而 iOS 是用来限制这款游戏的一个 Platform。苹果公司每年都会推出新版本的 iOS那么我们挖掘出这样的 Concept Pattern 之后不管苹果出到 iOS 15或者 iOS 16那么我们只需要将它们映射到 Platform那么我们的 Concept Patterns 就仍然有效这样可以很容易地进行知识扩展。所以 Common Sense Knowledge Mining 以及 Conceptualization Modeling可以用在很多的应用上它可以用来算 Short Text Similarity可以用来做 Classification、Clustering也可以用来做广告的 Semantic Match、Q/A System、Chatbot 等等。美团大脑——百科全书式知识图谱Encyclopedia Knowledge Graph在介绍完 Common Sense Knowledge Graph 之后给大家介绍一下 Encyclopedia Knowledge Graph。这是美团的知识图谱项目——美团大脑。美团大脑是什么美团大脑是我们正在构建中的一个全球最大的餐饮娱乐知识图谱。我们希望能够充分地挖掘关联美团点评各个业务场景里的公开数据比如说我们有累计 40 亿的用户评价超过 10 万条个性化标签遍布全球的 3000 多万商户以及超过 1.4 亿的店菜我们还定义了 20 级细粒度的情感分析。我们希望能够充分挖掘出这些元素之间的关联构建出一个知识的“大脑”用它来提供更加智能的生活服务。我们简单地介绍一下美团大脑是如何进行构建的。我们会使用 Language Model统计语言模型、Topic Model主题生成模型 以及 Deep Learning Model深度学习模型 等各种模型希望能够做到商家标签的挖掘菜品标签的挖掘和情感分析的挖掘等等。为了挖掘商户标签首先我们要让机器去阅读评论。我们使用了无监督和有监督的深度学习模型。无监督模型我们主要用了LDA它的特点是成本比较低无需标注的数据。当然它准确性会比较不可控同时对挖掘出来的标签我们还需要进行人工的筛选。至于有监督的深度学习模型那么我们用了 LSTM它的特点是需要比较大量的标注数据。通过这两种模型挖掘出来的标签我们会再加上知识图谱里面的一些推理最终构建出商户的标签。如果这个商户有很多的评价都是围绕着宝宝椅、带娃吃饭、儿童套餐等话题那么我们就可以得出很多关于这个商户的标签。比如说我们可以知道它是一个亲子餐厅它的环境比较别致服务也比较热情。下面介绍一下我们如何对菜品进行标签的挖掘我们使用了 Bi-LSTM 以及 CRF 模型。比如说从这个评论里面我们就可以抽取出这样的 Entity再通过与其他的一些菜谱网站做一些关联我们就可以得到它的食材、烹饪方法、口味等信息这样我们就为每一个店菜挖掘出了非常丰富的口味标签、食材标签等各种各样的标签。下面再简单介绍一下我们如何进行评论数据的情感挖掘。我们用的是 CNNLSTM 的模型对于每一个用户的评价我们都能够分析出他的一些情感的倾向。同时我们也正在做细粒度的情感分析我们希望能够通过用户短短的评价分析出他在不同的维度比如说交通、环境、卫生、菜品、口味等方面的不同的情感分析的结果。值得一提的是这种细粒度的情感分析结果目前在全世界范围内都没有很好的解决办法但是美团大脑已经迈出非常重要的一步。下面介绍一下我们的知识图谱是如何进行落地的。目前业界知识图谱已经有非常多的成熟应用比如搜索、推荐、问答机器人、智能助理包括在穿戴设备、反欺诈、临床决策上都有非常好的应用。同时业界也有很多的探索包括智能商业模式、智能市场洞察、智能会员体系等等。如何用知识图谱来改进我们的搜索如果大家现在打开大众点评搜索某一个菜品时比如说麻辣小龙虾其实我们的机器是已经帮大家提前阅读了所有的评价然后分析出提供这道菜品的商家我们还会根据用户评论的情感分析结果来改进这些搜索排序。此外我们也将它用在商圈的个性化推荐。当大家打开大众点评时如果你现在位于某一个商场或者商圈那么大家很快就能够看到这个商场或者商圈的页面入口。当用户进入这个商场和商户页面时通过知识图谱我们就能够提供“千人千面”的个性化排序和个性化推荐。在这背后其实使用了一个“水波”的深度学习模型关于这个深度学习模型更详细的介绍大家可以参见我们在 CIKM 上的一篇论文。所有的这一切其实还有很多的技术突破等待我们去解决。比如整个美团大脑的知识图谱在百亿的量级这也是世界上最大的餐饮娱乐知识图谱为了支撑这个知识图谱我们需要去研究千亿级别的图存储和计算引擎技术。我们也正在搭建一个超大规模的 GPU 集群来支持海量数据的深度学习算法。未来当所有的这些技术都成熟之后我们还希望能够为所有用户提供“智慧餐厅”和“智能助理”的体验。最后分享一下本次内容的视频回顾如下----------  END  ----------OpenKG.CN中文开放知识图谱简称OpenKG.CN旨在促进中文知识图谱数据的开放与互联促进知识图谱和语义技术的普及和广泛应用。点击阅读原文进入 OpenKG 博客。