博文

目前显示的是标签为“DeepMind”的博文

推荐算法的“退化反馈循环”

推荐算法被 Google、YouTube、Facebook、Netflix 等服务都有使用。它们有便利的地方,比如使用户更容易看到自己感兴趣的新闻或者视频。它们也有负面作用,即所谓的“回音室”(Echo Chamber)或者“过滤气泡”(Filter Bubbles)效应。 这个负面作用很早以前就有学者或相关人士关注、研究、讨论。Facebook 诞生之前三年,哈佛的一位法律教授出版著作准确预测了互联网的崛起可能带来的“群体极化”(Group polarization)效应,它最终将危害健康的民主体制。 2016 年美国大选过后,上述效应(或者说词汇、概念)变得流行起来,相关研究又陆续出现。DeepMind 的研究人员最近在 arXiv 预印本网站发表论文,标题是“ Degenerate Feedback Loops in Recommender Systems ”(推荐系统的退化反馈循环),讨论了此议题。 研究人员分析了不同的推荐算法在加速或者减缓上述两个效应方面的表现。 “回音室效应”和“过滤气泡效应”本来是同一类型事物,“退化反馈循环”是它们的学术表达。不过,研究人员对二者进行了区分。“回音室”通过把用户暴露在相似内容中强化用户的兴趣;“过滤气泡”则缩小用户可接触到内容的范围。退化程度越高,表明它们的效应越强烈。 研究人员模拟了五种不同的算法,算法的差别在于预测准确度的优先级。结果发现,准确度优先级越高的算法,系统退化越快。也就是说,抵抗“回音室”或者“过滤气泡”危害的办法是设计算法使其更具探索性,推荐给用户一些不那么准确抓住用户兴趣的内容。拓宽推荐算法所基于的总体信息集也有帮助。 明尼苏达大学的计算机科学教授 Joseph A. Konstan 以前也进行过“过滤气泡”方面的研究,他说 DeepMind 的研究结果并不出人意料。“研究人员早就意识到了推荐系统里准确预测和有效探索之间的矛盾。” 以前有研究发现,用户忍受较低程度的预测准确性的同时能够得益于推荐多样性的好处,不过开发者并不愿意把自己的算法设计成那样。推荐安全的选择更容易成为“正确”。 Konstan 批评 DeepMind 的研究没有采用有人类参与的交互系统而是使用机器学习进行模拟。他说,“人是复杂的。一方面,人珍视多样性;另一方面,人如果觉得推荐算法变得过...

DeepMind 使用 AI 预测风力发电厂能量输出

因为风的变化无常,风力发电厂所产生的能源较难被很好地利用。人们不知道发电厂产生了多少能量,存储了多少,向电网能够传输多少。风力是一种很难被预测的能源。 Google 宣布伦敦的 DeepMind 开发出 AI 能够预测风力发电厂的能量输出。AI 软件可以调度风力发电厂向电网的能源输出,比一般的“不定时”交付能源要有价值的多。 AI 软件把风能“价值”的基线水平提升了 20%。目前不确切清楚所谓的“价值”对应多少金钱或者能源输出值。 Google 去年实现了里程碑式的目标,公司所使用的能源 100% 被清洁能源所抵消。Google 既有在风能、太阳能方面大举投资,又有在市场上购买清洁能源。 DeepMind 的产品经理 Sims Witherspoon 和 Google Carbon Free Energy(零碳能源)项目领导 Will Fadrhonc 在博客里说,我们无法消除风能的波动性属性,但早期结果显示我们可以使用机器学习让风能更可能被预测、更有价值。风力发电厂的运营也因此可以在数据上更为严谨,人类可以在 AI 的帮助下在电力输出如何满足电网需求问题上作出更快、更明智、基于数据评估的判断。 2016 年 DeepMind 的 AI 帮助 Google 节省数据中心耗能 15%。去年, Google 使用 DeepMind 开发的 AI 来帮助其数据中心不至于过热 。有报道说 DeepMind 2017 年还曾与英国国家电网商讨合作以帮助后者协调电网的输入和输出平衡。 DeepMind 在研究方面做出了若干备受关注的成果,不过一直在投入资金而没有盈利,2017 年花掉了 3.68 亿。这可能是 DeepMind 与母公司之间出现矛盾的原因之一。DeepMind 的研究成果如果能够迅速转化成实际产品,可能有助于它扭转“烧钱”的现状。 参考来源: The Verge

DeepMind 开发的 AI 在《星际争霸 Ⅱ》比赛中 10-1 大胜人类选手

Google DeepMind 开发的新的 AI 系统 AlphaStar 在与人类专业玩家玩《星际争霸 Ⅱ》(SC2)游戏的比赛中获得 10-1 的赛绩。 SC2 是一款复杂的策略游戏,考验玩家时刻对上百个因素进行评估并作出决策,应付瞬息万变的环境和不完整的信息。每天全球进行着超过 20 万场 SC2 游戏。 AI 系统在某些方面确实有比人类更大的优势,比如更快的反应时间,每分钟更多的操作次数。不过,DeepMind 团队尝试削弱了 AlphaStar 在这方面的优势,实际上它的反应时间和每分钟操作次数均少于人类专业玩家。 AlphaStar 战胜人类玩家的地方,在于它采用各种策略,凭借其对游戏隐身、侦查方面的理解,把握住战机攻敌之弱点,又能够在情况不利时迅速撤退。 AlphaStar 的战果展示了现代机器学习技术的巨大能力,以及 DeepMind 在应用此类技术方面的领先地位。 过去几年,DeepMind 开发了多款 AI 系统学习并精通了包括围棋、象棋在内的多款双人游戏。SC2 要比棋类游戏复杂的多,棋类游戏一般信息完整而抉择唯一。 2017 年 DeepMind 与暴雪娱乐合作推出若干工具 让 AI 可以在诸如 SC2 这样的游戏中训练。 参考来源: Vox

DeepMind Health 成为 Google 的一部分

位于伦敦的 DeepMind Health(健康)分支被纳入 Google,反映出 Google 在医疗保健方面的雄心。 DeepMind 创始人称此举具有“里程碑式”意义,将使其开发的 Steams 应用成为医生和护士的 AI 助手。Steams 应用目前在英国医院里进行测试使用,帮助医生对病人进行管理。 Steams 应用团队将继续留在伦敦并与 NHS 展开合作,双方开展了若干项目,比如使用 AI 来探测眼部疾病的工作。 DeepMind 与 NHS 的合作并不是一帆风顺。2017 年英国的数据监管机构认定合作非法,因为病人并没有被告知其数据将被如何使用。DeepMind 的 Google 背景也使人不得不担心隐私问题。 Google 吸收了 DeepMind 的 Steams 团队,据 CNBC,一个独立的审查小组将被关闭,这个小组负责审查和监督 DeepMind 在健康方面的工作。 Google 吸收 DeepMind Health 反映出 Google 在健康医疗方面的雄心,以及 Google 想完全把 DeepMind “收入囊中”的愿望。有报道称 Google 与 DeepMind 之间一直存在摩擦,Google 希望能商业化 DeepMind 的工作,DeepMind 则尽量想做一些富有远见的研究性工作,并吸引世界上最优秀的 AI 人才参与其中。 DeepMind Health 的工作成果相比而言更有可能尽快投入应用,这可能是它被 Google 吸收的一个原因。David Feinberg 刚刚被任命为 Google Health 部门 CEO,他将重组 Google 在健康方面的若干布局,包括从硬件到算法的方方面面。 https://www.theverge.com/2018/11/13/18091774/google-deepmind-health-absorbing-streams-team-ai-assistant-nurse-doctor

Google 参与开发的 AI 系统在探测转移性乳腺癌方面准确度达 99%

当一个组织或器官的癌细胞变成转移性肿瘤时,通过人体的循环或淋巴系统,它们可以在人体的其他部位形成新的肿瘤。 转移性肿瘤通常极难检测得到。2009 年一项报告指出,波士顿两个医院的 102 个乳腺癌患者中,1/4 的病人因“护理过程”不足而受影响。乳腺癌在全世界每年造成约 50 万人死亡,其中 90% 是转移性乳腺癌所导致的。 圣迭戈 Naval Medical Center(海军医疗中心)和 Google AI 的研究人员发展出一个癌症检测算法,可以自主评估淋巴结活检。 所开发的 AI 系统称作 Lymph Node Assistant(淋巴结助理,LYNA)。测试中,LYNA 的 AUC——一种精准度评估参数——达 99%,表现优于人类病理学家。去年发表在《JAMA》上的一篇论文指出人类在限时状况下的准确度约为 62%。那篇论文的主题是对比各种深度学习算法在评估女性乳腺癌淋巴结转移方面的表现。 本研究结果发表在《美国外科病理学杂志》( The American Journal of Surgical Pathology )。 LYNA 是基于开源的图像识别深度学习模型 Inception-v3 而开发的。研究人员输入一张 299 像素的照片,在像素级别概述肿瘤,训练过程中,从组织贴片提取“良性”或“肿瘤”的标签,是为预测。随后对算法权重进行调整以降低错误率。 研究人员改进了此前已发表的算法,表现在:LYNA 所应对的是正常:肿瘤贴片比例 4:1 的状况;训练过程的计算效率得到改善; 活组织检查扫描变量归一化处理使模型表现更佳。 研究人员把 LYNA 应用到淋巴结癌细胞转移 2016 调整数据集(Camelyon16)上,取得 99.3% 的切片级准确度;当模型敏感阈调整到检测每一个切片的肿瘤时,它展现出 69% 的灵敏度,识别出评估数据集中所有的 40 个转移,无一遗漏。切片的人为因素比如气泡、出血、过度染色等不影响模型效果。 LYNA 不足之处是经常会错误识别出巨细胞、生殖癌细胞和骨髓白细胞,但其在 评估切片方面的 表现要好于一个训练有素的病理学家。 Google AI 和 Verily 在发表的第二篇论文中报告说,模型减少了 一个由六个病理学家组成的小组一半的时间去 检测淋巴结转移。 未来的工作是...

Google 生成语音的 AI 在模仿人类发声方面,已经近乎于人类水平

这个文本向声音转换的系统称作 Tacotron 2,是 Google 的第二代语音生成技术。上月,Google 发布了关于此技术的论文,但还未经过同行评审。 系统使用了两个深度神经网络。第一个神经网络将文本翻译为频谱。而后进入 Google DeepMind 开发的 WaveNet,后者通过读取信息而生成声音。 WaveNet 此前已经部署到 Google Assistant 里面了,其特点是使机器生成的声音听起来更自然一些。具体见此前的报道。 https://plus.google.com/u/0/+GoogleFansPageBlogspotGFP/posts/VX6UdX1xDoy Tacotron 2 建立在 WaveNet 基础之上,如果可以应用,将使机器生成声音的能力更为强大。本文展示了两句英语语句的发音,分别来自 Tacotron 2 和人类。确实很难区别到底哪句是人类说的,哪句是机器生成的。 Tacotron 2 还能够处理不好发音的单词和名字,并根据标点符号来改变发音方式。譬如说大写单词,一般是为了表示强调,文中样本展示了机器生成的声音是如何体现强调语气的。 不过,系统只被训练模仿一位女性的声音。如果要发出其他女性的声音或男性声音,系统还需要被训练。 https://qz.com/1165775/googles-voice-generating-ai-is-now-indistinguishable-from-humans/

DeepMind AI 在国际象棋对决中战胜领先的专业软件

Google DeepMind AlphaGo Zero AI 程序,在自学国际象棋 4 小时后,战胜了世界领先的专业软件 Stockfish 8。AlphaZero 赢得 28 场对决,平局 72 场。 Stockfish 8 之前赢得 2016 年顶级国际象棋引擎锦标赛。它是一个免费开源的 UCI 象棋引擎。 AlphaZero 的具体细节发布在 Arxiv 网站上,还未经过同行评审。 AlphaZero 还在日本象棋(将棋)中战胜了领先的 AI 程序 Elmo,之前只学习了 2 小时。自学 8 小时,AlphaZero 在围棋中还可以打败之前的“自己”,60 胜 40 败。 牛津大学的一位教授认为,这些游戏的特点之一,是其规则有限,或者说场景封闭。现实世界,总是充满着未知数。应付你所不知道的情形,会更具挑战性。 DeepMind 目前在研究一个能够在《星际争霸》游戏中打败人类的系统。 https://plus.google.com/u/0/+GoogleFansPageBlogspotGFP/posts/d1R5k2oFPPA 普林斯顿大学的一位 AI 专家,认为人们大可不必对 DeepMind 的炒作太当回事。但 DeepMind 的这种高曝光度,也使其处于比挑战者更为有利的地位。“不只是可以招聘到最好的程序员。这也具有一定的政治作用。当 Google 与政府或监管者就 AI 领域展开谈判时,Google 的力量会更强大。” http://www.bbc.com/news/technology-42251535

不依靠人类数据的 AlphaGo Zero 强化学习 40 天战胜之前最强版本的 AlphaGo

人工智能(AI)研究在语言识别、图像分离、基因组学、药物发现等领域取得的迅猛发展,很大程度上依赖于人类的经验和数据。可是,人类的经验有时候不易获得或者并不可靠。所以绕过这一过程,在没有人类输入的情况下实现超人类的表现,是 AI 研究长远雄心的目标。 之前,Google DeepMind 开发的 AlphaGo 战胜了围棋人类世界冠军。AlphaGo 中的树状搜索使用深度神经网络对位置进行评估,选择移动。从人类专业选手的移动中监督学习,并在自我对弈中强化学习,这些神经网络得到训练。 10 月,DeepMind 研究人员发表在《Nature》上的研究论文报告称,新的 AI 程序 AlphaGo Zero 仅仅依靠强化学习,除了游戏规则之外没有人类数据、指导和领域知识,自己做自己的老师,在与 AlphaGo 的对弈中取得 100:0 的胜利。 AlphaGo Zero 在 72 小时里设法重新发现人类关于围棋的 3 000 年的知识。而后,3 天打败了战胜李世石的 AlphaGo,40 天打败了战胜世界冠军的 AlpahGo。 尽管有如此高效的表现,AlphaGo Zero 仍然没有把全部潜能发挥出来,研究者不知道其极限在哪里。DeepMind 决定关闭这个实验,去进行其他的工作。CEO 表示未来可能重启 AlphaGo Zero,来帮助人类选手提升技能。 阅读果壳网文章了解更多 -  https://www.guokr.com/article/442444/ 以上内容参考了下列链接: 1.  https://deepmind.com/blog/alphago-zero-learning-scratch/ 2.  https://www.nature.com/articles/nature24270 3.  https://techcrunch.com/2017/11/02/deepmind-has-yet-to-find-out-how-smart-its-alphago-zero-ai-could-be/

DeepMind 开发的 WaveNet 使机器语音听起来更自然一些

DeepMind 开发的 WaveNet 使用机器学习生成声音样本,现已部署到 Google Assistant。机器(语音助手)的声音听起来会更自然一些。目前适用于英语(美国)和日语[1]。 TechCrunch 报道页面[1]有声音样本的对比,点击可感受新旧机器语言发音的差别。 WaveNet 是去年发布的[2]。它不是通过手动编码语法和音调规则来构建单词和语句的,而是让机器学习系统在话语中学习这些发音模式。首先使用真实语音训练神经网络。然后基于其所学使用一个统计学方法,生成全新的波形[3]。 这种办法开始时生成声音的速度很慢,2 秒的句子需要将近 2 分钟生成。经过提升,生成速度是之前的 20 倍,2 秒的语句只需 0.1 秒。模型现在能够使用更少的计算机资源、更快地生成波形,所以将其应用于 Google Assistant。WaveNet 还很容易应用到其他语言和口音,只需给模型一段时间的声音样本让其自己处理发音的细微差别(口音)即可。 Apple 的智能助手 Siri 的声音最近也进行了调整,借助于机器学习驱动的语音模型。与 Google 所不同的是,Apple 没有更深入地在样本水平上重新生成声音,而是在相对浅层次的 half-phones(半手机)或部分音素水平上作了改进。Apple 的机器学习模型执行的是某种情况下某个音该怎么发听起来更合适这样的问题。 1. https://techcrunch.com/2017/10/04/googles-wavenet-machine-learning-based-speech-synthesis-comes-to-assistant/ 2. https://plus.google.com/u/0/+GoogleFansPageBlogspotGFP/posts/SCRkpuTpTAk 3. http://fortune.com/2017/10/05/google-assistant-deepmind-wavenet-speech-ai/

Google 的 AI 向《星际争霸》游戏宣战

Google DeepMind 和暴雪娱乐发布工具,AI 研究者可据此打造机器人,在《星际争霸 2》中打赢人类玩家[1]。DeepMind 和暴雪还开放了 65 000 个过去的游戏数据缓存,之后每月增加 500 000 个,这个基础对开发机器人来说是至关重要的。Facebook 近期也发布了 65 000 个原版《星际争霸》人对人游戏的数据集,来帮助机器人开发者。 多年来,研究者使用非官方、开源插件,为原版《星际争霸》打造了多个机器人。这些机器人玩家主要依赖于编码的策略,所以表现平庸。通过机器学习技术打造的机器人,是要能够自己掌握和领会游戏。这也反映出 Google 和 Facebook 在 AI 技术方面的雄心。 《星际争霸》是一款实时策略游戏。让 AI 玩好这个游戏,要比让其下围棋难度更大。围棋里,你可以了解对手的动作等信息,即所谓“完全信息游戏”(perfect information game)。《星际争霸》则属于“不完全信息游戏”,需要你利用看到的信息加上自己对游戏的心理模型,预测你的下一步动作。 而且,《星际争霸》比围棋更复杂,机器人不可以利用其超人的学习能力横扫无数可能性。围棋版面上,有效的位置总和是 1 后面 170 个 0,研究者预测《星际争霸》的复杂度至少要在这个数字上再加 100 个 0。 所以说,挑战《星际争霸》需要更大的突破。简单地让机器学习算法学习过去的游戏来模仿人,是不够的。比如在多任务情形下,计算机要能够发展出自己的游戏打法风格,以调整到发挥自己优势的地步。就像怀特兄弟不是靠模仿鸟来使飞机飞起来一样,机器人玩《星际争霸》游戏的方式也会和人类不一样。 DeepMind 最新发表的论文报告了 AI 利用游戏数据进行学习的初步结果,一个事实是:离 AI 掌握这款游戏还有很长的路要走。《星际争霸》的属性非常像现实生活的属性,所测试的技术也可以应用于现实世界,向 DeepMind 《星际争霸》工具提供建议的 David Churchill 教授表示。 Churchill 估计《星际争霸》机器人战胜人类,要等 5 年时间。值得注意的是,AlphaGo 在围棋上成功挑战人类玩家之前,很多专家也预测这需要 5 年时间。 关于 Google 与暴雪的合作,还可以参考去年 11 月 Google Fans 的分享[2]。 ...

Google 可能再次误读中国

图片
1. AlphaGo 和围棋比赛。 AlphaGo( 维基百科中文词条 )是 Google 收购的位于英国的 DeepMind 公司所开发的人工智能(AI)围棋程序。不久之前在中国乌镇,AlphaGo 与世界顶级棋手柯洁对弈并获胜。之后, DeepMind 负责人表示 AlphaGo 将退役,其设计团队转入下一个项目 。赛后发布会上,DeepMind 宣布公开 50 局 AlphaGo 与自己对弈的比赛。实际上,AlphaGo 也的确是在和自己的对弈中掌握了复杂的围棋游戏。不过,与 AlphaGo 所进行的至少数万次对弈相比,50 局显得微不足道。 AlphaGo 的进化展现出,AI 不仅能取代人类的技能,还能够优化技能。DeepMind 负责人 Demis Hassabis 相信 AI 很快将在医疗和科学研究领域发挥类似的影响力,推动人类进入一个仅凭借自身无法企及的高度。 2. Eric Schmidt 关于人工智能的言论。 Alphabet 公司(DeepMind 母公司)执行主席 Eric Schmidt 在乌镇围棋比赛期间,就人工智能发表了一番言论。 Eric Schmidt 描述了他所谓的“智能时代”,或者说“机器智能”,他认为这是他一生中最大的技术革新。Schmidt 描述了深度神经网络(Deep Neural Network)等技术的崛起,这些技术使机器主要靠自己完成学习任务成为可能,途径要么是从海量数据中寻找模式,或者通过自己的尝试和错误。 在 Google,使用 TensorFlow,工程师们已经打造出深度学习系统,能够识别照片中的面孔和物体,辨析语言指令,翻译语言。 Schmidt 而后提到了中国的互联网三巨头:百度、腾讯和阿里巴巴(常以 BAT 代称)。他表示,BAT 均可以从 TensorFlow 中获益,“如果他们使用 TensorFlow,他们会变得更好。”这个软件能够预测人们想要买什么,有助于目标广告,甚至决定谁应该获得信用额度。“他们可以使用 TensorFlow 研究他们的业务模式。 他们可以使用这种技术来更快地为客户服务。” 考虑到 AI 已经取得的进展,Schmidt 的言论并不是夸张。深度学习及相关技术,已经从根本上改变了 Google 的工作方式。Google 的多项...

Google 跻身科学研究领域

图片
在机器学习上的巨大投资,使 Google 跻身科学研究领域,AI 方面的论文发表大幅领先其他公司 Google 机器学习发表数量 去年,Google 在世界上最优秀的学术期刊如 Nature 、 PNAS 、 JAMA 上均发表了论文。Google 的科学研究领域涉及眼科、神经科学、电脑游戏、气候模型等。在 AI,特别是深度学习上的持续投入,使 2016 年 Google 发表期刊和会议论文 218 篇,几乎是两年前的 2 倍。发表文章的影响力(以 CNCI 衡量)是世界平均水平的 4 - 5 倍。与同样在 AI 上开展研究的公司相比,Google 大幅领先。 Google 的科研人员大幅增加。在机器学习方面的研究人员数量,是过去几年的 3 倍多。此外,为了能够吸引这些科研人才,仅仅提供硅谷水平的薪水是不够的。“顶级人才关心的是推动世界,这意味着写有用的论文,编有用的代码。” 位于英国的 DeepMind 是 Google 科研的引领者。2016 年 DeepMind 在 Nature 发表 2 篇论文。其创始人 Demis Hassabis 对自己的科学雄心坚信不疑。他表示 DeepMind 具有一种“混合文化”,介于“长期思考的学术部门”和“速度与聚焦的最佳创业公司”之间。12 月,Google 研究部门科学家在 JAMA 发表第一篇深度学习论文。论文展示一个深度学习程序,可以像医生一样从视网膜图像诊断失明的原因。 如今,数百个公司加入开发更强 AI 的战斗,Google、Facebook、Microsoft 之间尤为激烈。这些公司都从技术中看到商机,例如:从客户数据中解析更多信息;将无人驾驶汽车开上马路;在医学方面的应用。 学术界的古语“发表或灭亡”(Publish or Perish)现在一样适用于 AI 竞赛,发表研究论文数量不足的公司处于劣势。Apple,以严格保密的计划和产品发布著称,发现这种文化正在损害其 AI 方面的努力,落后于 Google 和 Facebook。 去年,Apple 公司招募了卡内基梅隆大学的计算机科学家 Russ Salakhutdinov。他立即允许通过博客和演讲,打破 Apple 的代码保密。他还宣布 Apple 也要开始发表论文。他以幻灯片形式自问自答:“我们能发表论文吗?可以。...