博文

旧闻综合:Jigsaw 推出 AI 工具探测网络上的恶意评论

在网络上发表评论,我觉得是一种非常重要的交流观点的途径。但是,讨论你所关心的问题有时候并不那么容易[1]。线上的谩骂和骚扰,可能使很多人不去表达他们的看法,同时放弃的,还有他们去了解不同观点的机会。 1. Jigsaw 发布 Perspective API 检测评论的”毒性“。 Google 姊妹公司 Jigsaw 推出了 Perspective[2],一个使用机器学习抗击线上骚扰的项目。首先发布的 Perspective API 用于识别评论中的“毒性”成分,即自动检测侮辱、骚扰和辱骂的言论。“毒”的定义是那些很可能让人退出讨论的粗鲁、不尊重或无理的评论[3]。评价一则评论“有毒”的程度从“非常有毒”到“非常健康”。 Perspective 项目是 Jigsaw 团队所致力于的 Conversation AI(对话 AI)行动的一部分。Conversation AI 一直是开源项目,Perspective API 则让开发者能够接入这个运行在 Google 服务器上由机器学习训练的毒性言论检测工具,来识别和过滤无论是社交网络还是新闻网站评论中的骚扰、辱骂言论。 Jigsaw 和几个合作伙伴正在测试这个工具。维基百科使用它来对其编辑讨论页进行研究。《卫报》和《经济学人》在测试其改进评论区的能力。《纽约时报》计划使用它来对辱骂评论进行初步标记。6 月,Recode 报道称[4],《纽约时报》借助 Jigsaw 的 Perspective 项目所开发的软件,年底将扩充可用在线评论的数量,从文章的 10% 提升至 80%。增加更多评论,而不需要增加人手来管理。 2. Perspective API 的准确性存在问题。 Perspective API 在识别“毒性”评论方面,效果并不好,研究者发现[3,5]。工具不能识别一些仇恨言论,却把一些无害的词语组合判定为有毒[5]。jigsaw 团队注意到这个问题,强调软件还处于初期测试阶段,还不适合于大规模部署。Jigsaw 有两个办法:向服务提供评论毒性的评级;反馈评级错误的信息。随着数据的积累和时间的推移,Perspective API 有可能能够理解更多形式的仇恨言论和毒性评论。 3. 对 Jigsaw 此项目的批评和回应。 批评者认为这是一种审查。使用自动识别系统来删除评论,有可能造成误报,...

YouTube 推出新举措打击仇恨言论等极端主义内容

从今天开始,Google 开始使用极为严厉的措施打击 YouTube 上的极端主义等令人反感的内容。YouTube 不会删除这些视频,而是通过警告信息和禁用广告的新办法,以此限制视频的观看、分享和盈利。 YouTube 不允许仇恨言论,以及宣传和煽动暴力的内容。某些情况下,视频可能没有完全违反社区规则,这些潜在具有争议或冒犯性的内容不会从 YouTube 上消失,而是部分功能不可用。这样,视频内容就有更少的参与度,也很难被受众发现。 这个举措是在维护言论自由权和访问信息权——而又不推广极端的冒犯性观点——之间,作出的平衡。 6 月,Google 宣布了这个举措,现在开始实行。这里有两个背景信息:(1)关于极端主义和政治言论的辩论,正处于美国全国关注的焦点上;(2)Google、Facebook 等公司如何通过其服务调控信息的传播,正在遭受深入的审查。 所限制的 YouTube 内容称之为“inflammatory religious or supremacist content”,意为“试图激发愤怒或暴力情绪的宗教、种族优越内容”。这些内容只占 YouTube 所存有内容的极少部分。被标记为这类内容的视频,缺少广告、评论,也不会被自动推荐,视频旁边还有警示信息。这类视频如果被嵌入外部网站,将不能够播放。 视频的创作者可经过一个渠道进行申诉,来反对此限制。 YouTube 今年多次修改了服务政策。之前,YouTube 使用软件和人力来监控视频内容。75% 以上的视频能够通过软件检测和移除,而不需要人的参与。 不过,这个系统不可能做到十全十美。最近 YouTube 恢复了记录叙利亚国内暴力事件的数千个视频,早些时候因为 YouTube 删除了这些视频而被民权组织批评,后者认为这些视频可以作为战争罪起诉的档案文件。 最新的政策还会针对否认大屠杀、白人至上主义的内容。最近,夏洛特维尔发生了一场白人至上主义集会。之后,Google、Facebook、Airbnb 等科技公司均采取各种措施,斩断这些人和群体与其平台的关系。关于一系列科技公司各自出台措施,对另类右翼势力展开行动的情况,《华盛顿邮报》有比较详细的报道,参考 Google Fans 的博文。 博文:科技公司纷纷出台措施,应对另类右翼势力。 https://googlefanspage.blogspot.ca/2017...

科技公司纷纷出台措施,应对另类右翼势力

一系列公司行动一致,对另类右翼势力展开行动[1]。一直以来指责科技公司容忍仇恨言论的 Keegan Hankes 表示,从来没有看到过所有这些平台采取那么多的行动。”令人震惊的场景引起太多人的注意,这些公司如果不采取行动,它们就会被看作恶人。“ 行动 1:禁止。 The Daily Stormer 是一个白人至上主义网站。GoDaddy 以其违反服务条款为由,将其驱逐。Google 也紧随其后,以同样原因禁止此网站使用其域名注册服务。 The Daily Stormer 后来向俄罗斯寻求域名,俄国的公司以国家反对仇恨言论的法律为由,终止了其新的网站。网站编辑表示不会放弃,将很快走向暗网[2]。 另据 The Verge 报道[3],Google 将流行于另类右翼(Alt-right)群体的社交网络应用 Gab 从 Google Play 移除,原因是违反了 Google 的仇恨言论政策。Gab 去年上线,最近通过众筹募集了 100 万美元。这个网站吸引了很多被 Facebook 和 Twitter 等封杀的极右翼用户,网站宣称政治中立,但其绿色青蛙的图标类似佩佩蛙,后者是另类右翼的流行标志。Gab 没有在 Apple 应用商店上线,因为从来没有被批准通过。Gab 表示,Android 用户将可以不通过 Play 商店下载使用此应用。 另一个网站 Vanguard America 被 WordPress 下线。 行动 2:拒绝。 Uber 高管赞赏一位司机,她在示威运动前拒绝为 3 个极右翼知名人士提供服务。Uber 永久封杀了其中的一位,并邀请这个司机向数千员工演讲,并在声明中为她辩护。 Airbnb 打击那些在示威期间被怀疑利用其服务为白人种族主义者租赁房屋的人。 Apple 切断 Apple Pay 对某些网站的支持,这些网站销售的衣服和产品,有纳粹、白人至上主义相关的符号和口号。 印度的信息技术和业务管理软件即服务(SaaS)开发商 Zoho 终止了 Daily Stormer 对其服务的访问。网站安全公司 CloudFlare 电子邮件通讯服务 SendGrid 也停止对其服务。 行动 3:忽略。 Discord 是一个网络游戏玩家的聊天程序,被列为最受另类右翼喜欢的通讯工具。Discord 在暴力事件发生后,关闭了若干与夏洛特维尔相关网站的服务。 AltR...

Google 将展示 Titan 芯片的技术细节,突出其云服务的安全性

Google 本周将揭示 Titan(泰坦)计算机芯片的技术细节,以凸显其安全性能[1]。Google 希望以此作为卖点缩小与 Amazon、Microsoft 在云计算市场的距离。 Google 在 3 月宣布了 Titan。Titan 芯片应用在 Google 数据中心的服务器和网卡中。Titan 扫描硬件,以确保其不被篡改。出现任何改动时,Titan 会阻止机器启动。Titan 已应用于保护运行搜索、Gmail、YouTube 等服务的服务器,Google 宣称 Titan 推动了云服务的销售。 数据中心运营商担心网络罪犯或国家级的黑客,会在其服务器尚未抵达美国时损害之,这些服务器主要由亚洲硬件公司生产。这使 Google 对其供应链保持一定水平的认识,不然就无从知晓硬件是否安全。Amazon 或 Microsoft 均没有提供类似的功能。不过双方的回应均指出,有很多方法加密和保护其数据中心。 Google 希望以此使自己的服务与 Amazon 等的区分开,吸引需要遵从复杂规定的企业用户,如金融、医疗服务领域客户。Gartner 的一位分析师对 Google 的策略持怀疑态度,她认为安全也是 AWS 和 Microsoft 的特点,Google 还有很多工作还做。 某业内人士指出,国家级黑客行为的崛起,使这个功能显得很及时。“那个级别的对手,肯定有动机去攻击或影响硬件安全。有趣的是,Google 宣布:我们要来控制一部分硬件。” 全球云计算市场预计价值达 500 亿美元。目前,Google 占比 7%,Amazon 和 Microsoft 分别占据 41%、13%。另据 CNBC 的报道[2],Google Cloud 占比仅 5%,Amazon、Microsoft、IBM 居于前三。CNBC 的报道还作出两点分析:(1)Google 缺失中国市场,这是 Google 追赶竞争对手的一个短板。Amazon、Microsoft 虽然在中国的存在不是主要的,但有积极进行市场拓展。Google 方面则表示没有计划将 Google Cloud 引入中国大陆。(2)对 Alphabet 公司来说,云业务处于优先地位,Google Cloud 部门增长势头强劲。全球范围看,Google 触及的市场依然很少,还有很广阔的市场有待开发,如巴西、印度等。 ...

Android 8.0(Oreo,奥利奥)正式发布

主要变化已反映在开发者预览版里了。包括:全新设计的通知面板;应用图标上的通知圆点;画中画(PIP)模式;自动填充工具;新的设置页面;可更新的表情符号;限制后台程序过度使用电池电量;包括 Google Play Protect 在内的安全提升;Project Treble,模块化部分 Android OS,减少 OEMs 更新设备花费的时间。 Android 8.0 推送至 AOSP。OTAs 也将很快推送至 Pixel、Nexus 等手机及平板。第三方 Android OEMs 可能需要一定的时间来推送各自的更新,特别是对于去年或更早的机器。因为 Android O 代码从 3 月第一个开发者预览版就与 OEMs 分享了,这之间有大量的时间来准备更新。各自是否有及时的更新,请拭目以待。 1. https://arstechnica.com/gadgets/2017/08/android-8-0-oreo-is-official-starts-rollout-out-to-devices/ 2. https://www.theverge.com/2017/8/21/16178706/android-8-o-arrives-open-source-pixel-nexus-rollout

建立基于机器学习的仇恨犯罪数据库

Google News Lab 与 ProPublica 合作发布一个工具,追踪美国的仇恨犯罪(Hate Crimes)。基于机器学习技术打造的 Documenting Hate News Index(记录仇恨新闻指数),收集 2017 年 2 月以来美国 50 个州的仇恨犯罪报道,使其按名称、话题和时间可被检索,而且每天更新。 项目使用了 Google Natural Language API 来理解新闻报道的内容和细节。列表将与仇恨相关的犯罪活动报道根据时间进行排列,并显示一段时间内仇恨犯罪报道的浮动情况。最近的夏洛特维尔事件被广为关注,而实际上 5 月底仇恨犯罪活动更为猖獗。 Hate News Index 还会留意误报,比如随意使用“Hate”这个词的情况,在极为敏感的对象上,实现机器学习和人类干预之间负责任的平衡。 项目的重要性在于,目前还没有一个可靠的仇恨犯罪国家数据库。依法,FBI 要对联邦级的仇恨犯罪进行记录,但州和地方当局通常没有很好地记录犯罪事件。Google 将开源这个数据集。所推出的 Index 将帮助记者、研究者和民权组织,更全面地了解国家的状况。 1. https://techcrunch.com/2017/08/18/google-documenting-hate-news-index-propublica/ 2.  http://fortune.com/2017/08/19/google-propublica-artificial-intelligence-hate-crimes/?utm_source=time.com&utm_medium=email&utm_campaign=the-brief&utm_content=2017082012pm&xid=newsletter-brief

Google 开发新工具推动付费订阅服务

Google 正在开发若干工具,帮助出版商增加付费订阅,以从读者那里获得更多收入,让新闻出版业有利可图。 首先,是改版“首次点击免费”服务,这项服务让用户通过搜索免费访问付费墙保护的内容。有付费墙的出版商关心 Google 的搜索政策。出版商如果加入,其文章会被提升到搜索结果前面,否则就排到后面。作为回报,非订阅用户 1 天可免费阅读 3 篇文章。Google 和《纽约时报》在商讨把这个数字调低一些。 新闻集团的《华尔街日报》2 月退出这个“首次点击免费”项目,其订阅数量增长,而来自 Google 的流量急剧下降。WSJ 认为这个政策“歧视”付费新闻网站。新闻集团仍然在和 Google 及 Facebook 商谈数字订阅产品。 其次,寻求办法让出版商通过 AMP 更好地识别潜在付费用户;搞清楚用户愿意付费多少;建立一个系统,使普通用户能够更快捷地订阅成为付费用户。Google 在和《纽约时报》、《金融时报》合作测试这些工具,并在与其他数十个媒体商谈。 Google 开发的这些工具,可能很快(最早下月初)上线。现在不清楚 Google 是否以及如何与加入的出版商进行收入分成。《纽约时报》CEO 的顾问表示公司还没有与 Google 谈到收入条款上去。 AMP 开始是为了应对 Facebook 即时文章(Instant Articles)的,也取得了基本胜利。但是,Google、Facebook 与出版商之间的紧张关系并没有缓解,因为前者掌握了网络广告收入的绝大部分。只有让出版商尽量满意,才能够使出版、消费、广告这套模式可持续下去。 为了让出版商满意,Facebook 在开发一个类似的订阅服务,与即时文章相关联。Facebook 甚至增加对 AMP 的支持。Google 也作出改进,使用户能够通过 AMP 更容易访问和分享文章的初始页面,而不是将用户局限于 AMP 里。 基于开源软件的 Google AMP,目前受到出版商欢迎。Facebook 则相当于一个围城,由于 Facebook 对网络流量的驱动力越来越大,出版商也很难拒绝与其合作。 1. https://www.theverge.com/2017/8/18/16170970/google-subscription-amp-publishers-platforms 2. http...