The Google Fans Post

西班牙《国家报》（ El País ）的发行人、PRISA Noticias 产品主管 Pablo Delgado 3 月 21 日在 Google 博客写的 一篇文章 介绍了《国家报》使用 Google News Initiative 所提供的一个免费 AI 工具来提升其文章评论区评论质量的情况。 据 维基百科 ，《国家报》是西班牙 2017 年底发行量第二大的日报，也是当地网络阅读量最大的媒体。 文章首先明确了“网络评论”的重要意义。读者在一则新闻报道下面发表高质量的评论，可以增进关于此报道的见解，补充一些知识，核对事实，提升网络交流到更高层次。实际上，网络评论有趋于恶化的现实，侮辱性的、Trolls、有毒的评论无处不在，这使得一些网站不得不限制评论或者禁止评论。 此产品主管说 Google News Initiative 联系到报纸谈及了 Perspective API，这是一个 Jigsaw 开发的免费工具，基于人类生成而又被人类标记为“有毒”的评论而训练的机器学习模型。 因为 Perspective API 当时只支持英文，所以双方进行合作，使用《国家报》每月用户发表的 30 万评论训练模型的“西班牙语”能力。《国家报》还与 Jigsaw 今年年初开始合作以分析和识别海量评论中的“有毒”成分。 现在，如果有人试图发布有毒评论到《国家报》的网络评论区，系统会告知用户修改评论以通过评论审核系统。报纸的网络评论有毒内容减少了 7%，评论内容则增加了 19%。审核系统还在继续改进，使其更容易识别有毒与无毒的评论。 评论量的增加是好事，因为那意味着读者有积极参与，一个充满想法而又和平交流的评论区是除了文章以外值得阅读的内容。 《国家报》还有检查有毒评论与文章作者之间的关联性，使用多种手段来减少毒性评论的产生，促进有意义的交流。这些手段据文章介绍包括：不发布某些不能产生积极评论的文章；新的徽章系统；在新闻简报中突出某些亮点评论；让记者参与到评论中去以促进交流。 Perspective API 的西班牙语版本现在供所有人免费使用。 与此报道相关的情况是， 2017 年《纽约时报》报道说 自己使用 Google 的机器学习技术（同样来自 JIgsaw）开放大量文章供读者评论，其中头条文章工作日供读者评论 8 ...

最近这些年在委内瑞拉，当人们上网点击某个独立网站时，可能会看到这个网页“不存在”的信息。这个问题主要是因为政府屏蔽了那些批评性的声音。 有 250 万客户的该国最大的互联网服务商被政府所控制，其他私有服务商唯前者马首是瞻。 委内瑞拉的一个新闻自由组织新闻与社会研究所（The Press and Society Institute of Venezuela）说，批评政府的网站自 2014 年起成为打击目标。测试发现，53 个网站半数被屏蔽无法访问。该国通信部没有回应美联社的置评请求。 Google 设计的 Android 应用 Intra 试图解决此问题。应用将用户的手机直接与访问 DNS 的 Google 服务器连接起来。这绕过了本地服务商的封锁，使政府等方面更难阻止用户对一个网站的访问。 委内瑞拉曾经是一个富有的石油国家。在二十年的共产主义统治下，该国的政治和经济均陷入了危机。该国总统领导下的政府加紧打压甚至关闭反对派的媒体，他指责这些媒体追随美国等外国势力的立场，阴谋推翻他的统治。 委内瑞拉的记者有遭受诉讼和牢狱之灾的可能，部分人因担心个人安全而逃往国外。去年，一个亲政府的宪法大会绕过由反对派控制的国会，通过一项法律，可以给被认为发布仇恨内容的人最多 20 年的监禁惩罚。 Jigsaw 是 Alphabet 的一个部门，其 CEO Jared Cohen 说他的团队在与委内瑞拉的记者、技术人士的沟通过程中开发出了这个应用。Intra 在委内瑞拉测试数月以后，10 月 3 日向全球发布。 Jared Cohen 是一位美国外交官，曾担任国务卿赖斯、克林顿任期内言论自由方面的顾问。他说，Intra 不是为委内瑞拉打造的，但其想法确实来自他们与委内瑞拉记者的工作交流中。 Jigsaw 说此应用发布后已经被下载 13 万次，它可以运行在老旧的 Android 版本上。委内瑞拉是下载此应用前三的国家，Jigsaw 没有明说其他国家。 位于华盛顿的 Freedom House 2017 年公布的新闻自由报告称，委内瑞拉属于 30 个“不自由”的国家，因为其政府打压社交媒体上的批评意见。中国、叙利亚、埃塞俄比亚是三个网络最不自由的国家。 一些由记者建立的网站被域名篡改等手法封锁，该国唯一一份反对派报纸的网站也经常处于被屏蔽状态。网站 E...

最近，Google 关闭了 39 个与伊朗伊斯兰共和国广播电视台（IRIB）有关系的 YouTube 账号。Google 还移除了少量 Google+ 和 Blogger 账号。 在此之前，Facebook 移除了 600 多个与伊朗、俄罗斯相关的账号。这些账号利用互联网平台发布政治内容以干预、影响选举等活动。它们与 IRIB 有关联，但试图掩盖这种联系。Twitter 也有类似的移除举措。 Google 内部的工作团队，以及聚焦网络安全和地缘政治的智库 Jigsaw，联合网络安全咨询机构 FireEye，识别出这些伊朗方面的进行网络影响活动的账号。伊朗试图影响的对象不只是美国，还有中东、南美和英国。FireEye 还帮助 Facebook 和 Twitter 识别并关闭了若干有伊朗和俄罗斯背景的账号。 Google 收集到所关闭的这些账号与 IRIB 有关联的证据。这些账号（YouTube、Google+、Blogger）的影响力不大，但影响活动从去年 1 月就开始了。 除了在社交网络施加影响，Google 还探测到国家背景的钓鱼攻击活动，其目标是全球范围内的政治竞选、记者、活动人士和学者。Google 的系统减弱了钓鱼攻击的危害，并会不断通知用户和执法部门这些可疑的邮件。 有俄罗斯政府背景的机构 Internet Research Agency（IRA）在 Google 旗下网站有传播误导信息以试图影响选举的行为。IRA 主要在 Facebook 传播这些误导性内容来获取影响。Google 移除了 IRA 相关的 52 个 YouTube 账号和 1 个博客。 这些有目的、有组织的网络活动引起立法者的注意。下月，参议院情报委员会计划询问 Google、Facebook、Twitter 的高管在保护其平台免于误导信息传播等方面的努力。委员会主席拒绝了 Google 打算让一个高级副总裁出席听证会的提议。 微软本周发现，俄罗斯政府背景的组织设立了 6 个假网站，试图在骗取访客访问后，以侵入访客的电脑。这些假网站有的与参议院有关联，或者是非营利组织的，还有一个是保守派智库的。 1. https://www.theverge.com/2018/8/23/17775538/google-youtube-iran-russia-electio...

Jigsaw 是 Alphabet 旗下的智库组织，前身是 2010 年成立的 Google Ideas，创始人是 Jared Cohen，他在国务卿赖斯和克林顿手下当过反恐专家。 Google 意识到这样一个事实：互联网是一把双刃剑。促进信息的流通既可以帮助到人，也可能帮助到坏人做坏事。Jigsaw 的终极目标就是确保技术用于好事。 Jigsaw 一开始的工作是反击网络上利用社交网络和网站来激化人群的恐怖主义浪潮。但到了后来，它的工作拓展到比如减少网络论坛中的巨魔、保护政治网站免于 DDoS 攻击等。 恐怖主义利用网络进行宣传和招募“士前卒”的危害很大。简单的思维是，把这些招募内容移除就好了。 Jigsaw 另辟蹊径，找到了 Redirect Method（重定向）方法。意思就是在有人搜索恐怖主义招募内容时，显示一些视频和广告去揭穿宣传材料的实质。 这个方法极为重要。因为 ISIS 等恐怖主义所招募的一般都是年轻人。这些涉世未深的年轻人以为，只要放弃生活、加入到战斗中，他们就能获得荣誉和荣耀。他们以为自己将步入完美的宗教乐园。 实际上，一旦加入其中，他们会失去手机和护照，无法离开，进入一个恐怖而专制的世界，被折磨直至你愿意去杀人。 Jigsaw 团队意识到仅仅移除内容、不认人看到什么东西无济于事，只有帮助他们看清现实才是最有力的反击。 YouTube 饱受批评的一个方面是，平台上有很多阴谋论和误导性内容，而 YouTube 似乎会故意让观众看更多这方面内容以强化其认知，如果此人看过一个比如阴谋论的视频后。 YouTube 采纳了 Jigsaw 的重定向方法来应对此情况。现在，很多误导性内容、阴谋论内容视频下方会有链接告诉观众事实是什么。 很多人可能认为这种方法太过轻柔，为什么不直接将某些人直接封杀呢？实际上，美国著名的阴谋论者 Alex Jones 此前被 Apple、Facebook、YouTube、Twitter 等平台封杀或禁言，就有很多观点不一的讨论。 YouTube 抗击平台被滥用可能更倾向于采用 Jigsaw 的方法，而不是封杀了事。Alphabet 对 Jigsaw 的投入，已使团队成员从 6 个成长到 60 个。 大型的用户生成内容的平台比如 YouTube、Facebook、Twitter，你很难说...

在网络上发表评论，我觉得是一种非常重要的交流观点的途径。但是，讨论你所关心的问题有时候并不那么容易[1]。线上的谩骂和骚扰，可能使很多人不去表达他们的看法，同时放弃的，还有他们去了解不同观点的机会。 1. Jigsaw 发布 Perspective API 检测评论的”毒性“。 Google 姊妹公司 Jigsaw 推出了 Perspective[2]，一个使用机器学习抗击线上骚扰的项目。首先发布的 Perspective API 用于识别评论中的“毒性”成分，即自动检测侮辱、骚扰和辱骂的言论。“毒”的定义是那些很可能让人退出讨论的粗鲁、不尊重或无理的评论[3]。评价一则评论“有毒”的程度从“非常有毒”到“非常健康”。 Perspective 项目是 Jigsaw 团队所致力于的 Conversation AI（对话 AI）行动的一部分。Conversation AI 一直是开源项目，Perspective API 则让开发者能够接入这个运行在 Google 服务器上由机器学习训练的毒性言论检测工具，来识别和过滤无论是社交网络还是新闻网站评论中的骚扰、辱骂言论。 Jigsaw 和几个合作伙伴正在测试这个工具。维基百科使用它来对其编辑讨论页进行研究。《卫报》和《经济学人》在测试其改进评论区的能力。《纽约时报》计划使用它来对辱骂评论进行初步标记。6 月，Recode 报道称[4]，《纽约时报》借助 Jigsaw 的 Perspective 项目所开发的软件，年底将扩充可用在线评论的数量，从文章的 10% 提升至 80%。增加更多评论，而不需要增加人手来管理。 2. Perspective API 的准确性存在问题。 Perspective API 在识别“毒性”评论方面，效果并不好，研究者发现[3,5]。工具不能识别一些仇恨言论，却把一些无害的词语组合判定为有毒[5]。jigsaw 团队注意到这个问题，强调软件还处于初期测试阶段，还不适合于大规模部署。Jigsaw 有两个办法：向服务提供评论毒性的评级；反馈评级错误的信息。随着数据的积累和时间的推移，Perspective API 有可能能够理解更多形式的仇恨言论和毒性评论。 3. 对 Jigsaw 此项目的批评和回应。 批评者认为这是一种审查。使用自动识别系统来删除评论，有可能造成误报，...

Jigsaw 和巴西的 Igarape Institute 合作开发了一款应用 CopCast。这款应用能将手机变成一个身体相机，让警察把执法过程记录下来，以强化警察工作的责任追究。 据 2016 年的报道，伦敦 22 000 多名警察已于今年开始佩戴“身体相机”。这被认为对预防犯罪、收集证据以及规范警察行为，有所帮助。伦敦警察的身体相机使用时需要手动激活，使用前要告知市民，使用过程中会有亮灯提醒，拍摄的视频如果没有特别要求保存的，会在 31 天内删除，而任何人根据数据保护法都可以查看相机拍摄的视频。 https://read01.com/7AQPnN.html 2014 年，新泽西市就要求两个城市的执法人员佩戴身体相机，投入 120 万美元购置的相机因为镜头故障而最终失败。这是又一次尝试。市议会可能通过这个为期 1 年的警察身体相机项目。如果通过，900 多警员中的 250 名左右的警察将使用这个应用，之前有少数警察已经测试使用过。这个项目不需要市政府投入资金。 使用 CopCast 的警察需要将手机置于胸前，点击按钮开始记录。有一个选项是，监督人员可以通过直播流查看警察所处的现场，执法结束后停止记录。 之所以考虑引入 CopCast，是因为新泽西市的警察队伍正在遭受审查，以及至少两起有联邦当局参与的调查。其中一起是 FBI 和联邦检察官对警察行为的联合调查，视频图像显示，一个警察踢了一个无辜的旁观者。 公民自由倡导者认可身体相机能够起到对警察行为问责的目的，但担心相机是否会成为一个监控工具，以及公众是否能够访问这些视频。而且，如果警察能够自如地开关相机，那很可能不能达到问责的目的。 市发言人表示将遵照州总检察长对身体相机的指导准则，相机会“在可能的所有执法行动中打开，并保护受保护类别的隐私”。 当地警察工会对这个身体相机项目没有多少热情。声明表示，支持这种为强化效率、保护城市安全的努力，而担心则在于：隐私问题的影响；设备维护；数据存储；警察和公众的可访问性。 http://www.nj.com/hudson/index.ssf/2017/06/jersey_city_moves_forward_with_new_police_body_cam.html?utm_content=bufferdfc42&utm_medium=social&...

之前的一则G+分享我在 一篇博文 里记录下来。我写了几则较长的评论，主要是针对网友的回复。我觉得应该把较长的评论也记录在博客里，而针对此信息的评论仍可参看 G+原始贴 。 G+帖文评论截图 Google Fans ： 在言论自由的地方，即使是恐怖主义的言论也很难做到完全屏蔽，不让人们看到。因此，才有了Jigsaw的这个广告实验项目。目的是让人们了解另外一种叙述，而不是单一的叙述。正所谓，兼听则明。   GFW干的事情恰恰与此相反。是为了服务于一种叙述，不许其他不同的叙述。这才是真正的“洗脑”。   所以，Jigsaw的这项实验如果能够有作用，也只会在英国、美国或欧洲等地发挥效力，那些GFW触及不到的地方。 Bilimi Shp ：+Google Fa ns 这样的技术如果用到竞选上效果如何？据说google支持希拉里，是这样的吗？ Google Fans ：+ Bilimi Shp 之前我分享过关于Google支持希拉里，或者说Google搜索显示有利于希拉里内容的报道。一个被引用的证据是，Google搜索自动完成功能不显示希拉里负面的词汇。而后Google及网友给出说明，Google自动完成不倾向于推荐一个人的负面内容。但是，人们仍然可以搜索那些负面内容。 自动完成功能现在被拿来作为Google支持希拉里竞选的证据，好几年前被拿来作为传播淫秽色情内容的证据（CCTV）。我是觉得这个自动完成基本上是算法控制的。如果真的要支持希拉里，把与她相关的链接排名降低不是效果更好吗？ 我是觉得，Google作为商业公司，不太可能利用技术优势去帮助希拉里一党，否则假如共和党上台就很难在华盛顿办事了。自动完成及搜索的算法很难被外界理解或知晓，然后一个捕风捉影的证据就很快传播开了，当然也有很多人买账。 比较接近科学的一个依据是，有人在PNAS上发表一篇研究论文，结论是搜索引擎理论上是可以影响一部分摇摆选民的。但是，这个结论也是在小范围条件控制状况下得出的，也不是无懈可击，更没有确切地说Google这样做了，因为选民能够被影响的因素的确很多。 再说Jigsaw的这个实验，其实是一种广告模式，推销的不是一个消费品而是（比如）一个视频。滑向极端主义的人如果能够全面地看到ISIS的面目，不只是ISIS网络宣传的一面，是可能会悬崖...

Jigsaw是从Google分离出来的Google智库，之前称之为Google Ideas。Jigsaw的目标是利用技术处理棘手的地缘政治挑战，从打击暴力极端主义，挫败网络审查，到减轻与数字攻击相关的威胁。其主要的产品如uProxy，让人们分享访问自由网络；Project Shield，保护Google计算架构，让独立声音免于DDoS攻击。 Jigsaw广泛研究了ISIS的网络招募活动以及人是如何陷入其中的。现在这些研究已转化成一套程式，称之为重定向法（Redirect Method），利用Google在广告方面的经验和优势，扼杀潜在的招募行为。重定向法首先通过关键词和网络活动模式判断某人有滑向极端主义的可能，继而向其推送搜索、显示和视频广告，其中的信息可微妙地削弱ISIS的宣传。 假设一位用户点击了这类广告，可能会向其呈现一些列独立制作的YouTube视频，其中可能包括ISIS叛逃者的证词；阿訇关于伊斯兰和ISIS无关的演说等。另一方面，假使一个学生只是想做一期关于ISIS的作业，帮助其找到最合适的材料也是非常重要的。人们一般不会点击自己不想看的内容，所以引导人们免于ISIS宣传之害必须非常谨慎，细致入微。好比要让人离开ISIS的回音室，首先必须使回音模糊起来。 这不是Jigsaw或Google的慈善项目，是真正的付费广告。实质上是一个有目标的广告活动，通过整理的内容破除ISIS神话。之前，一位13岁女孩在网络上看了一些照片，然后决定离开伦敦的家奔赴中东“伊斯兰乐园”加入ISIS。Jigsaw与其他组织合作进行了8周的英语/阿拉伯语测试，32万人点击了广告，点击通过率高出同样关键词下普通广告70%。重定向法如果扩大规模可以很有效，Jigsaw研发负责人表示。 Google无法从搜索结果中屏蔽ISIS的内容，Jigsaw的策略是在不违背言论自由的前提下边缘化ISIS组织的信息。国际反恐中心副研究员Charlie Winter对此项目持乐观态度，认为在反叙述方面这种方法效率上优于政府或NGO。不过不宜高估其价值，很多ISIS暴力内容因违反服务条款已被移除，而那些彻底陷入ISIS世界观的阿拉伯语人群不太可能看YouTube视频。 1. BusinessInsider网站报道链接 2. Jigsaw在Medium的页面  原文链接