恐怖主义滋生的暴力和仇恨，威胁社会中所有人。极端分子和恐怖分子试图攻击和侵蚀的不仅是我们的安全，还有我们的价值观，而这是维系我们社会开放和自由的根本。
Google 和 YouTube 致力于解决这一问题，与政府、执法部门和民间社团合作，打击网络上的暴力极端主义。多年以来，Google 投入人力和资源识别和移除违反其政策的内容。一个事实是，这些工作还不足够。
Google 在全球有数千人负责审核和应对平台上的滥用行为。使用图像匹配技术，工程师开发出技术阻止已知的恐怖内容再次被上传。在系统中加入基于内容的信号，以识别出需要移除的视频。与专家组、反恐机构和其他科技公司建立合作关系，强化这些努力的效果。
在此基础上，Google 现在承诺采取以下 4 个额外措施：
1. 增强技术，识别极端和恐怖主义相关视频。
同样一段恐怖袭击视频，既可能是新闻报道画面，也可能是暴力宣传材料。过去半年，被 Google 移除的超过 50% 恐怖主义相关内容是由视频分析模型发现和评估的。现在，Google 投入更多工程资源，应用其最先进的机器学习研究，训练新的“内容分类器”（content classifiers），更快地确定和移除与极端主义和恐怖主义有关的内容。
2. 增加 YouTube 的 Trusted Flagger 计划的独立专家数量。
与机器相比，人类专家仍然在暴力宣传与宗教或有新闻价值言论之间的细微差别决定中发挥作用。一般用户的标记（flag）可能不准确，Trusted Flagger 的报告则在 90% 的时间里是准确的，这有助于 Google 扩大工作规模，并确定新出现的关切领域。在已有 63 个组织的基础上，这个计划增加 50 个专业的 NGOs。这使 Google 能够受益于从事诸如仇恨言论、自我伤害和恐怖主义等问题的专门机构的专门知识。Google 还将扩大与反恐团体的合作，来帮助确定可能用于激进的和招募极端主义分子的内容。
3. 对没有明确违反政策的视频，采取更加强硬的措施。
“没有明确违反政策的视频”，比如那些含有 inflammatory（能够或试图引起愤怒或暴力情绪）的宗教或种族优越内容的视频。将来，这些内容播放之前会出现插页式警告，它们也不能获取收入、推荐或有资格获得评论或用户认可。这类视频将更难被发现，有更少的用户参与度。Google 认为这是在不推广极端冒犯观点的前提下，在言论自由权和访问信息权之间寻求的平衡。
4. YouTube 将扩大其在反激进化工作中的作用。
与 Jigsaw 合作，在欧洲更广泛推广应用 Redirect Method（重定向方法）。这个方法驾驭有针对性的在线广告的力量来触及潜在的 Isis 新兵，将他们重定向到可以改变其参军主意的反恐视频。在之前的应用中发现，潜在新兵以异常高的比率点击了这些广告，观看了 50 多万分钟揭穿恐怖分子招募信息的视频。
Google 还与同行——Facebook、Microsoft、Twitter——合作，建立一个分享和开发技术的国际论坛，给予小型公司以支持，加速打击网络恐怖主义的共同努力。
上述这些措施将发挥作用，Google 还将继续谋求解决问题的办法。
https://www.blog.google/topics/google-europe/four-steps-were-taking-today-fight-online-terror/
Google 和 YouTube 致力于解决这一问题，与政府、执法部门和民间社团合作，打击网络上的暴力极端主义。多年以来，Google 投入人力和资源识别和移除违反其政策的内容。一个事实是，这些工作还不足够。
Google 在全球有数千人负责审核和应对平台上的滥用行为。使用图像匹配技术，工程师开发出技术阻止已知的恐怖内容再次被上传。在系统中加入基于内容的信号，以识别出需要移除的视频。与专家组、反恐机构和其他科技公司建立合作关系，强化这些努力的效果。
在此基础上，Google 现在承诺采取以下 4 个额外措施：
1. 增强技术，识别极端和恐怖主义相关视频。
同样一段恐怖袭击视频，既可能是新闻报道画面，也可能是暴力宣传材料。过去半年，被 Google 移除的超过 50% 恐怖主义相关内容是由视频分析模型发现和评估的。现在，Google 投入更多工程资源，应用其最先进的机器学习研究，训练新的“内容分类器”（content classifiers），更快地确定和移除与极端主义和恐怖主义有关的内容。
2. 增加 YouTube 的 Trusted Flagger 计划的独立专家数量。
与机器相比，人类专家仍然在暴力宣传与宗教或有新闻价值言论之间的细微差别决定中发挥作用。一般用户的标记（flag）可能不准确，Trusted Flagger 的报告则在 90% 的时间里是准确的，这有助于 Google 扩大工作规模，并确定新出现的关切领域。在已有 63 个组织的基础上，这个计划增加 50 个专业的 NGOs。这使 Google 能够受益于从事诸如仇恨言论、自我伤害和恐怖主义等问题的专门机构的专门知识。Google 还将扩大与反恐团体的合作，来帮助确定可能用于激进的和招募极端主义分子的内容。
3. 对没有明确违反政策的视频，采取更加强硬的措施。
“没有明确违反政策的视频”，比如那些含有 inflammatory（能够或试图引起愤怒或暴力情绪）的宗教或种族优越内容的视频。将来，这些内容播放之前会出现插页式警告，它们也不能获取收入、推荐或有资格获得评论或用户认可。这类视频将更难被发现，有更少的用户参与度。Google 认为这是在不推广极端冒犯观点的前提下，在言论自由权和访问信息权之间寻求的平衡。
4. YouTube 将扩大其在反激进化工作中的作用。
与 Jigsaw 合作，在欧洲更广泛推广应用 Redirect Method（重定向方法）。这个方法驾驭有针对性的在线广告的力量来触及潜在的 Isis 新兵，将他们重定向到可以改变其参军主意的反恐视频。在之前的应用中发现，潜在新兵以异常高的比率点击了这些广告，观看了 50 多万分钟揭穿恐怖分子招募信息的视频。
Google 还与同行——Facebook、Microsoft、Twitter——合作，建立一个分享和开发技术的国际论坛，给予小型公司以支持，加速打击网络恐怖主义的共同努力。
上述这些措施将发挥作用，Google 还将继续谋求解决问题的办法。
https://www.blog.google/topics/google-europe/four-steps-were-taking-today-fight-online-terror/
评论
发表评论