最近，Google 和微软的雇员正在对公司施压，要求公司放弃竞标国防部 100 亿美元的云计算合同。这个合同简称 JEDI，涉及为军队提供数据的云存储服务。其具体细节未知，但可以肯定的是，这个项目涉及到 AI 的应用，将帮助美军提升战斗力。
成千 Google 员工反对公司参与此项目。本月 8 号，Google 宣布退出竞标 JEDI 合同。关于 Google 退出 JEDI 的消息，参考博文：Google 退出竞标国防部 100 亿美元云计算合同。
https://googlefanspage.blogspot.com/2018/10/google-100.html
微软员工也有类似行动。若干微软雇员发表匿名信，称因为协商和对道德决定的不透明，接受此合同将使微软普通员工不可能知道他们写的代码是为了造成损害或是监控。
尽管员工反对，微软并不打算放弃竞标 JEDI。
硅谷若干科技公司里面的员工，在涉及技术与伦理道德方面的议题时，正在努力表达自己的主张，要求公司把伦理问题放在盈利之前。他们的努力有的有效，有的没效，但总体上，他们让硅谷企业的高管在作决定时，必须多考虑一下他们的决定的道德后果，即是否有益于人类，是否有助于推动基本的人权。
硅谷雇员发起的这一波波反对浪潮，本质上是因为他们担心政府可能使用技术来践踏人权。所以他们比较不愿意公司与政府签下某种合同。
历史上有前车之鉴。IBM 曾与纳粹德国政府签下合同，这个美国公司开发出系统去帮助纳粹分类、管理和屠杀犹太人。
面部识别技术是这些雇员们所担心的。450 名 Amazon 雇员要求 Amazon CEO Jeff Bezos 停止销售其面部识别软件 Rekognition 给执法部门。这个反对意见来自 Amazon 雇员的匿名信。
在信中 Amazon 雇员称面部识别技术常常会错误识别深色皮肤的面孔。ACLU 对此进行过测试，把国会议员的照片与嫌疑犯照片进行对比发现，Rekognition 有 28 次错误匹配，有色人种的错误率相对偏高。奥兰多警方已经应用 Amazon 的软件到监控摄像头中。
Amazon 员工的匿名信写道，历史已经表明，新的强大的监控工具，当不受控制地被国家、政府所使用时，没有做错任何事情的人也会成为受害者。在美国，因为缺乏公共监督问责，已经造成了巨大的影响，对有色人种、移民群体和行使宪法第一修正案权力的人存在过度监管。对这些问题视而不见，继续为政府和执法部门开发技术，是非常危险和不负责任的。
这些 Amazon 雇员还要求 Amazon Web Services 停止托管 Palantir 软件公司，后者的业务是帮助移民当局追踪和驱逐移民。
Amazon CEO 没有回应匿名信，但他此前曾为 Amazon 与政府有业务往来的行为辩护。
Google 员工的影响力比较而言是最大的，即他们的抗议和反对真正影响了公司的决定。
4 月，3 000 多人联名反对 Google 参与 Maven 项目。而后，Google 决定不再续约，并保证 Google 绝不使用 AI 技术去伤害他人。Google 为中国用户开发的 Dragonfly 项目曝光，1 400 名员工联名反对。
Dragonfly 项目所开发的搜索引擎，据 Google 雇员称可以密切监视其用户。据报道称，Google 正在压制这些员工的言论。
本周，Google CEO 为 Dragonfly 项目辩护，他说绝大多数搜索结果 Google 不会去审查。参考博文：Google CEO 表示中国版搜索引擎很有希望。
https://googlefanspage.blogspot.com/2018/10/google-ceo_16.html
Google 在 Dragonfly 项目上的做法与 Google 退出国防部项目时所做的承诺有相互矛盾的地方。所以，Google 员工认为公司的承诺还不够，他们要求的是在公司内获得正式的决定权，来评判他们工作的伦理价值。
倡导公司应该更多地纳入伦理价值标准的组织 Tech Workers Coalition 评价 Google 退出 JEDI 的决定时认为，Google 的退出完全是员工反对的压力所造成的。
不过，在文章《Google CEO 表示中国版搜索引擎很有希望》中，Google CEO 表示，Google 作出停止与军方合作的决定，员工的反对并不是主要原因。Google 不是通过“全民公投”式的方式来运作的。
https://www.vox.com/technology/2018/10/18/17989482/google-amazon-employee-ethics-contracts
成千 Google 员工反对公司参与此项目。本月 8 号，Google 宣布退出竞标 JEDI 合同。关于 Google 退出 JEDI 的消息，参考博文：Google 退出竞标国防部 100 亿美元云计算合同。
https://googlefanspage.blogspot.com/2018/10/google-100.html
微软员工也有类似行动。若干微软雇员发表匿名信，称因为协商和对道德决定的不透明，接受此合同将使微软普通员工不可能知道他们写的代码是为了造成损害或是监控。
尽管员工反对，微软并不打算放弃竞标 JEDI。
硅谷若干科技公司里面的员工，在涉及技术与伦理道德方面的议题时，正在努力表达自己的主张，要求公司把伦理问题放在盈利之前。他们的努力有的有效，有的没效，但总体上，他们让硅谷企业的高管在作决定时，必须多考虑一下他们的决定的道德后果，即是否有益于人类，是否有助于推动基本的人权。
硅谷雇员发起的这一波波反对浪潮，本质上是因为他们担心政府可能使用技术来践踏人权。所以他们比较不愿意公司与政府签下某种合同。
历史上有前车之鉴。IBM 曾与纳粹德国政府签下合同，这个美国公司开发出系统去帮助纳粹分类、管理和屠杀犹太人。
面部识别技术是这些雇员们所担心的。450 名 Amazon 雇员要求 Amazon CEO Jeff Bezos 停止销售其面部识别软件 Rekognition 给执法部门。这个反对意见来自 Amazon 雇员的匿名信。
在信中 Amazon 雇员称面部识别技术常常会错误识别深色皮肤的面孔。ACLU 对此进行过测试，把国会议员的照片与嫌疑犯照片进行对比发现，Rekognition 有 28 次错误匹配，有色人种的错误率相对偏高。奥兰多警方已经应用 Amazon 的软件到监控摄像头中。
Amazon 员工的匿名信写道，历史已经表明，新的强大的监控工具，当不受控制地被国家、政府所使用时，没有做错任何事情的人也会成为受害者。在美国，因为缺乏公共监督问责，已经造成了巨大的影响，对有色人种、移民群体和行使宪法第一修正案权力的人存在过度监管。对这些问题视而不见，继续为政府和执法部门开发技术，是非常危险和不负责任的。
这些 Amazon 雇员还要求 Amazon Web Services 停止托管 Palantir 软件公司，后者的业务是帮助移民当局追踪和驱逐移民。
Amazon CEO 没有回应匿名信，但他此前曾为 Amazon 与政府有业务往来的行为辩护。
Google 员工的影响力比较而言是最大的，即他们的抗议和反对真正影响了公司的决定。
4 月，3 000 多人联名反对 Google 参与 Maven 项目。而后，Google 决定不再续约，并保证 Google 绝不使用 AI 技术去伤害他人。Google 为中国用户开发的 Dragonfly 项目曝光，1 400 名员工联名反对。
Dragonfly 项目所开发的搜索引擎，据 Google 雇员称可以密切监视其用户。据报道称，Google 正在压制这些员工的言论。
本周，Google CEO 为 Dragonfly 项目辩护，他说绝大多数搜索结果 Google 不会去审查。参考博文：Google CEO 表示中国版搜索引擎很有希望。
https://googlefanspage.blogspot.com/2018/10/google-ceo_16.html
Google 在 Dragonfly 项目上的做法与 Google 退出国防部项目时所做的承诺有相互矛盾的地方。所以，Google 员工认为公司的承诺还不够，他们要求的是在公司内获得正式的决定权，来评判他们工作的伦理价值。
倡导公司应该更多地纳入伦理价值标准的组织 Tech Workers Coalition 评价 Google 退出 JEDI 的决定时认为，Google 的退出完全是员工反对的压力所造成的。
不过，在文章《Google CEO 表示中国版搜索引擎很有希望》中，Google CEO 表示，Google 作出停止与军方合作的决定，员工的反对并不是主要原因。Google 不是通过“全民公投”式的方式来运作的。
https://www.vox.com/technology/2018/10/18/17989482/google-amazon-employee-ethics-contracts
评论
发表评论