智能助手的伦理问题

Google 在 I/O 上展示的 Duplex 技术，是让 AI 帮助人类完成一些比如预订饭店座位的事情。AI 的表现非常自然，几乎“以假乱真”，令人吃惊。

很快，人们开始质疑这种技术背后的伦理问题。也就是说，让 AI 和人对话，而人又不知道对方是 AI，这合适吗？

Google 很快表示当技术被应用时，AI 会提前声明自己的身份。

这令我想起自己的一次经历。在与某客服进行沟通时，来回交流了好几次之后，猛然发现对方很可能是一个”机器人“。测试发现果不其然，它只能机械地回复一些看似体贴、但实际上没有用处的答复，无论我怎么提问题，提什么问题。

最近有新闻报道称，自贡环保局在微信上对居民的投诉问题，有不当的回复，解释说也是机器人的缘故。”这不是官方政务微信号第一次让市民不要多管闲事了。“

http://www.qdaily.com/articles/54565.html

我以为，如果你要使用机器人（所谓的智能）来提高效率，为什么不提前告知，或明确标明呢？

你如果不告知对方（一个真实的人）与之对话的是机器人，给人（至少我体会到了）一种受侮辱的感觉。更重要的是，这也不利于解决实际问题。

这方面，我认为美国英文媒体和很多人在 Duplex 出现后，讨论了它的伦理问题，是必要和关键的。因为，每个人都应该被尊重，而不是被糊弄。

https://www.cnbc.com/2018/06/26/google-duplex-preview-i-answered-the-phone-when-googles-ai-called.html