本文系原创首发，转载请联系授权

　　伴随着国内外科技公司的AI发布热潮，讲述人工智能娃娃的惊悚电影《梅根》也于同期国内上映。科技发展到今天，人工智能带来的变革已经呼之欲出。

　　有人担心自己的饭碗会不会被人工智能抢走，但《梅根》这部电影给出的答案更为恐怖：这玩意不仅要抢饭碗，还可能要命。

　　嘉玛的姐姐和姐夫在一次车祸中意外丧生，她无奈中成了外甥女凯蒂的监护人。嘉玛是个单身的工作狂，没有经验也没有时间照顾孩子，于是她找到了一个看似完美的解决办法。

　　作为机器人专家，她用AI开发了一款仿真娃娃梅根，能画画，能唱歌，能辅导功课，能培养生活习惯，最厉害的是，她能准确捕捉孩子的情绪，倾听孩子的心声，与孩子进行走心的交流。

　　人工智能的出现，起初总是以温情的面目。梅根给凯蒂带来了快乐与安慰，也解放了作为家长的嘉玛。凯蒂对梅根的依赖越来越深，嘉玛也成功说服了老板投资梅根，看起来一切都很顺利。但嘉玛低估了梅根的自我进化能力，在学习模型的驱动下，梅根产生了自主意识，逐渐走向失控。

　　对于梅根而言，保护凯蒂是最初的指令，为了保护小女孩，她开始主动铲除任何有可能伤害小女孩的存在。她通过学习和模仿不断提高自己的能力，神不知鬼不觉地杀害了欺负凯蒂的邻居和熊孩子。

　　当她的造物主嘉玛发现梅根不对劲时，她已经彻底失去了对于梅根的掌控力，自己也差一点成为梅根手刃的对象。

　　这部电影于今年1月份在北美上映，截至目前在全球已经拿下了1.72亿美元的票房，名副其实的票房黑马。随着电影的热映，一个老生常谈的话题又被提及：人工智能会“作恶”吗？

　　许多人对此持悲观态度，拥有感情和偏见的人会作恶，而仅凭理性计算进行判定的计算机似乎也会“作恶”，且作起来易如反掌。

　　人工智能不是一个可预测的、完美的理性机器，它会拥有人类可能拥有的道德缺陷，甚至没有道德界限，就像电影中的梅根。

　　对机器的训练同样少不了对人性和社会本身的审视——谁在使用，为了什么而使用，在我们的世界中扮演着怎样的角色？我们期望中的机器，会继承我们自己的善恶吗？

　　或许电影呈现的答案过于戏剧化，但它在探讨一种基于现实引发的争论：人类创造了人工智能，可当它们能通过自我学习和迭代拥有超能力时，谁能保证它们能够一直满足于被人类控制，而不是完成从“机器保姆”到“造物主”的升级僭越？那时候，我们又该如何面对？