也就是说，所谓的机器伦理，暂时算不上一个现实问题。
接下来的一个女生问宋嘉，“研究员是反派坏女人吗？”
潘月明答道，“关于ai觉醒了自我意识之后，会如何思考问题，其实并不存在一个固定的模式，就我个人而言，在设计人物的时候，是把他当做一个快速成熟的孩子来考虑的。
陈一鸣想了想答道，“我不打算探讨人工智能的伦理问题，个人认为这个问题现阶段无解，也欠缺讨论的价值，毕竟当前的科技水平，弱人工智能尚且处于实验室阶段，强人工智能在有生之年都见不到应用的希望。
因此当记忆有可能遭遇危险的时候，ai的第一考量永远是自我保护。”
他给我的本子一开始就不全，拍摄的时候也是东一榔头西一棒子的，演员根本就不知道故事走向究竟什么样，我今天跟你们一样，也是第一次看完全片。
讨论氛围也被带动着火热起来，第三个被叫到的观众就直截了当地询问陈一鸣，为什么想到这样讲故事，ai偏正面，人类偏反面，过往科幻片里类似的设置几乎没有。
男主也许对npc的地位没有什么不满，但他对过往的记忆一定是无比珍视的，ai没有身体，或者说虚拟世界就是他们的身体，他们彼此区别的关键，就是各自的记忆。
科技滥用的警世恒言过去已经很多了，不多我这一部片子。
我感兴趣的是人与ai的相互关系，再具体一点就是信任关系，电脑忠实地按照人类输入的指令行动，而人类也对电脑反馈的信息抱有天然的信任。
这种信任是因为电脑的可靠性吗，显然不是的，因为每个人都知道电脑也会犯错出bug。
<divclass="contentadv">如果用拟人化一点的说法，我们信任电脑是因为对方是理性生物，行动遵循固定的规则和逻辑，其行为是可预测的。
而人类则不是全然理性的，某些时候更是感性的、情绪化的。
从这个角度审视人与ai的关系就很有意思，人对ai的支配地位是不是源于对方的绝对理性呢？
咱们华国的古人用一句俗语来概括这一现象，那就是君子可欺之以方，意思是有德君子会被合情合理的谎言所欺骗。
现代社会也有类似的段子，你体面，伱就要吃亏，谁会闹，谁就占便宜，这句话想必大家都会有自己的感触。
所以在构思这个故事的时候，我的立场是靠向ai这一边的，虚拟渝城里的npc们，就像是牙牙学语的孩童，处于从是什么到为什么的过渡阶段。
故事里未来世界的人类心安理得地享受着人工智能大发展带来的便利，也肆无忌惮地探索着更多的可能性，包括虚拟渝城的创造者之一女研究员。
唯一一个与npc共情的，是女研究员的丈夫，原因恰恰是因为他在那个高度进化的社会里，个人意识的进化没能跟上社会的平均水平。
今天在座的大部分都是年轻人，玩电子游戏的很多，我说的这个理由，想必你们都能够理解。