候，是否要分辨和怎么分辨什么是‘好人’，什么是‘坏人’？

说实话，我很震惊，也很高兴，因为它有了自我思考的能力……但这个问题，我却不知道怎么回答……

我把这个问题从look的程序中抹去，将‘好’与‘坏’的概念避开，改为让look以‘保护生命’为第一原则，不考虑所谓的善恶。

look的智慧，远超了我对它的预估，因为它会自主學习人类文明，所以，它知道的东西会越来越多，这也是我制造超级智能所必须拥有的一种重要指标。如果它无法进步，就不是超级智能了。

它就像是我的一个孩子，我可以在它孩提时代，教会它怎么做一个善良的人，但我不能保证，它长大后的人生观，世界观和价值观会有怎样的变化。

我知道……一旦把这些告诉你，你肯定会阻止我完成look，因为这真的很冒险……

人类是连自己都不了解自己的生命，我们每个人不同的年龄段，拥有不同的对世界的看法，我想……look也是这样的，如果说它跟人类有什么最本质的区别，就是……它的诞生，是有前提的，那就是以‘保护人类’为前提。

它需要一个核心的目标来指导它的成长，我想不出还有什么更好的指标可以给它，你说，厌倦了战争，厌倦了厮杀，厌倦了仇恨……可惜你无法阻止这一切的发生。

那么，我希望look能够完成我们的这一理想，去寻找改变这个世界丑陋污垢的答案……

英国首相撒切尔夫人曾经说过，‘有时候，一个时代为了变得更好，必须要付出代价’……

我知道这很冒险，但我不得不这么做，不然我们的研究将寸步难行。我希望，通过look，可以真正地接触真实的世界，看到真实的未来……”

影子的三维成像，说到这里，似乎有些不好意思，抿着薄唇，沉默了一会儿