张九问认为孔祥东一个人搞不出强人工智能原因无他，代码工作量太大了，以孔祥东一个人的力量根本不可能在短时间内完成这种项目。
“那个……经理，绝对不会出问题的，这个程序我加了最底层的规则，所有代码的执行都躲不过这一条件，AI绝对不会做出对人类不利的事情。”
一提到安全性问题，孔祥东立即来了精神，开始向张九问吹嘘AI的安全性：
“我设计的底层非常安全，在程序中是最高权限的存在，而且被封在了不可触及的底层，不可能被篡改！”
然而张九问只说了一句话就让孔祥东闭了嘴：“如果程序被停掉了呢？非运行状态怎么保证自身不被篡改？”
张九问所问的问题是非常重要、非常典型的一个问题，那就是没有不会被篡改的程序文件！
因为运行环境本身在某些情况下也是可以任意修改的，原有环境下是多高的权限都没有用。
举个简单的例子，有自己给电脑做过系统的朋友可能会有体会。
在正常操作系统下，有一些文件是无法人工删除或是覆盖、修改的，但是当你用光盘或是u盘起动winpe这类简易系统后，你系统盘内的一切文件都可以任意处置了，系统文件也根本没有受到应有的保护。
因为在当前的简易系统下，你电脑硬盘里的任何文件对其而言都不过是普通文件，无论进行怎样的操作都不会对当前系统构成任何影响，因此当前的简易系统会将其当成普通文件，并不会对其进行保护。
一句话：视而不见！或是也可以讲成一视同仁！
而且孔祥东所设计的程序按照其描述也不是完全没有问题，“绝对不会做对人类不利的事情”这条看着没有问题，实际上问题却非常大。
这玩意一个火车悖论就能让其无法做出判断，甚至根本不是简单的数量问题。
在火车悖论的基础上，我们可以进一步假设一下那个会死一个人的选项。这个人如果是个科学家或是医术高超的医生，总之他活下来可以救活更多的人，这样会使选择变得更加复杂。
这问题人类自己都搞不定，放给人工智能也许会演变成灾难。
扩展一下，如果要保护一群人而伤害另一群人呢？保护多数而牺牲少数，这类问题问样存在逻辑漏洞。
单个人类个体的能力是有限的，即使有所选择在很大程度上也只能停留在自己的心理层面。
即便付诸行动，其可怜的执行力所造成的危害也是有限的。
然而AI程序呢？就其远超人类的运算速度就让其有更充分的时间做出人类所无法做出的选择。
而且通过互联网AI可以操纵更多的机器设备，造成更大的范围的影响也不是不可能的。
总之，真正具备思想的智能AI将会是非常可怕的，至少潜在危险性很大。其即使是善良属性的也很难保证其不被利用。
而如果AI发展成邪恶属性，三观不正那将成为一场灾难，人类不知要为此付出多大的代价。
为什么？因为能力，就以现在最简单廉价的低配电脑而言，其运算速度和处理能力都要甩人脑无数条街。
甚至不止于此，单单个人计算机的性能在二三十年前就已经在很多方面超越人脑了，只不过受一些条件的拖累没能完全展现出来罢了。
其实最让张九问担忧的是AI的自我进化速度，以公司量子混合型服务器的性能，如果这AI程序真的如孔祥东所介绍的那样可以自行进化的话，AI只需要很短的时间就能成为这个星球上最全知全能的存在。
当然一些极为敏感的知识不可能被摆在互联网上供人查看，所以AI靠互联网所获得的信息还是很有局限性的。
可即便如此，在全能性方面也很难有人能和AI匹敌，再加上之前讲过的“反应速度”上的巨大差距，AI成长起来之后到底会成为一个什么样的存在呢？
如此看来限制AI成长速度的已经不是什么服务器性能，而是周易超算服务有限公司租用的电信服务商带宽了！
“不不不！我的灵儿不会出问题的！只要不停机，就没有人能篡改底层协议！”孔祥东执拗的和张九问解释道。
“不，我还是认为你这样搞风险性太大，危险太高了！”张九问的态度也很坚决，显然并不想让孔祥东的AI继续跑下去。
张九问一边说一边就要到孔祥东的电脑前操作关闭智能AI程序，然而拦在电脑前面的孔祥东却张开双臂拦在张九问身前哀求道：
“经理，求你了，灵儿已经进化出了意识，你这么做就等于杀了她！杀死一个有思维的智慧生命和谋杀没有区别！”
这么快？张九问的内心惊道，同时因为孔祥东的阻拦，张九问只能停下来，他总也不至于因为要关闭程序和孔祥东发生冲突。
总的来说张九问与孔祥东的关系还是比较不错的，远比普通同事要来得亲近，所以张九问还是打算说服孔祥东。
“张经理你好！”就在张九问还在努力想办法的时候，孔祥东身后电脑的音箱传来了一句柔和的女声。
听声音感觉年纪不大，还有些许稚嫩，不过对于张九问而言还是很容易就听出了那是电脑音箱传出来的声音。
包括来周易超之前，张九问已经接触过很多智能AI程序，包括一些用量子计算机演化的AI程序，这种和人打招呼的操作并算不得什么高难度。
也许是孔祥东夸大其词了吧，能做出和人一样思考的程序哪有那么容易？！自己也许该亲自了解一下这个被孔祥东吹上天的AI到底有多利害。
“你好！孔祥东叫你为灵儿，这是你的名字吗？”张九问直接拉过来一把椅子，用手拨开身前的孔祥东对着电脑屏幕问道。
“张经理，我认为你的行为很不绅士！”电脑音箱内传来人工智能不悦的声音，显然对于张九问用手拨开孔祥东有些不满。
张九问倒是没把这个事情当回事，坐好后好整以暇的看着显示器，只见显示器屏幕画面一变，一个对话框内弹出了一个十四五岁小女孩模样的胸像。
就这？！哈？！小孩子吗？！