编者语：当人工智能机器达到一定的智能水平（即在某天突然达到一种称作“奇点”的状态）之后，它们将会“失去控制”，以我们无法想象的速度自行进化，以至于远远地并且非常迅速地把我们抛在后面。这并非科幻片中才有的场景，而是人工智能专家们在严肃探讨的话题。

　　当人工智能机器达到一定的智能水平（即在某天突然达到一种称作“奇点”的状态）之后，它们将会“失去控制”，以我们无法想象的速度自行进化，以至于远远地并且非常迅速地把我们抛在后面。这并非科幻片中才有的场景，而是人工智能专家们在严肃探讨的话题。由于人工智能方面令人吃惊的进展，一些计算机科学家正在争论是否应该对某些研究设限，以防这些研究可能导致人类失去对计算机体系的控制。科学家认为，正如宇宙学上存在着一个让所有物理定律都失效的“奇点”(Singularity)一样，信息技术也正朝着“超人类智能”的奇点迈进。

　　以人工智能和人类未来为主题的2009奇点峰会(Singularity Summit)就重点探讨了机器超越人类智慧的“奇点”(Singularity)终将到来的时代。

　　在奇点峰会中笔者受益量多，但该峰会最大的裨益乃其尚未解决的问题。笔者将总结关于“奇点”理论的十大为解难题，与读者共同探讨有关人类智力与机器人智力的哲学道德之争议。

　　“奇点”理论：著名未来学家雷·库兹韦尔的“奇点”理论指出在“奇点”来临之时，机器将可通过人工智能进行自我完善，超过人类本身，开启一个新的时代。一些批评者对恶意的人工智能提出了质疑，但越来越多的主流机构开始接受库兹韦尔的看法。

　　智力与意识是否仅仅局限于我们所认识并认可的范围？

　　在谈话中，“奇点”理论之父著名未来学家雷·库兹韦尔将“智力”定义为“预测能力”，这一能力是从我们的祖先尚在大草原中以狩猎为生时，需判定其狩猎对象下一步将移动至何处以便更有效率地捕获猎物这一经验中进化并遗传下来的。如将“智力”的概念定义于此，那么显然电脑在这方面远远要比人类高明（电脑可预报天气，经济动态等）。

　　当然，人类的预测能力也有机器所无法涉及的领域，比如判定女友喜欢那种花这种事只有人类才可加以估计和推测。

　　假如这个世界尚有我们所未曾认识到的智力类型，那么如果机器通过人工智能进行自我完善并发展出一种新型的智力，我们又怎能意识得到呢？假设真有其他类型的智力存在于这个世界，那么如果机器发展出一种新型的意识，我们又怎么对其进行鉴别和认识？

　　人工智能是否会将人类灭绝？

　　在峰会上，很多人都担心人类终有一天会断绝在人工智能之手。但这些杞人忧天的偏执狂却无一人可解释电脑程序将如何杀死人类。

　　还有人担心，人类是否会失去对机器的控制，使得人工智能机器破解并进入核弹系统，而后随意发射核武器？

　　人工智能会在意自己失聪，耳聋，或失明？

　　世界首台电脑诞生时，闪入它脑中的第一个念头绝不是“天哪！我居然没有眼睛！看不到这个世界！”一个并无实体依存于一台机器才能运行的所谓“智能”的最大缺陷即严重缺乏感官。毫无疑问，人类可被激怒，倘若这个世界上出现了第一台被激怒的人工智能，那么这将意味着什么呢？

　　期待机器有感情的那一天吗？

　　人工智能会沮丧吗？毫无疑问，第一台人工智能机器会感到无比孤单。将来当第一例具有意识的机器横空出世时，人类不会想要这种看似人性化服务实则掌握人类社会经济工具和武器装置的朋友。

　　人工智能模拟大脑，亦或人类大脑本就以电脑方式运作？

　　Jurgen Schmidhuber是一位人工智能研究所的科学家。他指出人类大脑处理信息的方式与zip解压缩文件如出一辙，我们区别无趣与有趣的基准是衡量这个事物包含多少可被我们深刻加工并压缩的新鲜信息含量。

　　Jurgen Schmidhuber揭示了大脑是如何通过扩展个人体验而处理信息。这使我们不禁好奇，难道我们的大脑的运作已经趋向于电脑方式了？人类大脑是以处理不同的软件而造就人们不同的个性的吗？这是否意味着“奇点”时代不是以人工智能超越人类的方式到来，而是伴随着人类意识到大脑实为电脑运行方式这一事实到来的呢？