人工智能的启示

图灵奖（Turing Award）得主Geoffrey Hinton在日前公开讨论人工智能（AI）的风险。

AI「往往会从分析大量数据中学到意想不到的行为」。这并非意味着具有自主意识的AI会摧毁人类，而是我们无法预测AI的行为，特别是当个人和企业允许AI系统不仅生成其自身的代码，而且在自己的计算机上运行这些程序时，Hinton担心「有一天，真正的自主武器将那些杀手机器人变成现实」。

第一个实际的AI系统是由Edward Feigenbaum及Raj Reddy实现，称为「专家系统」，是一种智能的电脑程序，能运用知识与推论来解决只有专家才能解决的复杂问题；他们也因此一贡献荣获1994年的图灵奖。

然而，许多系统需要模拟的参数甚多，至今仍然无解。可见计算机模拟的应用博大精深，即使今日AI技术突飞猛进，有许多题目仍值得深入研究。

图灵（Alan Turing，1912~1954）在1950年发表一篇重要论文〈计算机与智能〉"Computing Machinery and Intelligence"，首次谈论到AI，并提出图灵测试（Turing test），为信息领域创建智能设计的标竿。

图灵测试指的是，如果一台计算机能够欺骗人类， 相信它是人类，那麽它就应该称为智能计算机。AI缘起于模拟人类行为，自然也常用于社会学。

密歇根大学的政治学教授Robert Axelrod，在1980年代进行一连串电脑模拟实验，找一群专家写出不同电脑程序，模拟人类行为，让这些程序互动、合纵连横，看哪个程序最后会胜出。这些程序有些模拟「金律」，有些模拟「银律」，有些则模拟「铁律」。

所谓「金律」（Golden Rule），语出《新约》<马太福音>7:12「无论何事、你们愿意人怎样待你们、你们也要怎样待人」；「银律」（Silver Rule），语出《旧约》<出埃及记>21:24「以眼还眼，以牙还牙，以手还手，以脚还脚」；「铁律」就是「己所不欲，先施于人」，外在表现是「先下手为强，后下手遭殃」。

结果最成功的是模拟「银律」的Tit-for-Tat程序。这个程序一开始采取合作，若对方也肯合作，接下来则仍采合作策略；若对方吃你豆腐，下一步你就占回便宜。

在实验中，实施金律的程序一败涂地，屍骨无存，可见咱们先总统蒋公介石对日本「以德报怨」的做法是行不通的；实施铁律策略的程序一开始也有不错的表现，但长期下来，所有被它吃豆腐的人不是死了，就是躲它远远的，它最后也没戏唱。

有一个铁律例子，就是石油大王John Rockefeller（1839～1937）。

他专耍先下手为强的手段，整垮所有对手，成为最有钱的人。但他的手段未免太狠，大夥都不敢恭维。Rockefeller也知道自己以前做事实在不上道，因此在退休后的余生，致力于慈善事业补过。然而，他过去的作为仍然祸贻子孙，他的后人能力再强，条件再好，想选总统，至今都选不上。

延伸报导从Google查找趋势看三大AI技术浪潮

「专家系统」之父，Edward Feigenbaum。

Raj Reddy与Edward Feigenbaum共同获得1994年的图灵奖殊荣，也是该奖项的第一位亚裔专家。