”《财联社》10月11日电(编辑牛占林)被业界称为“人工智能教父”的计算机科学家杰弗里·辛顿(Geoffrey Hinton)表示，如果人类不小心，人工智能“可能接管一切”。
75岁的辛顿近日在接受媒体采访时表示，飞速发展的人工智能技术可能会在“五年内”获得比人类更聪明的能力。他补充说，如果出现这种情况，人工智能可能会进化到人类无法控制的水平。
辛顿指出，人工智能系统逃脱控制的可能方式之一是编写自己的计算机代码，这是我们需要认真担心的事情。
辛顿的工作被认为对当代人工智能系统的发展至关重要。1986年，他与人合著了一篇开创性的论文《通过反向传播误差学习表征》，这是人工智能技术基础神经网络发展的里程碑。2018年，他被授予图灵奖，以表彰他的研究突破。
今年4月，在谷歌工作了10年后，辛顿辞去了副总裁和工程研究员的职务，以便可以自由地谈论人工智能带来的风险。在离职后，辛顿声称对自己在开发人工智能方面的作用感到后悔。
他特别强调，人类，包括像他一样构建人工智能系统的顶级科学家，仍然没有完全理解这项技术是如何工作和发展的。
许多人工智能研究人员也坦率地承认，他们对此缺乏了解。今年4月，谷歌首席执行官桑达尔·皮查伊(sundar pichai)称之为人工智能的“黑匣子”问题。
正如Hinton所描述的，科学家为人工智能系统设计算法，从“数据集”中提取信息，如互联网。他说:“当这种学习算法与数据交互时，它会产生复杂的神经网络，擅长做某些事情。但说实话，我们真的不明白他们是怎么做到这一点的。”
皮查伊和其他人工智能专家似乎不像辛顿那样担心机器失控的问题。另一位图灵奖获得者Yann LeCun表示，任何关于人工智能可能取代人类的警告都是“荒谬的”，因为人类总是可以阻止任何变得太危险的技术。
但辛顿认为，最糟糕的情况是不确定的，医疗保健等行业已经从人工智能中受益匪浅。
此外，人工智能制作的虚假信息、假照片、假视频在网络上广泛传播。他呼吁进行更多的研究来了解人工智能，政府应该出台法规来控制这项技术，并在全球范围内禁止人工智能军用机器人。
上个月，美国科技界领袖聚集在国会山，参加参议院多数党领袖舒默举办的人工智能峰会，讨论未来对人工智能的监管。尽管科技巨头呼吁美国国会通过立法加强对人工智能的监管，但科技公司之间在如何监管方面仍存在分歧。
辛顿指出，无论人工智能护栏是由科技公司实施，还是在美国联邦政府的强制要求下，相关监管措施都需要尽快出台。
他认为人类可能正处于一个“转折点”，接下来会发生什么存在很大的不确定性。他补充说，科技界和政府领导人必须决定“是否要进一步开发这些东西，如果要开发，如何保护自己。”
(蔡莲牛占林)”