人机协同的信任边界在哪里?

日期:2025-04-02 18:45:58 / 人气:6

"时至今日,人类与机器之间的界限,第一次变得如此模糊。
  我们将人机协同界定为人类与智能系统(即算法、人工智能和机器人)互动、 协作共同完成任务的过程和方式,它包括人机融合、人机共存和人机协作等所有形式的交互。在这里,“机”不仅可以是传统的非智能化机器或信息系统,还可以是由人工智能(AI)赋能的智能机器人和数字系统等更高级的智能设备。
  越来越多的研究阐明了人机协同的意义与价值。人工智能的性能日益优化,其使用边界与场景不断被拓展,在不同领域辅助人类工作时,极大地提升了生产效率以及生产力。尤其是近年来ChatGPT的出现,其在医疗、金融、管理等领域的成功案例,为我们生动展示了人机协同所能达到的辉煌成就。AI凭借其强大的数据处理与分析能力,能够揭示出人类可能忽略的数据关联与深层模式,针对复杂问题提供了新颖且富有洞察力的解决方案。
  在人机协作过程中,人的能力不可忽视。他们有效地利用并充分发挥人工智能技术的作用,人的效能与人工智能的高性能相互补充,并共同创造新的价值。人的理解分析能力与人工智能的计算能力相结合,能产生最佳的预测准确率;人与深度学习算法协同能实现更优的图像识别准确率。
  因此,一方面,AI可以有效辅助提升人的工作效率;另一方面,人的能力可反馈机器、弥补机器判断的不足,两者结合将发挥最佳作用。这一过程不仅彰显了AI的非凡能力,更强调了人机协作作为深度、创造性互动模式的价值——“AI是人的能力的延伸,而人则是AI能力的放大器”,两者相辅相成,共同推动着问题解决边界的不断拓展。
  #1 AI发展大趋势下的人机协同
  现实中,由于AI数字系统的复杂性,AI与人类协作时,结果往往并不令人满意。事实上,关于用户抵制AI应用、员工拒绝与AI合作的新闻层出不穷。原因之一是,AI技术当前仍不完善,它对复杂环境的感知和理解,以及处理异常和边缘情况的能力仍然有限,这容易引发用户不满。但更主要的原因在于,AI技术发展初期过于关注任务本身,忽视了外部环境,特别是人类认知能力、员工情绪和用户体验需求等因素。这导致了人机合作绩效不理想。
  例如,推特和亚马逊等科技公司就因AI系统设计偏差,导致用户和员工对AI失去信任,甚至抵制AI系统。经典的技术悖论理论指出,在人机交互过程中,用户有限的理性决策与技术的最优决策机制常常冲突,从而产生负面效应,影响技术的商业价值和社会价值。因此,如何建立人与AI系统之间的互信和有效协作,推动AI创新与价值实现,成为管理领域的关键课题。
  AI作为这个时代最具变革性的力量之一,其智能性突破使机器能够更好地理解人的意图,并满足人的需求。因此,与以往传统的人机协同不同,AI的发展也为人机协同带来了以下新的特征:
  首先是AI系统的主动协同。AI系统的主动协同是指在对用户心理、行为状态及所处场景等综合识别的基础上,主动地应对用户需求。长久以来,人机协同一直延续着人类“输入”、机器“反馈”的循环模式,人类始终是主动的,机器始终是被动的。随着语义理解、图像理解等人工智能认知技术的提升,机器应逐步建立起对用户和场景的全方位识别网络,不断对用户画像进行学习,从而准确地把握用户需求,基于此提供贴心化的服务,从而有效地提升用户的生活效率和生活品质。
  其次是AI系统的情感协同。在人机协同过程中,机器基于表情、文本等方式的情感识别能力已有很大的提升。例如,微软的小冰对话AI,早在2015年左右就花费大量时间和精力打磨其虚拟形象框架(Avatar Framework),专注于聊天机器人的情感感知和对话的连续性,使其反馈更加接近人类,以促进人机协同。目前,市面上出现的如情感陪护机器人、智能音箱、智能汽车等已经初步具备基本的情感识别能力,可以根据不同的场景、对象,进行适当的情感交互协同。
  最后是多场景衔接协同。AI技术,特别是大模型通用AI 技术的进一步成熟,推动了AI系统从单一智能、独立场景向互联智能、场景融合的转变。未来,机器将实现互联互通,进一步融合多个场景,连接VR/AR等人机交互技术。这将促进线上与线下、虚拟与现实的无缝连接,推动AI扩展到更多产业和实体。在AR中,现实与虚拟将不再是简单叠加,而是有机融合,使用户能够通过自然意识与机器进行协同工作。
  基于这些新的协同特征,人与AI系统之间迫切需要定义一种新的关系模式,走向更紧密的深度融合,实现人机协同。根据分工特征,一些学者对人机协同模式进行了分类。
  例如,马卡努斯(Makanus)等人基于社会技术系统(STS)开发了一个人机协同分类模型。该模型结合了智能机器的新颖性(低/中/高)和智能机器的范围(内容变化型与情境变化型/激进智能机器)两个维度,提出了六种交互方式:
  
  
  索瓦(Sowa)等人则区分了四种人机协同模式

作者:杏耀注册登录官方平台




现在致电 8888910 OR 查看更多联系方式 →

COPYRIGHT 杏耀注册登录官方平台 版权所有