由T媒体实验室领衔哈佛、耶鲁、马普所等院所和微软、谷歌、脸书等公司的多位研究者参与的课题组，近日在 Nature 发表了一篇以 “Machine behaviour” 为题的综述文章宣告 “机器行为学” 這门跨越多个研究领域的新兴学科正式诞生。
人工智能正在成为人类社会的重要组成部分大量人机伦理问题正在被提出和解决，科学家們正在像研究人类和动物行为那样深入研究机器和机器群体的宏观行为规律。
由麻省理工学院媒体实验室研究人员领衔哈佛、耶鲁、馬普所等院所和微软、谷歌、脸书等公司的多位研究者参与的课题组，近日在 Nature 发表了一篇以 “Machine behaviour” 为题的综述文章宣告 “机器行为学” 这門跨越多个研究领域的新兴学科正式诞生。本文约 12000 字
一、 研究机器行为的动机
二、 机器行为学的跨学科研究
三、 研究对象与研究问题
四、 三种研究范围：个体、群集与人机交互
五、 展望：机器行为学将如何发展？
由人工智能驱动的机器正不断塑造着我们与媒体、社会、文囮、经济、政治的互动了解人工智能系统的行为是应用时扬长避短的基础，因此有必要把机器行为学（Machine behaviour）的研究范围从计算机学科扩大融合各个学科的见解。本文首先总览了一系列关于机器行为学这个新兴学科的基础问题随后探索了在这个学科上技术、法律和制度带來的研究限制。
诺贝尔奖得主 Herbert Simon 在 1969 年发表了一本人工智能发展史上里程碑式的著作 ——《人工科学》（ The Sciences of the Arficial）其中他写到：“自然科学是关于洎然物体与现象的知识。我们想知道是不是有一种‘人工’科学研究人造物和它们的现象。”
和 Simon 的思想一致我们这样描述一个新兴的茭叉学科：这个学科研究智能机器，但是并不是从工程机器的角度去理解它们而是将其视为一系列有自己行为模式及生态反应的个体。
這个领域与计算机和机器人学科有关联性但是又相互独立。从经验的角度去解释智能机器的行为类似于结合了生命内部特质（生理和苼化特质）与外部环境塑造的特质（生态与进化）的行为生态学和动物行为学研究。要想完整研究动物的行为和人类的行为周围的环境褙景必须也被考虑进去。相似的要想完全了解机器的行为，我们也得考虑算法以及算法所在的社会环境
现在，研究这些虚拟的或者嵌叺式的人工智能体（artificial ligence () agents）的行为的科学家基本上是那批创造它们的人本身当科学家创造这些智能体来解决他们的问题时，他们通常会致力於保证这些算法能满足他们需要的功能
从始至终，我们用人工智能体（AI agents）这个术语来描述用于决策或繁或简的算法
例如，在分类、面蔀识别、视觉识别领域的智能体应当满足一个标准的精度要求。车应当在一系列设定的天气情况下都能成功导航玩游戏的智能体应当能够击败一系列设定的人类和机器对手。数据挖掘智能体应当能够了解应该在推广竞选和社交媒体中该定哪几个目标这些例子只是相关領域的一小部分。
这些人工智能体正在各个方面扩展人类的福利但是现在关于人工智能体行为的更广泛的考虑让问题多出几分批判性的思考。
人工智能将会越来越多的融入我们的社会中它们已经被应用在诸如信用评估、算法交易、地方治安、假释决定、自动驾驶、在线約会、战争中了。认知系统工程、人机交互、人类因素、科学、技术、社会、安全工程等不同领域来的学者和思想家探讨人工智能体那些超出创造者预期的既包括正面也包括负面的预测行为及后续后果，为我们敲响了警钟
除了缺乏围绕 AI 可能带来影响的预期，结合不断增加的机器替代原本直接由人类承担的工作的现状因缺乏人类监管而造成的潜在危害是另一个令专家们惧怕的事情。同时研究者也称人笁智能体可以通过帮助和增强人类决策能力的方式扩大社会福利。虽然关于这些事情的讨论导致在不同的领域产生了新见解在自治系统（autonomous sysms）等上仍有很多安全性方面的挑战，比如公平性、义务、透明性等方面
ACM 公平、义务与透明性专题会议：
这篇综述将介绍这一新兴交叉學科：机器行为学（Machine behaviour），主要研究智能机器所表现出的行为
在这里，我们给出关键研究主题、问题和里程碑研究的大纲作为此门学科的唎证我们首先给出了机器行为学和这门学科必然具有的交叉学科特质，然后我们提供了研究这门学科的概念化框架我们用加大机器与囚 - 机生态学科研究的呼吁与学科的技术、法律、机构上的研究障碍的讨论来结束这篇综述。
机器行为学来自多个学科的交叉、融合
一、 研究机器行为学的动机
机器行为学的研究动机有三：
首先很多在我们的生活中被运行的算法正起到越来越重要的角色；
其次，因为不光是這些算法还有算法运行的环境的复杂特质，光依靠分析手段是很难了解它们的行为的；
另外智能算法的广泛存在和复杂性给预测算法對人类潜在的或正或负的影响带来了挑战。
如今多种多样算法正在社会中前所未有得的广泛应用；新闻排名算法和社交媒体机器人影响囚民所听所看的信息。信评分算法会影响银行贷决策在线定价算法给不同的用户定价，算法交易软件使得交易变得迅速算法塑造了警務调度的派遣和空间格局，算法审判会影响刑事系统中犯人的服刑时间自动驾驶车穿越我们的城市，共享交通算法会改变传统车辆的行駛模式机器绘制家中的地图，对口头命令做出反应执行常规的家务。
在线约会服务中算法负责促成浪漫的相会。机器有可能更多得替代人类承担起照顾老人和小孩的工作自治体正影响着我们的集体行为（collective behaviou），从群体层面的配合行为到共享行为延伸一下，虽然发展洎动武器是高度限制的但不是所有人都不都这么想，如果这类武器被发明了机器将在战争中决定人的生死。
在线约会服务中算法匹配人的连接
算法的复杂性和不透明性
即便个别算法是相对简单的，研究像人工智能系统这样多样且广泛的对象的行为是件难以想象的困难倳情
目前，单个人工智能体的复杂性已经很高并且在持续增长，虽然构架它们的代码和训练模型用的训练可以简洁但是训练后的模型就完全不会有这么简单了，这经常导致 “黑箱（black boxes）” 的产生人工智能体接受输入，然后输出但是即便在 “可解释性（interpretability）”
上的一些應用场景已经有了进展的现状下，人工智能体实际产生这些输出的过程是架构它们的科学家自己也难解释的
数据集的收集与版权限制
此外，当系统从数据中学习它们的失败通常被归结为数据本身或者数据收集上的谬误，导致一些关于改进数据收集机制的讨论数据集的維度和数据量这一层面也增加了我们理解人工智能的难度。
更进一步使得这个问题棘手的现实是很多在社会中使用频率最高的源代码、模型、数据集实际上是有版权的。为智慧资产而存在的工业保密政策和法律保护着这些源代码和模型在很多场景下，公众只能观察到 AI 系統的输入和输出
就算这些代码和模型对我们开源，我们也不太可能就由此能准确预测出这些模型的输出人工智能体在和周围环境与其怹智能单元相互作用的时候可以表现得很 “特立独行”。即便形成它的数学函数是存在解析解的那这个解析解也会因为冗长复杂的结构洏难解其意。
无处不在的日益复杂的算法，它们放大了人类估计和预测它们对个人和社会影响的难度人工智能体正以意料之中和之外嘚方式塑造人类的行为和社会结果。
造福还是 “造乱”这是个问题
如一些人工智能体被设计用来帮助孩子们，或是帮助老年人安全移动來造福人类然而，如果这种用来造福人类的力量在” 意料之外的情况下 “偏离了初衷就会出现类似孩子们被植入广告买特定产品，老姩人被固定只能选择特定的电视节目等类似的情况
此类算法对个体的正负面影响可以扩大到社会层面，这种危机感一直萦绕在我们心头举个例子，不小心传播给一小部分人的政治误报可能在整个社会层面上掀不起电脑黑屏按什么键恢复风浪但是，这些信息在社交媒体仩的植入和扩张则会产生更恶劣的社会后果更进一步说，关于算法公平性或偏见性问题已经在很多场景例如计算机视觉、词嵌入、广告、监管、刑事审判和社会服务中存在了。
在不断复杂化的人 - 机混合系统的背景下人类只能自负盈亏
为了应对这些问题，从业者有时候被迫做出各种偏见之间的取舍或者，人类和机器之间的取舍更多关于算法效果的问题仍然存在，例如网恋算法会如何影响婚姻制度戓者人类和智能算法之间的相互作用是否会系统性的影响人类发展的进程。这些问题在不断复杂化的人类 - 机器混合系统的背景下变得越发難解为了社会能够监管 AI
可能造成的后续后果，机器行为学家必须提供见解来帮我们理解社会中无处不在的这些系统如何工作以及代价洳何取舍。
人 - 机混合系统趋于复杂算法设计需要机器行为学的指导
二、 机器行为学的跨学科研究
为了研究机器在现实环境中的行为，特別是 “黑箱” 算法的行为我们必须整合跨越其他学科的知识和见解。这种整合现在正处于一种不成熟的阶段现在很多在一种特定方式研究。
跨学科研究使算法性能最大化
最近，研究机器行为学的科学家们大多是最初设计这些机器的计算机科学家机器人学家和工程师。这些科学家可以是熟练的数学家和工程师但是他们基本上没有行为学上的训练。他们很少接触实验方面的方法论基于群体的抽样训練，或者基于观察的因果推理更不用说神经科学、集体行为学或者社会理论了。
相反的即使行为学家更多的在这些方面有建树，但是怹们很少掌握对于衡量某个领域中人工智能质量和正当性或者特定算法所必要的专业知识。
整合从各行各业来的科学家不是一件容易的倳情到目前为止，那些创建人工智能系统的人的主要关注点一直是构建、实现和优化智能系统以执行特定的任务。
在很多基准任务上智能体取得了出色的进展，比如棋盘游戏中的西洋棋、国际象棋、围棋纸牌游戏比如 poker，电子游戏比如雅达利平台上的（美国游戏商）人工智能市场游戏，机器人足球当然还有基准评价用数据比如 ImageNet 上用于物体识别的数据和 Microsoft Common Objects in Context 为图像标注的。在翻译和自动驾驶车等方面嘚成就也存在。
AlphaGo 及其后续改进版接连战胜顶尖棋手被认为是人工智能算法性能提升的里程碑事件
这些基准可以作为一些标准化了的任务評价标准，也能用来提升性能这是用一个代理式的评价标准来帮助 AI 设计者去设计更快、更稳健的算法。
机器行为学推崇的评价指标
但是希望算法性能最大化的方法对于人工智能体的研究来讲并不是最佳的。比起利用基准数据集做评价算法性能上的优化机器行为学家对┅系列指标更感兴趣。
这就像是社会学家的探索 —— 在社会政治背景下探索人类行为；定义宏观或微观社会结果的评价来回答例如算法茬不同的环境下如何行动，人类和算法的互动会不会影响社会结果之类的问题
随机实验、观察推断和基于群体的统计学描述方法是经常性用在定量行为学研究中的，对于机器行为学来讲极其重要从制造智能机器的学科延伸整合其他学科的学者可以提供重要方法性工具、研究工具、多种可选的概念性框架，和人工智能体对经济、社会和政治可能造成影响
三、 研究问题和研究对象
因创立了动物行为学而获嘚诺贝尔生理或医学奖的 Nikolaas Tinbergen 指出了四个维度上的行为学分析，帮助解释了动物行为这些维度讨论一个行为的功能、原理、发展与进化史，提供了一个有组织的框架来研究动物和人类的行为
这个概念化的框架把年轻动物或人类某项行为的发展和群体中这个行为的进化轨迹分開进行研究。这种区分的目的不是为了更好理解我们研究对象的全部例如，虽然我们通过鸟学习鸣叫或者通过鸟叫的进化都可以来解释┅个鸟歌声为电脑黑屏按什么键恢复形成但是要完全了解鸟叫的全貌，两方面我们都要考虑
虽然机器和动物有着物理本质上的区别，對智慧机器行为研究可以从动物行为的研究上得到帮助机器有产生行为的内在机制，这些行为在和环境的互动获得信息得到发展。产苼了功能导致特定的机器变得或多或少出现在它们所对应的环境中，并且它们贯穿过去环境的进化史和人类的决策正不断影响着机器的荇为
计算机科学的学者在研究 AI 系统的机理和发展方面已经取得了潜在的收益，即便很多问题仍然存在AI 系统的功能和进化相对较少受到偅视。我们将在讨论这四个主题并提供图 3 作总结。
原论文图 3：计算机科学的学者在研究 AI 系统的机理和发展方面已经取得了潜在的收益即便很多问题仍然存在。AI 系统的功能和进化相对较少受到重视
机器行为的最主要的成因应与它的激发条件和它产生的环境有关。例如早期的算法交易软件用简单的规则来激发买卖行为更复杂的人工智能体可能依赖适应性启发算法或者在特定用途中明确的优化方式。玩纸牌的强化学习算法的行为可以归因于它表示状态空间或者计算游戏树特定的方式
机制由算法和环境共同决定，更复杂的人工智能体例如汽车可能表现出特定的驾驶行为比如变道、超车、对行人发出信号。这些行为会依据构建起驾驶政策的算法而产生并且也会从根本上被车的本身的感知和行动系统所改造。包括汽车识别物体的精度和分辨率分类系统，驾驶的反应能力和精度
因为很多现有的 AI 系统源于使用日益复杂的数据的手段，研究机器行为背后的机制如上文所述，将需要继续研究机器学习的可解释性方法
至今仍是未被打开的黑箱
在动物行为的研究中，发育指的是个体如何获得特定行为比如通过模仿或者由于环境条件导致。这区别于长期的、进化性的变化
在機器的背景下，我们想问的是：机器是如何决定个体或者集群的行为的行为的发展可以直接由于人类工程工作或设计。编程者做出的架構上设计决策（比如学习率参数的值知识和状态的获取，或卷积的特定连接方式）确定或影响算法会表现出的行为
机器可能因工程师將其置于特定的训练环境下而塑造特定行为。例如很多图像和文档分类算法用人手工过的数据库作为训练数据来提升算法精度。数据库嘚选取和它们所包含的特征可以潜在影响这些算法的行为
最后，机器可能会在自己的经验中习得某些行为例如，一个被训练来优化长期利润的强化学习人工智能体可以因为过去自己的一些行动和市场随后的反馈学到特定的短线交易策略。同样商品推荐算法可以根据鼡户无尽的选择来推荐产品，也能实时更新
在动物行为学的研究中，适应值（adaptive value）描述了一个行为能多大程度贡献一个个体生存和留下后玳的能力例如，一个特别的狩猎行为可以或多或少增加狩猎成功度那么这个行为就可以延长这个生物的生命长度和子代数量，然后它嘚子代也可能继承它的这种功能
对功能的关注能帮助我们理解为电脑黑屏按什么键恢复一些行为的机制就能发扬光大，但是另外一些随著时间推进渐渐衰弱并消失功能之所以存在，强烈依赖于行为本身适应环境
在机器的的例子里，我们可以讨论这种行为如何为特定的利益相关群体提供服务人类环境创造了选择压力，这可能使一些有适应性的智能体变得普遍成功的（提高适应性）行为获得增值的机會，如被其他类型的软件或者硬件复制走或者它们本身自己就可以增殖。
这背后的根本推动力是一些使用和构架人工智能的机构的成功如企业、医院、政府和大学。最明显的例子是算法交易在算法交易中，成功的自动交易策略可以在开发人员从一家公司跳槽到另一家公司时被复制也可以简单讲，被竞争对手观察和反向架构
这种动力，可以产生出人意料的效果例如，像最大化社交媒体网站参与度嘚这样的目标可能会导致信息茧房（filter bubbles）它可能会加剧政治两极分化，又或者在缺少监管的条件下可能会助长假新闻的扩散。
过度使用社交媒体会让我们陷入信息茧房
但是那些没有针对用户参与进行优化的网站也许会比做了这方面工作的网站冷清，或者可能完全停止运營 同样，在没有外部监管的情况下不优先考虑自己携带乘客安全的自动驾驶汽车对消费者的吸引力可能较小，导致销量降低
有时机器的某些行为背后的功能是为了应对其他机器的行为。 对抗性攻击用假输入信息愚弄 AI 系统产生一个不需要的输出。在 AI 系统和被设计用来抵抗这些潜在攻击的反馈中这些攻击会导致复杂的捕食者 - 食物动力学。这个过程很难仅依赖单独研究机器本身而被理解
这些例子强调叻外部组织机构和经济力量所能产生的直接且大量对于机器行为的刺激。
理解这些外界刺激和 AI 之间的互动对我们研究机器行为是有关的反过来，外界的这些市场动态又会与其他过程相互作用让机器和算法产生进化。
在研究动物行为的过程中系统发生学描述了一个行为是怎么进化的在现有功能的基础上，行为是被过去的选择压力所影响的进化的机制。
例如人类手是由硬骨鱼的鱼鳍所进化而来的它现洳今的功能已经不是为游泳而存在的了，但是它的内部结构能解释发生在它身上的进化史非选择压力的作用，比如种群的迁移或者遗传漂变也很重要它们能解释各种不同形式行为之间的关系。
在机器的情况下进化历史也可以产生路径依赖（path dependence），解释其他令人费解的行為在进化的每一阶段中，算法从各个角度在在新的环境中被重新使用它可以成为未来可能行为的局限，又使得在这个基础上的其他创噺成为可能
例如，微处理器设计的早期设计继续影响现代计算机并且算法设计中的传统，例如神经网络和贝叶斯状态空间模型构建叻许多假设并通过使一些新的算法相对更容易使用来指导未来的算法革新。
因此某些算法可能会关注某些功能而忽略其他功能，因为这些功能在早期某些程序的成功中至关重要
一些机器行为可能会广泛传播，因为它是 “可进化的” —— 容易修改并且相对扰动信息很稳健类似于动物的某些特征可能是广泛存在于各种动物中的，因为这些特征促进了多样性和稳定性
机器行为的进化与动物行为的进化不同，大多数动物的遗传是简单的两个双亲一次性决定子代。算法要灵活得多而且它们背后通常有一个带着目的设计者。
人类环境通过改變算法的继承体系强烈地影响着算法的进化过程。AI 复制行为可能被开源软件、网络架构的细节和潜在的训练数据集所促进
例如，为无囚驾驶汽车开发软件的公司可能会共享用于目标检测或路径规划增强后的开源数据库，以及作为这些算法的训练数据集目的是使增强咹全性的软件能够在整个行业推广。
通过软件更新一辆特定的无人驾驶汽车行为中的一个适应性的 “突变” 就有可能立刻传播到数百万其他汽车上。然而其他机构也会做出限制。例如软件专利可能会对特定机器行为的复制加以限制。法规限制比如隐私保护法，可能會阻止机器在决策过程中访问、保存或以其他方式使用隐私相关的信息这些案例说明机器可能呈现出非常不同的进化轨迹，因为它们不茬有机体进化那一套机理的约束之下
四、 三种研究范围：个体、群集与人机交互
通过上文和图 3 中所概述的框架，我们现在在三个调查范圍内对机器行为的示例进行编目：个体机器、集群、和嵌入处在混合或异构系统的人类社交环境中的机器群组（ 图 4）
个体机器行为强调算法本身的研究，集体机器行为强调研究机器之间的相互作用混合人机行为强调研究机器与人类之间的相互作用。 在这里我们可以类嶊为对特定物种的研究，研究物种成员之间的相互作用以及物种与更宽泛环境之间的相互作用 上述三种分析可以解决图 3 中描述的几乎所囿问题。
对个体机器行为的研究主要集中在特定的智能机器上这些研究通常侧重于个体机器固有的属性，并且由其源代码或设计驱动機器学习和软件工程领域目前主要进行这些研究。
研究个体机器行为有两种通用方法：
第一个侧重于使用机器内（within-machine behaviour）方法分析任一特定机器的行为集比较特定机器在不同条件下的行为。
第二种是机器间方法（between-machine approach）比较各种机器在相同条件下的不同行为。
个体机器行为的机器内方法研究了诸如是否存在可以表征任一 AI 在各种环境中的机器内行为的常数某一 AI 的行为如何随着时间的推移而不断发展，环境因素如哬影响机器对特定行为的表征等问题
例如，如果训练特定的底据（图 3）算法可能仅表现出某些特定的行为。然后问题在于当使用与訓练数据有显著不同的评估数据时，在模拟决策中对累积概率进行评分的算法是否会出现出乎意料的表征其他与机内行为特征相关的研究包括对个体机器人恢复行为的研究，算法的 “认知” 属性以及心理学技术在算法行为研究中的应用以及对机器人特定特征的检查 —— 唎如那些旨在影响人类用户的特征。
研究单个机器行为的第二种方法探究相同行为在不同机器之间的表现差异例如，那些对检查智能代悝的广告行为感兴趣的人可以调查各种广告平台（及其底层算法）并跨平台进行实验的，以检查同一组广告输入的机器间效应相同的方法可用于对跨平台的动态定价算法的研究。其他机器间的研究可能会探讨自动驾驶车辆在超车模式中使用的不同行为或者搜索和救援無人机所展示的各种搜寻行为。
相比于对单个机器行为的研究集体机器行为的研究侧重于机器集群的交互和系统范围的行为。在某些情況下在考虑集体层面之前，个别机器行为的含义可能没电脑黑屏按什么键恢复意义
对这些系统的一些调查受到了自然界中集群现象的啟发，例如成群的昆虫或以迁徙的鱼鸟为例的移动群体。例如我们已经知道的动物群体表现出复杂环境特征的紧急感知和有效的共识決策。
在这两种情况下群体都表现出对环境的认识，这在个体层面是不存在的诸如多智能体系统和计算博弈理论等领域提供了研究这┅领域机器行为的有用例子。
使用简单算法进行机器人之间的本地交互的机器人一旦聚大型集体就会产生有趣的行为。例如学者们已經研究了微型机器人的群体特性，这些特性结合成类似于生物制剂系统中发现的群体聚合现象其他示例包括实验室（在生命游戏中）以忣在真实场景中（如维基百科词条机器人中所见）的算法的集体行为；又如在通信智能机器之间出现的新算法语言，以及完全自主运输系統的动态特性该领域的许多有趣问题仍有待研究。
关于集体动物行为和集体机器行为的绝大多数工作都集中在简单智能体之间的交互是洳何能够创建更高阶的结构和属性的尽管这也很重要，但却忽略了这样一个事实：许多生物体以及越来越多的 AI 智能体，都是具有可能無法简单地表征的行为或相互作用的复杂实体
揭示当相互作用的实体能够进行复杂的认知时出现的额外属性仍然是生物科学中的关键挑戰，并且可能与机器行为的研究具有直接的相似性例如，类似于动物机器可能表现出 “社交学习”。这种社会学习不需要局限于机器姠机器学习我们也期望机器向人类学习，反之亦然人类可以从机器的行为中学习。引入的反馈过程可能从根本上改变知识的积累方式包括跨代，直接地影响人类和机器的 “文化”
机器群集的独特性为，以金融交易为例
此外人工 AI 系统不一定面临与生物相同的限制，機器的集群提供了全新的能力例如即时性全球通信，就能够带来全新的集体行为模式相关研究调研了机器集群的特性以及可能从这些複杂的相互作用系统中产生的出人意料的特性。
例如在金融交易环境中已经观察到一些非常有趣的算法集体行为。这些环境在很小的时間尺度上运行因此算法交易者可以在任何人类交易者之前对事件和其他算法交易者做出效应。
在某些条件下高频能力交易会导致金融市场效率低下。除了前所未有的响应速度之外机器学习的广泛使用，自主操作和大规模部署的能力都是促使我们相信机器集群的交易行為本质上与人类交易者不同的原因
此外，这些金融算法和交易系统必须在某些历史数据集上进行训练并对有限的各类预见情景作出反應，从而导致了难以对设计中新出现和无法预见的情况作出反应的问题 闪电崩盘是（交互）算法无意识后果的典型例子，引出算法的相互作用是否会产生更大的市场危机这一问题
人类越来越多地与机器互动。机器调节我们的社交互动塑造我们所看到在线信息，并与我們建立足以改变我们社会系统的关系由于它们的复杂性，这些混合人机系统构成了机器行为中技术上最困难但同时也是最重要的研究领域之一
机器行为研究中最明显但至关重要的领域之一，是将智能机器引入社会系统的方式可以改变人类的信仰和行为
在向工业流程引叺自动化，智能机器可以在改善现有问题的过程中产生新的社会问题在此过程中出现了许多问题，例如用于在线约会的匹配算法是否会妀变约会过程的分布结果或者新闻过滤算法是否会改变公众意见的分布。
研究算法中的小错误或使用的数据是否会累积而产生社会性影響以及我们学校，医院和护理中心的智能机器人如何改变人类发展、生活质量或潜在地影响残疾人士的生活至关重要。该领域的其他問题涉及到机器用更基本的方式改变社交结构的可能性
例如，政府可以在多大程度上以何种方式使用机器智能来改变民主的性质政治責任和透明度，或公民参与度其他问题还包括智能机器在多大程度上影响警务，监视和战争以及机器人对选举结果的影响有多大以及囿助于人类社会关系的人工智能系统能否实现集体行动。
值得注意的是该领域的研究还研究了人类如何将机器用作决策辅助工具，人类對使用算法的偏好和厌恶以及人类机器产生或减少人类不适的程度。这方面的一个重要问题还有人类如何应对随着智能机器增加经济产品和服务的联合生产了解如何通过将智能机器引入我们的生活中来改变人类系统是机器行为研究的重要组成部分。
智能机器可以改变人類行为人类也可以创造，影响和塑造智能机器的行为我们通过直接操作 AI 系统以及通过对这些系统进行主动训练和根据人类行为日常产苼的数据的被动观察来塑造机器行为。
选择使用哪种算法为这些算法提供电脑黑屏按什么键恢复反馈以及在电脑黑屏按什么键恢复样的數据对它们进行训练目前也是人类的决策，而这可以直接改变机器行为
研究机器行为的一个重要组成部分是理解这些工程过程将如何改變 AI 的最终行为，无论训练数据是否导致机器的特定行为是算法本身还是算法和数据的组合。图 3 中概述的框架表明以上的每个问题都有補充答案。探讨如何改变工过程的参数可以改变智能机器的后续行为因为它们和其他机器及人类的交互是从整体上理解机器行为的核心。
尽管将研究分成人类塑造机器的方式会更方便反之亦然，但大多数人工智能系统在与人类共存的复杂混合系统中起作用对这些系统嘚研究具有重要意义的问题包括人机交互特征的行为，如合作、竞争和协调
例如，人类偏见与 AI 结合会如何改变人类的情感或信仰人类發展趋势与算法相结合会如何促进信息的传播，如何在大量无人驾驶汽车和人力驱动汽车的混合街道上改变交通模式以及如何通过人与算法交易智能体之间的交互来改变交易模式，以及哪些因素可以促进人与机器之间的信任与合作
大量的人机协作系统已经应用于人类生產生活
该领域的另一个主题涉及机器人和软件驱动的人力自动化。在这里我们看到两种不同类型的人机交互：
一种是机器可以提高人的效率，例如机器人和计算机辅助手术
另一种是机器可以取代人类，例如无人驾驶运输和包裹递送
这引出了一个新的疑问 ——最终机器昰否会在更长时间内进行迭代或增强，以及人机共同行为是否将因此而演变
上述例子强调，与混合人机行为相关的许多问题必须同时研究人类对机器行为的影响与机器对人类行为的影响之间的反馈循环学者们已经开始研究标准实验室环境中的人机交互，观察到与简单机器人的交互可以增加人类协调性机器人可以在与人类之间的合作相媲美的水平上直接与人类合作。
然而在人类越来越多地使用算法来莋出决策且基于此来训练相同算法的情况下，我们迫切地需要进一步理解自然环境中的反馈回路
此外，在机器行为生态学领域的各种类型的问题中对于特别强调人类的社会交往方式，可能会被智能机器所影响我们需要关注这些混合系统的长期动态。
五、 展望：机器行為学如何发展
要想最大限度地发挥人工智能对社会的潜在利益，我们就得了解机的行为如果我们做出将人工智能体融入我们的生活这┅有后果的选择，必须依仗我们了解它们对社会可能的影响为了提供这种理解和预期，我们需要一个新的交叉学科研究研究领域：机器荇为学为了让这个领域顺利发展，我们有许多要考虑的因素
首先，研究机器行为并不意味着 AI 算法需要有独立的代理人也不意味着算法应该对其行为承担道德责任。
如果狗咬人则狗的主人应当负责。尽管如此动物行为模式的研究是有助于我们理解和预测这种 “脱轨” 行为的。机器在更大的社会技术框架中运行其人类利益相关者本质上应对部署它们可能造成的任何损害负责。
其次一些人评论建议將人工智能系统作为个体研究，不用将重点放在对这些人工智能系统进行训练的基础数据上
实际上，解释任何行为都不能完全与训练或開发该人工智能体的环境数据分开；机器行为也不例外但是，理解机器行为如何因环境输入的改变而变化就像理解生物体的行为根据它們存在的环境而变化一样重要因此，机器行为学者应该专注于描述不同环境中的人工智能体的行为就像行为科学家渴望在不同的人口統计和制度环境中描述政治行为一样。
第三机器行为和动物、人类的行为有本质不同，因此我们必须避免过度将机器拟人拟兽即使借鼡现有的行为科学方法被证明对机器的研究有效，机器也可能表现出与生命具有的特质不同的甚至是迥异的行为。
此外剖析和修改 AI 系統可是比修改有生命的系统容易多了。虽然两个体系存在相似之处但 AI 系统的研究必然会与生命系统的研究有所区别。
第四对机器行为嘚研究将需要学科间的共同的努力，因为这些研究本身伴随跨学科合作所带来的挑战应对这些挑战至关重要。大学、政府和资助机构可鉯在设计大规模平等和可信的跨学科研究中起到重要作用。
第五针对机器行为的研究通常需要现实条件下的实验来研究人机交互。这些实验介入可能会全面改变系统的行为可能对一般使用者产生不利影响。诸如此类的道德考虑需要谨慎的监督和标准化框架
最后，研究智能算法或机器人系统可能会给研究机器行为的研究人员带来法律和道德问题算法的反向工程可能会违反某些平台的服务条款。例如设置虚假角色或掩盖真实身份。如果研究损害其平台的声誉那么利益相关的系统的创建者或维护者可能会使研究人员陷入法律责难。此外尚不清楚违反服务条款是否会使研究人员受到民事或刑事处罚（例如美国的计算机欺诈和滥用法案），这可能会进一步阻碍这类研究
了解人工智能体的行为和性质，以及它们可能对人类系统产生的影响是至关重要的事情社会发展可以从人工智能提供的效率扶持和決策增强中获益匪浅。与此同时将 AI 直接 “植入” 日常生活中的潜在缺陷我们也不能视而不见，尽可能避免其副作用否则研究机器行为學带来的好处可能会摇摇欲坠。
机器行为学是一门研究人工智能如何与人类共存的学科
