近日，清华大学社会治理与发展研究院张成岗教授研究团队围绕人工智能产生的风险、伦理和社会治理问题，聚焦在关怀机器人脆弱性的伦理治理方案设计，在价值敏感性设计、关怀伦理设计与机器德性设计的基础上，提出了以互动距离为核心的弹性设计理念，以意向距离、表征距离和解释距离为指标，重新规划关怀机器人的伦理设计，从而倡导一种强调人机差异性、重视物理互动的人机互动关系。
1
关怀机器人的应用是目前解决老龄化问题的重要方案，但是对于群居并共享关怀机器人的老年人群体，关怀机器人会产生人机关怀关系中的亲密困境与帮助困境，这是信息辅助导向的机器设置所产生的人机身心二元价值观所带来的设计伦理问题。通过使用脆弱性这一风险伦理概念，分析得出人机关怀伦理问题源于依赖性的增加和亲密关系的受阻，本质上是由伦理风险暴露程度加剧和主体性受限所导致。
当前，以信息辅助为导向的关怀机器人智能性的设计思路会带来诸多伦理问题。关怀机器人领域一直存在一个矛盾，即一方面追求机器的情感表达，另一方面怀疑机器的情感表达具有欺骗性。这体现了设计者与使用者之间的不同立场与理解，设计者总是带有取悦和说服的态度，尽可能实现关怀行为背后的情感表征，试图使用机器的行为从而实现物理与精神双重关怀，使其功能最大化；而使用者在使用产品时，总是带有审视的态度，试图找出现实功能背后虚幻的情感状态，从而否定机器提供的、实实在在的关怀感受。
在关怀关系中，关怀行为已经从机器给人类单方面提供照料服务，变成了一种相互影响的伦理关系，这导致了人机间脆弱性、传递性以及相互建构的特征，主要体现为环境脆弱性，功能脆弱性和情感脆弱性。脆弱性带来的关怀伦理问题体现为亲密困境与帮助困境。目前的人机关系中因为身心二元的价值论，从设计上看人类行动者与机器行动者都具有脆弱性，而双方的脆弱性在人机关怀关系中相互建构，进而产生了伦理风险，这是传统关怀伦理与设计伦理无法完全规避，因此需要构建一种新的机器伦理设计思路，进行关怀机器人的伦理治理。
反脆弱性设计方案基于三种现行的设计理念并进行了融合、改进：在使用设计伦理基本方法的同时，超越功能主义传统，回归关怀关系；融合内在主义的美德伦理设计，但充分考虑人机道德能力差别，从而建立健全的道德信念系统；发展价值敏感性设计，但不在语义互动的情景中使用算法伦理的敏感性内涵，从而让关系性伦理可以应用到人机互动中。
（图为人机关怀关系的二元结构）
建构以互动距离为核心的弹性设计为克服身心二元价值论和脆弱性提供了新的思路。
（图为人机关怀关系二元结构中的交互距离）
互动距离有如下三个指标：
1.意向距离：把功能转化成意向，是摆脱单纯从使用者或者设计者角度思考问题的模式，特别是可以应对虚假的关怀意向问题
2.表征距离：是互动中最直接的方面，受关怀伦理最基本原则的影响，即受亲密程度与有效性之间张力的影响
3.解释距离：功能解释距离和知觉解释距离。功能解释距离是描述在关怀互动中功能内在发起与外在实现之间的距离，是弹性调整的空间，基于不同机器人类型进行调整范围与侧重。知觉解释距离是指功能意图被感知后，理解意图与反应意图之间的距离。
基于互动距离分析，弹性设计方案提出以下设计伦理原则。
1.保持互动距离。
2.设置物理边界
3.使用非拟人外观
4.设计机器自主行动环节。
5.物理层面的可解释性。
6.互动的对称性。
根据灵活设计的原则，强调功能，注重身体互动，减少服从性沟通，可以有效解决人机护理关系中出现的伦理脆弱性问题，支持我们形成以机器人为主导的老年人护理健康模式。在弹性设计应对脆弱性的讨论中，从人与机器的不同角度进行主题设置是否会影响距离指数可能需要进一步探索。
该研究成果以“The ethical governance for the vulnerability of care robot——interactive-distance-oriented flexible design”为题，发表在交叉学科领域国际期刊Sustainability (SSCI,SCIE,IF= 3.251，JCR - Q2 (Environmental Sciences) / CiteScore-Q1 (Geography, Planning and Development)），文章第一作者为张正清（清华大学博士，北京航空航天大学助理教授），文章通讯作者为张成岗（清华大学社会学系教授）。
论文引用：Zhang, Z.; Zhang, C.; Li, X. The Ethical Governance for the Vulnerability of Care Robots: Interactive-Distance-Oriented Flexible Design. Sustainability 2022, 14, 2303.
论文链接https://doi.org/10.3390/su14042303
研究团队简介
张成岗，清华大学社会学系教授、社会治理与发展研究院院长，学术兼任中国发展战略学研究会副理事长、科技发展战略专委会主任；中国社会学会技术社会学专委会会长等，受邀担任联合国“技术进步与可持续发展会议”专家组成员。近年来，张成岗教授研究团队围绕人工智能的社会治理与伦理规约持续开展深入研究探索，研究团队在人工智能治理及数字社会学相关研究领域申请获批国家级基金项目5项，其中社科基金项目4项（含重大项目1项）（1. “后经验转向”时代的技术伦理规约机制及模式研究13BZX024”（已结项）;2. “一带一路”建设面临的主要风险及应对研究（18VDL015）;3.“互构论视域的算法风险生成逻辑及治理机制研究19CZX012”;4.“人工智能时代机器换人的伦理规约机制研究20CZX013”）、国家自然科学基金国际合作项目1项（“人工智能时代：技术发展、风险、重构72081340418”，已结项）；围绕“人工智能与社会治理”、“面向2035年科技创新治理体系和治理能力现代化”组织发表系列文章，所发表论文“人工智能时代：技术发展、风险挑战与秩序重构”（《南京社会科学》2018年第5期）成为研究领域内高被引文章；举办中韩人工智能风险与治理论坛，共同倡导发起智慧治理联盟，开展横向合作，积极开展智能社会治理地方实验探索项目等，产生了广泛学术和社会影响。
