“人机融合”值得期待 伦理风险亟待解决

来源标题：“人机融合”值得期待 伦理风险亟待解决
美国科幻巨匠阿西莫夫向往的未来世界，是以人类为代表的“碳文明”及以机器人为代表的“硅文明”和谐共存，他所提出的“机器人三定律”，已跳出科幻小说，具有了现实意义。
很多人工智能和机器人领域的技术专家将“机器人三定律”认定为未来机器人的安全准则，由此展开关于人与机器关系的大讨论，并就“人机共融”的世界有可能存在的风险进行预判。
在世界工程组织联合会前任主席、中国电子学会副理事长龚克主持下，三位院士在2022世界机器人大会领航峰会上，围绕机器人的发展方向、路径及挑战展开了对话。
通用型机器人必要性不大
如中国科学院院士、中国科学院自动化研究所研究员乔红所言，人类对机器人有很多期待，随着技术的发展和应用渐次落地，人们希望机器人能替我们做更多的事情，甚至更像人类。
乔红表示，从某种意义上说，当机器人从简单的服务进化为越来越多地替代人类从事复杂、艰难、危险的工作，它和人类的关系已从“奴仆”走向好朋友，地位逐渐平等，但无论“人机融合”如何发展，服务于人依然是机器人的生存准则。
关于公众关注的未来机器人长什么样，中国工程院院士、中国科学院沈阳自动化研究所机器人技术国家工程研究中心主任王天然认为，未来机器人本体形态将会五花八门。
王天然说：“人对机器人有非常多的幻想，如果真的有人造肌肉代替现在机器人的钢铁机械臂，运动学都要重写。”
在中国科学院院士、清华大学人工智能研究院名誉院长张钹看来，基本建立在电机和齿轮传动机基础之上的机器人要完成物理世界的任务，可以走仿真之路，但目前还做不到真正仿人，因为材料等问题还没解决。
“围绕通用人工智能有很多争论，但造一个完全跟人一样的机器人，必要性不是很大，目前也做不到。”张钹说，“机器人的目标是协助人类完成任务，它基本表现为专用而非通用，既然如此，没必要非让手术机器人去扛大包，多任务种类的机器人是合理存在。”
发展要抓创新也要抓治理
人工智能技术对机器人的发展有着至关重要的影响，但张钹指出，公众对机器人和人工智能两个重要领域的理解存在偏差。
“或许是因为名字的关系，‘机器人’让公众误解为它必须像人，‘人工智能’让公众以为它是做智能的。”张钹指出，不能把人工智能和机器人划等号，也不能把双方理解为互相包含，这是两个独立的学科和应用领域。
“机器人模拟人类的智能行为只是手段之一，它的目标是协助人类完成某种任务。人工智能的目标是用机器模仿人类的智能行为，追求的是机器的行为跟人类行为的相似性。”张钹强调，人工智能是用机器模拟人类的智能行为，不是模拟智能。
包括霍金在内的很多学者都持有这样的观点，人类一旦研制出有自我意识的超智能机器人，将无法控制它，后果很严重。
王天然表示，机器人统治人类的想法过于科幻，挑起了人和机器的矛盾。人类设计制造机器人的目的，不是让它争夺控制权，人造机器不可能达到这个目标。
那么，人与机器的关系究竟应该怎样？王天然以外骨骼机器人为例指出，现在的外骨骼机器人可以帮助伤残人士解决一定问题，它和人类的关系“宛如手足”。但人背负一堆钢铁，既不舒服，也暂未实现很好的协调。未来，希望人和机器人能够达成彼此感知互动，实现人和机器人“宛如同类”的关系。
张钹对当前的人工智能赋能机器人未来发展持谨慎态度。尽管人类是否能制造出超级智能机器人在学术界还存在争议，但张钹指出，现阶段人工智能算法存在不安全、不可靠等风险，“仿声”“换脸”等误用、滥用人工智能问题的出现发出了预警，机器人发展的远虑已经变成近忧，必须马上着手解决。
信息科技发展异常迅猛，但基本实现了安全可控，重要原因在于，信息学基础理论在信息科技发展之初就已建立。因此，张钹重申为人工智能补上理论基础的“第三代人工智能”理念初衷。
具体来说，就是融合第一代的知识驱动和第二代的数据驱动的人工智能，建立新的可解释的人工智能理论与方法，从而发展安全、可信、可靠和可扩展的人工智能技术。
张钹强调，虽然未来机器人治理有很多难题，但可研究新的伦理分析工具进行更好的伦理分析和结果预测，利用深度学习方法对不道德和道德行为给出样本进行分析，以及通过仿真模拟大量实验来解决安全性问题和伦理问题。