确保AI不会毁灭人类的关键是人格化管理AI机器

OldDriver Comake Online

全文阅读需要10分钟

能够自主工作的AI机器大大增强了人类的能力，但也存在脱离人类监管，使人类功能退化，甚至毁灭人类的可能。关键是要人格化管理AI机器。而芯片是机器实现人格化的技术保障。

01 机器增强了人类的能力

工具的使用，促进由猿变人的进化；人类对能源利用和信息处理的发展，推动着机器的进步，社会的变革。

机器增强了人类感知、处理和表达的能力。拓展了人类的活动范围、跨越了时间和地域的限制、突破了人类体能的限制、促进了相互交流和社会发展。

自主的AI机器出现使人类渐渐摆脱重复性、体力性劳动。

AI不应当导致人类功能性退化，甚至最后反被机器所供养和操控。

人类的未来不应该在工厂罐子的营养液里生活

外骨骼机器辅助运动

应当让人类摆脱疾病的困扰、克服身体缺陷和体能的限制，在大自然面前更安全地生存、更有尊严和品质地生活、更加自由地探索和创造。

02 人类需要个性化机器

DNA复杂性、两性繁殖、生物多样性、社会的纷繁复杂、大自然的变幻莫测，揭示着人类需要多样性和个性化的机器。

如果未来城市出现这样的景象，人类应该会觉得恐惧...

人类统治地球，同时又保护自然环境和生物多样性，追求人与自然的和谐统一。

如果这个机械手是一个残疾人的义肢，会觉特别温馨。

如果是背后绑定了一个真实动物的AI机器，一样可爱。

个人装备化的机器和个人私有化的网络虚拟角色，才是人类需要的未来机器。科技以人为本！

协助人负重

协助人行走

陪伴机器人

护理机器人

个人交通工具

个人数字化身

03 机器需要且可以人格化

AI机器需要个人化定制和个性化训练，接受主人的关联绑定和管理约束，由主人授予权力和承担责任，将主人的部分人格赋予机器，即人格化。

人格化机器，不是指机器外观长得像人或动作表情像人，并不一定要是"人形"的机器人。

人格化机器，是指机器继承了其主人的人格，携带了独特的性格特征品质。

机器人不是"人"，而应该是人格化机器。

什么是人格？

Personality

人格(personality)是一个人的独特性格特征品质。

人格包括感觉、情感、意志等个体反应方式，也包含在社会活动中言行举止、做事风格等与他人的社会交往方式。

人格是个体反应方式与社会交往方式总和，是共同性与差别性、生物性与社会性的统一。

人格特征有独特性、稳定性、统合性、功能性。

人格形成包含遗传和环境影响。

人格在法律上是做人的资格，包括姓名、肖像、名誉、隐私等不可剥夺要素。

人格化机器

Personify Machine

人格化机器同样具有独特的行为特征品质

该机器包含传感、处理、存储等个体功能，也包含其在网络世界与其它机器的通讯交流方式和信息反馈结果。具有共同的通讯协议又存在可能不同的信息处理结果。

人格化机器是个体功能及其网络关系的总和。

人格化机器是共同性与差别性、个体性与网络性的统一。

人格化机器同样有独特性、稳定性、统合性、功能性；

机器具有独特性，分别指以下几个方面：

机器具有唯一的ID(姓名)，绑定了一个具体的主人，公开或不公开地关联上该人的法律上姓名。

存储有主人唯一的生物特征，包括面部特征、指纹、虹膜、甚至DNA信息。

机器带有独特性、唯一性、随机性的信息，不可被复制和冒充；机器的生产者可以制造相同功能规格的机器，但无法复制出机器中相同的用户密钥。密钥存储在芯片一次性可写分区中，在机器出厂后由用户输入随机设定，密钥只能供芯片中加密计算单元使用，人们无法从芯片中直接读取或推测原始key值，也无法通过x-ray照射等逆向工程获取。也就是说无论机器制造厂商还是机器使用主人，都无法通过信息复制的方法克隆出同样的机器。

机器使用同一个公开的通讯协议与其他机器交换信息，具有网络性的统一。

机器具有稳定性。

其唯一ID一旦建立，则无法更改；其信息特征的形成，需要时间的慢慢积累；例如各种运行日志、通讯记录、交易流水等。无法通过复制形成。只能建立个体间信息关联。

机器具有统合性。

具备什么类型的特性，才能完成什么样的功能；拥有多少的资源，才能完成多少的事务。具有内在统一的一致性，受主人意志的调控。

机器具有功能性

具备感应、传输、计算、控制、存储等基本功能。特性能实现诸如安防监控、自动控制、即时通讯、网上交易等不同功能。

人格化机器同样包含"遗传"和"环境"两个方面

具有人格的机器产生同样包含”遗传”（即制造，出厂时就设定好的一致性程序功能行为)和”环境”(即训练，出厂后的个性化设定、AI训练等的机器学习结果，以及存储的不同输入等等不可复制性信息)两方面的结果。

人格化机器应当能够在法律上代表主人

人格化的机器应当能够在法律上代表拥有并使用该机器的主人。同样具有姓名(设备的ID)、肖像(主人的人脸指纹等生物特征)、名誉(大家的对自己评价，包含诚信度、可信度)、隐私(不愿意让他人知道的信息)等要素；在网络世界的名誉(信誉)不可侮辱、诋毁；隐私不可侵犯；

人格化机器与人的区别

Difference

人类	人格化机器
人具有爱恨情仇、会勇敢和害怕等	人格化机器本身不具备独立情感，机器情感来自主人的情感表达
人会撒谎和欺诈等	人格化机器只会忠实地执行和记录主人的一举一动所有操作
人会否认、抵赖；记忆遗忘或无意识地选择性记忆、混淆；不可追溯	人格化机器在网络世界的操作应当具有不可逆性；即使撤销某个处理，也只是做了反向操作，追加记录，无法抹除在网络世界的所有通讯记录；处理通讯过程可追溯性；

将机器做人格化需要芯片、算法等技术一起实现，确保AI机器有统一的沟通接口，又有个性化的功能，接受主人的训练和管理。

将机器做人格化最简单初级的方式，就是刻上主人名字。并且技术上能够防止篡改，达到绑定责任人方式。

没有人格化的机器，没有主人的有效管控。相当于没有证牌、没有主人的流浪狗。

人格化的机器应该随着主人的变更而转移相关权力与义务，并仍然可追溯历史。

04 机器人格化的意义

机器人格化符合欧盟《人工智能伦理指南》七条关键要求：

人的管理和监督；
稳健性和安全性；
隐私和数据管理；
透明度（可追溯性）；
多样性、非歧视性和公平性；
社会和环境福祉；
问责制；

机器人格化可以很好解决个人隐私与公共安全问题、个人自由与政府监管问题、真实人类身份与网络虚拟人物关联。

一个人可以拥有多个不同身份角色和功能特征的人格化机器。作为替身分别出现在工作、家庭、社交等场合。

工作

保安

安全巡逻

主人

拥有多个
人格化机器替身

家庭

父亲

远程辅导

社交

达人

网络交友

一个保安员，可以派出一个巡逻机器人替代自己去上班巡查，或安装一个门禁机器值守；同时又承担父亲责任，有数字替身远程辅导教育孩子；还拥有一个网络世界的虚拟角色，与别人网络聊天互动；几个看起来不关联的替身角色，都继承了该保安员的部分人格，承担了法律上的权力和义务。

武装AI无人机

AI自主攻击武器

人类历史上，铁器的发明，引发冷兵器时代的战争；工业革命，引发了一战和二战；原子弹的出现，让人类第一次面临毁灭的边缘。AI武器和机器人的觉醒，不应该让人类走向毁灭，应该受人类的约束和控制，需要人格化管理。

05 芯片是机器实现人格化的技术保障

半导体芯片工艺具有独特性、唯一性、稳定性和随机性，是机器实现人格化的技术保障。

半导体芯片物理不可克隆技术 (PUF)

物理不可克隆功能(即PUF：physical unclonable function)是一种“数字指纹”，用作半导体设备(如微处理器)的唯一身份。PUF基于在半导体器件在晶圆制造过程中自然发生的物理变化，并且使得区分其他相同的半导体成为可能。电路生成一个唯一输出值，该值可以在不同的时间、温度和工作电压条件中保持不变。任何探测或观测PUF操作的尝试都将改变底层电路特征，这可以防范侵入式物理攻击侦测芯片加密功能所使用的唯一值。PUF通常用于密码学。物理不可克隆函数是物理结构中体现的物理实体。目前，PUF通常用集成电路来实现，通常用于对安全性要求较高的应用中。

PUF输出的不可直接读取的唯一值作为私钥，配合非对称加密硬件引擎、随机数发生器、芯片ROM中唯一的unique ID，可以组成一个严密的安全加密装置。

物理不可克隆功能应该具有唯一性、隐匿性、稳定性和随机性。

目前的信息加密传输技术，靠数学难题计算来实现。

特别是公开算法的非对称加密技术，是根据RSA、ECC等著名数学难题，假定目前人类和机器的计算能力尚无法短时间破解的前提下，实现信息加密。

信息加解密处理及密钥的保管最佳方式就是在半导体芯片内进行。

除非未来量子物理、量子通信和量子计算取得突破性进步，否则在未来较长时期内，半导体芯片仍然是信息加密计算传输、信息唯一性(不可篡改)等的技术保障。

06 让人格化机器服务人类

人类需要各种个人定制和单独训练的人格化机器。