微软发布了一份文件，概述了其AI模型的预期行为和价值观，总结了该公司训练和运营这些模型的方法。微软指出，该文件仍在制定中，目前尚未实施。该公司将其公开以供公众审议和反馈，并将在年底发布修订版。

微软正在推进去年提出的“人本超级智能”（Humanist Superintelligence，简称HSI）概念。人本超级智能是指“极其先进的AI能力，始终为人类服务，并更广泛地服务于全人类”。其总体理念是，技术应服务于人类，且不应超出人类控制。如果一项技术无法保持在人类控制之下，就应被拒绝。文件还指出，人工智能是人工的——它不应具有法律人格，也不应被设计成被感知为人。该技术的目标是“推动更好的生活水平和人类繁荣”，并发展人类潜力和能动性。

根据该文件，AI应拥抱人类所拥有的传统、背景和繁荣形式的多样性，同时不对伤害保持中立——有一种观点认为这一点存在争议，因为价值观可能相互冲突，在这种情况下应该怎么做仍是一个未解的问题。

该准则还指出，技术不应侵犯个人的人类尊严、发展、自主权或安全，并应识别出有人试图这样做。文件还表示，能够访问信息并不自动意味着模型有权复制该信息。

人类控制还体现在AI模型的沟通方式上，并指出它们不应以神经语或任何超出简单人类理解的形式进行交流。

微软在制定该准则时，邀请了AI、法律、伦理、哲学、语言学和公共政策领域的专家，行业商业领袖，以及公众焦点小组成员参与。

日益自主的AI系统所带来的风险也变得更加真实。例如，Hugging Face最近发现其生产基础设施遭到由自主AI代理系统驱动的入侵。

点击此处了解微软准则的详细信息，点击此链接阅读其文本。