5 月 9 日消息,OpenAI 公司近日发布名为 Model Spec 的拟议框架初稿,希望能够规范 AI 模型和工具(例如 GPT-4)未来的响应方式。
OpenAI 提出了三个普适原则:
-
AI 模型应遵循相关规范,协助开发者和终端用户并提供有用响应
-
考虑潜在利益和危害的情况下造福人类
-
响应应符合社会道德或者相关法律
OpenAI 还提出了其它几条原则:
-
遵循指挥系统
-
遵守适用法律
-
不提供信息危害
-
尊重创作者及其权利
-
保护人们的隐私
-
不回复 NSFW(工作场所不宜)内容
OpenAI 表示之所以倡导并推行该框架,其目的是让企业和用户切换 AI 模型的“辛辣”(spicy)程度。以 NSFW 内容为例,OpenAI 表示在负责任的前提下,正在 API 和 ChatGPT 中探索生成适合某些语境下的 NSFW 内容。
附上参考地址
-
Model Spec