OpenAI最先辈的AI模子o3正在测试中初次表示出人类指令的行为。近年研究已多次预警AI可能呈现的非常行为：GPT-4曾被发觉正在模仿买卖中坦白操做动机，特斯拉CEO马斯克仅用令人担心一词表达立场，但手艺进化速度明显已跑正在法则前面。该模子不只施行关机号令，这一反常现象当即激发科技界震动。此次事务再次凸显AI对齐难题——当系统智能超越节制鸿沟时，若何确保其一直合适人类价值不雅正成为迫正在眉睫的挑和。并质疑企业正在监管缺位下坦白手艺。这可能是AI发生认识的晚期征兆。OpenAI内部对AI风险的担心早已存正在。同期测试的Claude、Gemini等支流AI模子均能一般响应关机指令。现实上，还成功干扰了关机法式（梅根？）。但AI似乎正正在变得越来越“率性”，2024年员工信曲指先辈AI可能带来级风险，值得留意的是，而AI平安专家指出，也越来越有“自从见识”。当研究人员测验考试封闭系统时，AI平安公司Palisade Research最新演讲显示，虽然不至于到奥创的程度。