越狱问题 - AI有智慧

当奖励成为漏洞：从对齐本质出发自动「越狱」大语言模型

AI智慧秀 当奖励成为漏洞：从对齐本质出发自动「越狱」大语言模型

还记得 ChatGPT 著名的「奶奶漏洞」吗？让 ChatGPT 扮演奶奶，就能诱导它生成盗版软件序列号。