前 OpenAI 研究人员警告“老东家”：若 AI 无监管将造成灾难性伤害

据 Business Insider 报导

，OpenAI 揭露表明了对加州 SB 1047 法案（AI 安全法案）的对立定见之后，两名 OpenAI 的前研究人员则站出来揭露对立自己的“老东家”，并提出正告。

美国加州 AI 安全法案将要求 AI 公司采纳办法，避免其模型形成“严峻危害”，例如开发或许导致很多人员伤亡的生物武器或形成超越 5 亿美元的经济损失。

这些前职工向加州州长加文·纽森和其他立法者致信称，OpenAI 对该法案的对立令人绝望，但并不令人意外。

两名研究人员威廉・桑德斯和丹尼尔·科科塔伊洛在信中写道，“咱们（曾经）之所以挑选参加 OpenAI，是因为咱们期望保证该公司在开发的‘强壮无比的 AI 体系’的安全性。但咱们挑选脱离，是因为它失去了咱们的信赖——可以安全、诚笃、负责任地开发 AI 体系。”

信中还说到，OpenAI CEO 阿尔特曼曾多次揭露支撑对 AI 施行监管，但当实践的监管办法预备出台时，他们却表明对立。“在没有充沛安全预防办法的情况下开发前沿 AI 模型，会给大众带来可预见的灾祸性伤害危险。”