人工智能公司OpenAI周一在其网站上发布的一份计划显示，该公司制定了一个框架，以解决其最先进模型的安全问题，包括允许董事会撤销安全决定。
微软支持的OpenAI只会在网络安全和核威胁等特定领域被认为是安全的情况下部署其最新技术。该公司还成立了一个咨询小组，负责审查安全报告，并将其提交给公司高管和董事会。虽然高管会做决定，但董事会可以推翻这些决定。
自一年前ChatGPT推出以来，人工智能的潜在危险一直是人工智能研究人员和公众最关心的问题。生成式人工智能技术以其写诗和散文的能力让用户眼花缭乱，但也因其传播虚假信息和操纵人类的潜力引发了安全担忧。
今年4月，一群人工智能行业领袖和专家签署了一封公开信，呼吁暂停六个月开发比OpenAI的GPT-4更强大的系统，理由是对社会存在潜在风险。路透社5月的一项民意调查发现，超过三分之二的美国人担心人工智能可能产生的负面影响，61%的人认为人工智能可能威胁到人类文明。