OpenAI正在开发一种工具，可以高度准确地检测人工智能生成的图像。
广受欢迎的聊天机器人ChatGPT和图像生成器DALL-E的制造商的首席技术官Mira Murati周二表示，OpenAI的工具在确定图片是否使用人工智能制作方面“99%可靠”。她说，在计划的公开发布之前，它正在进行内部测试，但没有具体说明时间表。
Murati与OpenAI首席执行官Sam Altman一起出席了在加州拉古纳海滩举行的《华尔街日报》Tech Live会议。
已经有一些工具声称可以检测人工智能制作的图像或其他内容，但它们可能不准确。例如，OpenAI在1月份发布了一个类似的工具，旨在确定文本是否是人工智能生成的，但由于不可靠，它在7月份被搁置了。该公司表示，正在努力改进该软件，并致力于开发识别音频或图像是否由人工智能制作的方法。
随着人工智能工具可用于操纵或捏造全球事件的新闻报道，对此类检测工具的需求只会变得越来越重要。Adobe公司的Firefly图像生成器解决了这一挑战的另一个方面，它承诺不会创建侵犯创作者知识产权的内容。
周二，OpenAI的高管们还暗示了GPT-4之后的人工智能模型。虽然OpenAI没有公开表示GPT-4的后续型号可能会被称为什么，但这家初创公司在7月份向美国专利商标局申请了“GPT-5”商标。
像ChatGPT这样的聊天机器人——使用GPT-4和之前的模型GPT-3.5——倾向于编造事情，也被称为幻觉；当被问及GPT-5模型是否不再说谎时，Murati说：“也许吧。”
“让我们看看。我们已经在GPT-4的幻觉问题上取得了很大的进展，但我们还没有达到我们需要的程度，”她说。
Altman还谈到了OpenAI可以设计和制造自己的计算机芯片来训练和运行自己的人工智能模型的可能性，而不是使用目前被视为市场领导者的英伟达公司(Nvidia Corp.)等公司提供的芯片。
他说，“默认的做法当然是不这么做，但我永远不会排除这种可能性。”