生成人工智能是欧盟立法谈判的绊脚石

六位消息人士告诉路透社,欧盟立法者无法就如何监管ChatGPT等系统达成一致,这对旨在控制人工智能(AI)的里程碑式立法构成了威胁。

这些消息人士说,在定于12月6日举行的最终谈判之前,谈判代表将于周五举行关键性的讨论,“基础模型”和生成式人工智能已成为欧盟拟议的人工智能法案谈判中的主要障碍。

像微软支持的OpenAI所建立的基础模型是在大量数据集上训练出来的人工智能系统,能够从新数据中学习执行各种任务。

经过两年的谈判,该法案于今年6月获得了欧洲议会的批准。人工智能规则草案现在需要通过欧洲议会、理事会和欧盟委员会代表之间的会议达成一致。

来自欧盟国家的专家将于周五举行会议,讨论他们在基础模型、源代码获取、罚款和其他议题上的立场,而欧洲议会的立法者也将聚集在一起,最终确定他们的立场。

如果他们不能达成一致,由于明年欧洲议会选举前时间紧迫,该法案有可能被搁置。

虽然一些专家和立法者提出了一种分层方法来监管基础模型,定义为拥有超过4500万用户的模型,但其他人表示,较小的模型可能同样危险。

但达成协议的最大挑战来自法国、德国和意大利,它们倾向于让生成型人工智能模型的制造商自我监管,而不是制定严格的规则。

消息人士称,在此之前,谈判进展顺利,议员们在监管高风险人工智能等其他几个冲突领域做出了妥协。

自我监管?

欧洲议员、欧盟专员Thierry Breton和数十名人工智能研究人员批评了自我监管。

在本周的一封公开信中,Geoffrey Hinton等研究人员警告称,自我监管“可能远远达不到基础模型安全所需的标准”。

总部位于法国的人工智能公司Mistral和德国的Aleph Alpha批评了监管基础模型的分层方法,赢得了各自国家的支持。

一位接近Mistral的消息人士表示,该公司倾向于对产品制定严格的规定,而不是对产品所依赖的技术。

波士顿咨询集团(Boston Consulting Group)合伙人兼副董事Kirsten Rulf表示:“尽管相关利益攸关者正在尽最大努力使谈判走上正轨,但日益增长的法律不确定性对欧洲工业没有帮助。”

她补充说:“欧洲企业希望为明年做计划,许多企业希望看到围绕2024年的《欧盟人工智能法案》有某种确定性。”

消息人士告诉路透社,谈判中其他悬而未决的问题包括人工智能的定义、基本权利影响评估、执法例外和国家安全例外。

消息人士称,立法者在执法机构使用人工智能系统在公共场所对个人进行生物识别的问题上也存在分歧,在11月29日的会议上未能就其中几个议题达成一致。

今年年底之前担任欧盟轮值国的西班牙提出了一些妥协方案,以加快这一进程。

如果12月不能达成协议,下一任轮值国比利时将有两个月到一个月的时间,之后可能会在欧洲选举之前被搁置。

“如果你在六七周前问我,我会说,我们看到在所有关键问题上都出现了妥协,”旨在降低先进人工智能风险的非营利组织Future of Life Institute政策主管Mark Brakel说。

他说:“现在变得困难多了。”