科技巨头微软的总裁表示,未来12个月内不可能创造出超级智能的人工智能,并警告说,这项技术可能需要几十年的时间。
本月早些时候,OpenAI联合创始人Sam Altman被公司董事会免去了首席执行官的职务,但在员工和股东周末的强烈抗议下,他又迅速复职。
路透社上周独家报道称,就在研究人员与董事会联系后不久,他们就发现了一个危险,担心会产生意想不到的后果。
一位消息人士告诉路透社,这个名为Q*(发音为Q- star)的内部项目可能是这家初创公司在探索所谓的通用人工智能(AGI)方面的一个突破。OpenAI将AGI定义为在大多数具有经济价值的任务中超越人类的自主系统。
然而,微软总裁Brad Smith周四在英国接受记者采访时否认了这一危险突破的说法。
在未来12个月内,你绝对不可能看到所谓的AGI,即计算机比人更强大。这需要几年,甚至几十年的时间,但我仍然认为现在是关注安全的时候了。
消息人士对路透社表示,对OpenAI董事会的警告是导致Altman被解雇的诸多不满之一,此外还有对在评估风险之前将技术成果商业化的担忧。
当被问及这一发现是否导致了Altman的离职时,Brad Smith说:“我认为根本不是这样。我认为董事会和其他人之间显然存在分歧,但从根本上说,这并不是出于这样的担忧。”
我们真正需要的是安全刹车。就像你在电梯里有安全开关、电力断路器、公共汽车的紧急刹车一样,控制关键基础设施的人工智能系统也应该有安全开关,这样它们就始终处于人类的控制之下。