生活方式 2023-11-24 16:30

过去一周,OpenAI事件的曝光引起了人们对通用人工智能(AGI)的关注,尤其是路透社(Reuters)的一篇报道披露,该公司的几名研究人员曾警告其董事会,一项“他们认为可能威胁人类的强大人工智能发现”。

那么,什么是AGI ?它与OpenAI的ChatGPT的生成式AI有何不同?其中的利害关系是什么?一位外星人的解释者:

通过高价值技能课程提升你的技术实力

提供学院 课程 网站西北大学凯洛格产品管理研究生证书访问印度理工学院德里IITD数据科学与机器学习证书课程访问印度商学院ISB数字化转型访问

什么是通用人工智能?通用人工智能(AGI)通常被理解为具有人类一般认知能力的软件,能够执行人类可以执行的任何任务。

换句话说,人工智能可能和人类一样聪明。这意味着,就像人类一样,计算机将能够运用它的“思维”,也就是说,在面对不熟悉的情况时找到解决方案。

根据Gartner的信息技术术语表,AGI是“一种具有理解、学习和应用知识的能力的人工智能”。

发现你感兴趣的故事

但对这个定义存在分歧。例如,OpenAI在其章程中将其定义为“在最具经济价值的工作中表现优于人类的高度自主系统”。

它和基因人工智能有什么不同?生成式人工智能是一种人工智能,它从输入其模型的大量数据中学习,并能够生成具有相似特征的文本、音频、图像、视频等新数据。它的工作原理是预测序列中接下来会发生什么。

另一方面,AGI更广泛地与人类智能相媲美,是开发人员创造的一个更大、更雄心勃勃的目标。根据Gartner的说法,AGI可以应用于更广泛的用例,并结合认知灵活性、适应性和一般解决问题的技能。

OpenAI在其章程中表示,它的目标是以一种对人类“安全和有益”的方式开发AGI。在2023年2月的一篇博客文章中,首席执行官萨姆·奥特曼写道:“如果AGI被成功创造出来,这项技术可以通过增加财富、涡轮增压全球经济、帮助发现改变可能性极限的新科学知识来帮助我们提升人类。”

AGI目前存在吗?根据谷歌DeepMind的研究人员的说法,目前像ChatGPT和Bard这样的系统最多只能被归类为“新兴AGI”——这是他们分类的最低级别,其次是胜任、专家、大师和超人。

根据研究人员的说法,超人类水平的AGI将能够比所有人类更好地执行各种任务,包括人类根本无法完成的任务,例如解码他人的想法、预测未来事件和与动物交谈。

据路透社报道,OpenAI员工提出警告的项目被称为Q*(发音为Q- star),据说该项目在寻求AGI方面取得了突破。

它会带来风险吗?对AGI系统的担忧是,它们可能超出人类的控制,或者可能与人类的价值观不一致。

此外,据《纽约时报》报道,奥尔特曼、谷歌DeepMind的德米斯·哈萨比斯和Anthropic的达里奥·阿莫代伊等行业领袖表示,人工智能可能会带来生存风险。

据《华尔街日报》(Wall Street Journal)报道,OpenAI首席科学家兼董事会成员伊利亚•苏斯凯弗(Ilya Sutskever)曾对员工表示,他担心AGI系统最终会像目前人类对待动物一样对待人类。苏斯凯弗最初支持奥尔特曼的下台,但后来态度发生了转变。

奥特曼曾表示,在最坏的情况下,AGI可能会导致“我们所有人都熄灯”。在今年2月的一篇博客文章中,奥特曼写道,尽管AGI有诸多好处,但它也存在严重的误用、严重事故和社会混乱的风险。