这场OpenAI“宫斗戏”,其实是关乎全人类的选择题

来源:东西问客户端综合报道 1700557149745

这场“宫斗”是人工智能治理这个关乎全人类的时代命题在精英公司的冲击性展示。能否在商业和安全两者之间找到的平衡点,是对人类智慧的一次考验。

11月17日,风靡全球的聊天机器人ChatGPT背后的OpenAI公司,解雇了其首席执行官(CEO)兼创始人山姆·阿尔特曼(Sam Altman)。当地时间11月19日深夜,美国微软公司宣布,阿尔特曼及其前同事们将加入微软,领导一个新的高级人工智能研究团队。

《纽约时报》20日援引知情人士的话称,OpenAI的770名员工中已有700多人在一封信上签名,称如果阿尔特曼不能回到OpenAI,他们也将辞职并加入微软的新团队。美国媒体分析指出,阿尔特曼的工作变动显示出人们在人工智能领域的分歧。有些人认为人工智能是网络浏览器以来最重要的新技术,也有人担心过快开发人工智能可能会带来风险。

  当地时间2023年11月6日,美国加州,OpenAI首席执行官山姆·奥特曼在OpenAI开发者大会发表讲话。(图片来自视觉中国)

营利派与非营利派之争

OpenAI成立于2015年,OpenAI成立之初是一家非盈利机构,并设立了宏大愿景——确保人工智能不被垄断以造福人类。这样的理想主义目标,吸引了一大批顶级AI科学家拒绝其他科技巨头的“高官厚禄”,而选择加入OpenAI。阿尔特曼则在2019年将这方“理想之地”改制成了“利润上限”公司,即营利性和非营利性的混合体,并推出ChatGPT引发了全球新一轮人工智能热潮。

而OpenAI联合创始人、首席科学家伊尔亚·苏茨克维(Ilya Sutskever)等人认为,OpenAI的发展不能偏离核心价值,应当造福全人类,而不是股东。

今年3月,OpenAI发起人之一埃隆·马斯克还在社交媒体上吐槽这家企业:“我仍然很困惑,当初我捐赠了约1亿美元的非营利组织,现在怎么变成了一家市值300亿美元的营利性公司?”

正因为这段恩怨,网络上有人称:阿尔特曼被董事会踢出,是在向马斯克致敬。

  ▲埃隆·马斯克。(中新社资料图片)

保守派与激进派之争

关注人工智能行业的人士应该还记得,今年3月,马斯克和人工智能领域顶尖专家、图灵奖得主约书亚·本吉奥等人联名发表《暂停大型人工智能研究》公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统,为期至少六个月,以确保人类能够有效管理其风险。这封公开信,获得上千位业内人士签名响应。

“当人工智能系统在执行一般任务上变得具有人类竞争力时,我们必须问自己:应该让机器用宣传和谎言淹没我们的信息渠道吗?应该实现所有工作的自动化,包括令人满意的工作吗?应该开发出非人类的思想,让它们最终可能在数量上超过我们,比我们聪明,甚至取代我们?应该冒着失去文明控制的风险吗?”公开信犀利发问。

在商业公司对于金钱的欲望、垄断的野心、落后的恐惧和安全的无共识下,全球人工智能行业已经陷入了“千模大战”,在数据、算力和算法上疯狂“内卷”。公开信中列举的人工智能风险确实存在,随着ChatGPT和GPT-4问世,通用人工智能(AGI)可能已近在眼前。所谓通用人工智能,就是人工智能像人一样可以做很多事,不再局限于某些特定任务。这类AGI系统投入商用后,有可能成为一些人作恶的工具。

而阿尔特曼显然属于激进派,他希望公司迅速推出颠覆性的人工智能产品并和客户签约。这与OpenAI董事会成员对人工智能工具安全性的担忧相矛盾。

  ▲5月30日,美国加州理工学院电气工程和计算机科学教授、人工智能专家亚瑟·阿布-穆斯塔法通过视频在中新社第二届“东西问智库”主题论坛上作主旨演讲。(中新社资料图片)

加州理工学院教授:AI永远是人类的附属品

“通过阿尔特曼解职事件,我们不但要看‘宫斗戏’,还要思考背后的人工智能治理问题。”在上海市科学学研究所研究员李辉看来,这场“宫斗”是人工智能治理这个关乎全人类的时代命题在精英公司的冲击性展示。能否在商业和安全两者之间找到一个科学合理的平衡点,是对人类智慧的一次考验。

美国加州理工学院电气工程和计算机科学教授亚瑟·阿布-穆斯塔法(Yaser S.Abu-Mostafa)则表示,联名公开信意图是好的,但无法起到任何实质效果,因为不会真的有公司遵守并暂停六个月的AI研发。同时,他也指出:“我们没有与AI共存的压力,AI永远是人类的附属品。”

对此,《北京日报》则评论道,在超越人类的人工智能出现之前,其风险应当被高估还是低估?不同的人有不同答案。但显然,高估风险,人类只会浪费一些资源,但如果低估,则可能再没有翻身机会。汽车畅行马路五十年后,安全带才被发明出来;DDT杀虫剂面世近百年后,人类才怀疑其有害环境……回顾科技发展史,对于一种前所未见的新科技,人类可能永远不会有“准备好”的一天,但只有行动起来才能解决问题,至少减轻伤害。(完)

综合中新社、《北京日报》、《新京报》、《解放日报》等

责任编辑:向光

中新社 东西问客户端

平等对话 文明互鉴

打开