积海科技
发布于 2024-01-22 / 19 阅读
0

奥特曼达沃斯访谈全文:AGI即将出现,未来最重要的资源是算力和能源

奥特曼达沃斯访谈全文:AGI即将出现,未来最重要的资源是算力和能源

划重点

① 关于新模型的名字,奥特曼还没有明确的想法,但他称不喜欢像“iPhone 27”这样的命名方式。

② 奥特曼认为AGI将在不久的将来出现,但对社会和工作的影响程度可能远低于预期。

③ 奥特曼表示,尽管AI的潜力超过预期,但它没有像人们想象的那样大规模地取代工作。

④ 奥特曼重申,OpenAI永远不会成为以盈利为目的的传统公司,但股权组织结构可能会变化。

⑤ 奥特曼认为虽然未来可能会有新的技术出现,但智能手机不会消失。

⑥ 马坎朱预计,AI监管将在2024年成为现实。美国总统已经签署了行政令,欧盟也在敲定AI立法细节。

腾讯科技讯 1月17日消息,据外媒报道,美国当地时间周二,在瑞士达沃斯参加2024年度世界经济论坛期间,人工智能初创公司OpenAI首席执行官山姆·奥特曼以及全球事务副总裁安娜·马坎朱接受了彭博社记者布拉德·斯通的专访。在访谈期间,他们分享了关于OpenAI下一代大模型的进展、美国大选期间AI技术该被如何使用、通用人工智能(AGI)的未来、去年11月的人事剧变以及监管法规的制定等话题。

 以下为专访全文实录:

问:今天你们发布了关于在选举中使用AI的新准则,这是达沃斯论坛上备受瞩目的议题。你们禁止在政治活动中使用ChatGPT,还引入了加密水印或图像,旨在提高使用AI生成图像的透明度。这些准则由像Facebook、TikTok以及YouTube这样的大平台共同制定并努力实施。你们是如何确保这些原则得到实施的呢?

马坎朱:这些原则的实施并非易事,但我们已经在这方面努力了很长时间。我们拥有一个强大的安全系统团队,他们不仅具备监控能力,还能够利用我们的工具来提升执行力。这为这件事提供了很大的优势。同时,我们也与美国联邦和各州政府建立了合作关系,这样我们就可以获得权威的投票信息。因此,我们有多种方法来执行这些原则。

问:山姆,你是否认为这让足够你放心?不会让OpenAI在即将到来的2024年关键的民主选举中产生影响?

奥特曼:不,我们仍然非常关注这个问题,我认为不能掉以轻心。这是好事,有焦虑感也是件好事,我们会尽一切努力让它变得尽可能正确。我认为我们的角色与内容分发平台的角色截然不同,但仍然很重要。我们需要与他们合作。你在这里生成内容,在那里分发内容,整个过程之中都需要进行良好的沟通。但我们也从之前的技术周期中学到了一些经验。我认为不能把上次那样的错误再犯一回(编者:应指Facebook干预投票的剑桥公司事件),但我们确实从中吸取了一些教训。所以如果我说我不担心,感觉很好,那将是可怕的事。我们一定会密切关注今年发生的事情,进行超级紧密的监控和反馈循环。

问:安娜,你在Facebook和OpenAI都工作过,所以我问这个问题可能有点挑衅。但你是否担心会出现另一个剑桥分析公司事件?

马坎朱:我认为正如奥特曼所提到的,我们可以从中学到很多经验。从一开始,OpenAI就是一家致力于解决这些问题的公司,这也是它成立的重要原因之一。因此,我们团队在开发这些工具(即生成式模型)时就已经深思熟虑地考虑这个问题了,这缓解了我很大部分的紧张。

问:山姆,唐纳德·特朗普昨天刚刚赢得了艾奥瓦州的党团会议选举。我们现在面临大选即将到来的现实。你认为对于科技和人工智能的安全管理来说,在美国大选里什么是最重要的?你是否觉得这是一个选民应该会在这次选举中考虑的关键问题?

奥特曼:针对当前的形势而言,我们之前并未预料到特朗普的言论能引起部分人如此大的共鸣。我到这儿的两天里,艾奥瓦州的选举现在都成了达沃斯论坛的讨论中心了。所以如果我们早点对大选进行深入反思,或许能减轻现在的压力。但我们必须认识到,这次选举涉及的关键议题远不止这些。

选举无疑是一个重大的事件。但不论选举结果如何,我坚信美国会继续稳健前行。同样,不论选举结果如何,人工智能的发展也将继续。我们仍需付出巨大的努力来确保这一点。然而,我认为我们尚未真正吸取教训,真正理解什么对美国公民有利,什么会带来潜在的风险。

问:安娜,我想问你同样的问题。考虑到你的政治背景,你认为硅谷和AI在美国大选中面临什么风险?

马坎朱:让我感受很深的是,关于人工智能的讨论仍然非常两极化。让我感到担心的是……

奥特曼:两党都恨它。

马坎朱:哈哈哈哈,对。然而,我了解到在这个领域中,共和党人倾向于采取一种更为开放的态度,他们不太赞成过度监管。但值得肯定的是,无论是共和党还是民主党,都认为这项技术需要一定的规范和引导。参议员舒默与共和党同僚在这方面展开了跨党派合作,共同推进相关立法工作。在与华盛顿的各方人士交流时,我感觉到现在两党在这个问题上已经达成了一致意见。

问:你是否觉得现有的竞选活动在关于人工智能的问题上表达得同样清楚?

马坎朱:到目前为止,人工智能确实已经成为竞选议题。因此,如果我们关于即将发生的事情是正确的,这将是一件有趣的事情。

奥特曼:如果我们的认知是对的,那这场技术革命的重要性无可比拟,从某种意义上说,它与以往的所有技术或社会革命都有所不同。它不仅是一个技术问题,更是一个社会问题、政治问题。尽管这项技术已经在某些领域产生了深远的影响,但令人感到奇怪的是,它还没有成为主流社会关注的焦点。然而,随着今年将要发生事情,这里不是说选举,而是AI产品能力的持续提升,人们会慢慢意识到当前已经发生了什么和正在发生什么。

问:在美国和全球范围内,像唐纳德·特朗普这样的政治人物已经敏锐地抓住了公众的焦虑情绪,包括对科技发展带来的脱节感、工人阶级的愤怒、以及日益加剧的社会不平等。AI技术的发展,是否会进一步加剧这些社会问题呢?

奥特曼:是的,这是一个非常重要的问题,值得我们深入思考。但令人欣喜的有利方面是,当我们在研发技术、进行科学研究时,我们总是说,我们会遵循科学的指引,当产品问世时,我们会说,它将会与社会共同进步,我们会跟随用户的反馈进行改进。然而,我们只能在某种程度上驾驭这种力量。

有些事情是不可避免的,技术的潜力和人们的使用方式往往会超出我们的预期。我们期待AI更多的是一种工具。它目前还不能像人们想象的那样大规模地取代工作,但在未来,它将成为一种强大的生产力工具。这个前景在我们一开始做这件事时并不清晰,我们不知道未来会走向何方,但感谢技术的发展让我们看到了这条道路。这是一个放大人类能力的工具,它将人们的工作能力提升到一个新的水平,同时也让AI能够承担部分工作。当然,工作方式会发生变化,有些工作可能会消失,但人类的驱动力非常强大,社会自身运作的惯性也很强。

我相信AGI(通用人工智能)将在不久的将来出现,但它给世界和人类工作带来的改变比人们现在预想的要小。

问:鉴于你们亲眼目睹了这项技术的发展,你是否改变了对AI将给就业带来的巨大影响和破坏的看法?

马坎朱:确实,我们的政策研究团队已经对这个问题进行了深入研究,他们发现AI对工作方式的改变产生了相当大的影响,但这并不是让人们失业,而是让工作方式变得更加高效。我认为这实际上将加速社会的进步,并且将改变更多人的工作方式。就像山姆所说的那样,到目前为止,人工智能还没有成为主要的就业替代原因。

奥特曼:你知道,经常听到程序员说:“我现在的效率比以前提高了两倍、三倍,如果没有这个工具,我根本无法完成代码编写。”事实上,世界上有大量需求,需要更多的人才来编写代码,这对其他行业也是一样。所以,我们面临的不是需求不足的问题,而是需求远远超过我们当前能力的问题。随着技术的进步,人们可以做更多的事情。期望也会随之提高,但我们的能力也在不断提升。

问:我想就今天的另一篇报道问你们,报道称OpenAI正在放宽其对AI在军事项目和开发武器中使用的人工智能限制。你们能就这方面以及OpenAI与美国国防部和其他军事机构所做的工作发表更多意见吗?

马坎朱:这些政策中的很多内容,在我们还未了解人们将如何使用我们的工具时就已经制定出来了。因此,这不仅仅是关于军事用例政策的调整,而是一个全面的调整,以便人们更清楚地了解哪些是可能的,哪些是不可能的。具体到军事这个领域,我们实际上仍然禁止开发武器、破坏财产和伤害个人。但我们也一直在与国防部合作开发用于开源软件的网络安全工具,以保护关键基础设施,也在探索AI是否可以帮助预防退伍军人自杀。因为以前基本上全面禁止军方使用AI,但这些项目和我们想要带给这个世界的高度统一。

问:美国政府有没有要求你们限制与其他国家军事机构的合作?

马坎朱:他们还没有问过我们,但我们现在的主要关注点是与美国国家安全机构进行这方面的合作。我想我们一直相信民主国家需要在这项技术方面处于领先地位。

问:换个话题,山姆,给我们介绍一下GPT商店,你是否看到了其与移动应用商店早期类似的创造力爆发?

奥特曼:是的,同样的创造力和同样多的垃圾,但这发生在人们喜欢探索技术的早期阶段。那里也有一些令人难以置信的东西。

问:给我们举个例子。

奥特曼:GPT是一个非常轻量级的定制ChatGPT的方式。如果你想让它以特定的方式表现,使用特定的数据来调用外部服务,你可以创建这个功能,可以用它来执行各种类似的操作。最近,我们还推出一个商店,用户可以在那里看到其他人创建的东西,并分享自己的作品。我个人特别喜欢的一个应用是Al Trails。每两个周末,我都想进行一次长时间的徒步旅行。你告诉它你的喜好和已经走过的路线,它就会推荐另一个很棒的徒步旅行线路。这听起来可能有些傻,但我真的很喜欢这个应用。

问:你有没有添加自己的GPT?

奥特曼:我自己制作了一些,但我还没有把它们放在商店里,也许我会那样做。

问:你能给我们更新一下你看到的新GPT的数量或增长速度吗?

奥特曼:在推出商店之前,已经有300万个GPT被创建了。由于我一直忙于世界各地的旅行,没有时间关注日常指标,所以我不知道自从商店推出以来情况如何。但根据现在ChatGPT的卡顿程度(编者:用的人很多,所以卡),它发展的应该很不错。

问:我想问你关于OpenAI的版权问题。考虑到《纽约时报》上个月对OpenAI提起了诉讼,出版商关系对OpenAI的业务有多重要?

奥特曼:出版商关系对于OpenAI确实非常重要,但原因可能并非如人们所想。许多人认为我们极度依赖他们的训练数据,而且这些数据非常有价值。然而,实际情况并非如此。举个例子,我们其实并不想用《纽约时报》的数据来训练模型。现在,我们正在迈入一个数据的世界,在这个世界里,你只需要更多的数据。但无论如何,总有一天你会耗尽这些数据。因此,我们的大部分研究都集中在如何从更少的高质量数据中学习到更多知识。我相信,世界终将找到解决这个问题的答案。

如果出版商愿意,我们的目标就是,当我们的用户提到今天达沃斯发生了什么时,我们可以准确地告诉他们这是来自彭博社的文章,这是来自《纽约时报》的文章,等等。我们可以用这项技术做一些非常酷的事情。

有些出版商愿意与我们合作,有些则不然。我们已经建立了很多了不起的合作关系,未来还会有更多。当然,也有一些出版商不愿与我们合作,但我还是希望他们和我说而不是直接起诉。我们会为自己辩护的。

问:你说不想在《纽约时报》上训练,这是否意味着你只是不希望使用他们的数据来训练模型?这是否意味着考虑到法律风险,你会以不同的方式训练你的模型?

奥特曼:确实,使用出版商的数据来训练模型是一个复杂的问题。网络世界如此庞大,有时候人们会从《纽约时报》等媒体复制文章,然后未署名地发布在其他网站上。如果我们使用了这些数据,可能很难确定文章的真正来源。如果《纽约时报》或其他出版商愿意为我们提供他们所有文章的数据库,并明确要求我们不要发布与其相匹配的内容,那么我们或许能够很好地处理这个问题。但我们并不希望简单地反刍他人的内容。

问题并不像听起来那么简单,但我相信我们有能力将这类情况的发生率降至最低,这将成为我们评估自己的一个重要标准。如果某些内容受到版权保护,无论是否被用于其他目的,我们都无法得知。但如果这些出版商愿意向我们展示其内容,并明确要求我们不要用盗版给用户做响应,那么我们应该能够做到这一点。

总的来说,我们有信心在这方面做得很好。我坚信,随着技术的发展,将会有更多新颖的方式出现,让人们更好地消费和货币化新闻以及其他已发布的作品。对于《纽约时报》的情况,我们还有很多富有创意的事情可以做,而不仅仅是制造一些轰动效应。

问:那围绕Dalle的版权争议给你带来了什么教训,你们将如何改变?

奥特曼:我们与艺术界进行了很多深入的交流。你知道,我们一直努力遵守各种要求,比如不要模仿我的风格来生成内容,即使你从未在我的数据上进行过训练。这是非常合乎情理的,所以我们知道要实施这样的事情。我真的很想做到这一点,虽然技术还没有完全实现。

但我们更想的事,与其让艺术家们说:“我不想因为以上那些原因而用AI”,我们更想能够提供一些工具或平台,让艺术家们能够推出属于自己风格的Dalle版本。如果他们愿意,可以出售这些产品的访问权;如果他们不愿意,那就自己使用它,或者获得某种经济利益及其他方面的回报。这不是关乎用他们的图像训练模型的,而是关于风格的问题。

至少在与我对话的艺术家中,很多人对这个想法非常感兴趣。所以我们要了解人们不想要什么,并确保我们尊重这一点。当然,你不能让每个人都满意,但要尽量让美术界感觉我们是伙伴。但我认为更好的、更令人兴奋的是,我们能够做一些让艺术家们觉得很棒的事情。

问:安娜,作为OpenAI驻华盛顿的大使,我对你在Facebook的工作经历,以及你在过去几十年中从科技公司与政府和监管机构的紧张关系中学到的东西很感兴趣。这些经验无疑为你现在的工作提供了宝贵的洞察力和实践知识。

马坎朱:在政府内工作期间,我深刻认识到一件事:在2016年俄罗斯选举干预事件中,那时我在白宫工作,尽管人们以为那是第一次听说这种事,但实际上我们早已对此有所准备。我们都明白这种情况会发生,但如何应对呢?我所做的是,在很长时间内避免与科技公司交流,因为在政府工作中,我们通常不会这样做。尤其在当时,这类情况并不多见,这些新兴技术还处于起步阶段。

当我投身科技领域时,我反思了这一点,我深感后悔。我真心希望政府能深入理解这项技术,明白这些公司是如何做出决策的。坦白说,当我初次加入OpenAI时,政府里几乎没人听说过这家公司。每次使用这一工具,我都会想,如果我在政府任职的8年间就已经用了这个工具,我原本能完成10倍的工作。

所以,如何让我的同事们也使用这个工具变得至关重要,尤其是考虑到OpenAI的使命——确保这些工具能为每个人带来福祉。我认为这永远不会发生,除非政府能将其纳入公共服务中,使其变得更高效、更快速。这实际上是我最期待的事情之一——让政府真正利用它来造福于每一个人。

问:监管机构是否接受这样的观点,毕竟政府中很多人对与硅谷过去的互动持怀疑态度。

马坎朱:我深感,在大部分时间里,我甚至未能充分阐述它的价值,因为大众的焦点更多地放在治理和监管上。我坚信,他们从理论上明白这项技术能为政府带来巨大的益处。然而,许多政府尚未做好采纳的准备,当然也有明显的例外,比如那些真正站在技术前沿的政府。因此,很多时候,我甚至未能真正参与到这一对话中。

问:我想问你们关于去年11月发生的一系列戏剧性事件。你们是否处理了OpenAI的管理问题以及其非常独特的公司结构,包括非盈利董事会和上限利润部门,导致你们的所有权结构出现了变化?

奥特曼:我们将首先关注组建一个更好的董事会。我预计我们在未来几个月内在这方面取得很大进展。然后,新的董事会将会审视治理结构。但我认为,我们已经在讨论这到底意味着什么。

问:OpenAI是否应该成为一家传统的硅谷营利性公司?

奥特曼:我们永远不会成为一家传统公司,但我认为我们应该审视我们的组织结构。也许我们现在拥有的结构是合适的,但我认为我们应该保持开放心态,考虑其他可能性。不过,现在还不是时候,我们首先要关注董事会,然后从各个角度审视这个问题。

关于OpenAI,很难用言语表达的一点是,我们的团队、身边的人,包括投资者、微软等支持者,他们都长期致力于这个使命。在那疯狂的几天里,我想有97%或98%的公司员工签署了一份声明,表示他们愿意辞职并转向其他事情。这会导致每个人的股权化为乌有,对许多员工来说,这是他们的大部分财富。人们愿意这样做,我认为这很不寻常。我们的投资者也将眼睁睁看着他们的股份变成零,但依然选择支持我和我们的目标。我觉得这对于一个公司来讲非常幸运。当然,我们也想让所有的股东赚到一大笔钱,但对我来说,我们优先考虑的事情是非常清楚的。这对我来说意义重大。

问:在去年6月的彭博科技大会上,也曾有人问了你一些问题,大意是为什么我们应该信任你,你非常坦率地说我们不应该信任你,如果他们愿意的话,董事会应该能够解雇你。当然,他们后来确实这么做了,你巧妙地策划了自己的回归。

奥特曼:让我告诉你一件事,董事会真的做出了那个决定,我当时觉得这太疯狂了,完全困惑,完全没有准备。但这就是公司的治理结构,我立刻开始思考下一步该如何应对。直到一些董事会成员在第二天早上给我打电话,我才真正考虑重新回到公司。董事会是有着完全的决定权的,至于后面你的问题我就不想说了……

马坎朱:有很多人在编造故事,比如说山姆回归是其他所有力量精心策划的。这是不准确的。我想说OpenAI的员工想要这个结果,他们认为让山姆回来是正确的事情。

奥特曼:我想说的是,我认为拥有一个可以解雇我的实体是很重要的。虽然有一个实体能够执行决策很重要,但这个实体也必须承担一定的责任。这是当前发生的事情中一个明确的问题。

问:安娜,你在那段时间给员工写了一封信。今天我很高兴你能来这里,我想问问你,那五天对你来说是怎样的,你为什么要写这封信?

奥特曼:如果安娜愿意的话,她可以清楚地回答这个问题。但你真的想让我们把时间花在像肥皂剧这样的事情上,而不是关注人工智能的未来发展吗?

问:我认为人们对这个话题很感兴趣。

马坎朱:我想说的是,就在公司全体员工准备休息一周的前一天,发生了一些事情。所以我们在周五都在为即将到来的轻松假期做准备,希望能够缓解过去疯狂的一年里的紧张情绪,那时我们有许多人会在办公室的地板上睡上一周。

问:这里有一个问题:我们在达沃斯论坛上,气候变化是议程上的一个重要议题。问题是:考虑到计算成本和芯片需求,人工智能的发展和通向AGI(通用人工智能)的道路是否有可能使我们在气候问题上走向相反的方向?

奥特曼:我们确实需要比之前认为的更多的能源。我对世界的理解是,未来的两种重要资源将是智能计算和能源。无论是我们的想象力,还是让想法变为现实的能力,以及运行计算的能力,都离不开这两者。然而,我认为我们尚未充分认识到这项技术所需的能源需求。如果没有重大突破,我们就无法实现这一目标。我们需要核聚变,或者更便宜的太阳能加上超大规模的存储或其他技术,是那种从没人真正规划过的规模水平。

公平地说,人工智能的发展将需要大量能源,但我坚信这会迫使我们更多地投资于能够提供这种能源的技术。这些技术都不能再依赖传统的燃煤技术,否则会有巨量的碳排放从中产生。我认为核聚变可能是最有可能的解决方案,或者至少是第二选择。

我认为世界对核裂变的看法仍然偏负面,但对聚变的看法很正向,但我希望世界能够更接受核裂变(编者:即传统核能发电)。我可能对此过于乐观,但我相信我们现在已经有了实现大规模能源转型的途径,可以远离传统的燃煤能源。单这需要时间,汽车等交通工具的转型也不可能一蹴而就。我们还得等一段时间才能让每条货船装上核聚变反应堆。

然而,如果我们能够像我希望的那样大幅降低能源成本,那么碳捕获的数学计算就会发生变化。遗憾的是,我认为世界还走在一条我们需要环境工程这样一种临时解决方案来解决环境问题的路上。但我们现在看到了长期解决方案的曙光。

问:好的,让我们再回到我刚才的问题上。从需求的角度来看,答案可能是肯定的,除非我们在供应方面取得重大突破。然而,我无法看到在没有这种突破的情况下,如何满足这种供应需求。这会不会让你们感到不安?

奥特曼:目前,全球在能源供应方面并未展现出足够的灵活性。然而,正如你所强调的,人工智能并不会等待我们找到足够的能源才开始发展。它推动我们更加积极地投资于核聚变、新型存储技术等领域,以及如何以人工智能所需、乃至全球所需的巨大规模来提供能源。因此,我们不能只是坐等。我们深信即将到来的变革,并希望了解如何利用我们的能力、资本等资源来应对这一变革。在这个过程中,我们希望为世界其他地区提供解决方案,而不仅仅是专注于人工智能的训练或推理工作负载。

问:安娜,2023年我们几乎开始了一场关于AI监管的假设性对话。2024年我们会期待什么?政府会采取行动吗?它会变成现实吗?AI安全会是什么样子?

马坎朱:我认为它正在成为现实。欧盟即将敲定一项全面的AI法规。而拜登政府也发布了一项历史上篇幅最长的行政命令,全面涵盖了这项技术,并计划在2024年开始实施。因为他们给各机构布置了一系列关于如何实施和监管这项技术的任务。

然而,关于安全问题,我认为这仍然是我们尚未解决的一大挑战。我们成立了Frontier Model Forum(前沿模型论坛),微软、OpenAI、Anthropic和谷歌都是其中的成员,但我相信未来会有更多的前沿实验室加入。现在我们所有人都在研究安全问题,大家都有红队,在这方面做了很多工作,但实际上并没有统一或标准化的方法。

某种程度上,人们认为这只是行业内部的问题。但实际上,这也是在回应许多政府对我们的要求。

问:你们认为,是否存在一种风险,即监管开始阻碍人工智能领域的创业活动?

马坎朱:我想人们对此感到非常害怕。这就是为什么我认为德国、法国和意大利会干预欧盟的AI法案讨论,因为他们真的很担心自己的国内产业在发展之前就被削弱。

问:你是否对拜登的行政命令感到满意?其中有没有你反对的内容?

马坎朱:事实上,我认为它非常好,因为它不仅仅限制,也考虑到了机构将如何利用这个机会更好地发展。我非常高兴他们采取了平衡的方法。

问:山姆,这是你第一次参加达沃斯论坛。你提到你更愿意花更多的时间在舞台上谈论AGI。那你想给这里的政治领导人和商界领袖传达什么信息?

奥特曼:我认为2023年是全球逐渐认识到AI能力不断提升、应用场景越来越广泛的一年。然而,GPT-4更应该被视为一种预览版本。它的实用性超出了我们的预期,对更多人来说也有着更多的用途,但其局限性也一眼可见。需要指出的是,这里的进步并不是线性的,这是最让人头疼的地方。人类的指数增长直觉很糟糕,至少我自己是这样的。但这似乎是人类的共同点。如果GPT-5比GPT-4好四倍,GPT-6比GPT-5好六倍,那将意味着什么呢?如果我们正处于这个发展轨迹上,那又会意味着什么呢?

至于监管问题,我认为不同国家尝试不同的事情是件好事。一些国家可能会禁止AI,一些国家可能没有任何保障措施。我认为这两种情况都不太合适,我们会看到不同的事情起作用。但是随着这些系统变得越来越强大,随着它们越来越深入地融入经济,随着它们成为我们所有人用来工作的工具。其他事情也会随之发生,它们变得能够为全人类发现新的科学知识,甚至在某个时候,它们变得能够进行人工智能研究。世界的变化或许会先开始很慢,但后续突然加快。但不论如何,世界都会变化。

我会对人们说,没有人知道接下来会发生什么,我真的相信这一点。保持对此的谦逊态度非常重要。你可以看到前方的几步,但不能看得太多。

但是,当认知的成本降低一千倍或一百万倍,它的能力将以难以想象的方式增强我们自身。我给大家举的一个例子:如果世界上每个人都能拥有一个由一万名出色的虚拟员工组成的强大公司,而且这些员工在各个领域都是专家、从不互相争斗,也不需要休息;它们还会以惊人的速度变得越来越聪明,那么我们能为彼此创造什么呢?这会给我们所生活的世界带来什么呢?答案是我们都不知道。

当然,我们对此都没有强烈的直觉。我可以想象它,但它并不是一幅清晰的画面。这将会发生,但并不意味着我们无法驾驭它,也不意味着我们无法非常努力地使它变得安全,并以负责任的方式做到这一点。但是,我们将走向未来,我认为我们现在所拥有的政府干预程度,就是以一种可行的方式到达未来的最佳途径。

我们相信迭代部署的必要性,因为人们需要时间逐渐习惯它、理解它。我们需要时间以便在风险较低的情况下犯错误。政府需要时间来犯一些政策错误,同时技术和社会也必须以这种方式共同演变。因此,技术将随着每次迭代而改变,但社会的运作方式也会改变,而这必须是一个交互式的迭代过程。我们需要拥抱它,但要谨慎行事。

问:这个迭代过程需要多长时间呢?

奥特曼:我坚信这是一个连续的过程,充满了惊奇和可能性。我并不喜欢思考其中的不连续性,而是更倾向于欣赏人工智能在AI研究等领域中所能展现的出色能力。总的来说,我认为这并不是一个关于跨越某个界限的问题,而是关于我们共同攀登的那条连续的、指数增长的曲线。那么,我们需要多长时间呢?这个问题很难回答,因为它的答案似乎是无限的。

在这个过程中,我们不能忽视任何一步,因为每一步都可能带来新的发现和突破。我们需要保持谦逊和开放的态度,不断学习和进步。同时,我们也需要谨慎行事,确保我们所做的一切都是安全和负责任的。

问:本周早些时候,我看到GPT-5在X上很热门,我点击进去。你知道,听起来可能有点误导人。你能告诉我们更多关于GPT-5的事情吗?它是不是比我们之前看到的有了指数式的进步?

奥特曼:关于下一个模型的命名,我还没有明确的想法。我并不喜欢像“iPhone 27”这样的命名方式,因为这不是我的风格。但我相信,我们即将发布的下一个模型将会令人印象深刻。我期待它能够实现一些以前使用GPT-4无法实现的新功能,并且能够做得更好。我们将花费足够的时间来确保我们推出的产品能够让我们自己感到满意和有责任感。

问:在OpenAI,一些员工认为自己在“建造上帝”?

奥特曼:我从未听说过这个观点,但我认为大多数员工会说,他们正在创造一种工具,能让他们感到非常兴奋的工具。在这个行业中,我们是在创造一个生物还是一个工具?我们更像是工具的创造者。AI更像是一个工具,而不是一个实体。去年最美好的事情之一,就是看到世界各地的人们可以用这个工具做多少事情,这让我们感到惊讶。而且我认为,我们将看到越来越多的人类创造力,以及使用更好的工具做更多事情。

问:最近有报道称,你正在与乔尼·艾维共同开发一款AI设备,它可能是作为OpenAI的一部分,也可能是独立的公司。提到这个项目,是因为CES在不久前举行,AI驱动的设备成为了会议的热门话题。你能给我们提供关于这个项目的最新消息吗?AI是否会带我们进入智能手机的终结时代?

奥特曼:我认为智能手机非常棒,它们在许多方面都表现出色,并且具有广泛的应用。虽然未来可能会有新的技术出现,但我认为智能手机不会消失。它们将继续在我们的生活中发挥重要作用。新的技术可能会以新的方式帮助我们更好地完成工作,提供更高效、更便捷的服务。正如我们现在可以与计算机交谈并让它们为我们做事情一样,未来可能会有更多的创新和突破。

我们一直在探索计算机行业的新领域,如果我们能够利用这些新技术做一些真正伟大的事情,那么我们应该勇于尝试并探索新的技术方向。当然,如果事实证明智能手机确实非常好,而且主要是依赖于软件的发展,那么我们也可以充分利用这一点,继续推动软件技术的发展。

问:与艾维的合作是OpenAI的一个项目吗?这是成立独立的公司?

奥特曼:我还没有听到与艾维合作的任何官方消息。

问:安娜,我会给你最后一个发言的机会,因为你和山姆在这里与商业和世界领导人会面。你想给他们留下什么信息?

马坎朱:我认为有一种趋势是,人们对人工智能技术感到更害怕而不是兴奋。我明白,我们必须努力确保提供这项技术的最佳版本。但我认为,许多通过达沃斯论坛与会者接触到人工智能技术的人,他们确实有责任确保自己发出没有偏见的信息。这样,人们才能真正参与其中,并意识到这项技术带来的益处。

奥特曼:再给我20秒钟,我来补充说明下。我认为,在某些方面,OpenAI的表现并不完美。我们还没有找到构建这些工具的正确方法。ChatGPT在将对话引导至积极方向方面的表现确实出色。但这并不是因为我们有信心说“它会变得出色”,而是因为当人们真正使用它后,他们不由自主地说“哦,我明白了,它使用起来非常自然”。智能手机之所以吸引人,也是因为它让我们摆脱了键盘和电话的束缚,我们可以更自然地与它互动。

谈到乔尼·艾维,他确实是个天才。他一直致力于让计算机与人类更兼容。我认为这对于技术的发展至关重要,它让技术更像科幻电影中的神奇之物,而不是可怕的东西。它为我们提供了一种全新的方式来使用计算机。

我还记得自己得到第一台iMac时的情景,它对我意义重大。虽然它很重,但它有一个把手,这让我感觉可以轻松地移动它。这个把手让我与它建立了不同寻常的关系。如果它试图“醒来”并接管我的生活,我可以拔掉电源并把它扔出窗外。总的来说,我认为我们在设计和使用产品时所采用的方式确实很重要。