腾讯科技讯 6月1日消息,机器学习和人工智能初创公司Humanloop首席执行官拉扎·哈比比(Raza Habib)最近邀请人工智能研究公司OpenAI首席执行官萨姆·奥特曼(Sam Altman)以及其他20多位开发者,共同探讨了人工智能的未来。奥特曼非常坦率地分享了OpenAI未来两年的产品路线图,还谈到OpenAI的使命以及人工智能的社会影响等问题。
以下为访谈要点:
(资料图)
1、OpenAI严重受制于GPU短缺
在整个讨论中出现的一个共同主题是,目前OpenAI的GPU供应非常有限,这导致他们推迟了许多短期计划。客户最大的抱怨是API的可靠性和速度。奥特曼承认存在这种担忧,并解释说大部分问题是因GPU短缺所致。
长度为32k的上下文功能还不能推广给更多的人。OpenAI还没有克服相关技术挑战,所以虽然看起来他们很快(今年)就会有100k到1M令牌的上下文窗口,但更大的窗口都需要在研究上取得突破。
微调API目前也受到GPU可用性的限制。它们还没有使用Adapters或LoRa等高效的调优方法,因此调优的运行和管理需要大量的计算。将来会有更好的微调支持。他们甚至可以托管一个社区贡献模型的市场。
专用容量供应受GPU可用性的限制。OpenAI也提供专用容量,为客户提供该模型的私人副本。但要使用这项服务,客户必须愿意支付相当于10万美元的费用。
2、OpenAI的近期路线图
奥特曼分享了他所看到的OpenAI API临时近期路线图。
2023年:
更便宜、更快的GPT-4:这是OpenAI的首要任务。总的来说,OpenAI的目标是尽可能地降低“智能成本”,因此他们将努力随着时间的推移继续降低API的成本。
更长的上下文窗口:在不久的将来,上下文窗口可能高达100万令牌。
微调API:微调API将扩展到最新的模型上,但其确切形式将由开发者真正想要的元素来决定。
支持会话状态的API:当你今天调用聊天API时,你必须反复地传递相同的会话历史,并反复支付同样的令牌。将来,会有一个版本的API可以记住会话历史记录。
2024年:
多模态:这在GPT-4发布时进行了演示,但在更多GPU上线之前不能扩展到所有人。
3、插件“没有PMF”,可能不会很快出现在API中
许多开发人员都对通过API访问ChatGPT插件感兴趣,但奥特曼说他认为这些插件不会很快发布。除了浏览,插件的使用表明他们还没有PMF。奥特曼表示,很多人认为他们希望自己的应用被集成到ChatGPT中,但实际上,他们真正想要的是将ChatGPT引入自己的应用中。
4、OpenAI将避免与他们的客户竞争,除了ChatGPT
许多开发者表示,他们对使用OpenAI API构建产品感到紧张,因为OpenAI最终可能会发布与他们竞争的产品。对此,奥特曼表示,OpenAI不会发布更多ChatGPT之外的产品。他说,许多伟大的平台公司都有自己的杀手级应用,ChatGPT将允许他们通过成为自家产品的客户来改进API。ChatGPT的愿景是成为一个超级智能的工作助手,但还有很多其他的GPT用例是OpenAI无法触及的。
5、监管是必要的,但开源同样重要
虽然奥特曼呼吁对未来的模型进行监管,但他并不认为现有的模型是危险的,认为监管或禁止它们将是一个大错误。奥特曼强调了开源的重要性,并表示OpenAI正在考虑开源GPT-3。他们还没有开源的部分原因在于,他怀疑有多少个人和公司有能力托管大语言模型。
6、缩放定律仍然成立
最近许多文章都声称“巨型人工智能模型的时代已经结束”,但奥特曼表示,这并没有准确地表达他的意思。
OpenAI的内部数据表明,模型性能的缩放定律仍然成立,扩大模型将继续可以帮助提升性能。但这种扩展速度无法维持下去,因为OpenAI在短短几年内就把模型放大了数百万倍,这样做是不可持续的。不过,这并非意味着OpenAI将停止扩大模型,只是意味着它们的规模可能每年只会增加一倍或三倍,而不是以指数级速度增长。
缩放定律继续发挥作用的事实对通用人工智能(AGI)开发的时间线具有重要意义。缩放假设是指,我们可能已经具备了构建AGI所需的大部分要素,剩下的大部分工作将是采用现有方法,并将其扩展到更大的模型和更大的数据集上。如果缩放时代已经结束,那么我们应该期待AGI离我们更遥远。但事实上,缩放定律继续成立的事实强烈地暗示了时间线正变得更短。(金鹿)
下一篇:最后一页
最新!OpenAI掌门人分享未来产品路线图:GPT-4会更快、更便宜腾讯科技讯6月1日消息,机器学习和人工智能初
对于龙舟节是哪个民族这个问题感兴趣的朋友应该很多,这个也是目前大家比较关注的问题,那么下面小好小编就
比亚迪刀片电池便是改良后的磷酸铁锂电池,每个电池内部也存在、电芯和电池包三个基础结构。刀片电池因其高
中国经济网北京6月1日讯山西省通信管理局网站近日公开通报12款未按要求完成整改APP。依据《网络安全法》《
6月1日国内黄金期货涨0 41%---中国经济网北京6月1日讯今日,上海期货交易所日间盘黄金期货合约高位震荡,成
随着社会的发展现在电子数码产品已经成为我们生活当中不可缺少的了,这当中出现了很多电子数码产品功能太多
音频解说一、甘肃省酒泉市天气预报1、玉门市气象台2023年06月01日07时54分发布大风蓝色预警信号。2、预计今
网传5月31日,津南某桂园东门八里台路地面发生波浪状凸起,路面胀开,附近楼居民部分撤离。刚刚,津南区政
签证申请技术服务公司VFSGlobal的数据显示,今年1月1日至5月20日期间,中国的签证申请量仅达到2019年同期35
神舟十六号载人飞船发射取得圆满成功景海鹏、朱杨柱、桂海潮三名航天员顺利进驻中国空间站空间站应用与发展
沉香香烟多少钱一盒,沉香香烟多少钱一包这个很多人还不知道,现在让我们一起来看看吧!1、加沉香片就行了。
这位瑞士球星在2023年法网中止步第二轮,他在一场持续超过四个半小时的马拉松式比赛中被澳大利亚人科基纳基
5月30日,“探寻齐长城”网络主题活动走进淄博,感受齐长城脚下经济的高质量发展。
以下是东易日盛在北京时间6月1日10:45分盘口异动快照:6月1日,东易日盛盘中涨幅达5%,截至10点45分,报8 3
跨越洛河,龙门大道直对龙门伊阙。驾车自北向南行驶在龙门大道上,路面整洁宽阔,车辆川流不息,道路两旁的
新华社北京5月31日电(记者赵文君)“六一”国际儿童节即将到来,市场监管总局31日发布轮滑鞋、婴幼儿学步...
夜访上海工厂,马斯克深绑中国绝不是“自卖自夸”,没有我们的鼎力相助,哪会有特斯拉如今的成绩单。
孩子在使用电子产品时,家长要控制用眼的时间和距离
1、ug技术论坛、开思网、中国机械cad论坛、中国模具cad论坛、中国机械cax论坛 。本文到此分享完毕,
连云港众人抬车营救被困车底的女子
1、《新生日记》是2019年由帮宝适独家冠名赞助,湖南卫视制作的孕期生活观察类真人秀。2、《新生日记第一季
1、根据板厚的不同而变:厚度50mm以下,±2mm。2、厚度50~75mm,±3mm。3、厚度大于75~100mm,±4
在学生时代,总是在周末会约上三五好友去电影院里看电影,而工作之后属于自己的电影时间却越来越少,而作为
1、Amicrobiomeis:theecologicalcommunityofcommensal,sym
【短讯】浙数文化:数字科技储备充足社交相关业务仍处于探索期|直击业绩会。新闻资讯提供最新、最及时的新
广告
X 关闭
广告
X 关闭