已合作多年 GPT-4仍在微软AI超级计算机上训练

作者:贾桂鹏 来源:原创 2023-03-17

  据外媒报道,ChatGPT自去年11月30日推出至今已收获大量的用户,在1月份就已突破1亿大关,随着关注的增加和支持设备的增多,用户还在持续增加。

已合作多年 GPT-4仍在微软AI超级计算机上训练

  在ChatGPT上大获成功的OpenAI,并未停下他们在大型语言模型上持续探索的脚步,他们在当地时间周二已经推出了新一代的自然语言处理模型GPT-4。

  OpenAI在官网公布的消息显示,新推出的GPT-4,是他们目前最先进的系统,具备更精确的解决问题的能力,在高级推理能力上胜过去年11月份推出、用户已经过亿的ChatGPT。

  同此前推出的GPT、GPT-2和GPT-3大型语言模型一样,在新推出的GPT-4上,OpenAI也借助了合作伙伴及重要投资方微软的基础设施。

  OpenAI在官网上就表示,GPT-4是在微软云计算业务部门Azure的人工智能超级计算机上训练的,微软Azure人工智能优化的基础设施,也允许他们向全球的用户提供GPT-4。

  值得注意的是,在OpenAI推出GPT-4的前一天,微软已在官网上披露,他们和OpenAI在2019年开始合作,在达成合作协议之后,两家公司就开始在Azure中构建超级计算资源上密切合作,这些资源设计并专用于允许OpenAI训练日益强大的AI模型套件。

  他们所构建的超级计算设施,使用了上万个英伟达用于人工智能优化的GPU,并通过基于英伟达量子InfiniBand通信的高吞吐量、低延时网络连接在一起,用于高性能计算。

发布
X
第三方账号登录
  • 微博认证登录
  • QQ账号登录
  • 微信账号登录

企业俱乐部