微软和英伟达在RTX AI PC上大力推动AI开发

lhw 2024年11月21日16:30:03
评论
摘要

生成式AI笔记本电脑和PC正推动游戏、内容创作、生产力和开发的进步。如今,全球已有超过600款Windows应用和游戏在超过1亿台GeForce RTX AI PC上本地运行AI,以提供快速可靠且低延迟的性能。

生成式AI笔记本电脑和PC正推动游戏、内容创作、生产力和开发的进步。如今,全球已有超过600款Windows应用和游戏在超过1亿台GeForce RTX AI PC上本地运行AI,以提供快速可靠且低延迟的性能。

在Microsoft Ignite大会上,英伟达和微软发布了助力Windows开发者在RTX AI PC上快速构建和优化AI应用的工具,让本地AI更加易于访问。这些新工具使应用和游戏开发者能够基于强大的RTX GPU来加速AI代理、应用助手和数字角色等应用的复杂AI工作流程。

微软和英伟达在RTX AI PC上大力推动AI开发

NVIDIA ACE是一套数字人类技术,可让代理、助手和虚拟化身栩栩如生。为了实现更高层次的理解,以便以更强的情境意识做出反应,数字角色必须能够像人类一样以视觉方式感知世界。

要增强数字角色的互动,使其更加真实,就需要一种更细致感知和理解周围环境的技术。为了实现这一目标,英伟达开发了多模式小型语言模型,该模型可处理文本和图像,擅长角色扮演,并针对快速响应时间进行了优化。

即将推出的NVIDIA Nemovision-4B-Instruct模型使用最新NVIDIA VILA和NVIDIA NeMo框架进行提炼、修剪和量化,使其变得足够小,从而可在RTX GPU上以开发者所需的精度运行。

该模型使数字角色能理解现实世界和屏幕上的视觉图像,从而做出相关反应。多模态性是代理工作流程的基础,并让我们看到了数字角色在用户最少协助下推理和采取行动的未来。

不仅如此,英伟达还将推出Mistral NeMo Minitron 128k Instruct系列,这是一套专为优化、高效的数字人机交互而设计的大语境小语言模型。该系列模型有8B、4B和2B参数版本,可在RTX AI PC上提供灵活的选项,以平衡速度、内存使用量和准确性;模型可一次性处理大型数据集,无需进行数据分割和重组;模型采用GGUF格式构建,可提高低功耗设备的效率,并支持与多种编程语言的兼容性。

 

来源:93913
稿件/商务合作: 向前(微信 Shixiangqian7)电话:18700987744
创始人:张明军(微信 13720775110)
更多精彩内容,请关注ARinChina微信公众号(ID:X增强现实)
weinxin
我的微信
这是我的微信扫一扫
广告也精彩
lhw
  • 本文由 发表于 2024年11月21日16:30:03
  • 转载请注明:https://www.arinchina.com/23352.html
广告也精彩
匿名

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: