正文内容 评论(0

现在哪些AIGC笔记本电脑值得入手:开学季RTX 4070笔记本电脑畅快玩转AI
2024-02-28 15:03:33  出处:快科技 作者:流云 编辑:流云     评论(0)点击可以复制本篇文章的标题和链接

一、Chat with RTX:部署在本地的聊天机器人应用

往年大学生选购笔记本主要看游戏性能和性价比,但时代不同了,如今不会玩AI就注定无法跟上时代的节奏。对于生成式AI来说,目前主要依赖GPU进行加速,RTX 40系GPU最高可以提供686 TOPS的AI算力,轻松应对各种复杂任务,提升学习效率和工作成果!

现在哪些AIGC笔记本电脑值得入手:开学季RTX 4070笔记本电脑畅快玩转AI

正值开学季,NVIDIA联合诸多游戏本厂商在京东平台开展了盛大的促销活动,现在购买RTX笔记本,可享限时优惠!

一键抵达会场:

app端: https://pro.m.jd.com/mall/active/zHqTTKaGW39jsUQ5GJz4aTmgG3A/index.html

PC端: https://pro.jd.com/mall/active/zHqTTKaGW39jsUQ5GJz4aTmgG3A/index.html

说到AI,很多人可能第一时间就会想到ChatGPT,只是ChatGPT的服务器在云端,或多或少存在着一些安全隐患。另外普通用户能用的只有ChatGPT 3.5,更高级的4.0版需要每个月支付20美元(约合人民币145元)才能使用,对于大多数用户而言,算是一笔不菲的开销。

有鉴于此,NVIDIA推出了“Chat with RTX”,这是一款部署于本地的聊天机器人应用,只要你拥有一块搭载8GB以上显存的RTX 30/40显卡,就可以实现本地、快速、信息定制的生成式AI。

现在哪些AIGC笔记本电脑值得入手:开学季RTX 4070笔记本电脑畅快玩转AI

Chat with RTX 可以在Windows RTX PC 和工作站上以本地部署的方式运行,再加上用户的数据还是保留在本地设备装置上,因此能够快速提供查询结果。与依赖云端环境的 LLM 服务不同,Chat with RTX 让用户能够在 PC 桌面端处理敏感资料,无需分享给第三方或是连接到网络。

Chat with RTX工具支持包括.txt、.pdf、.doc/.docx和.xml在内的多种文件格式。将应用程序指向含有这些资料的文件夹,Chat with RTX 工具在几秒钟内就能将它们载入到资料库中。

另外,用户还能加入YouTube视频和播放列表里的信息。在Chat with RTX里加入视频网址,用户便能将这些知识与聊天机器人进行整合,进行上下文查询。

Chat with RTX可以在Windows RTX PC和工作站上以本地部署的方式运行,再加上用户的数据还是保留在本地设备装置上,因此能够快速提供查询结果。与依赖云端环境的LLM服务不同的是,Chat with RTX让用户能够在PC桌面端处理敏感资料,无需分享给第三方或是连接到网络

除了Chat With RTX之外,不久前NVIDIA还对谷歌全新开放式语言模型 Gemma 进行了优化,Chat with RTX 技术演示版也即将支持 Gemma。

该Demo使用检索增强生成(RAG)和TensorRT-LLM软件,为用户提供在本地WindowsRTX PC 上的生成式AI功能。

现在Chat with RTX已经开放了免费下载,只不过安装的时候需要注意只能安装在默认文件夹,手动变更安装路径会造成安装失败。

Chat with RTX下载地址:https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai/

责任编辑:流云

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |
本文收录在
#NVIDIA#RTX 4070#AIGC

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...