正文内容 评论(0

英特尔构建生成式AI RAG解决方案 推动企业解锁AI创新
2024-07-25 11:53:01  作者:cici 编辑:cici     评论(0)点击可以复制本篇文章的标题和链接

英特尔通过开放、易获取的AI系统和生态协作,以创新的方式为运动员提供支持,并助力企业客户创造更多可能。

今日,英特尔分享了与国际奥林匹克委员会(IOC)的一些合作细节,并披露了其以行业需求为导向所打造的生成式AI(GenAI)检索增强生成(RAG)解决方案。该成果深度展示了英特尔如何通过基于英特尔®至强®处理器和英特尔® Gaudi AI加速器的开放式AI系统及平台,帮助开发者和企业应对AI高速发展所带来的需求。

英特尔执行副总裁兼数据中心与人工智能事业部总经理Justin Hotard表示:“此次与国际奥委会的合作,彰显了英特尔致力于推动AI触手可及。我们正在打造一个开放的环境以鼓励创新,帮助开发者和企业构建定制化的AI解决方案并取得切实成果。通过拥抱开放、协作的生态系统,英特尔正以创新的方式为运动员提供支持,并助力企业客户创造更多可能。”

基于Athlete365平台的聊天机器人:对于运动员而言,获得奥运会参赛资格仅仅是个开始。为了帮助全球约11,000名拥有不同语言和文化背景的运动员在奥运比赛场地出入,并遵守相关规定,国际奥委会与英特尔合作开发了基于Athlete365平台的聊天机器人AthleteGPT。这是一款基于英特尔至强处理器和Gaudi加速器的RAG解决方案。AthleteGPT不仅能够应答运动员的日常询问并进行互动,同时将在运动员入住巴黎奥运村期间,为其按需提供信息,使运动员能够专注于自身训练和比赛。

重要意义:部署生成式AI解决方案会带来诸如成本、规模、准确性、开发需求、隐私和可靠性等方面的挑战。作为一种关键的生成式AI工作负载,RAG可以让企业安全地利用专有数据,增强AI产出结果的及时性与可靠性。这将极大地提高AI应用的质量和实用性,对于推动当下的数字化发展意义非凡。

基于AI平台、开放标准以及强大的软件和系统生态,英特尔以协作的方式帮助开发者构建定制化的生成式AI RAG解决方案,从而满足企业的多样化需求。此外,英特尔亦将持续提供开放、强大且可组合的多供应商生成式AI解决方案。

生成式AI RAG解决方案工作流程:英特尔与行业合作伙伴共同创建了开源、可互操作的解决方案,用于轻松部署RAG。基于企业AI开放平台(OPEA),该方案是一种以行业需求为导向、开箱即用,且可立即投产的 RAG 解决方案。该生成式AI一站式解决方案在助力企业便捷地部署数据中心RAG的同时,具备高度的灵活性和可定制性,并集成了多个OEM系统及行业合作伙伴的产品组件。

[MD:Title]

该生成式AI一站式解决方案将基于OPEA的微服务组件集成至用于部署英特尔至强处理器和Gaudi AI系统的、可扩展的RAG解决方案中,可通过Kubernetes、Red Hat OpenShift等经验证的编排框架进行无缝扩展,并提供兼具可靠性和系统遥测功能的标准化API。

· 以开放式软件堆栈打破壁垒:几乎所有大语言模型(LLM)的开发都基于高抽象框架PyTorch,该框架由英特尔至强和Gaudi及相关技术提供支持,助力在英特尔AI系统及平台上实现轻松开发。同时,英特尔携手OPEA开发了用于RAG和LLM部署的开放式软件堆栈。该软件堆栈通过生成式AI一站式解决方案进行优化,并基于PyTorch、Hugging Face服务库(TGI和TEI)、LangChain以及Redis向量数据库所构建。

· 满足开发者需求:OPEA为企业提供开源、标准化、模块化,以及异构的RAG流水线(pipeline),并致力于为开放式模型及多种编译器和工具链的开发提供支持。其加速了针对垂直领域用例的容器化AI集成与交付。OPEA通过创建细化、可组合的框架,引领堆栈技术前沿,解锁AI的全新可能。

凭借生成式AI一站式解决方案与全面的企业AI堆栈,英特尔提供了完整的解决方案,以应对企业和数据中心在部署和扩展RAG与LLM应用时所面临的挑战。通过基于英特尔技术与产品的AI系统及平台,以及OPEA的优化软件,企业可以更高效、快速地发挥并利用生成式AI的巨大潜力。

现阶段,如何将最新的AI计算技术应用到企业中,并推动关键业务成果落地,是企业亟待解决的问题。通过与广大行业合作伙伴的战略合作,英特尔正为由生成式AI和RAG解决方案驱动的AI服务创造更多新的可能性。

 

【本文结束】如需转载请务必注明出处:快科技

责任编辑:

文章内容举报

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |
本文收录在
#快讯

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...