2024 年初推出的 Sora 让 AIGC 与大模型业界持续火爆。一方面,基础大模型 Top 厂商在持续研发长文本、视频、多模态等模型核心技术实力,在另一面,更多开发者在加入大模型落地与 AI 2.0 应用开发赛道。在 2023 年底 CSDN 发起的 AI 2.0 开发者生态调研中,问卷结果显示开发者群体认为“深耕模型技术”与“挖掘应用场景”的机遇和前景同等重要。

AI 2.0 黑马——零一万物 Yi 大模型

长文本突破 200K、多模态增强场景支持

由国际 AI 专家李开复博士所带队孵化的 AI 2.0 公司零一万物,目标是全球大模型第一梯队,攻坚基础大模型与 AI 2.0 核心技术,发布了 Yi 系列开源大模型。在当时斯坦福、伯克利等全球多项权威评测榜单中,Yi 大模型均表现优异,性能直追 GPT-4。目前 Yi 大模型已实现 200K 上下文(可处理约 30 万中英文字符)的长文本推理实力,以及增强支持多种应用场景的多模态模型。

大模型的长文本推理被看作通用人工智能 AGI 非常重要的核心实力之一。零一万物 Yi 大模型的 200K 上下文推理能力,适合用于多篇文档内容理解、海量数据分析挖掘和跨领域知识融合,为各行业 AI 2.0 应用提供极大的便利。例如,金融分析师可以使用 Yi 大模型快速阅读报告并预测市场趋势、律师可用它精准解读法律条文、科研人员可用它高效提取论文要点、文学爱好者可以用它快速掌握作品精髓等,应用场景非常广泛。

另外零一万物的 Yi-34B-Chat-200K 大模型经过优化,大海捞针评测的性能可提升至 99.8%。“大海捞针”测试的设计是:将一个目标句子(针)放进一个随机文档语料库(大海),然后提出一个只能使用“针”(目标句子)中的信息才能回答的问题来测试模型的回忆能力。在“大海捞针”测试中,Yi-34B-Chat-200K 的性能提高了 10.5%,从 89.3%提升到 99.8%。

星云爱店是知识探索服务先行者,包含2C的“学术科研助手”,2B的儿童心理健康诊疗、青少年科学素养培养三大领域。

星云爱店CTO大董和团队参加了零一万物API邀测,他在文献综述的实际应用中,采用其他大模型推理生成的被拒率为 40%(下图),而切换到 Yi 大模型,任务未发生拒绝执行。

星云爱店测试demo显示,使用某大模型时,被拒率 40%

采用 Yi 大模型执行复杂任务,拒绝任务率低、完成度好

在另一个 18 万字报告集合的阅读分析中,Yi 大模型未遗漏任务:

星云爱店采用其他模型遗漏未指出,Yi 大模型完成 prompt 任务

零一万物开发的多模态模型 Yi-VL-Plus,可支持文本、视觉多模态输入,面向实际应用场景大幅增强:

增强Charts, Table, Inforgraphics, Screenshot 识别能力,支持复杂图表理解、信息提取、问答以及推理。中文图表体验超过GPT4V。

在 Yi-VL 基础上进一步提高了图片分辨率,模型支持 1024*1024 分辨率输入,显著提高生产力场景中的文字、数字 OCR 的准确性。

保持了 LLM 通用语言、知识、推理、指令跟随等能力。

中文图表识别功能评测:Yi-VL-Plus 可准确识别图表对应数据,GPT-4V 有 3 处数据识别错误

Yi-VL-Plus 模型在中文图表理解场景,准确率高于 GPT-4V

优化推理速度、兼容 OpenAI API

Yi 大模型 API 开放平台正式上线!

取得了上述的大模型核心技术实力,零一万物也在投入贡献 AI 2.0 生态。在内测,零一万物正式推出了 Yi 大模型 API 开放平台,希望帮助开发者,共同挖掘更多应用场景,持续创新。

针对 API 侧的实际开发需求,零一万物投入了大量优化和兼容能力的研发工作,去提升开发者研发效率和最终用户的产品体验。具体来说:

优化推理速度

为了提升 API 性能,零一万物团队在 API 侧进行了推理优化,因此 Yi-34B-Chat 系列 API 具备较快的推理速度,这不仅缩短了处理时间,同时也保持了出色的模型效果。

降低接口延迟

优化的 API 接口显著降低模型回复的延迟,进一步提高用户体验的流畅性和响应速度。

兼容 OpenAI API,实现平滑迁移

Yi 大模型 API 与 OpenAI API 完全兼容,开发者只需修改少量代码,可以平滑迁移,即刻享受 Yi 大模型的超凡魅力。

目前 API 开放平台已经提供 3 个零一万物核心重磅的大模型产品,分别是可支持通用聊天、问答、对话、写作、翻译等功能的 Yi-34B-Chat-0205,可支持 200K 上下文,多文档阅读理解、超长知识库构建小能手的 Yi-34B-Chat-200K,还有多模态模型 Yi-VL-Plus,支持文本、视觉多模态输入,中文图表体验超过 GPT-4V。更多零一万物的大模型也将持续发布和提供到 API 开放平台中。

从专业开发者到大模型发烧友

Yi 大模型 API 开放平台的创新 AI 2.0 应用正在涌现

正式发布前,零一万物已经在开发者群体进行了 API 邀请内测和开发,实测性能和效果超出预期。具体测试的企业与个人 C 端应用场景包括使用 Yi Chat 模型构建智能对话助手(类似 ChatGPT);使用 Yi 多模态模型,识别图片中存在的表格,文字,并进行深层次的问答;将 Yi 系列模型整合到现有产品,实现类 Copilot 工具;使用 Yi 超长上下文模型构建知识库问答,用于客服、培训等特定知识的问答场景等等。

已经体验 API 的开发者中就有对长文本要求非常高的专业团队星云爱店,其产品涉及文献解读与科研写作、青少年教育与健康类助手等。星云爱店的开发负责人希望大模型产品的长文本精确摘要,对话文案专业化、精细化,拒答率低,因为对于教育和心理健康的大模型,更需要兼具“智商”和“情商”,而不是冷冰冰和严肃的工作问答工具。

例如心理咨询场景,在线拒答率、回答文案的温暖程度极大影响用户体验。“某些大模型 API 接入后,动不动就拒答或者回答文本‘降智偷懒’,Yi 大模型 IQ 在线且 EQ 出色,测试期间几乎没有拒答,能持续输出高质量有温度的文案,我们相当满意。”星云爱店的技术负责人表示。

内测开发者中除了专业的企业级应用开发团队,还有不会代码编程的大模型发烧友。一位叫“闻”的网友本身是 HiFi 音乐发烧友,并运营了一个分享古典音乐的公众号。虽然他自称不懂写代码,但已经可以使用 Lobe-chat 这样的工具去实现开发。借助 Yi 大模型 API,他实现了翻译英文长视频和翻译古典音乐介绍两个 AI 2.0 场景应用的功能。正是有了易用的 API,让他从对技术的热情和对新事物的好奇,可以更进一步去探索开发、并真正落地了具有创意的 AI 2.0 应用。

网友“闻”优化翻译古典音乐科普流程后的最终输出结果

“Yi-34B-Chat-200K 面对几万字的超长提示词,10 秒钟就反馈回来了结果,极大提高大家工作效率。”,“接入 Yi 大模型 API 代码修改量极少,几乎是分分钟就可以搞定。”。这些都是内测中收到的众多开发者反馈中的真实声音,也让我们看到基于 API 的 AI 2.0 应用开发需求的火热。

对于 AI 2.0 开发生态的工作,零一万物表示,近期零一万物将为开发者提供更多更强模型和 AI 开发框架。包括:

推出一系列的模型 API,覆盖更大的参数量、更强的多模态,更专业的代码/数学推理模型等;

 突破更长的上下文,目标 100 万 tokens;支持更快的推理速度,显著降低推理成本;

基于超长上下文能力,构建向量数据库、RAG、Agent 架构在内的全新开发者 AI 框架。旨在提供更加丰富和灵活的开发工具,以适应多样化的应用场景。

AI 2.0 正在进一步发展,并深入千行百业。作为新质生产力核心的 AI 2.0 技术,是开发者需要重点关注的领域。借助优质 AI 2.0 厂商的 API 和开发工具,开发者可以提高研发效率,加速 AI 2.0 的应用落地,正在成为 2024 年全新的 AI 2.0 研发趋势。目前 Yi 大模型 API 开放平台推出了上新优惠活动,名额限量开放中,新用户即赠送60元。机会难得,点击阅读原文了解详情~

零一万物邀请具有创造力的开发者并肩作战,助力加速开发 AI 2.0 应用生态,一同探索 LLM 的广阔应用场景!