-
研究公司公布 SwiftKV 技术:优化大模型提示词处理过程、降低 50% AI 推论时间
1月17日讯 研究公司 Snowflake 公布了一款名为“SwiftKV”的 AI 模型调校技术,并在 Hugging Face 开源三款利用“SwiftKV”技术进行调校的 Llama 3.1 AI 模型(点此访问)。 据悉,SwiftKV 技术的核心在于优化模型提示词处理过程。研究人员指出,通常情况下大模型最为消耗计算资源的环节在于处理用户为模型输入的提示词,而许多企业为模型自定义了极长的提…...- 魔果智讯
- 0
- 0
- 32
-
Grammarly 收购 AI 公司 Coda,将为企业推出大模型 LLM 助手 / 语法检查工具
12月20日讯 小伙伴们可能有用过 Grammarly 工具提供的“语法检测”服务,这一工具对于英文书信等场合较为友好,而根据 Grammarly 官方新闻稿,该公司现已收购一家 AI 初创公司 Coda,将涉足 AI 生产力领域。 在所有收购程序完成后,Coda 现任首席执行官 Shishir Mehrotra 将接任 Grammarly 的新首席执行官,而现任 CEO Rahul Roy-Ch…...- 魔果智讯
- 0
- 0
- 80
-
初创公司 Odyssey 推出 AI 工具 Explorer:文本、图像可秒变逼真 3D 场景
12月19日讯 由自动驾驶领域先驱 Oliver Cameron 和 Jeff Hawke 创立的初创公司 Odyssey 推出了一款名为 Explorer 的 AI 驱动工具,可将文本或图像转换为 3D 渲染场景。 据悉,Explorer 在某些方面与 DeepMind、World Labs 和以色列初创公司 Decart 近期演示的“世界模型”类似,只需输入“拥有茂密绿色植物的日式花园”等描述…...- 魔果智讯
- 0
- 0
- 77
-
OpenAI ChatGPT Canvas 进化:React 渲染和文本格式化工具即将来袭
12月19日讯 科技媒体 testingcatalog 昨日(12 月 18 日)发布博文,报道称 OpenAI 正积极提升 ChatGPT Canvas 功能,新增 React 渲染功能和“Transform”高级文本格式化选项。 在 Canvas 中进行 React 渲染 OpenAI 正在开发 Canvas 内的 React 渲染功能,让用户可以直接在界面中可视化 React 组件。 该功能…...- 魔果智讯
- 0
- 0
- 63
-
MLCommons 发布 PC AI 基准测试 MLPerf Client 首个公开版本 0.5
12月12日讯 开放式机器学习工程联盟 MLCommons 美国加州当地时间昨日宣布推出适用于衡量消费类 PC 的 AI 性能的 MLPerf Client 基准测试的 0.5 版本,这也是该测试的首个公开版本。 MLCommons 表示 MLPerf Client 基准测试的诞生是 AMD、英特尔、微软、英伟达、高通和顶级 PC OEM 等利益相关方的合作成果,各方为该测试贡献了丰富的专业知识和…...- 魔果智讯
- 0
- 0
- 66
-
月之暗面 Kimi 联合清华大学等开源大模型推理架构 Mooncake
11月28日讯 月之暗面 Kimi 和清华大学 MADSys 实验室 2024 年 6 月联合发布了 Kimi 底层的 Mooncake 推理系统设计方案。该系统基于以 KVCache 为中心的 PD 分离和以存换算架构,提升了推理吞吐量。 近日,为了进一步加速该技术框架的应用与推广,月之暗面 Kimi 和清华大学 MADSys 实验室联合 9#AISoft、阿里云、华为存储、面壁智能、趋境科技等…...- 魔果智讯
- 0
- 0
- 64
-
百度发布文心 iRAG 文生图技术“去除 AI 味”,推出无代码开发“秒哒”工具
11月12日讯 在今日的 2024 百度世界大会上,百度创始人李彦宏发布了两项新的 AI 技术 —— 检索增强的文生图技术(iRAG)和无代码工具“秒哒”。 李彦宏表示,文心大模型最新的日均调用量已经来到 15 亿,较半年前(2 亿调用量)增长至 7.5 倍。 幻觉问题是大模型广泛应用的最大限制之一,而解决文本生成幻觉问题背后的技术就是 RAG,即检索增强。李彦宏表示,过去 24 个月对于大模型行…...- 魔果智讯
- 0
- 0
- 83
-
AI 初创公司推出 Nous Chat 聊天机器人,底层基于 Meta Llama 3.1 打造
11月11日讯 AI 初创公司 Nous Research 近期推出了一款名为 Nous Chat 的 AI 聊天机器人,该机器人基于 Meta Llama 3.1 微调而成的“Hermes 3-70B”模型打造,号称在“模型架构、数据合成、微调和推理”方面均进行深入改进,致力于“以人为本”。 据悉,Nous Chat 机器人具备长脉络记忆、多轮对话、复杂角色扮演及自我独白等功能,目前 Nous …...- 魔果智讯
- 0
- 0
- 97
-
谷歌推出安全分析 AI 工具 Big Sleep,实战告捷抓出 SQLite 堆栈缓冲区下溢漏洞
11月4日讯 谷歌于 10 月 31 日公布了一项基于 AI 的漏洞分析工具 Big Sleep,该工具号称能够模仿人类安全专家“系统性地发现和分析安全漏洞”。 谷歌声称,研究人员已利用该工具发现了 SQLite 的一项堆栈缓冲区下溢漏洞,而这一漏洞实际上用现有的分析工具均无法发现,因此谷歌认为这一工具有较高的实用性。 据介绍,谷歌 Big Sleep 分析工具源于谷歌 Project Zero …...- 魔果智讯
- 0
- 0
- 37
-
提升 1.5~20 倍吞吐量,字节豆包大模型团队与香港大学发布并开源全新 RLHF 框架
11月3日讯 字节跳动豆包大模型团队与香港大学公开联合研究成果 —— HybridFlow。 官方宣称,HybridFlow(开源项目名:veRL)是一个灵活且高效的大模型 RL 训练框架,兼容多种训练和推理框架,支持灵活的模型部署和多种 RL 算法实现。 该框架采用混合编程模型,融合单控制器(Single-Controller)的灵活性和多控制器(Multi-Controller)的高效性,可更…...- 魔果智讯
- 0
- 0
- 29
-
OpenAI 开源 SimpleQA 新基准,专治大模型“胡言乱语”
10月31日讯 当地时间 30 日,OpenAI 宣布,为了衡量语言模型的准确性,将开源一个名为 SimpleQA 的新基准,可衡量语言模型回答简短的事实寻求(fact-seeking)问题的能力。 AI 领域中的一个开放性难题是如何训练模型生成事实正确的回答。当前的语言模型有时会产生错误输出或未经证实的答案,这一问题被称为“幻觉”。能够生成更准确、更少幻觉的回答的语言模型更为可靠,可以用于更广泛…...- 魔果智讯
- 0
- 0
- 56
-
天桥脑科学研究院团队自研的OMNE AI大模型框架登上基准测试GAIA榜首
天桥脑科学研究院(Tianqiao and Chrissy Chen Institute,TCCI)的 AI 团队在 AI 技术领域取得了重要进展。 近期,天桥脑科学研究院自研OMNE Multiagent大模型——是一个基于长期记忆(Long Term Memory, LTM)的多智能体协作框架,每个智能体拥有相同且独立的系统结构,能够自主学习和理解完整的世界模型,从而独立理解环境。基于LTM的…...- 魔果智讯
- 0
- 0
- 52
-
微软开源 bitnet.cpp 1-bit LLM 推理框架:不靠 GPU 可本地运行千亿参数 AI 模型,能耗最多降低 82.2%
10月19日讯 科技媒体 marktechpost 昨日(10 月 18 日)发布博文,报道称微软公司开源了 bitnet.cpp,这是一个能够直接在 CPU 上运行、超高效的 1-bit 大语言模型(LLM)推理框架。 用户通过 bitnet.cpp 框架,不需要借助 GPU,也能在本地设备上运行具有 1000 亿参数的大语言模型,实现 6.17 倍的速度提升,且能耗可以降低…...- 魔果智讯
- 0
- 0
- 79
-
Meta发布AI视频生成器Movie Gen:一键生成高清视频
10月6日讯 据媒体报道,Meta公司发布了其最新的AI视频生成器Movie Gen,这是一款能够自动生成包含声音的高清视频的创新工具,为影视、广告、动漫等多个领域带来了全新的可能性。 据介绍,Movie Gen凭借前沿的AI技术,只需用户提供的文本提示或图片,即可迅速生成高质量的视频内容。它不仅能够打造出接近实拍效果的影视级AI视频,还支持真实、动画、二次元和魔幻等多种风格,满足用户多样化的创作…...- 魔果智讯
- 0
- 0
- 98
-
PyTorch 架构优化库 torchao 正式发布,可大幅提升 AI 模型效率
10月2日讯 据 PyTorch 新闻稿,PyTorch 旗下架构优化库 torchao 现已正式发布,该优化库主要专注于模型的量化和稀疏性优化,能够在保证性能的同时降低模型的计算成本和 RAM 用量,从而提升模型运行效率。 GitHub 页面地址(点此访问)。 据介绍,torchao 提供了一系列优化工具集,可以帮助 LLaMA 3 等流行的 AI 模型提升性能,其支持 float8、int4 …...- 魔果智讯
- 0
- 0
- 16
-
中国信通院、北邮与清华联合发布开源“有形”具身智能操作系统
9月27日讯 据中国信通院今日披露,中国信息通信研究院、北京邮电大学与清华大学联合推出了一款面向智能机器人的开箱即用的具身智能操作系统 —— 有形具身智能操作系统,英文名为:Embodied Operating System(简称“EOS”),并已经于近期开源。 有形具身智能操作系统(EOS)架构图 从官方介绍获悉,有形具身智能操作系统(EOS)不同于国外知名机器人框架 ROS,其不仅限于中间件层…...- 魔果智讯
- 0
- 0
- 96
-
OpenAI 发布 MMMLU 数据集:更广、更深评估 AI 模型,支持简体中文
9月24日讯 科技媒体 marktechpost 昨日(9 月 23 日)发布博文,报道称 OpenAI 在 Hugging Face 上发布了多语言大规模多任务语言理解(MMMLU)数据集。 背景 随着语言模型日益强大,评估其在不同语言、认知和文化背景下的能力已成为当务之急。 OpenAI 决定推出 MMMLU 数据集,通过提供强大的多语言和多任务数据集,来评估大型语言模型(LLMs)在各种任务…...- 魔果智讯
- 0
- 0
- 66
-
英伟达 NVLM 1.0 引领多模态 AI 变革:媲美 GPT-4o,不牺牲性能平衡文本和图像处理难题
9月21日讯 科技媒体 marktechpost 昨日(9 月 20 日)发布博文,报道了英伟达(Nvidia)最新发布的论文,介绍了多模态大语言模型系列 NVLM 1.0。 多模态大型语言模型(MLLM) 多模态大型语言模型(MLLM)所创建的 AI 系统,能够无缝解读文本和视觉数据等,弥合自然语言理解和视觉理解之间的差距,让机器能够连贯地处理从文本文档到图像等各种形式的输入。 多模态大型语言模…...- 魔果智讯
- 0
- 0
- 90
-
摩尔线程开源 OpenCV-MUSA:支持绝大部分 cv::cuda 命名空间下数据结构及 API
9月20日讯 摩尔线程宣布其自研统一系统架构 MUSA 已完成与开源计算机视觉库 OpenCV 的适配,并正式发布 OpenCV-MUSA 开源项目。 OpenCV 作为计算机视觉领域最重要的开源库之一,为图像和视频处理的开发者和研究人员提供了强大且灵活的工具。OpenCV 在自动驾驶、医疗影像、安防监控、机器人视觉、增强现实和图像识别等多个领域得到广泛应用。 在现有 OpenCV 代码的基础上,…...- 魔果智讯
- 0
- 0
- 81
-
谷歌推出 DataGemma:基于可信数据源提高 AI 准确度,减少幻觉
9月13日讯 科技媒体 maginative 昨日(9 月 12 日)发布博文,报道谷歌公司基于谷歌数据共享(Data Commons)中的真实世界统计数据,推出了开放权重 Gemma 模型的新版本 DataGemma。 语言模型当前面临的一大难题就是幻觉(Hallucinations),尤其是大语言模型(LLMs)在处理数值或统计数据时,这一问题变得尤为棘手,因此精确性至关重要。 谷歌的 Da…...- 魔果智讯
- 0
- 0
- 94
-
Meta 研发新方法:整合语言和扩散 AI 模型,降低计算量、提高运算效率、优化生成图像
8月24日讯 Meta AI 公司最新推出了 Transfusion 新方法,可以结合语言模型和图像生成模型,将其整合到统一的 AI 系统中。 据团队介绍,Transfusion 结合了语言模型在处理文本等离散数据方面的优势,以及扩散模型在生成图像等连续数据方面的能力。 Meta 解释说,目前的图像生成系统通常使用预先训练好的文本编码器来处理输入的提示词,然后将其与单独的扩散模型结合起来生成图像。…...- 魔果智讯
- 0
- 0
- 47
-
Geekbench AI 性能跑分工具 1.0 发布,支持 PC 手机全平台
8月16日讯 Primate Labs 今日发布了 Geekbench AI 基准测试的第一个版本。虽然名称是新的,但该软件是 Geekbench ML 改名而来的。 从 Primate Labs 官方博客获悉,Geekbench ML 包括计算机视觉和自然语言处理测试,已经进行了一段时间的预览。开发者意识到,ML(机器学习)这个术语并不太适合推广工具,取而代之的是更适合营销的 Geekbench…...- 魔果智讯
- 0
- 0
- 90
-
OpenAI 推出 SWE-bench Verified 基准,更准确评估 AI 模型代码生成表现
8月15日讯 OpenAI 公司于 8 月 13 日发布新闻稿,宣布推出 SWE-bench Verified 代码生成评估基准,解决了此前的局限性问题,能够更准确地评估人工智能模型在软件工程任务中的表现。 SWE-bench 注:SWE-Bench 是一个用于评估 LLM 解决 GitHub 上真实软件问题能力的基准测试数据集。 它收集了来自 12 个流行的 Python 仓库的 2294 个 …...- 魔果智讯
- 0
- 0
- 72
-
“神笔马良版 Sora”,阿里团队推出视频 AI 生成框架 Tora:画圈操控物体运动轨迹
8月6日讯 阿里团队最新推出了 AI 视频生成框架 Tora,同时集成了文本、视觉和轨迹条件用于生成视频,是基于轨迹导向的扩散变换器(DiT)技术。 Tora 由一个轨迹提取器(TE)、一个时空 DiT 和一个运动引导融合器(MGF)组成: TE 使用 3D 视频压缩网络将任意轨迹编码为分层时空运动补丁。 MGF 将运动贴片集成到 DiT 模块中,以生成遵循轨迹的连贯视频。 Tora 无缝契合 D…...- 魔果智讯
- 0
- 0
- 58
❯
个人中心
购物车
优惠劵
今日签到
有新私信
私信列表
搜索
客服
扫码打开当前页
返回顶部
幸运之星正在降临...
点击领取今天的签到奖励!
恭喜!您今天获得了{{mission.data.mission.credit}}积分
我的优惠劵
-
¥优惠劵使用时效:无法使用使用时效:
之前
使用时效:永久有效优惠劵ID:×
没有优惠劵可用!