2024年9月20日

今年早些时候,MLPerf 增加了一个针对训练大型语言模型(LLM)的测试,特别是 GPT-3。本月,它又添加了一个基于文本生成图像的测试——Stable Diffusion。搭载处理器的计算机接受了这一新基准的挑战。此外,在训练 GPT-3 的领域,这两个竞争对手还迎来了

所有三家公司都投入了庞大的系统来完成这一任务——其中,英伟达的 10,000 GPU超级计算机是迄今为止测试过的最大系统——这种规模对于生成型 AI 来说是必要的。即便是英伟达最大的系统,也需要工作八天才能完成其 LLM 任务。

总体而言,19 家公司和机构提交了 200 多个结果,显示出过去五个月以来 2.8 倍的性能提升,以及自 MLPerf 成立五年来 49 倍的增长。

英伟达继续以其 H100 GPU 构建的系统主导 MLPerf 基准测试。然而,最引人注目的是来自公司新的 10,752-GPU AI超级计算机 Eos 的结果。Eos 在不到 4 分钟的时间内完成了 GPT-3 训练基准的任务。微软的云计算部门 Azure 测试了同等规模的系统,仅落后 Eos 几秒钟。(Azure 支持 GitHub 的编码助手 CoPilot 和 OpenAI 的 ChatGPT。)

Eos 的 GPU 能够实现总计 42.6 亿亿次浮点运算(exaflops),并且通过 Nvidia 的 Quantum-2 Infiniband 互联技术,实现了每秒 1.1 百万亿字节的传输速度。英伟达 AI 基准测试和云计算总监 Dave Salvatore 表示:「这些速度和数据的规模令人震惊,这是一台极其强大的机器。」

Eos 将绑定到单一机器中的 H100 GPU 数量增加了三倍。这三倍的增长获得了 2.8 倍的性能提升,或 93% 的扩展效率。高效的扩展是持续改进生成型 AI 的关键,这些 AI 每年都在以 10 倍的速度增长。

Eos 应对的 GPT-3 基准测试并非 GPT-3 的完整训练,因为 MLPerf 希望多家公司都能够达到这一水平。相反,它涉及将系统训练到一个特定的检查点,证明给予足够时间,训练将达到所需的准确性。而这些训练确实需要时间。从 Eos 的 4 分钟结果推断,完成训练需要 8 天,而这或许是迄今为止建造的最强大的 AI超级计算机。相比之下,一个更为合理大小的计算机——搭载 512 个 H100 的系统——将需要 4 个月的时间。

与此同时,英特尔也在逐步缩小差距。英特尔提交了使用 Gaudi 2 加速器芯片的系统结果,以及仅依赖其至强 CPU 的系统结果。与上一轮训练基准相比,最大的变化是公司启用了 Gaudi 2 的 8 位浮点(FP8)功能。在过去 10 年中,使用低精度数字(如 FP8)是 GPU 性能大幅提升的主要原因。在 GPT-3 和其他 Transformer 神经网络的部分环节中使用 FP8,已经在英伟达的 H100 结果中显示出其价值。现在,Gaudi 2 也看到了性能提升。

英特尔 Habana Labs 的首席运营官 Eitan Medina 表示:「我们预计启用 FP8 将带来 90% 的性能提升。我们交付的成果超出了预期——384 加速器集群的训练时间缩短了 103%。」

这一新结果使得 Gaudi 2 系统的速度略低于英伟达系统的三分之一,并且是谷歌 TPUv5e 的三倍。在新的图像生成基准测试中,Gaudi 2 的速度也大约是 H100 的一半。这一轮,FP8 仅启用于 GPT-3 基准测试,但 Medina 表示他的团队目前正在为其他测试开启 FP8。

Medina 继续强调,与 H100 相比,Gaudi 2 在价格方面有显著优势,因此在价格和性能的综合指标上具有优势。Medina 预计,随着英特尔下一代加速器芯片 Gaudi 3 的推出,这一优势将会增长。Gaudi 3 将于 2024 年投入大规模生产,采用与英伟达 H100 相同的半导体制造工艺。

此外,英特尔还提交了仅基于 CPU 的系统结果。再次展示了多个基准测试中训练时间从几分钟到几小时不等的情况。除了 MLPerf 基准测试之外,英特尔还分享了一些数据,显示一个包含 AMX 矩阵引擎的 4 节点至强系统可以在不到五分钟内微调图像生成器 Stable Diffusion。微调是指对已经训练好的神经网络进行专门化,以适应特定任务。例如,英伟达的芯片设计 AI 是对现有大型语言模型 NeMo 的微调。

11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!

根据普华永道中东地区的高管所言,阿联酋正在引领海湾合作委员会国家在生成式人工智能领域的热情。政府鼓励该领域的发展和采用,使阿联酋在全球舞台上脱颖出。为减轻问题如响应偏见和主观修辞,负责任地获取用于训练这些模型的信息至关重要。

自从ChatGPT等生成式人工智能工具兴起以来,人们一直在猜测苹果何时会推出自己的生成式人工智能。这可能会在明年实现。这项技术将在AppleMusic、Xcode和Siri等应用程序中实现。

划重点:1.🚨能源行业面临新威胁:沙特阿美首席执行官警告,随着产生式人工智能等新技术的出现,能源行业变得更加脆弱。2.🤝全球合作呼吁:沙特阿美CEO呼吁全球合作,建立国际标准以应对人工智能的负面影响。这也提醒我们,随着技术的不断发展,保护关键基础设施和数据的重要性愈发凸显。

微软最近更新了其在线服务的条款和条件,其中警告称“过多”使用其生成式人工智能服务的用户可能会受到访问限制。这种新语言出现在11月1日微软法律术语的更新中,由许可观察者CloudyWithAChanceOfLicensing发现。尽管微软没有明确说明限制的具体细节,但可能会影响一些用户对微软人工智能服务的使用。

印度电影行业正积极拥抱生成式人工智能作为创新创作的新途径。印度媒体集体ZeeEntertainment的首席数据官AmritThomas,在Cypher2023大会上分享了ZeeEntertainment如何利用生成式AI来创造新内容。这一趋势表明,AI将在电影业中发挥重要作用。

一份来自专业服务公司KPMG的新报告揭示了高级管理人员对工作场所生成式人工智能的立场。72%的美国CEO确认将在其业务中部署生成式AI,即使面临宏观经济挑战,也将视为“投资重点”。但报告指出,入门级角色和客户服务工作面临AI替代的风险最高,女性是受影响最大的人群。

Visa公司周三宣布,其支付咨询部门VisaConsulting&Analytics正式推出AI咨询实践服务,目的是为客户提供可行的洞见和建议,帮助他们利用生成式人工智能。VCA利用其全球网络,包括1000多名顾问、数据科学家和产品专家,遍布六大洲,为客户提供这项增值服务。VisaVentures负责人DavidRolf在一份声明中说:「鉴于生成式AI有可能成为我们这个时代最具变革性的技术之一,我们很高兴扩大我们的关注点,投资于一些在生成式AI、商业和支付领域建设最具创新性和颠覆性的风险投资支持的初创公司。

谷歌发布博客文章宣布,正在推出一系列新的生成式人工智能工具,旨在创造广告内容,从撰写出现在搜索结果旁的标题和描述,到创建和编辑配图。图片来自Google谷歌正在将此工具推广给广告代理机构以及没有内部创意团队的企业。所有AI生成的广告内容将受到SynthID的约束,这是一种元数据水印,有助于检测使用AI制作的内容。

站长之家11月3日消息:在今天涵盖2023财年第四季度的财报电话会议上,苹果高管与分析师和投资者举行了问答环节。苹果首席执行官TimCook被问及苹果如何可能实现生成式人工智能的商业化。这突显了苹果对于在AI领域持续创新和保持领先地位的决心和投资。

根据最新的PwC报告,企业界担忧生成式人工智能将对网络安全造成“灾难性”影响。这项名为“数字信任洞察”的调查发现,超过半数的企业认为未来一年生成式AI将导致灾难性的网络攻击。今年6月,BT威胁情报专家CatherineWilliams表示,AI在网络安全方面是一把“双刃剑”,因为它被部署在“战场”双方。

Magic Hour是一款AI视频创作工具,提供Text-to-Video、Video-to-Video、Animation、Face Swap等功能。用户可以通过应用风格转移、换脸等技术,轻松制作出高质量的视频内容。产品定位于为创作者提供简单易用的工具,让他们专注于创作,释放创造力。Magic Hour使用最优秀的开源AI模型,拥有简单的用户界面和最佳的设置,自动化技术细节,让用户专注于创作。

Pansophic是一款AI智能用户访谈工具,通过AI代理人与用户进行访谈并总结他们的反馈。用户只需提供研究目标和产品概述,就可以让AI代理人与用户进行访谈并总结见解。定价为每次访谈5美元,前5次访谈免费。

SecondSoul是一个聊天机器人平台,允许你生成你的AI版本并向你的粉丝提供24/7的对话。我们为Onlyfans创作者提供服务,选择影响者/模特并生成他们的AI版本,以扩展他们的收入渠道。创作者可以通过提供这种新服务来区分自己的个人资料,并根据我们的佣金计划赚钱。

GPT4 Vision Chatbot是一款基于GPT-4 Vision AI的无代码聊天机器人构建器。用户可以通过Google或Github账号登录,快速创建自己的聊天机器人。该产品具有强大的AI能力,能够智能识别视觉内容,并进行自然语言交互。定位于帮助用户快速构建智能聊天机器人,提升用户体验。

MusicGen Stereo是一系列用于生成立体声音乐的模型,包括小型、中型、大型和旋律大型模型。这些模型可以将文本转换为高质量的音频,适用于各种音乐生成场景。定价根据模型规模和使用情况而定,定位于为用户提供高质量的音乐生成解决方案。

Motif 是一个基于 PyTorch 的项目,通过从 LLM(大型语言模型)的偏好中获取奖励函数,训练 AI 代理在 NetHack 上进行。它可以生成与人类行为直觉一致的行为,并且可以通过提示修改进行引导。

Squad是一款AI驱动的产品经理助手,能够将用户反馈转化为可操作的洞察,自动化需求和测试用例的创建,并协助设定目标,让您专注于战略而非繁琐的管理。Squad PRO将为用户提供更多功能,现在我们正在寻找封闭Alpha测试的参与者。注册账户即可有资格参与选择。

这是一个使用 tldraw 和 gpt-4-vision api 根据您绘制的线框生成 html 的应用程序。可以快速创建静态网页的原型,并自动生成对应的HTML代码,提高前端开发效率。该工具简单易用,适合前端开发人员和UI设计师使用。定位于提升界面设计和开发效率,降低工作量。其工作原理是,只需获取当前画布 SVG,将其转换为 PNG,并将该 png 发送到 gpt-4-vision,并附有指令以返回带有 tailwind 的单个 html 文件。

紫东太初是中科院自动化所和武汉人工智能研究院推出的新一代大模型,支持多轮问答、文本创作、图像生成、3D理解、信号分析等全面问答任务,拥有更强的认知、理解、创作能力。具有广泛的应用场景,包括文本创作、知识问答、图文音理解、音乐生成、3D理解和信号分析等功能。产品定位于提供高质量的人工智能交互体验。

Audioread是一款利用人工智能将文字转换为语音的工具。其具备超逼真的文本转语音引擎,能够以自然而专业的叙述风格朗读任何文本,旨在长时间收听,训练有素,几乎无法与真实有声书叙述者区分开来。用户可以使用网页应用、浏览器插件、iOS快捷方式或Android应用程序将文字转换为音频,也可以转发电子邮件、拖放PDF、复制/粘贴文本或者高亮文本。Audioread还支持创建并订阅私人播客,用户可以在任何播客应用程序中订阅私人播客,如Apple Podcasts、Google Podcasts、Spotify等。此外,用户还可以在浏览器中收听,无需安装任何应用。Audioread还提供付费服务,包括月度订阅,每月9.99美元,每次转换最多10万字,每日最多50万字,支持77种语言。

Eilla AI是一款AI平台,利用高质量行业专业人士的智慧,自动化繁琐任务并支持复杂决策。它可以帮助用户优化并购、风投和私募股权交易流程,提高工作效率。

Pet-Knowing利用AI技术,帮助用户识别宠物品种和情感。用户可上传宠物照片,通过图像和音频数据,系统将识别出宠物的品种和情感。产品准确度高,数据安全可靠。定位为宠物爱好者和养宠人士的便捷工具。

FTChatAI是一款人工智能聊天机器人,采用最新的自然语言处理技术,能够进行智能而有趣的对话。无论您想要写长篇内容(如文章或邮件)、讨论时事、分享想法和感受,还是随意聊天,FTChatAI都能倾听并与您互动。凭借其不断发展的人工智能技术,FTChatAI能够理解并回应各种话题和主题,帮助您解决工作和个人生活中的各种问题。

Smexy AI是最简单、最快速、最好的平台,用于生成和分享您的幻想。无需GPU或强大的计算机,只需输入您的提示并开始生成。与其他网站不同,我们提供具有无限提示选项的最高质量模型。通过我们简化的提示工具,您可以轻松进行任何调整以满足您的精确需求。定价请参考官方网站。定位于为用户提供快速、高质量的幻想生成和分享平台。

EnglishXYZ是一款专为英语学习者设计的插件,提供双语字幕、快捷查词和收藏等功能,让用户将YouTube打造成专属的英语学习教室。插件还具备强大的查词功能,支持快速显示释义、详细信息查阅以及单词收藏。同时,后台系统能记录用户收藏的所有单词,方便随时复习。EnglishXYZ定位于帮助用户在观看视频的同时轻松学习英语。

Fridgtain: Grocery Genius是一款厨房管理APP,通过创建数字版冰箱,添加食材,设置保质期,提供清单、库存、过期提醒等功能,帮助用户更好地管理食材,避免浪费。升级到Fridgtain PRO版本,用户可以享受AI扫描等高级功能,支持多个数字版冰箱,适合更大的家庭使用。该产品定位于家庭用户,价格免费,PRO版本年费44.99欧元,月费3.99欧元。

Stylefie AI是一款利用人工智能技术,能够从用户上传的照片中生成多种独特头像风格的产品。用户只需上传照片,即可在几秒钟内享受到超过20种独特的头像风格,为用户的照片增添创意和个性。产品定位于个人用户,提供简单易用的头像风格生成服务。

Roast My Room是一款AI室内设计评估工具,用户可以上传房间图片,获取AI评估和室内设计建议。它可帮助室内设计师、房地产经纪人、DIY爱好者和家具商店提供实时设计选择、展示潜在房屋潜力、节省时间和提高销售额。

Roast your email是一款基于GPT-4 Vision的产品,通过上传邮件截图,可以获取对邮件的调侃和嘲讽。它能够帮助用户在轻松的氛围中检查邮件内容,提供一些有趣的建议和评论。产品定位于提供娱乐和轻松的体验。

GiftGPT是一款基于个性化算法的礼物推荐平台。我们的独特算法根据收礼人的兴趣、年龄和关系量身定制礼物想法,确保您每次都能找到完美的礼物。我们的专家团队精心挑选来自信任来源的高质量礼物,让您可以从市场上最佳的选择中挑选。无论您是在寻找贴心的生日礼物还是豪华的周年纪念惊喜,我们都有适合各种预算和场合的礼物想法。

发表评论

邮箱地址不会被公开。 必填项已用*标注