2024年9月20日

今日,记者获悉,在 2023 年度AI网络创新大会上,腾讯云星脉网络获得了“标杆应用奖”。大会由中国通信学会主办,该奖项旨在表彰具有强商业价值、高服务水平和显著应用效益的优秀AI网络行业应用案例。

星脉网络是腾讯云自研的大模型专属高性能网络。基于腾讯云新一代算力集群HCC,可支持 10 万卡的超大计算规模;同时,星脉网络具备业界比较高的3.2T通信带宽,时延降到10us-40us,丢包率降到0,为AI大模型带来 10 倍通信性能提升,提升40%的GPU利用率,节省30%-60%的模型训练成本。

腾讯云副总裁王亚晨在现场的分享中介绍了星脉网络。星脉网络基于高速以太网络技术进行构建,为腾讯混元大模型提供了高性能互联底座。

王亚晨指出,随着AI大模型的不断发展,对网络的传输和稳定提出了新的需求。传统的网络架构已经越来越满足不了大模型训练的需求。

千亿、万亿参数规模的大模型,训练过程中通信占比比较大可达50%,传统低速网络的带宽远远无法支撑。同时,传统网络协议容易导致网络拥塞、高延时和丢包,而仅0.1%的网络丢包就可能导致50%的算力损失,最终造成算力资源的严重浪费。大带宽、高利用率、信息无损,是AI大模型时代网络面临的核心挑战。

基于全面自研能力,腾讯云在交换机、通信协议、通信库以及运营系统等方面,进行了软硬一体的升级和创新,率先推出业界领先的大模型专属高性能网络——星脉网络。

在硬件方面,星脉网络基于腾讯的网络研发平台,采用全自研设备构建互联底座,实现自动化部署和配置。

在软件方面,腾讯云自研的TiTa网络协议,采用先进的拥塞控制和管理技术,能够实时监测并调整网络拥塞,满足大量服务器节点之间的通信需求,确保数据交换流畅、延时低,实现高负载下的零丢包,使集群通信效率达90%以上。

此外,腾讯云还为星脉网络设计了高性能集合通信库TCCL,融入定制化解决方案,使系统实现了微秒级感知网络质量。结合动态调度机制合理分配通信通道,可以避免因网络问题导致的训练中断等问题,让通信时延降低40%。

网络的可用性,也决定了整个集群的计算稳定性。为确保星脉网络的高可用,腾讯云自研了端到端的全栈网络运营系统,通过端网立体化监控与智能定位系统,将端网问题自动定界分析,让整体故障的排查时间由天级降低至分钟级。同时,大模型训练系统的整体部署时间从 19 天缩减至4. 5 天,保证基础配置高准确。

2023 AI网络创新大会由中国通信学会指导,中国通信学会信息通信网络技术委员会、江苏省未来网络创新研究院主办,SDNLAB协办;邀请运营商、互联网公司、设备厂商代表、高校与科研单位代表,围绕AI下的网络互连架构、AI网络设备、高性能网络传输技术、网络调度与资源分配等议题进行分享交流,搭建国内头个AI网络垂直交流平台,为AI行业稳健发展夯实网络基础设施,以技术创新升级驱动赋能网络发展。

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!

SALMONN是一个多模态神经网络,能够直接处理和理解包括语音、音频事件和音乐在内的一般音频输入,并在多种语音和音频任务上取得竞争性表现。论文地址:采用了两个互补的音频编码器,一个用于处理语音,另一个用于处理非语音音频事件,以实现对各种音频任务的优越性能。这一研究有望推动具有通用听觉能力的人工智能的发展。

FerretAI是一款旨在帮助用户在进入商业协议之前获取网络背景信息的AI工具。这个工具自动监控各种信息来源,包括报纸档案、法律记录和公司所有权记录,以审查潜在的客户、投资者和商业伙伴。尽管该工具当前收集的所有数据都是公开可获得的,但仍会引发潜在的隐私担忧。

Dropbox最近宣布一系列重大更新,旨在适应分布式虚拟工作的新时代。这些更新包括新的视频工具、AI工具的增强功能以及新的订阅计划,旨在提高工作效率和支持用户的不断增长的需求。这些更新将使Dropbox用户能够更高效地处理工作,满足不断增长的工作需求,支持分布式虚拟工作的新时代。

在数字时代的快速脉搏下,技术的创新和进步已成为常态。但与此同时,新型网络犯罪,特别是电信网络,也随之来。他们利用前沿技术,构建起了一个坚不可摧的数字防火墙,确保了金融交易的安全与稳定。

《未成年人网络保护条例》正式发布,自2024年1月1日起施行。一是健全未成年人网络保护体制机制。要求网络游戏服务提供者建立、完善预防未成年人沉迷网络的游戏规则,对游戏产品进行分类并予以适龄提示。

以色列正在积极开发一项网络防御系统,以应对不断涌现的数字威胁,保护其关键基础设施。这一网络穹顶系统的设计灵感源自以色列的「铁穹」国防防空系统,已经得到了发展,引入生成式人工智能平台,以帮助从每天处理的威胁情报和网络攻击声明的海洋中过滤出真正的威胁。目前尚未向公众提供有关网络防御系统的机制和工具的具体细节。

随着越来越多的媒体出版商开始阻止人工智能网络爬虫访问其内容,一家名为Direqt的初创公司正与他们合作,提供定制的聊天机器人解决方案。Direqt了解到即时通讯应用正在占据越来越多的消费者时间,因此看到了为出版商构建专门聊天机器人平台的机会。这为严重依赖广告的公司提供了一个诱人的选择,可以通过聊天机器人提高参与度和收入。

经过这几年的努力,5G网络已经十分普及运营商、设备上也都早已开启了针对6G的研发。三星电子美国分部日前已向美国联邦通信委员会申请无线电频率使用许可,将在美国得克萨斯州普莱诺周边1公里距离内,进行12.7GHz13.25GHz频段的6G测试。在峰值速率、时延、流量密度、连接数密度、移动性、频谱效率、定位能力等方面都要远远超过5G。

三星推出新一代FE平板电脑,GalaxyTabS9FE和FE。这两款平板保留了GalaxyTabS9的部分旗舰配置,但价格有所降低。起价为529欧元,具体价格和供货情况因地区和国家异。

获得亚马逊40亿美元投资的ChatGPT主要竞争对手Anthropic在官网公布了一篇名为《朝向单义性:通过词典学习分解语言模型》的论文,公布了解释经网络行为的方法。由于神经网络是基于海量数据训练成,其开发的AI模型可以生成文本、图片、视频等一系列内容。理解神经网络行为,对增强大语言模型的安全性、准确性至关重要。

Newsletter Pilot是一个基于人工智能技术的电子通讯快速生成平台。它可以在几秒钟内自动为用户生成互动性强、吸引眼球的电子通讯内容。该产品可以帮助用户节省高达80%的电子通讯创作时间,让用户更加专注于核心工作。它拥有连接Mailchimp等知名电子通讯服务的功能,使内容发布更为便捷。用户只需提供文章链接或文稿,Newsletter Pilot即可在秒级内自动生成电子通讯。用户还可以选择语调风格,并在生成后进行REVIEW和微调。该产品简洁高效,是电子通讯创作的完美工具。

DocuChat是一款基于AI的聊天机器人,可以根据您的数据进行训练,提供即时答案,并支持引用您的文档和网站。您可以上传文档、网站、媒体文件和YouTube视频来创建聊天机器人。支持80多种语言的问答,答案都有文献引用支持。您可以自定义机器人的外观并与他人共享或嵌入到您的网站中。DocuChat可以帮助您的团队更专注于有意义的工作,提高效率。

HackerPulse是一个免费的在线平台,使用机器学习算法和ChatGPT帮助软件工程师制作个性化的在线简历。它提供自定义的简历模板,使用ChatGPT自动生成个人描述,以及成功简历案例供参考。主要功能包括:简历生成器,使用ChatGPT智能编写个人描述;在线简历平台,创建个性化展示网页;求职指导,提供成功简历模板和案例。关键优势是简化简历制作流程,使用AI提高简历质量,在线可分享,方便被HR和招聘者发现。

resumepal利用人工智能提供个性化简历洞察和聊天机器人支持。求职者可以获取分析结果来优化他们的简历,雇主则可以简化岗位描述以吸引合适的候选人。产品的主要功能包括:AI简历分析、智能求职建议、聊天机器人支持、简历模板和岗位描述创建。resumepal旨在帮助求职者提高简历质量,同时帮助雇主更好地招聘人才。

TalesGen是一个使用人工智能生成个性化儿童故事的网站。它可以为孩子们提供一个充满想象力和学习的旅程。用户可以通过使用TalesGen生成各种有趣的故事,来培养孩子们的阅读习惯。该网站提供精美的插图和通过智能算法生成的故事内容,以满足孩子们的不同需求。

Aporia是一款ML模型管理的可观测性平台,通过一个综合性的仪表盘监控您的ML模型,以确保最佳的机器学习模型性能。它提供了可解释性、监控、根本原因分析、LLM可观测性、Gen AI和Guardrails等功能。Aporia的平台功能强大,支持数据集成、定制化、大数据支持和安全与隐私等特点。

SAS模型管理器简化了分析模型的创建、验证、部署、管理、治理和监控等生命周期管理过程。它提供了集中化的、可搜索的模型仓库,确保模型的可追溯性和治理。该解决方案还具有版本控制、模型验证、REST API访问等功能,可以快速部署模型并与开源工具集成。SAS模型管理器适用于各种商业场景,如风险管理、市场营销、欺诈检测等。

OpenCV是一个实时优化的计算机视觉库,提供了一套功能强大的工具和硬件支持。它还支持机器学习(ML)和人工智能(AI)模型的执行。OpenCV是开源的,免费商用。

Express Scribe是一款专业的音频播放软件,适用于Windows和Mac。它支持脚踏板或热键控制,方便转录人员使用。该软件具有可变速播放、多通道控制等功能。支持45种音频格式。可以与其他软件配合使用,如字处理软件。用户可以通过官方网站下载免费版本,也可以购买专业版获得更多功能和支持。

IBM® Decision Optimization 是一款优化软件,提供规划分析能力和决策智能,以改善决策过程。它能够帮助用户做出更好的决策,实现业务目标。产品具有部署灵活性,可在云端或本地上运行。产品定价请咨询销售团队。

Keras是一个为人类设计的API,遵循最佳实践,简化认知负荷,提供一致而简单的API,最大限度地减少常见用例所需的用户操作次数,并提供清晰而可操作的错误信息。Keras旨在为任何希望推出基于机器学习的应用程序的开发人员提供不公平的优势。Keras专注于调试速度、代码优雅性和简洁性、可维护性和可部署性。使用Keras,您的代码库更小,更易读,更易于迭代。您的模型在XLA编译和Autograph优化的加持下运行更快,并且更容易在每个平台(服务器、移动设备、浏览器、嵌入式设备)上部署。

The Microsoft Cognitive Toolkit(CNTK)是一个开源的商业级分布式深度学习工具。它通过有向图描述神经网络的计算步骤,支持常见的模型类型,并实现了自动微分和并行计算。CNTK支持64位Linux和Windows操作系统,可以作为Python、C或C++程序的库使用,也可以通过其自身的模型描述语言BrainScript作为独立的机器学习工具使用。

Synaptic是一个开源的javascript神经网络库,提供了基本的神经元、网络、训练器和网络构建工具。它可以用于构建和训练各种类型的神经网络,如感知机、长短时记忆网络(LSTM)、液态状态机和Hopfield网络。Synaptic还提供了一些示例和演示,帮助用户学习和使用神经网络。

Bonfire是一个定制AI聊天机器人构建平台,可根据您的数据训练AI聊天机器人。它能够将复杂的问题转化为简单易懂的回答,提供个性化的聊天机器人,搭载AI GPT技术,提升您网站上的用户体验。Bonfire能够根据您的数据提供精确的回答,符合您的品牌语言和标准。

InstaPhotoAI 是一个能够在几秒钟内为您的内容生成真实感图片的工具。通过提供参考图片或人物面部照片,提升您的营销效果。可用于营销、电子商务、Instagram、LinkedIn 或博客等领域。通过仅使用一个人物照片,我们可以生成具有不同外观的无限数量的照片。您可以尝试不同的服装、背景、表情、镜头和光线。

Layer是一个AI助手,它可以从复杂的文档中智能提取关键信息、快速预览、进行知识链接和轻松转化你的笔记成报告。

MADLAD是一个可以做任何社区管理员工作的机器人。通过训练机器人并将其添加到聊天中,您可以见证其人类般的行为,比真人管理员还好笑。只需几个点击,您就可以拥有一个全天候工作的个人社区管理员。在不到15分钟的时间内,获得您自己的个性化社区机器人。MADLAD有适合各种类型社区需求的定价计划,现在您使用我之前不需要再考虑两次。订阅$20/月,每月可提问750个问题,训练50个网页。订阅$40/月,每月可提问1500个问题,训练200个网页。订阅$50/月,每月可无限提问,无限训练网页,并提前获得新功能的访问权限。

Baichuan2-192K推出全球最长上下文窗口大模型Baichuan2-192K,一次可输入35万字超越Claude2。Baichuan2-192K不仅在上下文窗口长度上超越Claude2,在长窗口文本生成质量、长上下文理解以及长文本问答、摘要等方面的表现也全面领先Claude2。Baichuan2-192K通过算法和工程的极致优化,实现了窗口长度和模型性能之间的平衡,做到了窗口长度和模型性能的同步提升。Baichuan2-192K已经开放了API接口,提供给企业用户,并已经在法律、媒体、金融等行业落地应用。

MagicPost是一款基于GPT-4人工智能和专属算法的LinkedIn帖子生成工具,可以为用户快速生成高质量的LinkedIn帖子,大幅提升内容创作效率。该产品无需用户花费大量时间编写帖子,只需提供创意或文章链接,MagicPost即可自动生成引人入胜的帖子。通过人工智能的力量,用户可以轻松创建富有吸引力的LinkedIn内容。

parsepolicy是一款利用人工智能解读隐私政策的产品。通过先进的解析技术,将繁琐的法律术语和复杂性简化,将隐私政策转化为易于理解的语言。用户可以更好地了解自己的数据处理方式,保护个人隐私。产品采用先进的加密和安全协议,确保用户数据的保护。个人信息将保持机密,用户的电子邮件地址仅用于沟通,不会被共享或出售。该产品目前处于MVP阶段,免费使用。

发表评论

邮箱地址不会被公开。 必填项已用*标注