阿联酋技术创新研究所利用新架构革新人工智能语言模型

2024年08月14日 18:09:27  [来源:]  [作者:]  [责编:admin]
字体:【

经Hugging Face独立验证,Falcon Mamba 7B是全球性能第一的开源状态空间语言模型(SSLM)
SSLM的内存成本低,无需额外内存即可生成任意长文本块
Falcon Mamba 7B还优于传统的Transformer架构模型,如Meta的 Llama 3.1 8B和Mistral的7B
新模型体现了阿布扎比在人工智能研发领域的创新和开拓精神

阿联酋阿布扎比--(美国商业资讯)--技术创新研究所(TII)是全球领先的科研中心和阿布扎比先进技术研究理事会(ATRC)的应用研究支柱。该研究所发布了Falcon系列中的一款新的大型语言机型——Falcon Mamba 7B。经Hugging Face独立验证,新模型是全球性能第一的开源状态空间语言模型(SSLM)。

本新闻稿包含多媒体。此处查看新闻稿全文: https://www.businesswire.com/news/home/20240812747850/zh-CN/

作为Falcon系列的首款SSLM,它有别于之前所有使用Transformer架构的Falcon模型。新的Falcon Mamba 7B模型是该研究所正在进行的开创性研究及其以开源形式向社区提供突破性工具和产品的又一例证。

ATRC秘书长兼阿联酋总统战略研究和先进技术事务顾问Faisal Al Bannai阁下表示:“Falcon Mamba 7B标志着TII连续第四次获得人工智能模型排名第一,巩固了阿布扎比作为全球人工智能研发中心的地位。这一成就彰显了阿联酋对创新的坚定承诺。”

在Transformer架构模型方面,Falcon Mamba 7B在HuggingFace新引入的基准测试中优于Meta的Llama 3.1 8B、Llama 3 8B和Mistral的7B。同时,在其他SSLM中,Falcon Mamba 7B在旧基准测试中击败了所有其他开源模型,它将成为HuggingFace新的更严苛基准测试排行榜上的第一款模型。

TII首席执行官Najwa Aaraj博士表示:“技术创新研究所继续通过Falcon系列人工智能模型突破技术发展的界限。Falcon Mamba 7B代表了真正的开创性工作,为未来的人工智能创新铺平了道路,这些创新将增强人类的能力并改善生活。”

状态空间模型在理解随时间演变的复杂情况(如一整本书的内容)方面表现极为出色。这是因为SSLM不需要额外的内存来消化如此大量的信息。

另一方面,基于Transformer的模型在记住和使用它们之前处理过的序列信息方面非常高效。这使它们在内容生成等任务中表现出色,然而,由于它们会将每个单词与其他单词进行比较,这就需要大量的计算能力。

SSLM可应用于各种领域,如估计、预测和控制任务。与Transformer架构模型类似,它们在自然语言处理任务中也有出色表现,可应用于机器翻译、文本摘要、计算机视觉和音频处理。

TII人工智能跨中心部门代理首席研究员Hakim Hacid博士表示:“在推出Falcon Mamba 7B之际,我为TII促进其发展的合作生态系统感到自豪。这次发布标志着我们向前迈出了一大步,启发了新的视角,进一步推动了对智能系统的探索。在TII,我们正在突破SSLM和Transformer模型的界限,以激发生成式人工智能领域的更多创新。”

Falcon LLM的下载次数已超过4500万次,证明了该模型的巨大成功。Falcon Mamba 7B将基于TII Falcon License 2.0发布。这是一种基于Apache 2.0的宽松软件许可证,包含一项促进人工智能负责任使用的可接受使用政策。如需了解有关这一新模型的更多信息,请访问FalconLLM.TII.ae。

*来源: AETOSWire

免责声明:本公告之原文版本乃官方授权版本。译文仅供方便了解之用,烦请参照原文,原文版本乃唯一具法律效力之版本。

在 businesswire.com 上查看源版本新闻稿: https://www.businesswire.com/news/home/20240812747850/zh-CN/

CONTACT:

Jennifer Dewan,高级传播总监
Jennifer.dewan@tii.ae

阿联酋技术创新研究所利用新架构革新人工智能语言模型(照片:AETOSWire)

技术创新研究所(TII):性能基准 -(信息图表:AETOSWire)

百度网友:Chafferer  迷心
评论:现在告诉你们我结婚的日子喔,它正在海选中呢

网易网友:笨笨Forever〃
评论:白天睡觉觉,晚上打闹闹,有事死翘翘。

搜狐网友:颠覆 wounded
评论:好名声是女人最体面的嫁妆。

天猫网友:离离离离不开
评论:人生就是这样:不是你混日子;就是日子把自己混了

腾讯网友:潇洒 小姐 Seve°
评论:我不是看不起你,我压根就没看见过你

本网网友:红玫瑰‖▍DAEGER
评论:坐地铁,是一项糅合太极,柔道,缩骨功的综合性运动。

凤凰网友:碎梦 3/3dream°
评论:最美好的是爱情,最理解的是友情,最真诚的是亲情。

猫扑网友:霸气的小乞丐
评论:黄瓜是用来拍的,人生是用来嗨的

天涯网友:續寫這段情
评论:> 我说:要有上班以外的生活!于是,老婆告诉我这个可以有、于是:我有了加班!

其它网友:身軆被我所用
评论:古希腊人说过:能让我笑得人最爱我,能让我哭的人我最爱。

相关新闻
新闻焦点
文传商讯,中国领先的新闻稿来源,由国际文传(中国)电讯社携手美国商业资讯对外提供。帮助美国商业资讯将其客户的新闻稿呈现给大中华区的目标受众[更多]
文传商讯,中国领先的新闻稿来源,由国际文传(中国)电讯社携手美国商业资讯对外提供。帮助美国商业资讯将其客户的新闻稿呈现给大中华区的目标受众[更多]
文传商讯,中国领先的新闻稿来源,由国际文传(中国)电讯社携手美国商业资讯对外提供。帮助美国商业资讯将其客户的新闻稿呈现给大中华区的目标受众[更多]
关于我们 | 广告服务 | 浙江热线 | 旗龙网 | 听鱼网 | 2349 | 法律声明 | 联系我们
站务及信息报错:13757197494 (非诚勿扰) | QQ:1160322105 版权所有:上海经济新闻网 未经授权禁止复制或建立镜像
相关作品的原创性、文中陈述文字以及内容数据庞杂本站无法一一核实,如果您发现本网站上有侵犯您的合法权益的内容,请联系我们,本网站将立即予以删除!
中国互联网违法和不良信息举报中心  全国新闻记者证管理及核验网络系统  网络警察报警岗亭