卡饭网 > 科技 > 人工智能 > 正文

苹果发布 OpenALM 高效语言模型

来源:卡饭网 作者:夜夜 时间:2024-04-25 09:45:26

卡饭网 4 月 25 日消息,在 WWDC24 召开之前,苹果公司在 Hugging Face 平台上公开了一款名为 OpenELM 的“高效语言模型”,该模型拥有开源的训练与推理框架。

苹果发布 OpenALM 高效语言模型

这款语言模型完全开源,它的源代码、预训练模型权重以及训练方案都可以从苹果的 Github 仓库中轻松获取。

苹果发布 OpenALM 高效语言模型

OpenELM 采用了层缩放策略,能够有效地管理 Transformer 模型各层的参数分配,进而提升模型的准确率。举例来说,当模型参数量达到约10亿时,OpenELM 相较于 OLMo,其准确率有了2.36%的提升,而所需的预训练 tokens 数量仅为原先的 1/2

相关推荐

  • 漫步者 Lolli Pro3 蓝牙耳机,首发价 339 元

    卡饭网 5 月 7 日消息,漫步者 Lolli Pro3 真无线主动降噪蓝牙耳机上架,拥有 26 小时续航,-45dB 多场景降噪,首发价 339 元。拥有“Hi-Res Wireless & HWA 双金标认证”,支持空间音频及 -45dB 降噪。

    耳机 蓝牙耳机 2024-05-07
  • 极摩客 GMK M6 迷你主机开售

    卡饭网 5 月 7 日消息,极摩客 GMK M6 迷你主机今日开售,搭载 AMD 锐龙 5 6600H 处理器+ AMD 660M 显卡,售价 1388 元。内存支持双通道 64GB DDR5 4800MHz,单条至高可支持 32GB存储支持双 M.2 2280 SSD,单条至高可扩展至 4TB。

    2024-05-07
  • 雷柏 VT1PRO 双高速版鼠标开启预约

    卡饭网 5 月 7 日消息,雷柏 VT1PRO 双高速版中小手无线/有线双模游戏鼠标上架,现已开启预约抢购,到手价 229 元。多档LOD静默高度驱动可调,抬起保留一定工作高度,手流玩家抬鼠操作更丝滑,实现更精密的微操细节。

    雷柏 2024-05-07
  • 老蛙自动对焦镜头10mm F2.8 C&D-Dreamer 开售

    卡饭网 5 月 7 日消息,老蛙首款自动对焦镜头10mm F2.8 C&D-Dreamer 全幅微单镜头开售,售价 5498 元。全画幅 10mm 令人震惊的非灯泡头设计,可安装 77mm 圆形滤镜,多种滤镜搭配,无需增加方镜成本即可呈现出多样拍摄效果。

    镜头 2024-05-07
  • 盛色 OF27UT Pro 显示器开启预售

    卡饭网 5 月 7 日消息,盛色 OF27UT Pro 显示器上架京东,现已开启预售,预售到手价 1399 元。精选27英寸IPS显示屏,搭配38402160超高清分辨率,2倍于1080P清晰度,PPI像素密度高达163,告别画面颗粒感,画面细节之处清晰可见。

    显示器 2024-05-07