AI有智慧
  • AI智慧说
  • AI智慧秀
    • Ai教育
    • Ai技术
  • AI工具集
  • AI模型
  • ChatGPT入门
  • Prompt技巧
  • ChatGPT试用
    • 小睿老师- 智能助理
    • 小睿老师-案例锦集
    • 活动专区
  • AI智慧说
  • AI智慧秀
    • Ai教育
    • Ai技术
  • AI工具集
  • AI模型
  • ChatGPT入门
  • Prompt技巧
  • ChatGPT试用
    • 小睿老师- 智能助理
    • 小睿老师-案例锦集
    • 活动专区
  1. 首页
  2. 标签
  3. 注意力机制
从架构、工艺到能效表现,全面了解LLM硬件加速,这篇综述就够了

AI智慧秀 从架构、工艺到能效表现,全面了解LLM硬件加速,这篇综述就够了

大语言模型(LLM)的发展同时往往伴随着硬件加速技术的进化,本文对使用 FPGA、ASIC 等芯片的模型性能、能效表现来了一次全面概览。

330次阅读 1个评论
AI智慧秀 2024-09-20
一文看懂Mamba,Transformer最强竞争者

AI智慧秀 一文看懂Mamba,Transformer最强竞争者

Mamba 虽好,但发展尚早。

426次阅读 0个评论
AI智慧秀 2024-08-19
智谱加入 AI 视频竞赛:使用 DiT 架构,30 秒生成视频片段

AI智慧秀 智谱加入 AI 视频竞赛:使用 DiT 架构,30 秒生成视频片段

30秒等待一条AI视频。

317次阅读 0个评论
AI智慧秀 2024-08-12
新PyTorch API:几行代码实现不同注意力变体,兼具FlashAttention性能和PyTorch灵活性

AI智慧秀 新PyTorch API:几行代码实现不同注意力变体,兼具FlashAttention性能和PyTorch灵活性

用 FlexAttention 尝试一种新的注意力模式。

286次阅读 0个评论
AI智慧秀 2024-08-12
分类目录
Ai技术
Ai教育
AI智慧秀
AI智慧说
ChatGPT入门
Prompt技巧
未分类
Copyright Ai有智慧 @2023 京ICP备18013468号