【dkernel：高性能的定制化CUDA内核库，专注于优化大规模语言模型的稀疏注

爱生活爱珂珂 2024-12-17 13:40:46

【dkernel：高性能的定制化CUDA内核库，专注于优化大规模语言模型的稀疏注意力计算，提升计算效率和降低资源消耗】'This repo contains customized CUDA kernels written in OpenAI Triton. As of now, it contains the sparse attention kernel used in phi-3-small models.' GitHub: github.com/linxihui/dkernel

0 阅读：7

爱生活爱珂珂

感谢大家的关注

作者最新文章

1

【[20星]transformers-qwen3-moe-fused：优化Qwe

2

「人人能懂的AI前沿」从“战略指纹”到“解耦赋分”：AI的非技术性进化

3

13个杰出的MCP服务

4

晚安～ [月亮] 晚安

5

《爱可可微博热门分享(7.6)》

6

【[433星]php-mcp/server：为PHP应用与AI助手交互提供标准化

7

【[1.9k星]Vue Mini：基于 Vue 3 的小程序框架，让小程序开发变

8

【[117星]awesome-standards：一站式技术标准资源库。它为开发

9

【[658星]BeeAI Platform：一站式发现、运行和共享AI Agen

10

【[25星]Hyperoptax：用JAX实现并行超参数优化的轻量级工具箱。亮点

热门分类

推荐热榜军事 NBA 体育社会明星八卦娱乐财经科技汽车历史国际游戏动漫公益搞笑商业互联网数码国际足球房产家居时尚科学探索职场育儿股票教育影视情感热点中国军情武器中国南海中国足球亚洲杯科比综合体育 CBA 投资楼市大咖秀外汇创业风口 SUV 豪车概念车优惠新能源美国欧洲朝日韩俄罗斯孕期街拍恋爱攻略婚姻正能量

科技TOP

1

小米YU7价格25.35万，27.99万，32.99万三个版本，最推荐入门版本，

2

哈哈哈昨晚三星发布会我是真的看爽了！三星折叠屏比直板更轻薄GalaxyZF

3

小米又搞大动作啦！6月24日雷军透露小米YU7支持车外小爱语音。车外配备8个麦克

4

小米首款智能眼镜AIGlasses发布，支持拍照录像和超级小爱同学。1999起

5

陈震再次质疑小米YU7到底极限在哪里？到现在为止，他已经连续发了四篇专门的文

6

荣耀线下店基本全面铺货，趁着周末去摸了摸荣耀X70，跟我想的有点不一样上手真

7

论手感的话，个人感觉还得是钛金属，大家觉得呢？[思考]

8

三星折叠屏比直板更轻薄刷到三星的全球新品发布会，又被三星的折叠屏手机硬控了，知道

9

目前来看，iPhone17系列只要你不选标准版，大概率是怎么选都不会后悔，当然

10

比亚迪APP征集全新名称了，目前看了一下，提到比较多的就是“迪家”，确实简单好记

科技最新文章

1

荣耀X70在千元机档位有三大特性是领先的，确实超出我个人预期：1.设计耐看；2.

2

吊打苹果，吊打三星，华为也要加油了！你以为8300毫安荣耀X70是电池终点？

3

黄仁勋发出对华为的惊天之问。1.现在世界上，哪家手机公司的手机，比华为的手

4

不服什么H100，又H200的，就服黄仁勋的标志性皮夹克！北京室外太阳直射气温

5

灵魂拷问：当性能小钢炮和耐造续航王相遇，你们会优先选择哪个？荣耀GT和荣耀X70

6

朋友最后还是没忍住，入手了最新的荣耀MagicV5大折叠，截图给我看了眼订单，

7

黄仁勋到国内后，使劲蹭雷军的热度，又是不断的与雷军合影拍照，又是称想买一辆小米汽

8

Ai伴侣来了。马斯克旗下的xAI最新推出的Grok智能伴侣Ani，在好感度达到3

9

这下一代的findX9系列后置镜头模组看着才舒服嘛，原先的奥利奥真的是受够了，

10

中美芯片大战，日本人突然发现了一个重大的秘密！美国靠着尖端芯片死磕中国，而中国呢