Transformers 已经确立了自己作为首要模型架构的地位，特别是因为它们在各种任务中的出色表现。但是Transformers 的内存密集型性质和随...
最近本人写了一篇介绍Arm Scalable Matrix Extension (可伸缩矩阵扩展，SME)的文章，[链接]。此为中文版，也加入了部分Introducing Armv...
在PyTorch中，FP8（8-bit 浮点数）是一个较新的数据类型，用于实现高效的神经网络训练和推理。它主要被设计来降低模型运行时的内存占用...
该论文探讨了Mamba架构（包含状态空间模型SSM）是否有必要用于视觉任务，如图像分类、目标检测和语义分割。通过实验证实了了Mamba在视觉...
这篇论文提出了一种高稀疏性基础大型语言模型（LLMs）的新方法，通过有效的预训练和部署，实现了模型在保持高准确度的同时，显著提升了...
AlphaFold3 是 DeepMind 开发的一款蛋白质结构预测软件，它在AlphaFold2的基础上进行了改进。其中最主要的一个改进就是引入了扩散模型，...
回到搜索引擎本身，搜索引擎的早期出现是为了解决互联网上信息过载的问题。随着互联网的快速发展，越来越多的网页被创建并发布，用户需...
本周， OpenAI 和 Google 接连在发布会中投出核弹级产品💣。OpenAI 还是一贯地爱抢新闻焦点，在 Google I/O 大会前发布了 GPT-4o。而 Goo...
xLSTM的新闻大家可能前几天都已经看过了，原作者提出更强的xLSTM，可以将LSTM扩展到数十亿参数规模，我们今天就来将其与原始的lstm进行...
荧光显微镜是生命科学领域不可或缺的重要研究工具，其原理是以紫外线为光源， 照射被检物体使之发出荧光， 然后在显微镜下观察物体的形...
基于图的神经网络是强大的模型，可以学习网络中的复杂模式。在本文中，我们将介绍如何为同构图数据构造PyTorch Data对象，然后训练不同...
今天小编给大家介绍Thomas Vikstrom的人工舌头项目，该项目使用水质传感器来测量液体的浊度，并通过一个机器学习模型在Seeed Studio WIO...
日冕物质抛射（简称 CME）是从太阳抛入行星际空间的大尺度等离子体团，是太阳释放能量的一种形式，也是影响空间天气的主要因素之一。大...
ATFNet是一个深度学习模型，它结合了时间域和频域模块来捕获时间序列数据中的依赖关系。引入了一种新的加权机制来调整周期性的权重，增...
Transformers 是一个强大的架构，但模型因其采用的自注意力机制，虽然能够有效地处理序列数据并捕获长距离依赖关系，但同时也容易导致在...
图机器学习（Graph Machine Learning，简称Graph ML）是机器学习的一个分支，专注于利用图形结构的数据。在图形结构中，数据以图的形式...
从守护城市安全的「火眼金睛」，到探索人体奥秘的医学之窗，再到娱乐产业的视觉盛宴，乃至遥望宇宙的卫星视角，超分辨率技术重塑着我们...
2010 年 12 月，清华大学电子工程系教授苏光大接到一通不寻常的电话，内蒙古自治区准格尔刑警队的警员拿着一张模糊不清的犯罪嫌疑人人脸...
在机器学习中，L1正则化、L2正则化和Elastic Net正则化是用来避免过拟合的技术，它们通过在损失函数中添加一个惩罚项来实现。
这是4月发表的论文《Better & Faster Large Language Models via Multi-token Prediction》，作者们提出了一种创新的多词元预测方法，该...
