当下,生成式AI、大模型等创新技术迅猛发展,计算产业全面迈入数据驱动的新时代,并朝着更智能、高能效、更安全的低碳绿色计算方向发展...
2024年11月16-17日,大湾区国际创客峰会暨Maker Faire Shenzhen 2024将在深圳南山万科云设计公社举办。作为创客圈交流协作的大型盛会,...
2024年11月5-6日,国际集成电路展览会暨研讨会(IIC Shenzhen)将在深圳隆重举行。本次大会聚焦行业热点技术,精心策划了产业峰会、高端...
作为一款高性能的推理引擎框架,MNN*高度关注Transformer模型在移动端的部署并持续探索优化大模型在端侧的推理方案。本文介绍权重量化的...
下周,第十一届IoT大会、湾芯展SEMiBAY将在深圳拉开帷幕,在这2场行业盛会上,安谋科技的技术大咖将带来精彩的主题演讲。届时,他们将围...
从头部芯片厂商Impinj的财报中,也可以直观看到这个数据。根据Impinj的2025年财报数据,公司2025年度的总营收约为3.61亿美元,相比2024...
小米正式宣布,面向全球推出新款蓝牙追踪器——小米标签(Xiaomi Tag)。该产品将于2026年2月28日在西班牙巴塞罗那举行的世界移动通信大会...
在拿到星睿 O6 开发板后,第一步必然是刷写系统镜像。然而,如果不注意下载方式,这第一步就可能成为耗费你一下午时间的“拦路虎”。
本文的第一部分介绍了文氏电桥振荡器的发展历程与工作原理,并结合理想电路元件开展了仿真分析。第二部分将聚焦实用文氏电桥振荡器的分...
本文将详细介绍如何在 Orion6 开发板上完成 NeuTTSAir 的本地部署,涵盖模型量化、依赖配置、代码适配及推理测试等关键步骤。
2025年12月31日,来自 DeepSeek-AI 的研究团队在 arXiv 上发布了一篇题为《mHC: Manifold-Constrained Hyper-Connections》的技术论文,...
🎯 本文目标:在星睿O6上运行智谱AI视觉大模型,测试GLM-Edge视觉系列和GLM-4V系列的多模态能力,验证ARM设备上的图像理解和分析功能。
🎯 本文目标:为llama.cpp和chatglm.cpp部署Web服务与OpenAI兼容API,构建完整的AI服务生态系统,实现真正的产品化部署,让星睿O6成为可...
🎯 本文目标:在星睿O6上部署CodeGeeX2实现智能代码生成,完成整个智谱AI全栈大模型生态系统的构建,让星睿O6成为真正的AI开发工作站。
🎯 本文目标:在星睿O6上基于chatglm.cpp框架运行智谱AI文本大模型,对比llama.cpp的性能差异,重点测试GLM系列模型在专用框架上的优化效...
🎯 本文目标:在星睿O6上基于llama.cpp框架运行智谱AI文本大模型,包括GLM-Edge系列、GLM-4系列和最新的GLM-4.6V-Flash模型,进行全面的...
🎯 本文目标:将chatglm.cpp环境部署到星睿O6开发板,专门针对GLM系列模型进行优化,在ARM设备上实现更高的运行效率和更低的内存占用。
🎯 本文目标:将llama.cpp环境迁移到星睿O6开发板,并针对ARMv9架构进行专门优化配置,充分发挥硬件性能。
🎯 本文目标:在PC上搭建chatglm.cpp推理环境,这是专为GLM系列模型优化的推理框架,在星睿O6上运行时内存使用更高效,对话体验更流畅。
🎯 本文目标:在PC上搭建llama.cpp推理环境,为后续模型格式转换和量化处理做准备。这是整个部署流程的第一步,为星睿O6上的大模型运行奠...
🎯 本系列文章的核心价值:经过深入研究和实践,在星睿O6 ARM开发板上成功部署了完整的智谱AI大模型生态系统,包括文本生成、视觉理解、...
O6 的 npu 具有约 30 TOPS 算力- 支持 INT4 / INT8 / INT16 / FP16 / BF16 / TF32 等计算精度
在Radxa官方文档Orion O6此芯 SDK获取源代码页面,提示“SDK 在容器内运行时可能会遇到权限问题,建议使用实体机或虚拟机进行编译”。但我...
本文以 YOLOv8-L 模型为例,系统讲解其从 ONNX 模型到 NPU 支持的cix格式的完整编译与推理流程。
本文记录了在 Orion o6 平台上,运行官方 cix_ai_model_hub 中的模型时的步骤以及碰到的问题,包括以下内容:
Windows11 Python3.11WSL Ubuntu 22.04O6 Debian UOE SDK 25Q3 (手动编译内核)
whisper.cpp 是一个基于 C/C++ 实现的轻量级开源语音识别库,旨在让 OpenAI 的 Whisper 模型能够在各种设备(包括嵌入式系统、边缘设备...
本文主要描述如何在 Radxa Orion O6 上使用 llama.cpp 部署 Deepseek R1 模型,包含以下内容:
用radxa的debian镜像,下载了[链接]尝试运行NPU demo报错:需要使用新版本npu kmd/umd运行
部署NPU需要申请CIX早鸟计划获取SDK非常感谢Molly提供的编译好的新版本Debian(Orz),Radxa目前提供的镜像无法使用25Q3的Cix SDK,需要...
瑞莎星睿 O6 (Radxa Orion O6) 是一款面向 AI 计算和多媒体应用的专业级 Mini-ITX 主板。它搭载 Cix P1 SoC(型号 CD8180),支持 最高 64...
近日,印度古尔冈地区的马内萨尔市政公司发布重要通知,宣布将在其管辖范围内的所有住宅区、集体住房综合体以及商业机构中,全面安装RFI...
今年5月,谷歌将“查找我的设备”更名为“查找中心”(Find Hub),并同步引入两项重要升级:卫星连接与超宽带(UWB)支持。
orion o6配瑞莎AI PC Case Kit,通过oculink线接到显卡坞+4060ti显卡
随着大语言模型(LLM)的迅速发展,AI 不再只是“会聊天”的工具,而是能够理解、推理并生成多模态内容的智能体。本文将基于Orion O6平台...