导航|地址|刷新
乌克兰开发者在8美元ESP32-S3上实现2890万参数LLM本地运行-中关村在…
图
图
图
图
图
图
图
图
图
图
图
图
图
图
图
图
图
图
图
图




中关村在线


热点资讯






×






乌克兰开发者在8美元ESP32-S3上实现2890万参数LLM本地运行






两三杯可乐

原创


07-28






2026年7月28日，乌克兰独立开发者Slava S推出名为ESP32-AI的开源项目，在仅售约八美元的ESP32-S3微控制器上成功实现了本地运行参数量达两千八百九十万的语言模型。这一成果显著超越了此前同类芯片所能支持的模型规模上限——此前纪录仅为二十六万参数级别。

ESP32-S3是物联网应用中广泛使用的低成本微控制器，其硬件资源十分有限：配备五百一十二千字节静态随机存取存储器、八兆字节伪静态随机存取存储器以及十六兆字节闪存。大型语言模型在推理过程中需将全部参数载入高速内存以完成密集矩阵运算，受限于内存容量，以往在此类设备上部署的模型参数量始终难以突破数十万级别；若强行加载千万级模型，内存将迅速耗尽，系统无法正常运行。

为应对这一瓶颈，开发者借鉴Google Gemma模型中的逐层嵌入设计思路，对该二千八百九十万参数模型实施四比特量化压缩，使其体积缩减至十四点九兆字节，并构建了分层内存调度机制。其中体量最大的嵌入表——涵盖约两千五百万参数——被部署于读取速率较低但容量充裕的十六兆字节闪存中；而运算最密集的核心权重则全部驻留在五百一十二千字节的高速静态随机存取存储器内，专用于实时推理计算。

在生成每个输出单元时，系统仅需从闪存中按需加载少量数据行，既避免了频繁大块读取导致的延迟，也保障了整体响应效率，从而实现了硬件资源与计算流程的协同优化。

现阶段，该项目仍处于概念验证阶段，仅能稳定生成简短虚构文本，尚不具备通用问答、编程辅助或执行多步骤复杂指令等能力。不过开发者指出，此类微型人工智能具备明确的应用前景，例如可集成于无需联网的专用智能设备中——一台独立运行的咖啡机即可通过本地模型精准识别不同咖啡豆的品种特性、适配研磨细度，并自动推荐最优冲煮水温与时间参数。




展开全文

使用中关村在线APP，查看更多精彩资讯



人赞过该文赞
内容纠错









相关电商优惠






vivo X Fold6(12GB/256GB)


￥7999

359人评分

100%好评






荣耀X80 Pro Max(8GB/128GB)


￥1999

372人评分

80%好评






HUAWEI Mate 80(12GB/256GB)


￥4699

210人评分

80%好评






苹果iPhone 17 Pro Max（256GB）


￥9999

534人评分

80%好评






小米17 Ultra(12GB/512GB)


￥6799

92人评分

79%好评













评论
更多评论
还没有人评论~快来抢沙发吧~







读过此文的还读过


COMSOL 5.6关闭运行方法



打开APP客户端07.28



游戏开发游戏哪个最好玩 高人气游戏开发游戏排行



07.28




拉瑞安确认专注神界新作，暂不开发博德之门4或D&D衍生项目

607.28




哪款主板值得买 白领高效办公+低功耗长时运行优选



07.28



最新主板性能排行榜 满足硬件工程师PCIe通道拆分与固件开发



07.28




SK海力士加速推进3D堆叠DRAM-on-Logic技术，布局终端侧AI内存产业化

307.24





美团推CatPaw全场景AI平台，赋能本地生活商家智能升级

207.27





荣耀启用荣耀之环新标并发布敢想敢不同主张，设计内涵引热议

207.24





微信鸿蒙版8.0.19.43内测启动：优化通知音效与体验

307.24





韩国初创企业推16卡AI服务器托盘，突破单节点8卡瓶颈

421小时前





努比亚NaviX Ultra黑色版发布：首发GUI Agent智能体架构旗舰机

407.27





AMD发布Venice-X处理器：Zen 6架构、96核、1152MB缓存、5.15GHz加速频率

907.24





爱情公寓十七年后再审视：剧中科幻设定竟成现实缩影

307.29





小米澎湃OS 4将推液态玻璃UI与AI悬浮岛，重塑超高端交互体验

507.28





荣耀MagicOS 11液态玻璃尝鲜版开放V6机型招募

607.24





AI驱动DRAM需求暴增，2027年通用内存供应或锐减七成致严重缺货

707.29





苹果2026年7月29日发布全系统安全更新，修复数百漏洞覆盖六大平台

307.29





中国电信启动3000万套FTTR集采，华为中兴领衔WiFi6/WiFi7设备中标

807.20





努比亚全球首发量产AI手机：系统级智能体7月17日上海亮相

607.09





西班牙夺冠引爆荣耀Robot Phone首发：全球首款机器人手机亮相世界杯

507.20




松下FZ28，尼康D300S，红米K80对比照

论坛4




充电宝押金什么时候退

问答5





DeepSeek创始人梁文锋谈克制式管理：不加班、不内卷、重聚焦、倡开源

607.23





AMD发布第七代EPYC Florence处理器：288核、Zen 7架构、首发AI指令集ACE

407.24





月之暗面庆功Kimi K3发布：2.8万亿参数大模型登顶全球编程榜首

607.27




田园夏色



论坛4




Word禁用宏、Excel禁用宏设置方法，关闭宏在哪里设置方法？

问答2





华为智能门锁推鸿蒙6.1.0.1更新，四大功能升级提升安全与便捷

307.25





加拿大六旬男子借AI技术跨越半世纪寻获失散生母

407.29





2025年中国混合云市场破千亿，华为领跑多细分赛道

407.26




除了ipad，还有其他性能不错的平板电脑吗？

论坛34



何为单反相机

问答4




高德地图上线实景漫游功能，360°预览商场内部实现精准寻路

507.24





摩根士丹利唱空内存涨价周期，预测价格Q4见顶引韩企质疑

407.24





小米人形机器人实现产线双协同作业，成功率超98%

36小时前




h3c路由器密码破解

问答3




AMD发布2026—2030 AI芯片路线图：Zen8确认、GPU推理性能跃升2000倍

907.24





乌克兰开发者在8美元ESP32-S3上实现2890万参数LLM本地运行

807.28





影石Insta360 2.28.1版上线：AI智能构图+动态Live图一键生成

607.24




最新笔记本独立显卡排名

问答6




千味央厨战略投资灵心巧手，推进面点智造升级

407.25





AMD数据中心CPU市占率达46%，Zen6架构Venice处理器引领AI算力新纪元

607.25





荣耀携手阿莱与奥斯卡大师发布Robot Phone，开启电影级移动影像新纪元

507.25




怎样和电脑连接

问答5




荣耀携手阿莱发布电影级影像技术体系，开启移动影像工业级创作新纪元

807.28





特斯拉前FSD主管控诉因揭发安全问题遭非法解雇

507.29





QQ宠物时隔八年重磅回归：Hy3大模型赋能3D萌宠养成与全场景智能交互

807.27




电水壶功率一般有多大，烧水壶多少W？

问答5




我国突破千人跨地域同步脑电采集技术，加速脑机接口产业化进程

807.24





QQ宠物2026年重磅回归：3D拟真+AI性格+深度社交的全新养成体验

707.28





苹果首款智能眼镜2027年上市，以本地化隐私防护为核心卖点

607.27




为什么感觉苹果iPhone 11还有很多人去买？

问答11




希迪智驾加速出海：以标准化自动驾驶方案破局全球矿山智能化

707.27





SK海力士抢先量产LPDDR6抢占国产手机高端存储市场

707.29





阿里云真武M890超节点首发适配2.8万亿参数Kimi K3模型

507.28




华为Mate 20 X 5G版和普通版有什么区别？

问答4




腾讯WorkBuddy发布V5.3.5，首创人机双写多端实时协同

72小时前





Kimi K3开源引爆美国企业抢部署，2.8万亿参数大模型成全球AI新焦点

707.28





HMD Touch复古小屏功能机上市：AI助学+CCD影像+四网全通

224小时前




iqoo7电池多大？vivo iQOO手机电池容量？

问答4




黄仁勋驳斥AI意识论：警惕技术夸大与叙事误导

707.24





AI算力爆发挤压内存产能，近线硬盘供需趋紧价格飙升至每TB 30美元

23小时前





月之暗面开源2.8万亿参数Kimi K3大模型及三大核心基础设施

407.28


点击加载更多


内容相关产品




vivo X Fold6(12GB/256GB)


原子工作台，蔡司2亿超级主摄，等效7000mAh蓝海电池

手机排行榜第1名


￥
7999






荣耀X80 Pro Max(8GB/128GB)


11000mAh大电池，金标抗摔，深度防水

手机排行榜第2名


￥
1999






HUAWEI Mate 80(12GB/256GB)


麒麟9020芯片，第二代红枫影像，鸿蒙AI

手机排行榜第3名


￥
4699






苹果iPhone 17 Pro Max（256GB）


超视网膜XDR显示屏，铝金属一体成型机身，A19 Pro芯片

手机排行榜第4名


￥
9999






小米17 Ultra(12GB/512GB)


徕卡1英寸光影大师，第五代骁龙8至尊版移动平台，6800mAh小米金沙江电池

手机排行榜第5名


￥
6999






华为畅享90 Pro Max 128GB


8500mAh巨鲸大电池，鸿蒙AI，流畅丝滑

手机排行榜第6名


￥
1699






华为nova 16（256GB）


后置红枫影像，麒麟9010S 芯片，7000mAh 巨鲸电池

手机排行榜第7名


￥
2999






苹果iPhone 17（256GB）


A19芯片，4800万像素融合式双摄系统，6.3英寸

手机排行榜第8名


￥
5999






HUAWEI Mate 80 Pro Max(16GB/512GB)


麒麟9030 Pro芯片，全金属玄武架构，超透亮灵珑

手机排行榜第9名


￥
7999






OPPO Find X9 Pro(12GB/256GB)


天玑9500，哈苏2亿超清长焦镜头，7500mAh电池

手机排行榜第10名


￥
5299




说点什么吧~0
发评论，赚金豆
收藏0分享


vivos19

iPhone 17

vivo X100s

OPPOFindX7

华为nova12

iQOO Neo9S Pro

iPhone Air

iQOO Neo9S Pro+






登录|注册
意见反馈

首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印更多




更多频道





频道导航

首页

手机

笔记本

游戏硬件

影音

家电

键鼠

显卡

游戏

音频

电视

平板

主板

CPU

机箱

显示器

空调

固态

打印

投影

耳机

内存

盒子

极客

汽车

电竞

台式机

健康家电

散热

安防

商显

HIFI

激光电视

冰箱

企业站

服务器

网络

攒机

时讯

图赏

智能锁

机器人

电动车

洗衣机

净化器

5G

辅助工具

手机性能天梯图

显卡天梯图

CPU天梯图

电源天梯图

固态硬盘天梯图

新品日历





首页

热点资讯

正文


电脑版申请友链


首页

查报价

手机

笔记本

游戏硬件

影音

家电

违法和不良信息举报电话：010-64218167




{{title}}

{{adWord}}{{factory}}



{{title}}

{{adWord}}{{factory}}



{{title}}

{{adWord}}{{factory}}



{{adWord}}


------
导航页 打开网址