Tiiny AI打造世界上最小的“AI超级计算机”Tiiny AI Pocket Lab
而最近新兴的打的一家初创公司Tiiny AI突破技术壁垒,推出了号称全球最小的造世最AI超级计算机Tiiny AI Pocket Lab。这款设备的界上级计尺寸仅为14.2×8×2.53厘米,重量仅300克,算机内置最新ARM v9.2内核,打的赋能1200亿参数大模型本地部署。造世最
而最近新兴的界上级计一家初创公司Tiiny AI突破技术壁垒,推出了号称全球最小的算机AI超级计算机Tiiny AI Pocket Lab。这款设备的打的尺寸仅为14.2×8×2.53厘米,重量仅300克,造世最内置最新ARM v9.2内核,界上级计赋能1200亿参数大模型本地部署,算机在参数层面却展现出不符合外表的打的性能潜力。

官方表示,边缘AI已成为计算机行业的界上级计新兴赛道,其核心优势在于将开源模型部署在本地设备上,既能实现更个性化的任务处理,又能保障数据隐私。但这一方案往往需要昂贵的硬件支持,对普通消费者而言并不现实。为填补这一市场空白,Tiiny AI针对性突破两项核心技术壁垒:
·TurboSparse(神经元级稀疏激活技术):能够在保持模型完整智能的同时,显著提升推理效率;
·PowerInfer(开源异构推理引擎):已在GitHub收获超8000星标,可高效加速重型大语言模型的工作负载,通过动态将计算任务分配至CPU与NPU,以远低于传统设备的功耗水平实现卓越性能。
在这两项技术的共同作用之下,Tiiny AI Pocket Lab才能具备高端GPU的性能表现,使设备支持的大模型具备“博士级推理、多步骤分析及深度语境理解”能力。其本地部署特性不仅能满足普通消费者的使用需求,更适配需要调试本地大模型的开发者与科研人员。

根据Tiiny AI披露的信息,这款口袋实验室兼容多款主流开源大模型,包括GPT-OSS、Llama、Qwen、DeepSeek等等。搭载了最新的ARMv9.2 12核 CPU,并通过定制的异构模块(SoC+独立NPU)提供约190 TOPS的AI算力,同时配备80GB LPDDR5X内存,借助深度量化技术,能够让1200亿参数的大模型在本地环境中流畅运行。此外,该设备的TDP仅为30W,典型系统功耗约为65W。

该设备将于2026年CES展会上正式亮相,目前官方尚未公布具体发售日期及定价信息。这款口袋实验室的参数表现极具颠覆性,这款产品的实际表现值得期待。
(文中图片来源于网络)
相关文章
5月28日,滴滴开放日在大连客服职场举办。活动聚焦“体验与服务”,邀请司机、乘客、媒体、行业专家等各界代表参加,针对优化乘客出行体验、提升司机服务和收入两大核心议题,直面真实出行场景,通过司乘沉浸体验2026-10-05
顽皮狗新作《星际:异端先知》缺席了近期举办的State of Play发布会,引发许多玩家的疑问。然而,前顽皮狗员工德尔·沃克Del Walker)认为,工作室将精力集中在游戏开发而非准备新展示,是正2026-10-05
第六代骁龙8至尊版系列在GPU中提供了高通Adreno Neural Fusion与Adreno Matrix Cores支持,能够在图形管线内直接运行先进AI模型,为AI渲染提供专属算力支撑。PCh2026-10-05
9月1日,国家能源局发布数据,截至今年7月底,我国光伏发电装机容量达到12.86亿千瓦,其中集中式光伏7.04亿千瓦、分布式光伏5.82亿千瓦。光伏发电的装机容量首次超过煤电,成为我国装机规模最大的电2026-10-05
导读: 重疾险的保费对于每个家庭来说是一笔不小的支出,因此3000元左右普遍是大众所能接受的价位。那么3000元左右的重疾险有用吗?3002026-10-05
记者7月23日获悉,红果短剧发布《关于规范AI剧角色创作的公告》以下简称《规范》),从角色差异化、版权合规两个维度明确创作标准,旨在帮助AI剧创作者更好地防范素材违规风险,降低“高频AI脸2026-10-05

最新评论