发布时间:2026-02-17 作者:admin
12月11日消息,美国初创企业Tiiny Lab发布了旗下全新产品Pocket Lab,这是一款针对个人LLM打造、以完全离线运行为核心特点的“口袋AI超级计算机”。
这款设备依靠极为小巧的尺寸与强劲的硬件配置,成功在“最小迷你PC(本地运行100B参数LLM)”这一类别中,获得了吉尼斯世界纪录的官方认证。
Pocket Lab的尺寸小巧,仅为14.2×8×2.5厘米,重量大约300克,而其内部的配置却十分强大:
处理器:基于ARM v9.2架构的12核ARM CPU。
AI算力方面,采用定制化的异构模块方案(由SoC与dNPU组合而成),可实现总计约190 TOPS的AI算力供给。
内存与存储方面,该设备搭载了最高80GB的LPDDR5X内存,其中48GB专门供给NPU使用,同时配备1TB的SSD存储。
功耗:典型系统功耗为65W。
Pocket Lab最突出的优势是,它可以完全在本地离线环境中运行参数规模高达1200亿的大模型,摆脱了过去对云端、服务器或是高端GPU的依赖。
该公司借助TurboSparse(神经元级稀疏激活技术)与PowerInfer(开源异构推理引擎)等技术手段,成功达成了低功耗环境下趋近服务器级的性能表现,并且特别针对参数规模处于10B到100B之间的个人AI“黄金区间”展开了优化工作。
Pocket Lab具备一键安装功能,可支持部署Llama、Qwen、DeepSeek、Mistral、Phi以及OpenAI GPT-OSS等各类主流开源模型,同时也兼容OpenManus、ComfyUI等AI Agent框架。
Tiiny AI方面确认,这些软件功能以及OTA硬件升级项目,计划于2026年1月举办的CES展会上正式推出,至于该产品的具体定价信息,目前暂未对外公布。
发布于 2026-03-10 16:05:18
发布于 2026-03-10 16:05:14
发布于 2026-03-10 16:04:40
发布于 2026-03-10 16:04:34
发布于 2026-03-10 16:04:30
发布于 2026-03-10 16:03:55