英伟达产品副总裁阿德尔 · 哈拉克(Adel el )家中常备一台 DGX Spark。这台设备会在夜间处理 AI 任务,若睡前未分配工作,他甚至会感到 " 愧疚 "。" 它静音且常年通电,不利用它做点个人层面的事是一种浪费。" 哈拉克表示。
这一细节折射出人工智能的未来方向:本地化。当英伟达 AI 产品战略负责人已将个人 AI 计算机视为家电而非服务器时,预示着普通消费者迈向本地 AI 时代已为期不远。
摆脱云端依赖
目前,主流 AI 交互依赖云端,用户数据需传输至数据中心,不仅产生订阅成本,更涉及隐私风险。哈拉克指出,本地 AI 改变了这一局面:" 在我拥有的硬件上运行模型,数据永不离家,且无需每月支付订阅费。"
算一笔经济账:DGX Spark 零售价 4,699 美元,虽不菲,但相比 Plus 每年 240 美元的订阅费,五年仅订阅支出即达 1,200 美元,且用户并未获得任何资产。相比之下,Spark 提供无限制查询,无令牌计费、无使用上限,亦无需联网。
尽管 GPT-6 等云端模型能力更强,但对于文档总结、邮件起草、本地文件搜索及编程辅助等日常任务,拥有 128GB 内存并接入英伟达完整 CUDA 堆栈的本地模型已绰绰有余。
从极客专属走向大众
DGX Spark 于去年十月发布,号称 " 全球最小 AI 超级计算机 ",初期主要面向开发者与研究人员。该设备运行 Linux 系统,重 2.6 磅,体积媲美 Mac Mini。
如今,其生态系统正加速向消费级靠拢。例如, 推出的 将本地模型、代理工具及应用连接器打包,在 DGX Spark 上运行。任务默认本地执行,仅在遇到无法处理的情况并经用户许可后,才将步骤发送至云端,确保文件始终留存本地。
哈拉克认为,软件层提供商正大幅简化设置流程,摒弃命令行安装,回归图形用户界面(GUI)体验。这正如网络附加存储(NAS)从极客爱好演变为百思买货架上的消费品,硬件普及的关键在于软件的易用性。
RTX Spark 笔记本即将破局
DGX 台式机仅是概念验证,真正的消费级爆发点在于即将上市的 RTX Spark 笔记本电脑。预计今年秋季,戴尔、惠普、联想、华硕、微星、宏碁等厂商将出货搭载 GB10 芯片的笔记本,微软亦将推出基于该芯片的 Ultra。
这些设备运行 11,兼顾游戏与传统办公负载,更拥有 128GB 统一内存,足以运行令当前消费级 GPU 崩溃的大型语言模型。这是哈拉克桌上设备的笔记本版本,且打破了仅限 Linux 的限制。
" 本地运行的模型配合易安装的运行时,将真正开启本地 AI 时代。" 哈拉克称。
核心议题:所有权而非性能
哈拉克引用企业界案例指出,用户曾以模型排名和令牌用量为荣,直到 IT 部门收到账单,大家才开始关注成本优化。随着 AI 代理深入个人日历、邮件及财务数据,数据处理地点已从理论问题变为现实关切。
" 本地 AI 带来更多令牌,令牌即智能。当智能与安全运行时配对,你就能高效做事。" 哈拉克将其通俗地定义为:" 家里的数据中心。"
【星途科讯 图文丨 首发于 ZAKER 科技,转载请注明出处】
- 2023-05-18
大金空调外机不工作原因是什么 daikin空调… - 2023-05-18
daikin中央空调e7代码是什么故障 中央空调… - 2023-05-18
大金空调不制冷是怎么回事 大金空调不制冷… - 2023-05-15
daikin空调压缩机不启动是何原因,电源导线… - 2023-05-15
大金空调装置空调时,留意查看铜管紧固位的… - 2023-05-15
大金空调室外机装在室外,通过长期的运用会… - 2023-05-01
大金空调插头所承受的最大电流是15A左右,… - 2023-04-10
大金空调当电磁阀线圈处于断电状态,先导滑… - 2023-04-10
大金空调连接管松脱或者损坏,也会影响空调… - 2023-04-10
大金空调直接加入足够供空调制冷的雪种,要…








管理员
该内容暂无评论