硬件
17.03.2026 19:05
与他人分享：
无需网络，即可将私人人工智能装进口袋。
使用人工智能通常意味着需要持续连接云端，这会引发隐私问题。但一项新项目表明，构建一个功能齐全、可离线运行、直接在本地设备上工作的AI助手是完全可行的。
照片：纳兹·路易斯
开发者社区的一个有趣项目展示了人工智能如何完全离线运行。这位开发者基于树莓派 5 设备构建了一个“离线”AI 助手，它完全依靠本地数据处理工作。
采用这种方法的主要原因是隐私保护。大多数现代人工智能服务都需要将数据发送到云端，这对许多用户来说都存在风险。本地解决方案则允许所有数据保留在设备上，无需外部服务器。
该系统采用优化的语言模型，该模型足够轻量级，可在配置较低的硬件上运行。该模型每秒可生成约 5 到 10 个所谓的“词元”（token），首次响应可在 8 秒内完成。
语音交互也是该系统的重要组成部分。麦克风采集的声音会在本地转换为文本，然后人工智能会生成回复，并通过设备的扬声器播放出来。如前所述，整个过程无需网络连接。
该项目还包含基础视觉智能。该设备利用摄像头和物体识别模型，可以分析周围环境并识别视野内的物体。
用户界面采用一块尺寸约为 2.4 厘米的小型 OLED 屏幕，用于显示响应和基本系统信息。控制方式为物理按键，这意味着该设备无需键盘或电脑屏幕即可操作。
为了保持上下文关联，系统还使用本地数据库来存储信息和过往对话。这使得助手能够参考之前的互动，提供更有意义的回复。
该项目以开源解决方案的形式发布，这意味着开发者可以对其进行修改或升级。此类系统预示着人工智能的发展方向，越来越多的解决方案将直接在设备上运行，而无需依赖云服务。
