对于许多直接在设备上运行的 AI 应用(如手机、笔记本电脑或此设备)而言,这开启了在一切依赖云端时难以实现的可能性。AI 可以贴近其处理的数据运行,能够本地响应,即使在没有网络连接的情况下也能继续工作。对于某些应用来说,你可能希望赋予设备记忆其自身经历的能力。

我很荣幸地介绍与 Quadrants 合作推出的课程《构建内置端侧记忆的 AI 助手》,由 Dylan Cusack 授课。在本课程中,你将学习如何构建能够记住所见、所闻及被告知内容的端侧 AI 应用。你在本课程中构建的语音助手会将这些经历转化为嵌入向量,并与有用的上下文一起存储在这些向量中,以便后续检索。

该助手将能够检索关于预约的语音笔记,或识别你通过几张图片教给它的物体。所有这些操作均在设备本身完成,无需将记忆发送至远程服务。>> 谢谢 Andrew。运行本课程中构建的应用程序并不依赖于特定的硬件,你可以在任何设备上运行它,包括 Mac 或 Windows PC。

你将从了解设备内部的架构开始学习,在那里摄像头、[音乐]嵌入模型和向量内存如何在设备上协同工作。[音乐] 然后,你将使用我们开源的 Quadrant Edge [音乐]向量搜索引擎逐步构建记忆系统。你将以向量形式存储笔记,进行语义搜索,使用元数据过滤它们,并在希望系统遗忘时删除记忆。

[音乐] >> 接下来,你将把文本笔记、语音录制和照片结合到一个离线的助手当中,使其能够回答关于你一天情况的问题。在最后一课中,你将通过向记忆中添加示例来教设备识别新物体。>> 记忆对于 [音乐]将体验定制给特定用户至关重要。

在本课程结束时,你将构建一个端侧助手来控制、回忆和遗忘体验,并识别你教给它的物体。我希望你喜欢这门课程。