如果你想成为一名AI工程师,也许你不需要计算机科学学位,但你确实需要正确的技能并理解基础知识。今天,我将拆解AI工程师究竟是谁、你需要学习的技能栈,以及三个能向潜在雇主展示你能力的项目。几年前,进入科技行业的道路相当直接,对吧?你会获得学位,做一些实习,死磕编程挑战题,然后希望收到雇主的面试电话。但最近情况发生了变化。
AI编码工具让生成代码变得容易,这意味着代码本身不再是难点,真正的挑战在于判断力。因此,能够针对诸如如何构建应用程序结构、知道该做什么以及为什么一种方法优于另一种等情况做出正确决策,变得至关重要。这是课堂不一定能教给你的,但你绝对可以通过构建项目来学会。那么问题来了:要成为AI工程师,你究竟需要学习什么?又如何向雇主证明这一点呢?
首先,“AI工程师”这个术语相当新。AI工程师不同于机器学习研究员。后者是从头训练基础模型的研究人员,他们发表关于这些模型及其正在开发的新架构的论文。这个职位通常需要深厚的数学功底以及通常更高的学位。另一方面,AI工程师则不同。你是利用已经存在的模型进行构建。例如,你可以使用前沿或开源研究人员开发的模型,但你将这些模型接入到一个能执行有用工作的系统中。
这意味着将模型连接到数据源;可能包括赋予其访问工具和外部信息的能力,提供记忆循环和护栏(guard rails)以及许多其他功能,从而将模型转变为某人实际可用的解决方案。如果说机器学习研究员是制造引擎的人,那么AI工程师就是造车的人。随着大量模型的涌入,我们迫切需要有更多能够为企业构建这些汽车和AI解决方案的人才。
不过关于基础部分,我通常将其视为三个层级,且顺序非常重要,稍后我会解释原因。因为在最底层的基础之上,人们有时会跳过基础直接进阶到构建或部署智能体(Agents),而他们甚至无法处理数据或不理解基础设施的复杂性。这导致他们花费大量时间重新学习基础知识。第一层级是你的基础,这些并非AI特有的内容,但你绝对无法在没有它们的情况下进行构建。
例如使用Python。你不必成为编程大师,但必须足够熟练以阅读代码并理解你的AI智能体在写什么。因为许多机器学习库和AI包(如PyTorch和TensorFlow)底层都在使用Python。因此,能够理解这种语言非常重要。另一方面,既然你要工作并构建项目和目录结构,还需要与他人分享这些内容,那么理解Git作为工具就显得非常关键。
同时熟练掌握命令行实用程序(CLI)也很重要。你会注意到,许多AI工具底层都在使用Linux。因此,从Git到CLI再到Linux的组合对于能够在你部署AI智能体的操作系统上操作至关重要。最后,我们要具备理解API(应用程序编程接口)的能力。这是将两个不同的软件部分连接在一起的方式,对吧?理解它们的工作原理对于许多AI用例都至关重要。
因为你将以编程方式向模型发起调用,处理响应、应对速率限制等等。你最终构建的每一个AI产品和服务,本质上都是你的应用程序与模型、不同工具和服务之间往返进行的结构良好的API调用。这就是基础部分。第二层级是我们学习这些特定的AI工程技能的地方,例如理解嵌入(embeddings)用于我们的数据源以及能够进行向量搜索。
你需要了解这一点的原因是,这允许我们将有根据的信息提供给大型语言模型(LLM)的上下文窗口,从而获得准确的响应。通过嵌入,我们可以帮助机器系统理解含义,而不仅仅是匹配关键词。我们将文本从PDF和其他数据格式转换为数值向量,并通过相似度进行搜索。例如,“Kubernetes”这个词与“容器”和“编排”等词的相似程度如何?
在这个三维空间中,我们可以为想要搜索的不同主题返回相关结果。之所以这很重要,是因为检索增强生成(RAG)。RAG允许我们为特定信息(如公司政策或法律文件)向模型提供准确的结果,而不是让它因为未接受过相关训练而产生幻觉。其典型工作流程是一个管道:文档进入管道,被切分成固定大小以适配我们将要使用的任何数据源。
这些文档被嵌入到向量或数值表示中,以便在数据库中进行搜索和存储。与此同时,当有人询问有关特定公司数据或个人信息的问题时,我们会提取该问题并从数据库或向量源中添加相关的检索信息。我们将相关问题和相关信息一起输入到大型语言模型的上下文窗口中,然后我们得到的结果既基于事实信息,又以自然语言表达给我们。
几乎所有尝试AI的公司都想要某种形式的RAG(检索增强生成),即使你未使用嵌入或处理其他存储形式。第三层级是智能体和工具使用,你可能在我们的频道上听过很多关于它的内容,因为这是目前如此流行的原因。智能体允许我们超越回答问题,真正地去执行操作。这大概是当前最热门的应用型AI技能之一。
做一个快速区分:工作流通常遵循一个固定的顺序,
预定义的路径意味着你有步骤A、B和C,因为发生了不同的动作。但对于智能体而言则略有不同。智能体可以动态决定下一步该做什么,例如调用它需要使用的工具并观察结果,然后基于这些反馈进入循环以做出决策。构建这种闭环至关重要,因为能够可靠且大规模地执行此操作的人,才是一名优秀的AI工程师。
第三层级是将产品上线和部署。为了创造真正的价值,系统必须走出开发者的笔记本电脑,进入真实用户手中。这意味着需要理解部署和基础运维技能。首先是容器化技术,你需要能够将AI智能体甚至模型打包,以便在不同环境中部署到混合云上。因此,容器化和Kubernetes至关重要。
其次是可观测性。当模型被调用时,智能体可能会使用不同的数据库并来回收集数据。我们需要理解智能体为何做出最终决策。能够观察所有这些不同功能对于建立AI的透明度和信任至关重要。
接下来是监控,确保你不会在令牌账单上花费过多资金,并确保一切安全,特别是从安全的角度来看。此外还有大量部署领域的内容值得探索。幸运的是,这些AI开发工具可以极大地加快这一进程的速度。
无论你是将应用程序部署在完全与现实世界隔离的裸机上,还是通过托管服务在全球范围内进行云部署。目前大多数AI生产用例集中在前两个层级:一是检索增强生成(RAG),即由知识库系统驱动的人力资源服务、医院和在线聊天机器人,允许用户向其使用的企业或组织提问并获取基于搜索的可靠数据。
二是智能体与工具的结合,能够使用查询数据库、可视化数据的智能体执行通常只有领域专家才能完成的任务。最后是帮助部署应用程序,利用这些AI工具让工程师在几小时内而非数周内将代码上线。
这是我目前看到的三个最常见的AI用例。我鼓励你结合个人兴趣在这些特定领域进行构建,这将对你的职业生涯和AI工程经验产生巨大影响。现在你知道了AI工程师做什么:他们利用这三个层级的技能围绕语言模型构建系统,你也可以从今天开始着手。感谢观看,如果喜欢请点赞,我们下期再见。