Ofer Shapira

开始说 LLM 的语言吧!🈯

本页为原文的机器翻译,未经人工译者审核。历史信息可能已发生变化。

开始说 LLM 的语言吧!🈯
到目前为止,提示词工程一直在凑合使用一种并非为它设计的语言。微软现在发布了一种经济、高效且有条理的新语言结构。

直到今天,还没有真正高效的方式来为 AI 编写提示词(针对开发与 API 对接系统的工程师)
Markdown 被用来组织文本,但没有真正的逻辑层次结构。
JSON 试图描述结构 -- 但这种格式充斥着不必要的字符,难以手工阅读和编写。

在这两者中,都很难生成复杂、动态且可维护的提示词。每一个小改动都变成繁琐的任务,每一次复制提示词都会产生重复和分散的逻辑。

随着模型越来越强大,对它们的要求也越来越精确 -- 对一种新语言的需求日益增长,这种语言把提示词不是当作文本,而是当作模块化代码来理解。

微软在这里登场,带来了一种新语言:
POML – Prompt Orchestration Markup Language。

POML 是一种"开放"的标记语言,为提示词工程带来秩序、层次和可扩展性。你终于可以使用标签、模板、变量和样式,而不必维护"散乱"的文本代码。

我们稍微回到了 XML 时代(还记得吗?在 JSON 时代之前)

实际上是如何工作的?

- 使用 `<role>`、`<task>`、`<example>` 等元素来定义提示词的逻辑部分。
- 用 `<document>`、`<table>`、`<image>` 引入外部信息,而无需手动硬编码。
- 用类似 CSS 的 `<stylesheet>` 把格式与逻辑分离。
- 借助 `<let>`、`if`、`for` 引擎定义变量、条件和循环 -- 以创建动态模板。
- 当然,VS Code 中已经提供支持(有专用扩展,包含自动补全、预览和诊断)。

结果:对提示词进行一致的管理,减少重复,更新时高度灵活,最重要的是 -- 节省不必要的 token 并快速提升性能。

当格式本身变得智能,并且对 LLM 的整个价值链进行真正的优化时,结果就是节省资源和成本。

值得一试!

如何开始?从这里:https://lnkd.in/dQnXbH3t

Illustration for “POML treats prompts as modular code”