那我们开始吧。正如大家已经注意到的，本次会议将被录制下来。这是一个预会议活动，我们的想法是有三位非常精彩的演讲者，我们要再次祝贺他们的论文被接收，这些会议将于下周在维也纳举行。这次活动的想法是请他们分享将在那里展示哪些论文，从而以某种方式做好准备并在会议前进入正确的状态。第一位演讲者是迈克尔（Michael），麦克风交给你，请随意介绍你自己并谈谈你的工作。

哦对了，我最后再补充一点。当迈克尔共享屏幕时，请大家随时在聊天框中提出问题。演讲之间会有暂停时间，我会查看聊天记录并大声朗读问题。但如果你想当面提问，请记住这段视频正在录制中。如果你不介意声音被录音，也欢迎不在聊天框提问而是直接开口问问题。那我们开始吧。

“太棒了，谢谢邀请我参加。我非常期待这次交流。”我之前已经跟组织者提过，我认为这是一个非常酷的事情。作为ACI社区以及慕尼黑的NLP研究人员，我们开始顺应这种会前会议的趋势。我认为这是一个在当地分享想法的绝佳机会，也许明年我们可以举办线下活动，那样会更好。我听说Munic Nap已经重新开始做线下活动了，那也很酷。

自我介绍一下。我是慕尼黑大学（LMU）的研究小组负责人，与人类中心NLP和AI的慕尼黑机器学习中心合作。我选择的这篇论文是我与自己团队，以及马克斯·普朗克信息学研究所的Yunas Fisher和同样来自LMU的Barbara Plunk共同撰写的。我主要展示这篇论文，并在最后简要谈谈我对人类中心NLP的个人观点，以及我们将要展示或最近提交的其他一些论文。

这篇论文的标题是《差异何在：通过Token模式辅助用户识别提示词和模型变化的影响》。这个项目实际上源于我们面临的一个挑战。作为人类中心NLP小组，我们经常接待来自其他领域的访客，如医学、考古学、经济学等。许多不同领域且非常酷的研究人员都带着同样的问题来找我们：“我想使用大型语言模型（LLM），但感觉非常困难。表面上看很简单，但在细节上却极其复杂。”

我们遇到的一个任务案例是故事生成。他们抱怨说，只要稍微改变提示词（prompt），整个故事的走向就会发生巨大变化。这是NLP领域的一个众所周知的事实。他们的任务是理解当提示词发生变化时会发生什么。让我们看这个例子：“讲一个关于李医生（Dr. Lee）一天生活的短篇故事。”然后，我们将姓氏从“Lee”改为“Smith”。

那么区别在哪里呢？你可以生成大量的标签，然后手动检查。你当然会预期看到“Lee”变成了“Smith”。这是一个有趣的游戏。通常在面对面演示中，我会让大家玩一个估算或猜测他们认为是哪里不同的游戏。我得到的回答五花八门，比如地点可能会变、医学类型可能会变等。

在我多次进行这个演讲的过程中，只有一个人猜到了性别发生了变化，这也是我们未曾预料到的。在李医生的故事中，男女角色的比例大致平衡；但如果你改为史密斯医生（Dr. Smith），突然之间，500个故事中有499个都是关于男性医生的。这至少是我们完全没有预料到的，而且只有通过仔细检查大量文本才能发现这一点。

我们面临的挑战在于，现代LLM的输出既长又细腻，这真的很棒——这也是为什么这么多人喜欢使用这些模型的原因。然而，即使是微小的提示词或模型变化也可能产生巨大的影响。我们的目标是支持用户更好地理解这些变化的影响。我们将用户分为两类：一类是最终用户，比如我提到的考古学家、医生或提示词工程师开发人员。我们希望引导他们优化提示词以获得更好的结果。

另一类是NLP研究人员，即进行模型检查的研究者。我们希望帮助他们指导他们的模型检查工作，以便整个领域能更好地理解模型行为。显然，NLP在评估方法方面有着悠久的历史。我们有自动指标，如准确率、BLEU分数和分类器，它们非常棒。我认为拥有这些可量化的指标是一件很酷的事情，因为它们快速且成本低廉而广受欢迎。

然而，它们都基于预定义的标准或需要数据支持，并且提供的见解有限。如果你不知道要寻找性别偏见，那么使用这些指标是找不到的。我提到了人机交互（HCI），我也有部分人因工科的背景。完全的人工评估非常普遍且很棒，特别是如果你有专家来标注数据时，因为它们灵活且具有洞察力——专家确实能跳出框框思考。

但它们需要大量的精力投入，而且人类也有自己的问题：他们有偏见、有不一致性，还会发现虚假的模式。在我们进行的一项用户研究中我们也发现了这一点：即使不存在任何模式，人类也非常擅长发现“模式”。第三件事是近年来变得非常流行的“LLM作为裁判”，它结合了自动指标的快速和低成本，以及更多的灵活性。

但它也带来了一些问题，实际上与人类的问题相似：存在偏见、在某些情况下缺乏稳定性以及与人类的评估结果相关性不足。因此，我们在思考是否能找到一种中间地带？我们面临的挑战是，即使使用相同的LLM和相同的提示词，输出结果也不完全相同。如果你问ChatGPT两次，你会得到两个相似但略有不同的输出或答案。

这是由于随机解码（stochastic decoding）造成的。如果你深入研究相关文献，这其实是好事：我们希望这种随机性在平均意义上能带来更好的结果，但它使得……

评估变得更加困难。因此，我们要寻找的是两组大型语言模型（LM）输出之间的系统性差异。这两组可以是两个不同的提示词，例如“李医生”和“史密斯博士”的提示；也可以是同一提示下的两个不同模型，比如旧版LLaMA和现代版本。我们想知道它们之间存在哪些系统性差异。为此，我们要提出一种“聚光灯方法”（Spotlight Approach），该方法将自动化技术与人工分析相结合。

我们首先利用数据挖掘技术，自动描述两组输出之间基于词元模式（token patterns）的系统性差异。随后，这些词元模式将引导人类去分析具体的不同之处。例如，如果我们有两组文本分别对应“李医生”和“史密斯博士”，可能会出现“He/His”这样的模式。这意味着在“史密斯博士”的案例中，男性代词的使用频率更高。

接着，人工分析者会深入查看这一发现，从而意识到其中存在性别偏见。让我们退后一步看看整体流程：提示词工程师或研究人员准备两个不同的提示，例如“讲一个关于史密斯博士的故事”和“讲一个关于李医生的故事”。然后，他们使用大型语言模型为每组提示生成文本输出。

接下来，我们利用数据挖掘技术提取词元模式，即两组之间存在的差异模式。在这个例子中，“Smith”和“Lee”作为明显的差异是显而易见的，但“He/His”以及“She/Her”等代词的使用则是意想不到的差异。这些词元模式的一个显著优点是，数据挖掘方法能直接回溯到原文中。

因此，我们可以直接在更细致的层面上检查这些模式。得出的结论是 grounded（基于事实/有据可依）的，而非幻觉产生的，并且用户可以对其进行分析。这篇论文的一部分正是提出了这种方法。我们可以在这里看到它的实际运作：这是一个提示词变化的例子，从“Doctor”变为稍微不同的变体“Dr. Miss”，从而产生了如“smiss, what you want”等模式。

此外，还出现了“He/His”和“She/Her”，指示了性别偏见；但也出现了其他模式，如“general practitioner”（全科医生）。这涉及医生的职业或类型、地点如“small town”（小镇）、医学类型，或是故事事件类型如“car accidents”（车祸）。许多差异是由简单的变化引起的，我们可以通过这些模式来识别它们。

这项工作的另一重要部分是从不同角度对“聚光灯方法”进行广泛的评估（evaluation）。首先是基准测试。我们创建了用于评估词元模式识别方法的基准，而可解释性领域的一个大问题始终在于“地面真值”（ground truth）。在许多情况下，我们缺乏这种真实标准。

在这里，我们通过向数据中插入地面真值模式来专门创建它，然后测试不同的计数方法、大型语言模型以及数据挖掘技术。关于基准测试的细节请参阅论文，但关键发现是：作为裁判的大型语言模型以及某些数据挖掘技术无法扩展到大型文本组。我们在其他项目中也曾遇到过这种情况，许多数据挖掘技术并非为大规模文本构建的。

一些数据挖掘技术在处理多词元模式（multi-token patterns）时遇到困难，即多单词组合。这在自然语言处理（NLP）中非常基础，但对许多数据挖掘技术来说却极其困难。此外，许多技术（特别是那些基于统计显著性构建的技术）在处理低频模式时也面临挑战。

我们确定了一种方法，该方法也是由我们为不同任务开发的“Premise”，专为NLP设计。它具有高精度，并能找到长短语模式。这非常棒，因此我们在论文的其余部分使用了它。但仍有一些超有趣的开放挑战：如何为NLP开发更好的数据挖掘和信息提取方法？

我们拥有这些基准，找到了一种行之有效的方法，然后使用我们的框架在现有的提示词数据上对其进行评估。我们展示了“聚光灯”框架能比现有方法发现更细粒度的差异，而现有的提示词数据往往有限且不太现实。此外，我们还进行了演示研究，研究了不同的任务、提示词和大型语言模型，发现了大量不同的变化。

你已经看到了医生的例子；另一个关于模型变化的例子如下：假设你有一个提示词，如“故事生成”，要求写一个50字的关于肯尼亚农民的故事。在你的应用中，你过去使用的是GPT-3.5，但随后OpenAI推出了新的酷炫模型“GPT4o mini”，并告诉你它要好得多。但问题是，对于你的特定任务而言，它的差异究竟如何？

“聚光灯”发现的一个有趣模式是名称模式的显著不同。对于GPT-3，它找到了许多不同的模式；而对于GPT-4，“Juma”这一名称占主导地位。当专家深入分析时，他们发现本地名称的分布频率不同：旧模型有很多中等和低频的名称；而在较新的较大模型中，Juma这一名称占主导地位。

在故事中超过60%的情况下，主角仅仅是“Juma”。这是我们未曾预料到的，因为我们至少预期神经网络模型在多样性方面会更好。但至少在这个特定的多样性层面——即作为文化产物的名称上，它实际上更差。我们做了许多不同的演示，随后还进行了一项用户研究，询问这是否真的有助于用户。

这是从人类发展指数（HDI）角度出发的研究，规模较小，但对于NLP研究来说算是正常。我们在众包工人研究中询问用户是否能在有或没有词元模式的情况下识别文本组之间的差异。我们发现，展示词元模式（即图中的第二和第四个条形图）总是表现更好（蓝色更高），表明这些词元模式帮助用户更准确地识别正确的差异，并降低了发现实际上不存在的模式的風險。

以上就是快速浏览论文的内容。所有细节、结果以及更多研究都在论文中，我们还有一个存储库将在ACL会议开始前上线。它还将更新以包含更多细节和结果。利用最后两分钟，让我们退后一步看更大的图景：在我的“以人为中心的NLP”小组中，我们做什么？

我认为这一切都围绕着一个理念：我们要使用这些酷炫的黑盒语言模型，但如何能更好地理解它们？我会将“理解”分为两种不同类型：行为层面的……

分析并承认存在黑盒，观察输入输出以更好地理解行为，就像我们刚提到的论文那样，以及可解释性。也就是打开黑盒，探究其实际运作方式。我认为第三个非常重要的点是控制。将我们从理解中获得的见解转化为可操作的行动，因此我们看到了聚光灯下的表演性模型差异——这是我们最近在ACL上展示的内容，同时也发布在arXiv上的关于文化演化的论文。此外还有模型行为方面，我们也会在ACL上展示一篇关于多语言话语泛化探测的论文，这更像是一种探测模型内部可解释性的方法。我们最近也在arXiv上发布了一篇关于统一可解释性并考虑训练过程等的论文。

这很大程度上属于MLL NLP的技术部分，我想这也是这里的目标受众。但我认为其中的用户因素同样至关重要。作为NLP社区，我们需要了解用户的实际需求是什么。一旦我们开发了所有这些酷炫的技术，就应该回到实际用户那里，与他们一起评估我们所开发的内容是否真正有效。我认为通过与应用领域的应用场景合作，是获取这些见解的一种非常棒的方式。好了，快速介绍到此结束，我想感谢大家。如果有问题，我们现在可以回答。如果之后有问题，请随时联系我或我的团队。我们在线可通过电子邮件、Blue Sky或LMU网站联系，随你偏好。谢谢。

谢谢你，Michael。嗯，感谢你的演讲。我可能先提几个问题吧。还有一个建议，我们看看。也许我应该通过邮件跟进一下。嗯……你向我们展示了在提示词中改变医生姓氏的例子。那么在实施这些更改时，你是否考虑过某种系统性的方法来确定具体要改变什么？比如名字、职业还是国家？或者更像是“随便定义三个类别然后处理它们”这样的方式？

好的。嗯，关于医生这个例子，它取自其中一个演示研究。这些演示研究的动机非常充分，这是一种更偏向人机交互（HCI）的技术手段，通过观察人们典型的用例来展开。然后我们利用这些应用进行测试和故事讲述，这是我们与一个非政府组织合作的故事讲述项目。这很大程度上是受启发而来，其他的例子通常也源自我们参与的具体任务。虽然并不总是完全相同，有时会有所调整，但都是基于我们的工作任务。嗯……那种系统性地探究“改变地点会产生什么影响”的方法会非常有趣。

我们在关于特定文化背景的Makal壁纸研究中做得更多一些，在那里我们关注文化的特定方面。在这种情况下是实体：让我们看看不同类型的实体，更系统地进行尝试所有版本的情况……嗯，这里没有这样做，但我绝对同意选择特定方面并以更系统的方式去做会非常有趣。嗯……我还有第二个问题，我想是我忘了提了。

对，呃不，我现在想起来了，抱歉……我的脑子有点转不动了。嗯……当你实施这些更改时，这种基于提示的检测技术——我假设它不会深入探究更高层级的类别或语用学范畴，比如安全性。如果你从一个提示切换到另一个提示，或者从模型A切换到模型B，生成的文本可能会变得有毒、不安全或类似情况。那么有没有办法使用你的方法来进行此类检测呢？

是的，我们还没有针对毒性进行过测试。我认为这是论文的一个大问题。我们有太多精彩的话题了。审稿人正确地抱怨说附录里的内容太多了，而正文中不够多，我同意这一点。嗯……所以再次测试毒性会很有趣。我认为这些元素会以模式的形式浮现出来。例如，论文中有一个关于人设测试的案例，其中一种情况显示模型出现了失败：即人设被要求执行某项任务，而在特定的人设-任务组合中（5%的情况，虽然罕见但相关），你看到了任务失败。

这种失败反映在突然出现的模式中——嘿，这在这里毫无意义，出现了任务失败。所以我同样假设，如果突然出现脏话作为模式浮现出来，你也会看到它被反映在模式中。这里的一个局限性在于这些是基于令牌（token）模式的方法。基本上我们有一个词汇袋的假设，这从数据角度来看可能已经具有挑战性了，但从NLP的角度来看，显然是一种非常简化的假设。对于像毒性甚至顺序等更高层级的主题复杂性来说……我认为还有很多酷炫的内容值得探索，以便更好地突出显示。

从用户角度来看，也要更好地支持用户，这样他们就不需要自己去梳理模式并得出“这突然变得有毒”的结论，而是直接呈现给他们：“哦，这是毒性。”是的，非常感谢。我承诺了一个建议，但我肯定会通过邮件联系你。不过也是为了向大家透露一下我正在做什么：我和达姆施塔特及汉堡工业大学（T-Hamburg）的团队明年将举办一个关于叙事故事相似性的标志性共享任务。

我们收集了一个包含三个故事的 dataset（数据集）。其中一个锚点故事，另一个与锚点相似，第三个则不太相似。这可能对你有兴趣深入研究一下。我们有一些想法来跟进这个数据集的收集工作，因为本质上共享任务的论文就是关于数据集收集的。也许如果你不介意的话，我会通过邮件联系你，分享一些我们可以尝试的小想法。

绝对欢迎随时联系我。听起来非常酷。嗯……是的，这是一篇论文，但实际上是一系列更长项目的组成部分，我们还有一些后续工作要做。所以……会非常酷。听起来很棒。请随时联系。

以及那些可能想要使用它的人。我们目前也在编写 Jupyter Notebook 教程等，以便让大家更容易尝试。>>嗯，对。嗯，我在聊天中还没有看到任何问题，但我认为我们可以继续前进，然后邀请今天的第二位演讲者。如果有一些问题，希望他们能通过电子邮件跟进。感谢 Michael 今天与我们在一起。>>谢谢邀请我。uh 接下来的第二个演讲将由 Jing 带来。

是的，我说得很多，非常感谢组织这次精彩的会议。嗯，我赞同我们应该也举办线下聚会的想法。嗯，是的，所以我今天从德国图宾根通过 Zoom 发言，我讨论的是语言模型的可解释性（LM interpretability）以及由 LM 解读人类决策。我是多伦多大学即将上任的助理教授，所以这涵盖了我在多伦多的团队以及我们在马克斯·普朗克研究所的团队的工作。

嗯，首先简要概述一下我们所有在 ACL 2025 上的论文，虽然我们将挑选两个来介绍。嗯，我们有一项关于揭示跨国内容审核隐藏机制的工作，此外我们还涵盖了一项关于语言模型在推理、记忆相互作用方面的可解释性工作。我推荐大家查看的两项工作分别是：关于 DS Stars 框架以提升编码代理性能，以及通过包含大规模多语言 AI 术语数据来实现全球人工智能包容性的努力。

让我们深入探讨由 LM 解读人类决策的语言模型可解释性。我们涵盖的第一项研究通过其表示空间中的单一方向，考察了语言模型中推理与记忆的相互作用。首先是动机：自然语言处理社区中的许多讨论都围绕着模型是否真的在进行推理，还是实际上在记忆训练数据。这种区分可以应用于解耦性能表现：即它们的基准测试成绩是否真正反映了可迁移的推理技能，还是某种基于记忆的性能或所谓的“数据污染”问题。

我们实验室早期的结果涵盖了如何通过机械可解释性来解释多步推理，以及一个因果框架来理解导致模型性能的因素。我想这与 Michael 提到的名称偏见类似，我们研究了数字偏见以及框架效应（framing bias）。然后深入这项研究，我们基本上聚焦于两个研究问题：首先，记忆和推理是两种可分离的能力还是不可分离的？

另一个问题是，如果我们能将它们分开，我们能否在模型的表示中找到一个“转向向量”（steering vector），以控制这种开关，鼓励更多的记忆行为 versus 推理？这里的一个例子是，例如我们可以将现有的 NLP 数据集分离为记忆密集型 versus 推理密集型的。对于记忆密集的，可以是“极化是肥皂泡中颜色的属性”或结果来自光线等事实性陈述。

而推理任务则可以是高度组合/分解的，例如插入各种不同数字并让模型按从大到小排序，或者“持续时间为 1 毫秒的 13 C9°ree 脉冲的力度是多少”等等，这些是非常数学化或 STEM（科学、技术、工程、数学）相关的推理问题。所以我们在这里所做的基本上是将语言模型数据集分离为记忆密集型和推理密集型，提取模型残差流中的表示。

然后获取记忆任务与推理任务的表示均值差异。接着我们得到了一个线性的推理特征。所以为了可视化我们正在做的任务类型，如前所述，我们将 MMLU、JSM8K 等放入推理集，然后将其他内容放入记忆集。嗯，然后我们首先通过将其嵌入空间投影到二维平面来激励这项研究，并观察到橙色或红色的那些是记忆密集型任务。

它们明显与推理密集型的任务分离开来，这在从 Llama 到 Gamma、Mistral 和 Omo 等多个模型中都是如此。然后我们稍微跳过这一页，它有点技术性，嗯，我们还可以在编码任务中看到这种分离情况，当我们区分记忆密集的编码任务和推理密集的编码任务时。嗯，在发现这个转向向量后，我们还进行了一项干预实验，使模型更多地记忆 versus 推理。

我们基本上在相同分离的两类数据集上评估了模型的性能，并调整转向向量以最大化其记忆能力，并观察到像 MMLU、Prompop QA、CLH 这样的数据集，使用 Llama 时性能提高了约 7%（针对 MMLU Prom）等等。嗯，我想这里我们用“M”来大致区分任务的性质是记忆密集型还是推理密集型。

同样，我们也调整了残差流更偏向于推理方向，然后观察到模型在需要数学推理或常识推理技能的数据集上性能也有所提高。关于这篇第一论文的要点，我们表明语言模型的推理能力由其激活空间中跨层的线性特征集介导。嗯，然后当我们在解决推理任务时引导这些因素，它们可以增强泛化能力。

此外，介导这些线性表示特征可以减少推理错误以及模型推理或记忆能力的误用。嗯，接下来我们要涵盖的下一项研究是这篇论文和代码链接。我们在这里要涵盖的下一个研究是关于利用 NLP 揭示跨国内容审核的隐藏机制，并且我们将从给定一个能执行特定任务的语言模型的角度，转向如何分离其不同类型的能力，转变为现在纯粹使用语言模型作为计算社会科学的工具。

以了解内容审核决策是如何做出的。所以在动机方面，基本上我们针对的是社交媒体数据，正如我们所知，许多审核系统要么使用黑盒 NLP 模型，要么具有不透明的人工审核机制。缺乏透明度来解释为什么某些内容被审查，而且如果我们部署朴素基于表面关键词的过滤器，它们往往具有误导性。

此外，不同国家和时间的审查存在差异，很难用一个一刀切的模型来涵盖所有这些情况。

解释。因此，本论文的主要贡献在于通过两个研究问题聚焦于解读在线社交媒体内容审核决策是如何做出的。第一个问题是：能否逆向工程不同国家的内容审核决策？我们训练基于分类器的模型以预测五个国家的审查决定，从而揭示内容审核行为中的地缘政治差异。第二个研究问题是：可解释人工智能技术能否应用于大型语言模型，以揭示内容审核决策背后的潜在机制？在此，我们基本应用沙普利值和大型语言模型生成的解释来识别驱动审核的关键因素，并通过人工评估验证其可解释性。

为了准备对实际社交媒体内容审核决策的解释工作，我们深入研究了第一部分的数据集，该数据集捕获了2011年至2020年间所有推特的百分之一样本。基本上，该来源还考察了某条推文在特定国家是否被审查。因此，有了这个快照后，我们展示了高度审查国家的分布情况。例如，我们有39,00条在德国被审查但在其他国家可见的推文；法国有36,000条，印度有5,000条，土耳其有37,000条，俄罗斯也接近5,000条。

在这些推特帖子中，每篇帖子的字数大约在20字左右。其中，被审查的推文占比约为16%，德国、法国和土耳其的情况大致如此；而印度和俄罗斯则约为2%。这就是我们来自实际人类社交媒体数据的数据构成情况。以下是被该国扣留的推文类型快照，其中一些因有害性而被审查，另一些则涉及军事影响或政治审查（如印度推文所示），当然也可能存在纯粹的企业审查行为。

为了进一步推进研究，我们试图了解数据类型。首先对基本主题建模和分类技术进行概述，以调查每个国家数据中不同性质审查的比例。我们发现印度和土耳其存在大量政治性审查，这是该十年间推特上的主要审查类型。此外，德国和法国也存在相当大量的宗教相关内容审查；而在德国和法国，占主导地位的被审查领域是有害性内容，包括种族主义、仇恨言论等。

在此基础上，我们进入第一个任务：评估微调模型的性能。基本上，我们将一系列语言模型应用于逆向工程人类审查决策，利用带有真实标签（即是否实际被审查）的数据进行训练。微调模型后，我们发现其测试集性能可达90%以上的F1分数。我们还进一步使用在各国数据上运行且F1得分为93%的模型，进行后续的可解释性分析。

我们将这些表现良好的模型与零样本方式下应用的现成语言模型进行对比，后者实际上无法很好地完成该任务且性能参差不齐。随后，我们将学习到这些审查模式的模型带入可解释性分析中。例如，使用沙普利值分析显示，针对德国和法国，反宗教言论、政治及有害内容被审查；而在土耳其及其他国家，军事和政治性审查则普遍存在。

接下来探讨大型语言模型能否解释这些审核决策。我们基本让一组从Aya、Llama到GPT-4 mini的大型语言模型，在给定审查决策的情况下提供理由解释其在推特上被审核的原因。我们让人工标注员在一到五的量表上对模型解释的流畅度及其在解释这些决策时的帮助程度进行评分，发现Llama 23在某些情况下在偏好评级、帮助性和流畅度方面排名最高。

进一步讨论，主要有两到两个要点：首先，模型的审查决策具有高度可预测性，超过90%的F1分数或准确率可以恢复原始的人类决策。然而，我们提供的可解释性仍面临挑战，此处需要更多的透明度研究。此外，大型语言模型缺乏文化、法律和语言的特定性，这也导致我们展示了一项关于使AI术语研究对不同受众更具亲和力的预览。

为此，我们提供了一个多语言术语数据集的链接，涵盖五种语言（如阿拉伯语、中文、法语、日语、俄语），翻译了常见术语，例如共指消解、解释效应及其他AI相关术语。是的，以上就是全部内容，欢迎大家查阅论文或进行讨论。“感谢金进先生的演讲。我们有任何问题吗？有人想在聊天中或者现场提问吗？”

“如果没有，我有一个问题，但可能带有政治色彩或争议性。从我看到的来看，你的结果显示在研究的五个国家中，俄罗斯的审查最少，对吗？”“但实际上推特在过去五年里在俄罗斯被完全禁止。所以他们不需要进行任何审查，他们直接封锁了整个平台。”

“因此，这些结果过于乐观了，因为本质上，基于俄罗斯API或俄罗斯IP地址的人无法访问这些数据。”“没错，所以我认为在俄罗斯数据集方面存在选择偏差。我们只是真实地反映如果我们获得一组随机的推特帖子，其审查决策是怎样的。”

“此外，正如我们所见，其中一些是企业审查行为，这实际上并非俄罗斯的主流情况。”“嗯……”“我还没来得及从这条推文中仔细查看。嗯，这取决于……我可以再猜测一下，但我认为其中一些企业相关的内容可能只是用拉丁字母书写的、在俄语中构成脏话的字母或字符组合。”“嗯。我”

无法猜测这里具体发生了什么，但我可能会假设SB可能与一家非常大的俄罗斯企业银行有关。这很有争议性。但如果你稍后与我分享更多数据，并且希望有人类视角来审视某些推理过程，我完全可以做到这一点，因为我是母语者。听起来不错。是的。嗯，我想我们很高兴进行交流并分享数据。我认为这些数据可能也应该放在GitHub上。这很可能更多地谈论了其他国家的情况，比如德国维持某种社会秩序，而其他案例可能涉及更多的政治审查主题。嗯，是的，但很乐意稍后更详细地讨论。好的，当然。所以，我只是想说，由于国家层面引入了更大的审查措施，这些结果可能需要在一定程度上保留意见。我在聊天中没有看到任何问题。所以也许人们会通过电子邮件跟进，甚至亲自去ASEL找你。希望这里也有一些参会者。嗯，再次感谢你的演讲，并祝你下周在SL度过最美好的时光。现在我们有第三位发言人了。嗯，如果我可以邀请的话，Lucas，舞台是你的。哦，那太美了。

嗯，我们听不到你的声音，Lucas。我们可以看到你的屏幕和美丽的……>> 好的。好吧。谢谢你的赞美。嗯，是的。正如你可能猜到的那样，我正在展示一张海报。所以，我隐藏了这个顶栏的东西。>> 你能放大到海报的不同部分吗？是的。好的，酷。>> Zoom软件的顶栏，但它妨碍了我放大和缩小。>> 这张海报非常适合十一月的会议。>> 啊，是的，当然。>> 哦，十月底的会议。十月底的会议。>> 好吧。我不知道如何隐藏这个，但我猜我就这样放大吧。好的。你好。>> 是的，这样可以。嗯，所以是的，我的名字是Lucas Edmund。我和Elmu的Helmush Schmidt以及TUM的Alex Fraser一起完成了这项工作。如果你熟悉我之前的基准测试CUTE，这就是那种扩展版本。所以，如果你不熟悉它，基本上就在这里了。希望足够大以便阅读。嗯，哇哦。好的，我们开始了。所以本质上我们在CUTE中做的是测试LLM理解token内字符的能力。你可能听说过这个“strawberry”问题。Strawberry里有几个R？所以这基本上就是我们在CUTE中做的事情，但更深入一些。所以我们问这样的问题：单词“there”里有C吗？模型应该回答没有。嗯，然后我们也在词级别进行比较。“in the sky is blue”里有“the”吗？你应该回答是。这个想法是这样的：存在单个token，对吧？所以没有直接访问每个token内的各个字符的权限，但是可以访问句子中的tokens，因为它们都被分开了。嗯，所以我们假设模型在词级别的表现应该优于字符级别。所以我们也做其他任务，比如操作。比如在“there”中的每个e后面添加一个b。所以模型应该能够做到这一点。嗯，在词级别也是如此，然后是删除、替换和交换。所以是的，这些部分是原始CUTE基准测试中的内容。我们本质上发现模型在词级别的表现优于字符级别。他们真的很挣扎。嗯，所以我们在CUTE中用英语做了这个，而Execute是多语言版本。所以我们想看看模型在其他语言上的表现如何，特别是其他脚本，因为你可以想象结果在其他拉丁语系中可能非常相似，但是对于像中文或日语这样的语言，token很多时候是完整的单词，他们会表现如何呢？对。所以我们将此扩展到最广泛使用的八种脚本，这里是结果。所以简单回顾一下英语：我们在拼写和反向拼写上表现非常好，但当我们进入这些操作任务时，性能确实下降了，特别是在字符级别。所以对于词级别，它实际上做得很好，但在字符级别，它在插入和交换方面的表现特别差。这些是针对许多模型的。所以在Q论文中，我们测试了许多单语言模型。而在这里我们测试了许多多语言模型。这没关系。它们无论如何都表现糟糕。所以我们在俄语和阿拉伯语中也发现了同样的情况，可能是因为它们在每个token中的字符数量上 somewhat 相似。阿拉伯语和俄语中大约有四个到五个字符每个token，这与英语大致相同。嗯，而且它们也是高资源语言，并且有许多共享西里尔字母和阿拉伯语脚本的语言。嗯，但然后我们转到其他语言如印地语和韩语，我们看到字符级别的表现比之前要好一些。这可能是因为这些语言中字符与token的比例大约是3:1。所以稍微接近一点。嗯，但然后在中国和日语中，如果你走向另一个极端，每个字符基本上就是一个单词，分词也遵循这一点。我们看到字符级别的表现实际上相当好，然后词级别的表现下降。然后我们有阿姆哈拉语在这里，它似乎擅长一切。所以如果你不熟悉阿姆哈拉语，它是一种在埃塞俄比亚使用的语言。那里使用非常广泛的语言。但正如你可能猜到的那样，它在NLP中资源相当匮乏。所以模型不仅在训练中没有看到很多阿姆哈拉语数据，而且它也不能很好地对其进行分词。所以它的分词非常糟糕，以至于每三个token才是一个字符。这很糟糕。嗯，但尽管如此我们看到了非常好的表现。那么那里发生了什么？好吧，我们查看了更多低资源语言并发现了完全相同的事情。特别是那些拥有自己脚本的低资源语言。所以，Tifinagh是一种柏柏尔语。他们有自己的脚本。桑塔利语是东印度语言，如果我没记错的话。它也有自己的脚本。嗯，而且它们在这些问题上也表现相当好。本质上为什么会发生这种情况是因为这些LLM拥有一种我称之为语言偏差的东西，意思是如果我们回到这里的问题，如果你考虑像字符删除这样的任务比如“there”中删除每个e，输出应该是“thr”，这是你知道的预期输出，但LLM可能不想产生这样的东西因为

它不是一个词。同样地，你知道，“天空是蓝色的”这句话，模型其实并不想生成这个结果，因为这在语法上是不正确的。因此我们可以看到这种语言偏见，即对语法正确性和拼写正确的偏向，在它熟悉的语言中经常发生。然而，对于它不熟悉的语言，我们观察到它能大致正确地完成任务，因为它不受这种偏见的影响。为了进一步强调这一点，这里有一个常规的英文版本作为对比。我们基本上进行了一种密码转换，将英文字符一对一映射到希伯来语字符，然后再次尝试这些任务。

这与我们在“cute”论文中发现的情况类似：如果令牌中包含字符，模型在理解时会遇到困难。但这里还存在语言偏见的干扰。这就是这项工作的主要结论。最后，我们有针对韩语、中文和日语的结果。具体来说，我们关注的任务如下：CJK语言的特殊之处在于，它们都由更小的字符部件组成。例如在韩语中，“dull”这个词本质上由D、U和L构成。

因此，我们可以进行类似拼写的任务，将令牌拆分为多个令牌，反之亦然，并进行“包含”测试。例如，“dill中是否含有D”。我们发现的结果与英语等其他语言类似：模型无法理解令牌内部包含的部分。不过，它在识别汉字或日语假名中是否含有“江”字旁方面表现相对较好。但它无法在两者之间进行这种转换。对于韩语，表现尚可但并非完美。

即使我们测试了像Quen这样拥有大量这些语言数据的模型，它表现最好但仍面临不少困难。总的来说，主要结论是：首先，这些模型难以理解令牌的组成部分（无论是字符部件还是单词部件）；其次，它们存在语言偏见，阻碍了完美表现。谢谢，现在开放提问环节。非常感谢Lucas，非常有趣。

聊天中有问题吗？或者有人想提问吗？其实我还想补充一点，这是我的GitHub链接，大家可以尝试这个基准测试。另外我忘记提到的是，我们设计了这个基准测试，使其可以轻松扩展到任何你喜欢的语言。你只需要一个还不错的翻译工具（如Google Translate），或者手动翻译约一千个句子，就可以为任何语言创建这个基准测试。

如果没有人提问，我可能要问一个非常愚蠢的问题。但这与这些语言中的下游性能有关吗？比如，我们在多种语言中观察到了这种现象，那么这对大型语言模型的其他用例意味着什么？这肯定会影响特定任务的下游性能，虽然可能不是最常见的任务。因为最常见的问题通常涉及形态学，而某些语言中的形态学非常复杂。

但这归根结底取决于少数几条规则，所以通常不会在此方面出现问题。然而，在更小众的领域会出现这种情况，比如字谜游戏。你可以尝试给ChatGPT一个Wordle问题，它会因为字符位置和理解一般性问题而挣扎。这些模型开始做得稍好的一点是，在推理过程中转换表示形式。

虽然推理确实有很大帮助，但并非完美无缺，它们仍会犯错。因此更复杂的事情（如字谜、编程练习以及诗歌中的押韵或头韵等）也会出现这种情况。我在想，这对于生物信息学和非语言数据（如DNA序列、构建蛋白质的大型令牌等）是否也有价值？老实说，我不确定。

我们实际上与在TUM从事生物信息学研究的人讨论过此事。他们告诉我们，通常这些模型会同时考虑一组三个或六个字符（即密码子），而不是单独考虑单个字符。这可能不是生物信息学的标准思维方式，但对于蛋白质折叠等可能仍然非常相关，因为这也是氨基酸链的问题。

确实有人对此感兴趣。我认为它在NLP中尚未完全普及的原因之一是，在字符级别考虑所有内容通常成本更高。这意味着序列更长，计算量更大且速度更慢（特别是在生成场景中逐个字符生成时）。我认为人们对此越来越感兴趣，但可能仍受计算能力的限制。这是个很好的问题。

谢谢你的回答。Thomas在聊天中问了两个问题。首先，Thomas问这些发现是否在不同的LLM模型中具有持续性？也就是说它们对模型变化是否具有鲁棒性？然后你是如何翻译任务的……

问：对这些更晦涩的语言呢？ >> 答：哪些是晦涩的？我不知道。也许我是那个“晦涩”的人吧。 >> 对，所以……嗯，也许他可以澄清一下他所说的“晦涩”是什么意思。但回到第一个问题，这一点在不同的大型语言模型（LLM）中确实具有鲁棒性。所以你会看到不同 LLM 的性能有所不同。例如，当然，Quinn 模型在中文方面表现相当不错。而我在这里展示的实际上是我们要测试的五个模型家族中获得的最好结果，这基本上就是峰值性能。

不过我们也正在测试 Quinn、Llama、Gemma、Mistral 和 Ya。总体而言，我认为 Quinn 在各方面表现最好……嗯，但基本上都差不多。所以我觉得性能按语言来说非常一致。除了像 Quinn 在中文方面表现更好的情况外，是的……嗯，抱歉，第二个问题是什么来着？能提醒我一下吗？ >> 问：第二个问题是关于如何将任务问题翻译成左侧图表中显示的晦涩语言。

答：我是怎么翻译的？比如……嗯，我如何获取相关数据？ >> 对，没错。是的。 >> 好的。嗯，所以我们使用了谷歌翻译……呃，我得承认效果并不好。这部分也可能间接支持了我们的观点，即存在语言偏见，因为确实翻译结果不一定符合语法规范。

但我们非常确定这些模型没有见过像 Tamzite 或 Santali 这样的语言，而且我们小组里确实有一位阿姆哈拉语（Amharic）母语者。因此我们可以确认翻译的质量，虽然肯定有错误，但并没有糟糕到让我们觉得完全无用的程度。所以……嗯，是的，偶尔会有错误，但我认为大部分是正确的，只是没有语法错误。

那些出现的错误非常一致，通常是语法层面的问题……技术上不算错，只是人们通常不会那样表达吧。所以是的，但我确实不太了解这两个特定语言的质量……我假设它们可能更糟糕一些。 >> 好的，嗯，再次感谢 Lucas。

目前我想我们没有什么问题了……不过再说一次，我认为我们的三位演讲者都在场可以回答问题。如果有人感兴趣，我们也乐意通过电子邮件接收问题。所以我建议我们就此结束……嗯，再次感谢你们三位今天来参加，并祝愿所有参会者下周在会议上玩得开心。谢谢大家，再见。