1. Uni-Parser：统一语义解析器，用于知识库和数据库上的问答

Ye Liu, Semih Yavuz, Rui Meng, Dragomir Radev, Caiming Xiong, Yingbo Zhou

摘要：
自然语言问题解析为可执行逻辑形式是执行知识库（KB）或数据库（DB）等结构化数据问答的有用且可解释的方法。然而，现有的语义解析方法无法适应这两种模式，因为它们受到逻辑形式候选者指数增长的困扰，并且很难泛化到未见数据。在这项工作中，我们提出了 Uni-Parser，一个用于知识库和数据库问答的统一语义解析器。我们将原始（知识库中的关系和实体，以及数据库中的表名、列名和单元格值）定义为我们框架中的基本元素。原始的数量仅以线性速率增长到知识库和数据库中检索到的关系的数量，从而防止我们出现指数逻辑形式候选者。我们利用生成器通过改变和组合不同操作（例如选择、where、计数）的顶级原始元素来预测最终逻辑形式。通过对比原始排名器充分剪枝的搜索空间，生成器得以捕捉原始的组合，增强其泛化能力。 我们在多个知识库和数据库问答基准测试中实现了具有更高效率的竞争性结果，尤其是在组合和零样本设置中。

Link：Uni-Parser: Unified Semantic Parser for Question Answering on Knowledge Base and Database - ACL Anthology

2. UniK-QA：开放域问答中结构化和非结构化知识的统一表示

Barlas Oguz, Xilun Chen, Vladimir Karpukhin, Stan Peshterliev, Dmytro Okhonko, Michael Schlichtkrull, Sonal Gupta, Yashar Mehdad, Scott Yih

摘要：

我们研究了结构化、非结构化和半结构化知识源（包括文本、表格、列表和知识库）的开放域问答。不同于以往的研究，我们提出了一种统一的方法，通过将所有来源简化为文本来实现同质化，并应用了迄今为止仅限于文本来源的检索-阅读模型。

与最新的基于图的方法相比，我们的方法在知识库问答任务上的结果提高了 11 个百分点。

更重要的是，我们证明了我们的统一知识（UniK-QA）模型是一种简单而有效的方法，可以结合异构知识源，分别在两个流行的问答基准 NaturalQuestions 和 WebQuestions 上提升了 3.5 和 2.6 个百分点。

UniK-QA 的代码可在以下网址获取：

https://github.com/facebookresearch/UniK-QA

Link：

https://aclanthology.org/2022.findings-naacl.115/

3. RNG-KBQA：基于知识库问答的生成增强迭代排序

Xi Ye, Semih Yavuz, Kazuma Hashimoto, Yingbo Zhou, Caiming Xiong

摘要：

现有 KBQA 方法，尽管在独立同分布测试数据上取得了强大的性能，但在泛化到涉及未见过的 KB 模式项的问题时往往很吃力。先前基于排名的方法在泛化方面取得了一些成功，但存在覆盖问题。我们提出了 RnG-KBQA，这是一种用于 KBQA 的排名和生成方法，通过生成模型解决了覆盖问题，同时保持了强大的泛化能力。我们的方法首先使用对比排名器对通过在知识图谱上搜索获得的候选逻辑形式进行排名。然后，它引入一个基于问题和排名靠前的候选者的定制生成模型来组合最终的逻辑形式。我们在 GrailQA 和 WebQSP 数据集上实现了新的最先进的结果。特别是，我们的方法在 GrailQA 排行榜上超过了先前最先进的方法。此外，RnG-KBQA 在流行的 WebQSP 基准测试中优于所有先前方法，甚至包括使用神谕实体链接的方法。 实验结果表明，排名和生成之间的相互作用的有效性，这导致我们提出的方法在所有设置中表现出色，特别是在零样本泛化方面有显著提升。

Link：

https://aclanthology.org/2022.acl-long.417/

4. 端到端基于案例推理的常识知识库补全(Commomsense Knowledge Base Completion)

Zonglin Yang, Xinya Du, Erik Cambria, Claire Cardie

摘要：

预训练语言模型已被证明能够将其知识存储在参数中，并在常识知识库补全（CKBC）任务中取得了合理的性能。然而，CKBC 是知识密集型的，据报道，预训练语言模型在知识密集型任务中的性能有限，因为它们无法访问和操作知识。因此，我们假设向 CKBC 任务提供包含相关知识的检索段落作为附加输入将提高性能。特别是，我们从基于案例推理（CBR）中获得启示——它旨在通过推理检索到的相关案例来解决新问题，并研究将其直接应用于 CKBC。在两个基准数据集上，我们通过自动和人工评估证明，我们的端到端基于案例推理框架（ECBRF）在完全监督和少样本设置下，比最先进的 COMET 模型生成更多有效、信息丰富和新颖的知识。我们提供了关于为什么以前的基于检索的方法仅与 COMET 取得相同性能的见解。 从案例推理（CBR）的角度来看，我们的框架解决了一个基本问题，即是否可以利用案例推理方法来改进深度学习模型。

Link：

https://aclanthology.org/2023.eacl-main.255/

5. 在基于 RAG 的对话系统中生成建议问题的动态上下文

摘要：

“Dynamic Contexts for Generating Suggestion Questions in RAG Based Conversational Systems”由Anuja Tayal和Aman Tyagi撰写。

文章提出了一种在基于检索增强生成（RAG）的对话系统中生成建议问题的方法，通过动态上下文来提升对话系统与用户的交互体验，改善现有对话系统的不足。

1. **研究背景**

        - **现有问题**：当前对话系统过度依赖用户输入，无法主动引导用户澄清模糊或定义不清的问题，常返回错误答案或道歉语句。用户也难以理解系统能力，后续提问困难，导致对话效率低下。

        - **研究目标**：开发建议问题生成器，在用户初始查询基础上，生成系统可回答的建议问题，优化对话流程。

2. **相关工作**：虽无专门针对建议问题生成的研究，但与问题生成、澄清问题生成密切相关。大语言模型（LLMs）和提示技术推动了相关领域发展，RAG在信息检索和问答任务中应用广泛。

3. **动态上下文方法**

        - **动态少样本示例**：从数据集中动态选择与用户查询相关的（问题、答案、建议问题）三元组，区别于传统固定示例的少样本提示，能适应不同问题格式和结构。

        - **动态检索上下文**：基于用户初始查询检索4个动态上下文，利用OpenAI嵌入和余弦相似度选择示例和上下文，确保生成的问题相关且可回答。

4. **评估实验**

- **实验数据**：因无公开数据集，使用228篇Pamper’s Baby Sleep Coach博客文章，将标题作为查询，内容作为答案，35篇手动标注建议问题，构建动态少样本示例和答案上下文。

- **评估方式**：人工评估生成问题的正确性、相关性和合理性；对比零样本、少样本、动态少样本和动态上下文方法；偏好基准测试让GPT-4和Claude-2评估问题质量；消融研究改变提示中示例上下文和查询的顺序。

- **实验结果**：动态上下文方法表现最佳，生成的相关建议问题数量较多。但模型在处理婴儿年龄相关问题时存在错误，如ChatGPT和GPT-4对婴儿年龄理解混淆。

5. **研究结论与展望**：开发了基于动态上下文提示的建议问题生成器，提升了建议问题生成质量。未来计划基于用户历史实现建议问题个性化，进一步优化对话系统。

Link：

https://arxiv.org/pdf/2403.11413

封面图片by 海螺AI