核心速览

研究背景

1. 研究问题：这篇文章研究了如何在基于文本的在线同伴支持平台中，通过人工智能（AI）与人类协作，提高同伴之间的同理心对话质量。
2. 研究难点：该问题的研究难点包括：AI系统难以导航复杂的情感和开放式任务的高风险性；无训练的同伴支持者在表达同理心方面存在困难。
3. 相关工作：相关工作包括AI在日程安排、语法检查和预订等方面的应用，但在高风险的开放式任务中，如何有效结合AI与人类的能力仍然是一个挑战。

研究方法

这篇论文提出了HAILEY，一种AI辅助的反馈系统，用于提高同伴支持者在文本支持对话中的同理心表达。具体来说，

• HAILEY的设计：HAILEY是一个AI辅助的反馈代理，提供即时反馈以帮助支持者在回应中表达更多的同理心。HAILEY的设计目标是协作、可操作和移动友好。

• 反馈机制：HAILEY通过弹出提示框提示支持者是否需要帮助，并根据原始寻求者的帖子和当前支持者的回应生成“插入”和“替换”建议。这些建议由PARTNER模型生成，该模型通过深度强化学习学习句子级别的编辑操作，以提高同理心表达水平。
• 协作模式分析：研究者对参与者的协作模式进行了分析，发现参与者可以通过直接使用AI反馈或间接从AI反馈中获得灵感来改进他们的回应。

实验设计

1. 数据收集：研究使用了TalkLife平台的数据，随机抽取了1500个寻求者帖子和300名参与者。参与者被随机分配到人类+AI组（接受反馈）和人类仅组（不接受反馈）。
2. 实验流程：实验分为四个阶段：干预前调查、同理心培训、撰写支持性回应和干预后调查。参与者在完成十个帖子的回应后，评估系统的有用性和自我效能感。
3. 样本选择：参与者来自TalkLife平台，平均年龄为26.3岁，性别、种族和地理位置多样。
4. 参数配置：HAILEY系统在参与者撰写回应时提供即时反馈，反馈包括具体的“插入”和“替换”建议。

结果与分析

1. 同理心提升：通过人类评估和自动评估，发现人类+AI组的回应比人类仅组的回应更具同理心。具体来说，人类+AI组的回应在同理心评分上提高了19.6%。

2.困难支持者的同理心提升更大：在自我报告写作困难的参与者中，人类+AI组的同理心提升更为显著，提升了38.9%。

3.协作模式：参与者通过直接使用AI反馈（64.6%）或间接从AI反馈中获得灵感（18.5%）来改进回应。未咨询或使用AI较少的参与者同理心较低。

4.自我效能感：69.8%的参与者表示在使用HAILEY后感到更有信心提供支持。

总体结论

这篇论文展示了人类与AI在开放式、高风险任务（如同理心对话）中协作的潜力。HAILEY系统能够显著提高同伴支持者的同理心表达，特别是在无训练的支持者中效果显著。该研究为通过AI辅助技术提高在线心理健康支持的质量提供了重要的见解，并为未来的研究和应用提供了宝贵的经验。

论文评价

优点与创新

1. 创新性AI反馈系统：开发了HAILEY，一种AI辅助的实时反馈系统，帮助无经验的在线互助者写出更具同理心的回应。
2. 显著增加同理心：在非临床随机对照试验中，HAILEY使得同伴之间的对话同理心增加了19.6%，对于自我报告写作困难的互助者，同理心增加了38.9%。
3. 多样化的协作模式：系统分析了人类与AI的协作模式，发现参与者能够直接或间接地使用AI反馈，并且在反馈后报告了更高的自我效能感。
4. 行动导向的反馈：HAILEY不仅提供了具体的插入和替换建议，还帮助参与者理解如何改进他们的回应，而不仅仅是“做什么”。
5. 广泛的用户群体：研究在全球范围内进行，涵盖了多种性别身份、种族、年龄和国家，确保了结果的多样性和普适性。
6. 安全性考虑：通过人类控制AI反馈的使用，确保在高风险的心理健康背景下，系统的使用是安全的。

不足与反思

1. 反馈的有效性假设：研究的初步同理心训练和潜在的选择效应可能导致对AI反馈系统影响的保守估计。
2. 反馈的个性化：一些参与者可能没有充分利用系统，因为反馈可能没有正确传达他们的偏好、经验和背景。未来工作应个性化提示和反馈，以适应每个参与者的具体情况。
3. 评估方法的局限性：评估同理心的方法包括自动化的基于理论的模型和人类评估，但自动化评估可能无法完全捕捉到支持寻求者的感知同理心。
4. 文化和社会因素的影响：研究需要在各种社会和文化背景下进行评估，以确保文化敏感的同理心支持的公平访问。
5. 长期临床结果：研究仅评估了短期的同理心表达，未涉及长期的临床结果。

关键问题及回答

问题1：HAILEY系统是如何通过AI反馈帮助同伴支持者提高同理心的？

HAILEY系统通过提供即时反馈来指导同伴支持者在回应中表达更多的同理心。具体来说，当支持者撰写回应时，HAILEY会显示一个提示（‘Would you like some help with your response?’），参与者点击提示后，系统会根据原始寻求帮助的帖子和当前的回应生成“插入”和“替换”建议。这些建议旨在改进回应的同理心水平。例如，系统可能会建议插入“你有没有尝试和你的上司谈谈？”或者替换“别担心！”为“这一定很艰难！”。参与者可以直接接受这些建议，也可以间接利用这些建议来改写他们的回应。

问题2：在实验中，HAILEY系统对不同协作模式的参与者的同理心提升效果有何差异？

实验结果显示，HAILEY系统对不同协作模式的参与者的同理心提升效果存在显著差异。大多数参与者（64.6%）直接使用AI反馈，这些参与者的回应在同理心评分上比对照组高出19.6%。此外，18.5%的参与者间接使用AI反馈，他们的同理心提升效果介于直接使用和未使用AI反馈之间。而16.9%的参与者不使用AI反馈，他们的同理心提升最小。这表明，直接使用AI反馈的参与者表达的同理心水平最高，间接使用AI反馈的参与者也能获得显著的提升。

问题3：HAILEY系统对参与者的自信心和支持能力有何影响？

HAILEY系统对参与者的自信心和支持能力有显著提升。具体来说，69.8%的参与者在使用HAILEY后表示感到更有信心提供支持。这种自信心的提升不仅反映了参与者在使用AI反馈后的自我效能感增强，还表明他们通过多次示例学习和反馈机制的引导，获得了更多的经验和专业知识。此外，参与者还报告了在使用HAILEY后，他们的支持能力得到了显著提高，尤其是在写作更具同理心的回应方面。

文章来自于“知识图谱科技”，作者“知识图谱科技”。