新的人工智能工具引导用户远离煽动性语言

为了帮助确定紧张的在线辩论何时会走向不可挽回的崩溃，康奈尔大学的研究人员开发了一种人工智能工具，可以实时跟踪这些对话，检测紧张局势何时升级并促使用户远离使用煽动性语言。

研究 表明，有希望的迹象表明，自然语言处理领域的会话预测方法可以证明有助于版主和用户主动减少尖酸刻薄，并保持健康、富有成效的辩论论坛。

“善意的辩论者也是人。在激烈的辩论中，对于一个你非常关心的话题，很容易做出情绪化的反应，并且只有在事后才意识到这一点，”计算机科学领域的博士生 Jonathan Chang说。Chang 说，这个想法不是要告诉用户说什么，而是要鼓励用户像面对面那样交流。

该工具名为 ConvoWizard，是一款由深度神经网络提供支持的浏览器扩展。该网络是根据从 subreddit Change My View 中提取的大量基于语言的数据进行训练的，该论坛优先考虑与政治、经济和文化相关的潜在热点话题的善意辩论。

当参与的 Change My View 用户启用 ConvoWizard 时，该工具可以在他们的谈话开始变得紧张时通知他们。它还可以在用户撰写回复时实时告知他们的评论是否有可能加剧紧张局势。研究人员表示，这项研究表明，人工智能反馈可以有效地引导用户使用能够引发建设性辩论的语言。

“ConvoWizard 基本上是在问，‘如果发表这条评论，这会增加还是减少谈话中的紧张气氛?’ 如果评论加剧紧张，ConvoWizard 将发出警告，”Chang 说。例如，文本框会变成红色。“该工具遵循这条提供反馈的路线，而不会转向告诉他们这样做或那样做的危险领域。”

为了测试 ConvoWizard，康奈尔大学的研究人员与 Change My View subreddit 合作，大约有 50 名参与的论坛版主和成员使用了该工具。调查结果是积极的：68% 的人认为该工具对风险的估计与他们自己的直觉一样好或更好，并且超过一半的参与者报告说 ConvoWizard 警告阻止他们发表评论，他们后来会后悔。

Chang 还指出，在使用 ConvoWizard 之前，参与者被问及是否曾发布过令他们后悔的内容。超过一半的人说是。

“这些发现证实，是的，即使是善意的用户也会陷入这种行为并为此感到难过，”他说。

“想想像 ConvoWizard 这样的人工智能工具如何能够通过直接授权这些讨论的参与者使用他们自己的直觉，而不是审查或限制他们，来实现一种全新的范式来鼓励高质量的在线讨论，这是令人兴奋的，”说 Cristian Danescu-Niculescu-Mizil，信息科学副教授。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！