有意见 | 它，一个有着23条底线的聊天机器人 原创

单身久了，看聊天机器人也眉清目秀起来。

近日，Alphabet旗下AI公司DeepMind推出了人工智能聊天机器人Sparrow。DeepMind使用了大型语言模型Chinchilla训练开发，将强化学习与用户反馈结合起来，让一组用户向Sparrow提问，然后针对Sparrow生成的多个答案，选择他们认为最准确的。研究人员利用用户对Sparrow回答的反馈进行改进,极大提高了Sparrow的准确性。

为了防止Sparrow说出带有偏见的答案，研究人员为它制定了23条规则。在让用户诱导Sparrow打破规则的测试中，成功的频率只有8%，明显低于其他方法训练的AI模型。

我们的科技留言板“有意见”如下

@媒体搬运工：基于大模型的NLP看来真是行业热点，刚刚举行的GTC上，NVIDIA也推出了NeMo大型语言模型服务。时至今日，大模型已经成为整个AI产学界追逐的技术宠儿，各式各样参数不一、任务导向不同的大模型层出不穷。大模型具备效果好、泛化能力强等特点，进一步增强了AI的通用性，成为AI技术和应用的新基座。

@锐角：近年来各种LLM（大型语言模型）已经在问答对话上颇有成效。对话是一种灵活的交流方式，但基于LLM的聊天机器人还是会出现不准确、歧视性、涉及不安全行为的对话，因此为了让聊天机器人更安全，必须借由人类的回应来学习，采用人类参与的强化学习方式。无疑，Sparrow就是最新的产物。

@有想法的向日葵：不同的语言文化也增加了AI聊天机器人的难度。对于应答内容，既要满足聊天的能力，不是固定问题总是只有一个枯燥的答案，又要保证其建议的安全性。虽然8%的概率打破规则已经很不容易，但还需要继续完善。