2月25日动静，不久前，谷歌在内部倡议了代号为“斗狗”的勾当，要求公司所有员工每周用两到四个小时帮忙测试和改良其新的人工智能搜刮聊天机械人Bard。就在Bard发布前不久，微软也方才发布了采用ChatGPT聊天机械人背后手艺的新版必应搜刮引擎，它许可用户就几乎任何话题进行多轮对话。然而，在Bard被发现供给了一个错误的谜底后，对于谷歌的质疑也逐渐浮现。同样，跟着越来越多的人测试了新必应，他们的聊天机械人也碰到了问题，好比其倾向于好斗的行为。像Bard和ChatGPT如许的AI聊天机械人，可以经由过程接管人类编写的文本练习来仿照人类对话，这就诠释了为什么必应的答复有时辰看起来有些情感化和不成展望。究竟结果，被练习得像人一样的机械人也很轻易犯下人类的错误。这些聊天机械人最初经由过程摄取年夜量的练习数据来完成年夜部门进修。此外，Bard项目标产物主管杰克·克劳奇克(Jack Krawczyk)在一份备忘录中告诉员工，谷歌的研究发现，为用户查询添加高质量的响应“显著”提高了其AI模子的质量。据多位AI专家透露，谷歌员工可能会为Bard编写高质量的回答以改良其模子。这些专家已经在AI和年夜型说话模子范畴完成了普遍的研究。克劳奇克让员工向Bard扣问他们擅长的范畴，好比最喜好的乐趣快乐喜爱。然后，他们被要求评估Bard的谜底，以确保这些谜底合适人们的期望，长度和布局也都要合理。若是某个谜底过于人道化、存在事实错误或者没有任何意义，员工可以重写谜底并提交给Bard的模子练习。英属哥伦比亚年夜学计较机科学助理传授韦德·施瓦茨(ved Shwartz)暗示，要想持续改良Bard，谷歌可以采纳监视式进修和强化进修相连系的体例。此中，监视式进修是第一步，研究人员可以向聊天机械人输入人类编写的查询和谜底，直到它学会若何像人类那样答复。在此根本上，谷歌可以构建一个强化进修模子，用谷歌员工写的谜底来练习它，以帮忙它理解该公司但愿Bard的谜底揭示哪些价值不雅，包罗在布局、语气以及其他方面加以改良。这个强化进修模子会查看Bard给出的谜底，剔除此中不合适的谜底，并验证及格的谜底，直到聊天机械人大白它应该若何行事。根基上，来自谷歌员工的“准确”谜底将帮忙该模子改良。强化进修模子还可以教会Bard在不谈论感情或以其他体例假装人类的环境下供给信息。第一种模子首要进修根基的写作技巧，而第二种模子将指导机械按照预期的标的目的回覆问题。哥伦比亚年夜学计较机科学传授周宇(音译)说，有了足够好的谜底进行阐发，强化进修模子就能知道哪些是合适的谜底，哪些是不合适的谜底。确保事实精确性谷歌始终对推出聊天机械人持谨严立场，可能是因为其可能对搜刮营业利润发生短期影响，并担忧精确性。谷歌要求员工拒绝回覆Bard试图就金融或健康等敏感话题向用户供给建议的问题，因为回覆错误的风险很高。AI范畴始终在尽力解决事实精确性问题，OpenAI在1月份发布了更新，以提高ChatGPT在各类话题上对话的精确性。本月在旧金山进行的一场关于聊天机械人和AI的会议上，Anthropic首席执行官达里奥·阿莫代(Dario Amodei)暗示，他相信跟着模子的改良，聊天机械人将不再编造事实。固然练习有助于提高聊天机械人所生成谜底的质量，但施瓦茨暗示，她不认为这可以或许彻底解决事实精确性的问题。Bard和ChatGPT都有所谓的“幻觉”倾向，这是该行业用来形容聊天机械人编造事实的术语。它们会从网页上提取内容，有时不成避免地会错误地总结这些内容。（小小）