UltraChat 处置了数据荒的调用多个对于多轮对于一浩劫题。
自 ChatGPT 宣告以来,相互这段光阴对于话模子的话清华开话数热度只增不减。当咱们歌颂这些模子展现惊艳的调用多个对于多轮对于同时,也理当猜到其眼前重大的相互算力以及海量数据的反对于。
单就数据而言 ,话清华开话数高品质的调用多个对于多轮对于数据至关紧张,为此 OpenAI 对于数据以及标注使命下了很鼎实力 。相互有多项钻研表明,话清华开话数ChatGPT 是调用多个对于多轮对于比人类愈加坚贞的数据标注者,假如开源社区可能取患上 ChatGPT 等强盛语言模子的相互大批对于话数据,就能磨炼出功能更好的话清华开话数对于话模子 。这一点羊驼系列模子 ——Alpaca、调用多个对于多轮对于Vicuna、相互Koala—— 已经证实过。话清华开话数好比 ,Vicuna 运用从 ShareGPT 群集的用户同享数据对于 LLaMA 模子妨碍指令微调 ,就复刻了 ChatGPT 九乐成力。越来越多的证据表明 ,数据是磨炼强盛语言模子的第毕斲丧力 。
ShareGPT 是一个 ChatGPT 数据同享网站,用户会上传自己感应幽默的 ChatGPT 回覆。ShareGPT 上的数据是凋谢但琐碎的 ,需要钻研职员自己群集整理 。假如可能有一个高品质的,拆穿困绕规模普遍的数据集,开源社区在对于话模子研发方面将会事倍功半 。
基于此,最近一个名为 UltraChat 的名目就零星构建了一个超高品质的对于话数据集 。名目作者试验用两个自力的 ChatGPT Turbo API 妨碍对于话 ,从而天生多轮对于话数据 。
名目地址 :https://github.com/thunlp/UltraChat
数据集地址:http://39.101.77.220/
数据集交互地址:https://atlas.nomic.ai/map/0ce65783-c3a9-40b5-895d-384933f50081/a7b46301-022f-45d8-bbf4-98107eabdbac
详细而言,该名目旨在构建一个开源、大规模