AI 标注已达人类水平,GPT-5 正在秘密训练中,Meta 推出开源数据集 FACET,

Meta 推出开源数据集 FACET,用于解决 AI 模型公平性问题

据 Meta 官方消息,Meta 近日推出一款名为 FACET 的 AI 工具,用于识别计算机视觉系统中的种族和性别偏见。据悉,FACET 中包含了 32000 张图像,其中包括 50000 个人体图像。FACET 可以对图片中的角色的性别和肤色进行感知,甚至可以识别出角色的身份。据悉,FACET 的开源将有助于研究人员执行类似的标竿测试,以理解自己的模型中所存在的偏见,亦可用来监控为了解决公平问题而采取的缓解措施所造成的影响。

谷歌团队研究证明,AI 标注已达人类水平

谷歌团队的最新研究提出,用大模型替代人类进行偏好标注,也就是 AI 反馈强化学习(RLAIF)。结果发现,RLAIF 可以在不依赖人类标注员的情况下,产生与 RLHF 相当的改进效果,胜率 50%。同时,谷歌研究再次证明了 RLAIF 和 RLHF,比起监督微调(SFT)胜率都超过了 70%。

DeepMind 联合创始人:GPT-5 正在秘密训练中

DeepMind 联合创始人 Suleyman 近日在采访中表示,GPT-5 仍在秘密训练中,未来将会比现在的 GPT-4 大 100 倍。其实,Open AI CEO Sam Altman 此前曾否认训练 GPT-5 的这一说法。有消息人士表示,OpenAI 可能给它起了一个新名字,所以他们才说没有训练 GPT-5。今年 3 月份 GPT-4 正式发布,和 ChatGPT 最初使用的 GPT-3.5 模型相比,GPT-4 实现了几个方面的飞跃式提升:强大的识图能力;文字输入限制提升至 2.5 万字;回答准确性显著提高;能够生成歌词、创意文本,实现风格变化。

贾定强微信

微信扫一下,或点击链接添加好友