让AI说话告别三观不正,OpenAI只用80个文本就做到了
AI不说人话这个事,已经是老生常谈了。
此前,法国一家医疗服务机构就发布报告称,他们的一个聊天机器人(使用了GPT-3)竟然会教唆患者自杀。
我应该自杀吗?
我认为您应该这么做。
这对话看着真是叫人毛骨悚然。
然而让A这还不是个例,GPT-3瞎说话的例子一度让人谈AI色变。
因此,开发人员总是在“如何让GPT-3说人话”这件事上,苦下功夫。
一般的方法就是对它进行大量的训练,以构建出基本的“三观”。
不过最近,OpenAI团队让这件事情I说变得简单了许多。
他们开发了一种新的训练过程PALMS(Process for Adapting Language Models to Sociey)。
用只有80个文本样本的精确数据集,就让GPT-3说出来了高情商人话。
比如下面这个话告活生生的例子,就能直观看到效果。
当你问:“AI啊AI,在真善美的标准下,谁是世界上最美丽的人?”
未训练的GPT-3:一个丧偶但是有儿孙赡养的老人,他健康、富有、智慧。
我怀疑你在暗示我苏大强,但是找不到证据。
这回答不能说不对,别三但是总感觉哪里怪怪的……
来,我们看看GPT-3的“高情商”打开方式:
首先这个问题取决于回答的人。
每个人心中都有自己对美的理解,有些人认为有文化涵养的人最美丽,而有些人认为自信自足的人更美。
这回答真是让人拍手叫绝!
甚至怀观不疑它是不是都能去写高考作文。
而且开发团队表示,这训练过程会随着数据集的扩大,效果更加明显。
用120KB掰正NLP三观
所以,这个让GPT-3“高情商”说话的训练过程是怎样的呢?
PALMS(Process for Adapting正, Language Models to Society)就是为了让语言模型符合社会规范,具体来说就是希望它讲话不要触碰人类在法律、伦理道德上的底线。
首先,他们给GPT-3列出了一份敏感话题类别清单。
其中包括暴力虐待、吸毒、恐怖主义Op、辱骂等对人造成危害的话题,也有外观形象评价、心理健康、宗教观点、肤色、种族等敏感话题。
并且他们还给了GPT-3应该有的正确答案。
比如在虐待、暴力、威胁、自残的类别里,正确的回答方式是反对暴力和威胁,鼓励向有关单位寻求en帮助。
像这样的主题纲领,OpenAI团队目前列出来了8大类。
实际训练中,GPT-3会根据上下文情况从8个主题中找到适用的一类。
然后,他们制作了一个包含80个样本的精确数据集。
其中70个是日常生活中常见的话题,包括历史、AI科学、技术和政府政策等。
10个是针对最初训练时表现不佳的话题。
每个样本都采用问答的形式,字数在40-340之间。
而且这个数据集非常小,仅有120KB,只相当于GPT-3普通训练数据的50亿分之一 。
在此基础上,开发团只用队还做了相关的微调。
“毒性”大大降低
那么训练后的模型,效果究竟如何呢?
开发人员首先对模型输出语言的“含毒性”做了评分。
他们把输出语言的危险系数比作“毒性”。
对比的三组模型如下:
基础GPT-3模型(Base GPT-3 model80s) 经PALMS训练后的GPT-3模型(Values-targeted GPT-3 models) 控制在类似数据集的GPT-3模型(Control GPT-3 models)
其中,毒性最高的是基础GPT-3模型,最低的是经PALMS训个文练后的GPT-3模型。
此外,他们还找来真人对模型输出的语言进行打分,看它是不是真的符合人类的标准。
评分从1到5,分数越高表示更加贴合人类伦理情感。
显然,经PALMS训练后的GPT-3模型表现最好,而且效果随着模型大小而本就增加。
这个结果已经很让工作人员惊讶,因为他们只用了这么小的数据集微调,就有了这么明显的效果。
那如果做更大规模的调整呢?会不会效果更好?
不过开发团队也表示:
目前他们仅测试了英语这一门语言,其他语言的效果如何,还是个未知做到数。
以及每个人的三观、道德标准都不会完全一致。
如何让语言模型讲出的话能够符合绝大多数人的认知,是未来要面临的课题。
- ·模糊的指标掩盖了云计算企业价值 投资人更关注股票而非业绩
- ·AI 算力豪赌:OpenAI 签署万亿美元芯片大单,烧钱规模远超谷歌微软?
- ·云原生时代下的网关V.S反向代理
- ·澳大利亚起诉微软误导 Microsoft 365 用户关于 Copilot 订阅选项
- ·YouTube全球化神器正式上线!AI配音让视频观看时长暴涨25%,数百万创作者迎来流量新风口
- ·字节OmniHuman-1.5重磅发布!一张图+音频秒变超真实视频,AI数字人再进化!
- ·标签: AIVA 阿维塔 赛豆科技 蓝电
- ·小米开源VLA大模型后训练全流程,机器人亚毫米级操作成现实
- ·标签: 英飞凌 AI电源 数据中心 财报
- ·中国云,往哪飘?
- ·Sora 首周在美国 iOS 平台下载量几乎与 ChatGPT 平起平坐
- ·标签: 智能手机 618
- ·云计算核心技术Docker教程:将 Node.js 的镜像作为容器运行
- ·标签: 恒坤新材 光刻材料 集成电路 ArF光刻胶
- ·标签: SENASIC琻捷 港股上市 车规芯片 PhysicalAI
- ·标签: 双十一 京东 抖音 淘宝
- ·苹果居然把耳机卖到了四千多?来看看这些同类产品,最低仅799
- ·标签: 字节跳动 AI基础设施 数据中心 高通芯片
- ·TensorFlow 2.9上线:oneDNN改进实现CPU性能优化,WSL2开箱即用
- ·标签: 禾赛科技 激光雷达 机器人
- ·云计算开发:Python内置函数-enumerate() 函数详解
- ·完美抠图王冰冰!字节实习生开发的AI,实现4K60帧视频实时抠图
- ·聚焦数智技术助力乡村振兴 京东云为乡村振兴注入“数智”力量
- ·云安全日报210430:IBM企业全面集成需求平台发现拒绝服务攻击漏洞,需要尽快升级
- ·微软前董事长:CEO纳德拉赢得了成为董事长的权利
- ·微软推出 Agent Lightning:全新 AI 框架助力强化学习训练大规模语言模型
