gpt-凯发真人平台

学校的图书管理员,已经开始用chatgpt来筛选带色情内容的书籍了。根据一项新规定,美国爱荷华州的学校需要下架图书馆中包含性行为描述的书籍,但“阅读每本书并按新要求筛选根本不可行”。在chatgpt的帮助下,一个学区终于赶在开学前筛选出19本符合条件的书籍。隔天,openai也正式宣布将gpt-4引

学校的图书管理员,已经开始用chatgpt来筛选带色情内容的书籍了。

根据一项新规定,美国爱荷华州的学校需要下架中包含性行为描述的书籍,但“阅读每本书并按新要求筛选根本不可行”。

在chatgpt的帮助下,一个学区终于赶在开学前筛选出19本符合条件的书籍。

gpt-4进军内容审核行业,一天顶人类几个月

隔天,openai也正式宣布将gpt-4引入系统。

gpt-4进军内容审核行业,一天顶人类几个月

在openai看来,gpt-4这项审查功能可将审查更新周期从数月缩短至数个小时,且具有更强的灵活性。

gpt-4进军内容审核行业,一天顶人类几个月

高效自动化内容审核

这项新的功能不仅在于提高效率和减轻人类工作量,还解决了人工审核中尺度不一致问题。

最重要的是,它能够避免有害内容对审核人员造成的身心伤害。

一家科技媒体的编辑reed albergotti做出了这样的表示:

使用大型语言模型来进行内容审查是向前迈出的一步。

这并不是因为它有多*,而是因为它的尺度会更加一致,并且不易受到人类情感和文化差异的影响。

gpt-4进军内容审核行业,一天顶人类几个月

工作流程上,重点的环节是用户政策的设计,这部分是由人工主导的。

之后gpt-4会使用一些示例进行准确性检验和优化。

根据gpt-4的预测微调出小型筛选器,就可以对内容进行批量审查了。

gpt-4进军内容审核行业,一天顶人类几个月

openai发言人也透露,已经有客户在用gpt-4进行内容审查,但并未给出具体名单。

此外,openai正在研究将这项功能从文本审核扩展到图像、视频的鉴别 。

那么,这个功能究竟好不好用呢?

openai:有信心做得很好

openai总裁兼联合创始人greg brockman表示,这项功能「非常可靠」。

gpt-4进军内容审核行业,一天顶人类几个月

同时,brockman还展示出了测试结果作为依据。

在色情、暴力等多个类型的有害内容判别上,gpt-4的表现超过了经少量训练的人类。

gpt-4进军内容审核行业,一天顶人类几个月

不过和经验丰富的审核人员相比,的确还有一些差距。

但openai安全和信任部门原主管dave willner对著名科技媒体人casey newton表示,「这种情况不会持续太久」。

gpt-4进军内容审核行业,一天顶人类几个月

也有负面观点认为,总会有人想方设法钻ai规则的漏洞。

毕竟,大模型越狱事件出现了已经不只是一次两次了。

美联社的frank bajak更是表示,chatgpt这样的大型语言模型「非常难以控制」。

对此,weng也坦言,的确没办法做到100%没有漏洞,但有信心会很好。

我们无法从一开始就构建一个100%「防弹」的系统。

人们正在帮我们揪出模型中的错误,但我非常有信心它能做得很好。

one more thing

gpt-4内容审核功能的实用性暂且按下不表,openai的安全工作本身也存在很多争议。

据time杂志消息,openai此前在肯尼亚聘请数据标注人员标注有害内容的过程中,有参与者表示其中的暴力、酷刑等有害内容给他们造成了心理阴影。

新方法出台后,人类仍需要参与到内容审查工作当中,但这样的情况可能会大大减少。

参考链接:[1]https://openai.com/blog/using-gpt-4-for-content-moderation[2]https://www.popsci.com/technology/iowa-chatgpt-book-ban/[3]https://www.semafor.com/article/08/15/2023/can-chatgpt-become-a-content-moderator[4]https://twitter.com/gdb/status/1691500101187805185[5]https://twitter.com/caseynewton/status/1691602324366786575

(0)

相关推荐

  • 专注于眼科创新药研发领域「维眸生物」完成逾亿元d2轮融资,维眸生物成立于2016年8月,是一家专注于眼科创新药研发领域的临床阶段生物科技公司,拥有专业的眼科创新药研发团队和技术平台。

    2023年5月6日
  • 互联网对很多线下行业造成了冲击。但同样是线下的药店却越开越多,一条200米的街道上,恨不得三四家药店……更诡异的是,遍街都是药店,很多人却感受到:药更贵了!药店遍街在重庆,有个小哥拍了一条视频,火了!视频里,一个小区底商几乎全是药店。小哥认真数了数,竟然有10家之多。于是,他得意地宣布:药店一条街,

    2023年8月22日 创投
  • 滴滴司机是一个自由的职业,没有上下班时间的要求,也没有任务要求,可以全职也可以兼职。对于有车一族而言,成为一名兼职的司机可以额外的增加收入,那么滴滴司机招募条件有哪些呢? 滴滴司机…

    2022年3月31日
  • 快商通携手华为、百度、清华大学、公安部第三研究所等多家单位共同起草编制国家标准《信息技术 移动设备生物特征识别 第5部分:声纹》。该标准于今…” />

    2023年4月20日
  • 「压舱石」加「秘密武器」,阿里巴巴全速前进,24岁之际,阿里回到创业者角色,调整组织架构和掌舵者再出发,这是新的征程,也是新的挑战。

    2023年6月22日
  • 2023上半年餐饮加盟大事件盘点:有人冲破万店,有人失速退场,在“报复性加盟”论调甚嚣尘上的2023上半年,餐饮行业都发生了5件值得复盘的大事件。

    2023年8月4日 创投
  • 阿里动刀:一个个ipo赶来,如今阿里的新征程开始,这可能也将是中国互联网大厂新一轮组织变革的序幕。

    2023年3月29日
  • 券商再迎降薪潮,本次从投行员工到分析师均收到波及,券商本次的降薪和优化力度依然超出了业内的预期。

    2023年6月8日 创投
  • 重大疾病包括哪些病?据悉不同的重疾产品对所保重大疾病种类有不同的规定,我们常说的重大疾病包括: (一)恶性肿瘤 (二)急性心肌梗塞 (三)脑中风后遗症 (四)重大器官移植术或造血干…

    2022年1月25日
  • 最近一段时间,随着新能源的火热,很多人开始关注氢能源,那么在a股的市场上,有哪些股票算是氢能源的概念股呢?这篇文章就跟大家聊聊这个话题。 齐翔腾达:公司控股子公司山东齐鲁科力化工研…

    2022年1月25日
  • 四川锂矿,天价拍卖,7月至今,更是有3家矿业公司在马尔康地区注册成立,其中不乏宁德时代的身影。

    2023年8月11日
  • 每到一年考研的时间点都会有很多人讨论考研到底是不是必选项,接下来的文章中就给大家聊聊2022年考研的时间以及考研的一些利弊! 2022年全国硕士研究生招生考试是指2022年教育主管…

    2022年1月25日
  • 人工智能这一段时间以来,就是市场上的热点,那么在a股市场上,有哪些上市公司是做人工智能的呢?这篇文章就跟大家介绍介绍! 科创信息:科创人工智能以机器视觉检测和自然语言处理为主要目标…

    2022年1月25日
  • 作为一个大家都非常关注的市场热点,最近特斯拉相关的公司非常的火,那么a股市场有哪些和特斯拉相关的上市公司呢?这篇文章就介绍几家非常值得了解的! 宁德时代:公司目前与特斯拉已经签订了…

    2022年1月25日
  • 襄姐是个老年水军,人工水军的追踪和取证都比较难,并没有明确法律约束他们,但这终归是见不得光的灰色产业。“专骗老年群体”“水军黑心,水军可耻”这些舆论,也实实在在压得她喘不过气来。

    2023年4月6日
网站地图