NIST 推出评估生成式人工智能的新平台

*商务部负责为*政府、公司和广大公众开发和测试技术的机构–国家标准与技术研究院(NIST)周一宣布启动 NIST GenAI,这是一个由 NIST 牵头的新项目,旨在评估生成式人工智能技术,包括文本和图像生成人工智能。

NIST 推出评估生成式人工智能的新平台

NIST 在新推出的 NISTGenAI网站和一份新闻稿中解释说,NISTGenAI将发布基准,帮助创建”内容真实性”检测(即深度验假)系统,并鼓励开发软件来识别人工智能生成的虚假或误导性信息的来源。”NIST GenAI 计划将发布一系列挑战问题,[旨在]评估和衡量生成式人工智能技术的能力和局限性。这些评估将用于确定促进信息完整性的策略,并指导安全、负责任地使用数字内容”。

NIST GenAI 的第一个项目是一项试点研究,目的是建立能够可靠区分人类创建的媒体和人工智能生成的媒体的系统,首先从文本开始。(虽然许多服务都声称可以检测深度伪造,但研究和测试表明,它们充其量只能说是不可靠的,尤其是在文本方面)。NIST GenAI 邀请学术界、工业界和研究实验室的团队提交”生成器”(生成内容的人工智能系统)或”鉴别器”(旨在识别人工智能生成内容的系统)。

研究中的生成器必须生成 250 字或更少的摘要,提供一个主题和一组文档,而判别器必须检测给定摘要是否可能是人工智能编写的。为确保公平,NIST GenAI 将提供测试生成器所需的数据。NIST 表示:”以公开数据训练的系统如果不”遵守适用的法律法规”,将不被接受。

试点登记将于 5 月 1 日开始,第一轮两家计划于 8 月 2 日结束。 预计研究的最终结果将于 2025 年 2 月公布。

在人工智能生成的错误信息和虚假信息呈指数级增长之际,NIST GenAI 启动了以深度伪造为重点的研究。

根据深度假货检测公司Clarity 的数据,与去年同期相比,今年制作和发布的深度假货数量增加了 900%。这引起了人们的恐慌,这是可以理解的。 YouGov 最近的 一项民意调查 发现,85% 的*人担心误导性的深度假新闻会在网上传播。

NIST GenAI 的启动是 NIST 响应乔-拜登总统关于人工智能的行政命令的一部分,拜登总统的行政命令规定,要求人工智能公司在其模型如何工作方面提高透明度,并制定了一系列新标准,包括对人工智能生成的内容进行标注。

这也是 NIST 在任命前 OpenAI 研究员保罗-克里斯蒂亚诺(Paul Christiano)为该机构的人工智能安全研究所成员后,首次发布与人工智能相关的消息。

克里斯蒂亚诺因其”现实主义”观点而备受争议;他曾预言,”人工智能的发展有50%的可能以[人类毁灭]而告终”。据报道,包括*国家标准与技术研究院(NIST)科学家在内的批评人士担心,克里斯蒂亚诺可能会鼓励人工智能安全研究所关注”幻想的场景”,而不是现实的、更直接的人工智能风险。

NIST 表示,NIST GenAI 将为人工智能安全研究所的工作提供参考。

本文【NIST 推出评估生成式人工智能的新平台】由作者: 桃花源记 提供,本站不拥有所有权,只提供储存服务,如有侵权,联系删除!
本文链接:https://www.hkxyjwx.com/news/14505.html

(0)

相关推荐

  • 梦幻西游奇经八脉模拟器2023,最新版本下载及使用教程

    梦幻西游奇经八脉模拟器2023(最新版本下载及使用教程) 梦幻西游奇经八脉模拟器2023是一款备受玩家喜爱的游戏模拟器。它将梦幻西游中的经典玩法与现代科技相结合,为玩家们带来了更加真实、刺激的游戏体验。本文将为大家详细介绍梦幻西游奇经八脉模拟器2023的最新版本下载及使用教程,帮助大家更好地享受游戏乐趣。 一、梦幻西游奇经八脉模拟器2023最新版本下载 首先…

    2024-04-06
    3500
  • 我的世界游戏介绍,全面解析游戏玩法、建造技巧和生存攻略

    # 我的世界游戏介绍(全面解析游戏玩法、建造技巧和生存攻略) ## 引言 我的世界(Minecraft)是一款开放世界沙盒游戏,由瑞典游戏设计师马库斯·佩尔松(Markus Persson)于2009年开发。这款游戏在全球范围内拥有数以百万计的忠实玩家,其独特的像素风格和自由度极高的游戏玩法备受赞誉。本文将全面解析《我的世界》的游戏玩法、建造技巧和生存攻略,…

    2024-04-07
    3400
  • 审判者的英文

    审判者的英文 在法律领域,审判者是起着至关重要作用的人物。他们负责主持法庭审判,并对案件进行裁决。对于那些对法律感兴趣的人来说,了解审判者的英文术语是非常重要的。在本文中,我们将探讨审判者的英文表达,以及他们在司法系统中的角色。 一、审判者的定义和角色 审判者是指在法庭上负责主持审判程序的人员。他们可以是法官、陪审团*或者仲裁员。无论身份如何,他们的职责都是…

    2024-05-02
    2000
  • LOL韦鲁斯W技能详细介绍,韦鲁斯W技能效果、释放技巧和使用注意事项

    LOL韦鲁斯W技能详细介绍(韦鲁斯W技能效果、释放技巧和使用注意事项) 在《英雄联盟》中,韦鲁斯是一位高爆发的ADC英雄,拥有强大的技能组合和高输出能力。其中,他的W技能是一项非常重要的技能,能够为他提供额外的攻击速度和移动速度。在本文中,我们将详细介绍韦鲁斯的W技能,包括技能效果、释放技巧和使用注意事项。 一、技能效果 韦鲁斯的W技能名为“狂暴突袭”,当他…

    2024-05-03
    2600
  • 游戏情侣cp昵称,超甜蜜的游戏情侣取名大全

    游戏情侣CP昵称(超甜蜜的游戏情侣取名大全) 在游戏中与你的另一半一起冒险是一种特别的快乐,而为你们的游戏情侣CP取一个甜蜜的昵称,可以增加游戏的乐趣和亲密感。如果你正在寻找一些超甜蜜的游戏情侣取名,那么你来对地方了!在本篇文章中,我将为你提供一些独特而浪漫的游戏情侣CP昵称,让你们的游戏之旅更加温馨和难忘。 一、夫妻CP昵称 1. 王子公主:这对CP昵称适…

    2024-03-26
    4200
  • 方舟生存进化最新代码,全球热门游戏更新攻略分享

    方舟生存进化最新代码(全球热门游戏更新攻略分享) 一、方舟生存进化简介 方舟生存进化是一款由Studio Wildcard开发的沙盒生存游戏,玩家需要在一个充满恐龙和原始生物的岛屿上生存。游戏中有丰富的探索、建造和生存要素,玩家需要收集资源、建造基地、繁衍后代以及与其他玩家或野生动物进行互动。方舟生存进化一直备受玩家们的喜爱,而最新的代码更新更是让这款游戏更…

    2024-03-20
    3600
  • 西游释厄传一共多少关,游戏攻略及通关技巧

    西游释厄传一共多少关 《西游释厄传》是一款备受玩家喜爱的角色扮演游戏,讲述了孙悟空等主要角色在取经过程中与妖魔鬼怪展开的精彩冒险。对于许多玩家来说,通关游戏的最大挑战之一就是关卡的数量和难度。那么,究竟《西游释厄传》一共有多少关呢?接下来,我们将为大家详细介绍游戏攻略及通关技巧。 关卡总数 《西游释厄传》一共设定了50个关卡,每个关卡都有不同的地图和任务要求…

    2024-05-01
    2500
  • 太阁立志传5必挖武将,最强必备武将推荐攻略

    太阁立志传5必挖武将(最强必备武将推荐攻略) 关键词:太阁立志传5必挖武将 在游戏太阁立志传5中,选择合适的武将是取得胜利的关键。本文将为大家推荐几位最强必备的武将,并提供详细的挖掘攻略。无论是新手玩家还是老手,都能从中受益。 一、武将A 1. 武将A的基本信息 武将A是一位非常强力的武将,他具备高攻击力和出色的防御能力。他的技能可以对敌方造成大量伤害,并且…

    2024-03-23
    3000
  • 推理解谜游戏《52赫兹》Steam页面 发行日期待定

    今日(4月30日),推理游戏《52赫兹》Steam页面上线,游戏支持简中,发售日期待定,感兴趣的玩家可以点击此处进入商店页面。 游戏介绍: 未来世界,失去童年记忆的探险者时默来到传闻中的特异点——一座被浓雾包裹的封闭小镇探寻自己的身世与记忆。然而就在他来到此地的第一夜便发生了谋杀*,而这仅仅是一系列*的序幕。时默在这里逐渐和其他人建立羁绊,在解决*的同时,也…

    2024-05-01
    2400
  • 关晓彤家有儿女客串,关晓彤儿女演员身份曝光

    关晓彤家有儿女客串(关晓彤儿女演员身份曝光) 关晓彤,这个名字相信大家都不陌生。作为中国当红小花旦,她凭借着自己的出色演技和清新的形象赢得了广大观众的喜爱。然而,最近关晓彤的家庭成员也开始崭露头角,她的儿女客串身份也引发了广泛关注。 关晓彤的儿女客串身份曝光,让人们对她的家庭生活产生了浓厚的兴趣。那么,关晓彤的儿女客串经历到底是怎样的呢?接下来,就让我们一起…

    2024-05-01
    2900

发表回复

登录后才能评论
返回顶部