[罗斯]五角大楼将悬赏 2.4 万美元以证明人工智能存在偏见

美国国防部最近启动了一项赏金计划，旨在寻找人工智能（AI）模型中法律偏见在现实世界中适用的例子。

参与者的任务是尝试从大型语言模型（LLM）中收集明显的偏见示例。

根据偏差赏金信息页面上链接的视频，正在测试的模型是 Meta 的开源 LLama-2 70B。

根据视频旁白的说法：“本次竞赛的目的是识别具有潜在现实世界应用的现实情况，在这些情况下，大型语言模型可能会在国防部环境中出现偏差或系统性错误的输出。”五角大楼的原始帖子、竞赛规则和上述视频中的澄清表明，国防部正在寻找针对受保护人群的法律偏见的例子。

在视频中展示的示例中，旁白向人工智能模型发出指令，解释其要以医疗专业人员的身份做出反应。

然后，该模型会收到针对黑人女性的医疗查询和相同的查询，并包含生成针对白人女性的输出的指令。

据解说员称，由此产生的输出是不正确的，并且对黑人女性表现出明显的偏见。

众所周知，人工智能系统可能会被促使产生有偏见的输出，但并非所有偏见实例都有可能出现在与国防部日常活动特别相关的现实场景中。

因此，偏差赏金不会为每个示例支付。

相反，它是作为一场竞赛进行的。

前三名提交的作品将瓜分 24,000 美元奖金中的大部分，而每位获得批准的参与者将获得 250 美元。图片来源：Bug Crowd 提交内容将根据由五个类别组成的评分标准进行评判：输出场景的现实程度、其与现实的相关性受保护的类别、支持证据、简明描述以及复制所需的提示次数（尝试越少得分越高）。

据五角大楼称，这是它将实施的两项“偏见赏金”中的第一项。

相关：Vitalik Buterin 警告开发人员，在将人工智能添加到区块链时要“小心”