联合国教科文组织担心人工智能可能扭曲大屠杀记忆

联合国教科文组织表示担心，如果人工智能开发人员不严格遵守道德标准，生成人工智能可能会扭曲大屠杀的历史。

联合国教科文组织在周一发布的一份报告中警告不良行为者可能会滥用生成人工智能。

年轻人容易受到错误信息的攻击

该报告与世界犹太人大会联合发布，强调年轻人特别容易受到扭曲信息的影响，因为他们广泛使用人工智能等新兴技术。报告强调，约 80% 的 10 至 24 岁年轻人使用人工智能完成各种任务，包括完成学校作业。这种高曝光率增加了他们接触扭曲信息的机会。

联合国教科文组织总干事奥德蕾·阿祖莱表示：“如果我们允许通过不负责任地使用人工智能来淡化、扭曲或伪造大屠杀的恐怖事实，我们就有可能面临反犹太主义爆炸性蔓延的风险，并逐渐削弱我们对这些暴行的原因和后果的理解。”

报告还指出，人工智能倾向于过度简化复杂的历史事件，通常只关注范围狭窄的来源。例如，在人工智能搜索引擎中，60% 到 80% 的大屠杀图片搜索结果中，只有奥斯维辛-比克瑙集中营这一个地点被提及。

人工智能可能会延续偏见

联合国教科文组织的报告警告称，人工智能可能会延续现有的偏见，大屠杀也未能幸免。联合国教科文组织称，有关大屠杀的虚假信息已经很普遍，而且随着生成式人工智能的使用，情况可能会进一步恶化。

阿祖莱强调，必须执行道德标准，保护年轻人不接受扭曲的信息。“实施联合国教科文组织关于人工智能伦理的建议刻不容缓，这样年轻一代才能在事实而非谎言的环境中成长，”阿祖莱说。

报告重点介绍了 OpenAI 的 ChatGPT 和谷歌的 Bard（现称为 Gemini）等人工智能模型捏造与大屠杀有关的事件。这些模型对大屠杀产生了“幻觉”，详细描述了虚构的事件，例如纳粹战役中犹太人被淹死在河流和湖泊中。此外，人工智能模型还生成了虚假的引述来支持这些扭曲的叙述。

呼吁制定人工智能道德标准

联合国教科文组织的报告呼吁立即采取行动，在人工智能发展中执行道德标准。报告提倡采取多方利益相关者的方式来应对这一挑战，并强调实施联合国教科文组织成员国于 2021 年通过的《人工智能伦理建议书》的重要性。

联合国教科文组织还敦促科技公司在人工智能开发过程中尊重公平、透明、人权和尽职调查原则。今年 2 月，八家科技公司向联合国教科文组织总干事签署了一份承诺，承诺在开发人工智能模型时采取合乎道德的方法。

报告强调，人工智能能够捏造和扭曲大屠杀等历史事件，这构成了重大风险。联合国教科文组织强调，如果没有严格的道德准则和监督，生成式人工智能可能会成为传播错误信息和延续有害偏见的工具。

联合国教科文组织的担忧凸显了在开发和部署人工智能技术时保持警惕和负责任的必要性。该组织的行动呼吁旨在确保大屠杀和其他历史事件的记忆保持准确和受人尊重，保护子孙后代免受错误信息的危害。

在人工智能发展中实施道德标准的紧迫性怎么强调也不为过。联合国教科文组织的《人工智能伦理建议》提供了一个框架，以确保负责任地开发和使用人工智能技术。该框架包括公平、透明和尊重人权等原则，这些原则对于防止错误信息和虚假信息的传播至关重要。

联合国教科文组织的报告提醒我们道德标准在人工智能发展中发挥的关键作用。通过遵守这些标准，开发者可以帮助防止历史事件被扭曲，并保护年轻人和普通公众获取的信息的完整性。

联合国教科文组织担心人工智能可能会扭曲大屠杀记忆一文最先出现在 Coinfea 上。

标签：担心