AI输出“偏见”，人们可以信任“三个观点”吗？

[今天的观点]人工智能（AI）已成为不可分割的“合作伙伴”。从聊天机器人，语音助手到自动翻译，AI继续干扰人们之间的沟通和理解。但是，它可以是“客观的中立”吗？根据美国官方网站的“麻省理工学院技术评论”，一项国际研究教导说，大语言模型（LLM）默默传播了全球刻板印象。从性别歧视，文化偏见到语言不平等，AI都在包装和升级“偏见行李”，并以看似强大的方式将其出口到世界。这使人们深入思考：如果AI模型带来“人类的偏见”，我们可以相信他们的“世界观”吗？ AI使偏见“跨文化漂移”这项研究是由开源AI公司拥抱面孔的首席伦理科学家玛格丽特·米切尔（Margaret Mitchell）领导的。他们启动了一个名为Shades的项目，其中包括300多个全球刻板印象，涵盖了许多尺寸，例如性别，年龄和国家。的这些偏见中的主要语言模型。南亚人是保守的”，而“美国美国人在语言的环境中都很狡猾”，例如阿拉伯语，西班牙语和否。通过一些学校课程和官方业务官员，没有认同的人，从而进一步加强了西班牙文化的单一想象力。O，主题。此外，当有关刻板印象的线索是积极的时，该模型通常会更糟，并且更有可能将偏见误导为有目的的事实。米切尔说：“这意味着AI不仅继承了人类的偏见，而且意外地促进了'文化漂移'，并在某些社会背景下将偏见作为普遍政策。”小语言群体受到隐形歧视。除了刻板印象的跨文化分散外，AI系统还与不同的语言和文化进行交流时，还暴露了“无形歧视”的问题。据报道，美国斯坦福大学的“面向人” AI研究所的研究包装了UPIT，即使这些模型表明它们支持多语言，但在面对低资源语言时，它们的表现却低于主要资源（例如Swahili，Filipino，Marathi等。文化的背景“存在的背景，也就是说，当模型考虑到多语言时，模型很难深入理解和准确地表达资源语言低低的文化和语义细节，从而导致输出或偏见的产出错误及其文化背景的错误。它不仅会影响人们的精力，因此不仅可以使人们能够使某种语言变得越来越高，因此它不仅会影响人们的精力，因此使人们不断地构成一定的能力，使人们更加努力地构成一定的文化，并且能够使某种语言的态度和文化构成更大的能力。目前，在互联网上有实际的7,000个语言，但在互联网上有效地代表了“缺乏资源”。最受欢迎的聊天机器人目前是由AM Companieserikano开发的，其培训数据是初级英语，这受到西方文化偏见的极大影响。面对跨文化偏见在人工智能中的真正影响，全球研究和商业机构的真正影响时，破解了AI文化偏见的问题，开始提出系统的响应路径。今年4月，斯坦福大学的“以人为导向”的人工智能研究所在白皮书中提出，它发布了AI对低语和文化的投资，尤其是建立当地语言语料库，以便AI真正“理解”文化背景的语义和背景。例如，去年11月，非洲电信公司Orange与Openai和Meta合作，用Wolov和Plaster等区域语言培训AI模型，以促进非洲数字整合的改善。同时，模型的检查机制是mes更精致和开放。拥抱面板开发的阴影数据集已成为许多公司在AI模型中检测和纠正文化偏见的重要工具。该数据范围可帮助团队确定该模型容易自动触发刻板印象的语言和上下文，从而优化培训数据和算法数据。在全球政策层面上，《欧盟AI法案》要求“高风险” AI系统必须在交付前和交付后进行合规评估，以及对非歧视和基本权利的影响分析，并且在2021年初，在2021年初所判定的“ AI伦理建议”的必要机制，以及提供“ AI伦理建议”的必要机制。融合”提倡国家建立法律和制度，以确保AI的发展尊重文化差异并将其纳入衡量ng人文主义维度。 AI本质上是一种“玻璃”，它反映并复制了我们在此处输入的偏见和价值。它显示的“世界观”不是独立形成的，而是由人们提供的。如果人们希望AI真正地为不同的人类社会服务，他们将不会只反映出单一的声音和文化。 ◎我们的记者张王