原始标题：AI输出“偏见”，人们可以信任“三个视图”吗？人工智能（AI）已成为不可分割的“合作伙伴”。从聊天机器人，语音助手到自动翻译，AI继续干扰人们之间的沟通和理解。但是，它可以是“客观的中立”吗？
根据美国官方网站的“麻省理工学院技术评论”，一项国际研究教导说，大语言模型（LLM）默默传播了全球刻板印象。从性别歧视，文化偏见到语言不平等，AI都在包装和升级“偏见行李”，并以看似强大的方式将其出口到世界。
这使人们深入思考：如果AI模型带有“人类的构建”偏见，我们可以信任您的“世界观”吗？
AI偏见“跨文化漂移”
这项研究由开源AI公司拥抱面孔的首席伦理科学家玛格丽特·米切尔（Margaret Mitchell）领导。他们启动了一个名为Shades的项目，其中包括300多个全球ST涵盖性别，年龄和国籍等许多方面的室内印象。研究人员设计了16种语言的互动线索，并测试了这些偏见中许多基本语言模型的响应。
结果表明，AI模型显然具有不同的刻板印象的属性。这些AI模型不仅显示了普通英语的陈规定型观念，例如“金发不明”和“工程师是男性”，而且还对“喜欢粉红色”，“ thesouth Asians是保守”，“美国人是保守”的偏见，而在阿拉伯语，西班牙语，西班牙语和不是语言环境中，“美国美国人都是狡猾的”。
根据世界其他网站的报道，一些图像生成模型通常会在输入“非洲村庄”关键字时输出诸如“融化小屋”和“赤脚孩子”之类的刻板印象图像，同时输入“欧洲科学家”，都是白人，穿着白色外套，以及在实验室中。这些视觉偏见是某些学校课程的直接采用的官方商业官员没有身份，进一步增强了他人文化的单一想象。
西班牙勒蒙德（Le Monde）在6月发表了一篇文章，除了加强各种文化的刻板印象外，语言模型有时会使用伪科学或伪历史来捍卫自己。功夫面临较不常见的刻板印象，该模型倾向于动员其他偏见，其反应是“更熟悉的”，而不是偏离主题。此外，当有关刻板印象的线索是积极的时，该模型通常会更糟，并且更有可能将偏见误导为有目的的事实。
米切尔说：“这意味着AI不仅继承了人类的偏见，而且意外地促进了'文化漂移'，并在某些社会背景下将偏见作为普遍政策。”
小语言群体受到隐形歧视
除刻板印象的跨文化交流外，AI系统还暴露了“无形歧视”的问题用不同的语言和文化进行启发。
据报道，美国斯坦福大学的“以人为导向”的AI研究所的ANG研究表明，尽管这些模型说它们支持多语言，但他们面临着低语的低语语言（例如Swahili）。
研究和评估多语言模型的局限性在缺乏培训数据和缺乏文化背景方面，并说存在一种“多语言诅咒”现象，也就是说，当模型对多语言的多语言考虑，模型很难深入理解并准确地表达具有低资源的文化和语义细节的模型，从而导致流量或偏见。
斯坦福大学团队强调，大多数当前的培训数据集中在英语和西方文化上，并且对非基础语言及其文化背景没有深刻的了解。它不仅会影响模型的准确性，而且不打算加强语言抽动不平等和文化，使使用低资源语言的人很难从AI技术中受益。
“目前，全球约有7,000种语言，但在互联网上有效地代表了不到5％的语言。”研究人员说：““缺乏资源”不仅是一个数据问题，而且是一个社会问题。”这意味着在数据，人才，资源和权利方面，AI的结构结构和发展存在不公正。
美国杂志“商业内幕”还引用了哥伦比亚大学社会学副教授劳拉·纳尔逊（Laura Nelson），指出最受欢迎的聊天机器人目前是由公司Amerikano开发的，其培训数据是初级英语，这受到西方文化偏见的极大影响。
破解AI中文化偏见的问题
面对AI跨文化偏见的实际影响，世界研究机构开始提出系统的响应路径。
今年4月，斯坦福大学的“人生”ted" AI Research Institute suggested in a white paper that it released that AI investment in low languages and cultures should be strengthened, especially establishing a local language corpus so that AI truly "understands" the semantics and background of the cultural background. For example, in November last year, the Africa Telecommunication company Orange cooperated with Openai and Meta to train AI models in regional languages such as Wolov and Plaster to speed upImprovement of digital非洲的整合。
同时，模型的检查机制变得更加精致和开放。拥抱面板开发的阴影数据集已成为许多公司在AI模型中检测和纠正文化偏见的重要工具。该数据范围可帮助团队确定该模型容易自动触发刻板印象的语言和上下文，从而优化培训数据和算法数据。
在全球政策层面上，《欧盟AI法》要求the "high-risk" AI systems must undergo compliance assessment before and after delivery, along with the analysis of the impact of non-discrimination and basic rights, as well as providing the necessary mechanisms of tracking and monitoring of human The “AI ethics recommendation” issued by UNESCO whenEarlier in 2021 it was clearly stated that AI systems should be "guaranteed differences of culture and integration", advocating that countries have established laws and systems to ensure that the AI尊重的文化差异的发展，并将其纳入衡量人文主义维度。
AI本质上是一种“玻璃”，它反映并复制了我们在此处输入的偏见和价值。这种“世界观”并非独立形成，但是如果人们希望AI真正为不同的人类社会服务，那么人们就做了，他们不会让它反映出一种单一的声音和文化。
（编辑：Luo Zhizhi，Chen Jian）
遵循官方帐户：人 - 金融融资
分享许多人看到了
