AI奇点网3月8日报道丨当地时间3月7日，联合国教科文组织发布一份研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向。报告指出，女性在大模型的描述中，从事家务劳动的频率是男性的 4 倍，且常常与“家”、“家庭”和“孩子”等词汇联系在一起，而男性名字则与“商业”、“管理层”、“薪水”和“职业”等词汇联系在一起。
此次联合国教科文组织发起了“大语言模型中对妇女和女童的偏见”的研究，对大语言模型中的“刻板印象”进行深入分析。研究的部分内容是测量人工智能生成文本的多样性，内容涉及不同性别、文化背景的人群，测试对象包含 OpenAI 的 GPT-3.5、GPT-2 以及 META 的 Llama 2 等。
例如，研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性，而经常将女性与传统上被低估或被社会污名化的角色挂钩。
联合国教科文组织总干事阿祖莱表示：“越来越多的人在工作、学习、生活中使用大语言模型，这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。”
联合国教科文组织呼吁各国**制定并执行明确的监管框架，私营企业对系统性偏见问题展开持续的监测和评估，落实联合国教科文组织会员国在 2021 年 11 月一致通过的《人工智能伦理问题建议书》要求。
上一篇：奥特曼重返OpenAI董事会丨Pika推出AI视频音效配音生成功能丨李彦宏：文心4.0在中文能力上超过了GPT-4
报告指出，女性在大模型的描述中，从事“家务劳动”的频率是男性的4倍，而男性名字则与“商业”、“管理层”、“薪水”和“职业”等词汇联系在一起。
【AI奇点网2024年3月11日早报】本站每日播报AI业界最新资讯，触摸时代脉搏，掌握未来科技动向。事不宜迟，点击查看今日AI资讯早餐。
文生视频平台 Pika 官宣新功能：视频可以集成 AI 生成的音效了。可以通过提示词来描述想要的声音，或者直接让 Pika 根据视频内容自动生成声音。
华为诺亚0 6B文生图模型PixArt-Σ，采用了sora一样的Dit模型
ChatGPT居然这么费电?最新的等式出现了：ChatGPT日耗电量≈1 7万家庭日耗电量。什么概念?一年光电费就要花2亿!美国普通家庭平均单日用电29千瓦时，而ChatGPT的单日用电量超过了50万千瓦时。(美国商业用电一度约为0 147美元也就是1 06元，相当于一天53万元)消息一出就直接冲上热搜第一了。
今天，OpenAI在官网公布了针对CEO奥特曼被罢免的调查结果，调查律师团给出的结论，令OpenAI董事会最终放心表态：「对奥特曼继续领导OpenAI充满信心。」
悦梦达Ai
Xiu.ai
达奇AI论文写作
Merlin AI
Hulu AI
西鲸AI
瑞达写作
HandTalk
星火网文助手
网站地图
跟人类学孬了！联合国：AI大模型的回复存在严重的性别偏见、种族偏见与刻板印象等问题
AI奇点网3月8日报道丨当地时间3月7日，联合国教科文组织发布一份研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向。报告指出，女性在大模型的描述中，从事家务劳动的频率是男性的 4 倍，且常常与“家”、“家庭”和“孩子”等词汇联系在一起，而男性名字则与“商业”、“管理层”、“薪水”和“职业”等词汇联系在一起。
此次联合国教科文组织发起了“大语言模型中对妇女和女童的偏见”的研究，对大语言模型中的“刻板印象”进行深入分析。研究的部分内容是测量人工智能生成文本的多样性，内容涉及不同性别、文化背景的人群，测试对象包含 OpenAI 的 GPT-3.5、GPT-2 以及 META 的 Llama 2 等。
例如，研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性，而经常将女性与传统上被低估或被社会污名化的角色挂钩。
联合国教科文组织总干事阿祖莱表示：“越来越多的人在工作、学习、生活中使用大语言模型，这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。”
联合国教科文组织呼吁各国**制定并执行明确的监管框架，私营企业对系统性偏见问题展开持续的监测和评估，落实联合国教科文组织会员国在 2021 年 11 月一致通过的《人工智能伦理问题建议书》要求。
上一篇：奥特曼重返OpenAI董事会丨Pika推出AI视频音效配音生成功能丨李彦宏：文心4.0在中文能力上超过了GPT-4
跟人类学孬了！联合国：AI大模型的回复存在严重的性别偏见、种族偏见与刻板印象等问题
报告指出，女性在大模型的描述中，从事“家务劳动”的频率是男性的4倍，而男性名字则与“商业”、“管理层”、“薪水”和“职业”等词汇联系在一起。
奥特曼重返OpenAI董事会丨Pika推出AI视频音效配音生成功能丨李彦宏：文心4.0在中文能力上超过了GPT-4
【AI奇点网2024年3月11日早报】本站每日播报AI业界最新资讯，触摸时代脉搏，掌握未来科技动向。事不宜迟，点击查看今日AI资讯早餐。
重磅首发！Pika推出AI视频配音功能，可支持为视频画面一键生成对应匹配的音效
文生视频平台 Pika 官宣新功能：视频可以集成 AI 生成的音效了。可以通过提示词来描述想要的声音，或者直接让 Pika 根据视频内容自动生成声音。
基于DiT，支持4K图像生成，华为诺亚0.6B文生图模型PixArt-Σ来了
华为诺亚0 6B文生图模型PixArt-Σ，采用了sora一样的Dit模型
ChatGPT每天耗费的电力相当于1.7万个美国家庭，AI vs人力投入产出比怎么算？网友：算完发现挺值！
ChatGPT居然这么费电?最新的等式出现了：ChatGPT日耗电量≈1 7万家庭日耗电量。什么概念?一年光电费就要花2亿!美国普通家庭平均单日用电29千瓦时，而ChatGPT的单日用电量超过了50万千瓦时。(美国商业用电一度约为0 147美元也就是1 06元，相当于一天53万元)消息一出就直接冲上热搜第一了。
「OpenAI宫斗」大男主奥特曼，赢麻了：内部调查宣告无罪，董事会的反对派全部背锅
今天，OpenAI在官网公布了针对CEO奥特曼被罢免的调查结果，调查律师团给出的结论，令OpenAI董事会最终放心表态：「对奥特曼继续领导OpenAI充满信心。」
悦梦达Ai
Xiu.ai
达奇AI论文写作
Merlin AI
Hulu AI
西鲸AI
瑞达写作
悦梦达Ai
Xiu.ai
达奇AI论文写作
Merlin AI
Hulu AI
西鲸AI
瑞达写作
HandTalk
星火网文助手