Hugging Face推出AI大模型专用软件，可让用户自行编辑生成结果
- 麻省理工科技评论
- 2023-03-31 13:07:08
AI大模型 【Hugging Face推出AI大模型专用软件，可让用户自行编辑生成结果】
现在在你脑海里想象一个老师的样子，那个人长什么样？如果你问 Stable Diffusion 或 DALL-E 2，这两个最受欢迎的人工智能图像生成工具，它们给出的回答大概率是一个戴眼镜的白人男性。
不久前，我发表了一篇关于研究人员开发了新工具的文章，可以让人们自己体验到人工智能模型 对不同性别和种族的固有偏见。
虽然我写了很多关于我们的偏见是如何反映在人工智能模型中的，但看到人工智能生成的人类如此的白人化、男性化和老派，我仍然感到不舒服。DALL-E 2 尤其如此，当得到“CEO”或“董事（总监）”这样的提示时，它在 97% 的情况下会生成白人男性。
在人工智能创造的更广阔的世界中，偏见问题比你想象的更根深蒂固。斯坦福大学研究员费德里科·比安奇（Federico Bianchi）告诉我，因为这些模型是由美国公司创建的，大多数训练数据来自北美，所以当它们被要求生成再普通不过的日常用品时，比如门和房屋，它们会创造出看起来很北美的物体。
随着人工智能生成的图像不断涌现，我们将看到大量反映美国偏见、文化和价值观的图像。谁知道人工智能会不会最终成为美国软实力的主要工具呢？
那么，我们该如何解决这些问题呢？想解决人工智能模型训练 数据集中的偏差，肯定有很多的工作要做，不过最近的两篇论文提出了一些有趣的新方法。
如果你可以直接告诉模型，让它给你偏见更少的答案呢？
德国达姆施塔特技术大学 的研究人员和人工智能初创公司 Hugging Face 开发了一种名为 Fair Diffusion 的工具，可以更容易地调整人工智能模型来生成你想要的图像类型。例如，你可以在不同的设置下生成 CEO 的照片，然后使用 Fair Diffusion 技术将图像中的白人男性交换为女性或不同种族的人。
戳链接查看详情：
网页链接
现在在你脑海里想象一个老师的样子，那个人长什么样？如果你问 Stable Diffusion 或 DALL-E 2，这两个最受欢迎的人工智能图像生成工具，它们给出的回答大概率是一个戴眼镜的白人男性。
不久前，我发表了一篇关于研究人员开发了新工具的文章，可以让人们自己体验到人工智能模型 对不同性别和种族的固有偏见。
虽然我写了很多关于我们的偏见是如何反映在人工智能模型中的，但看到人工智能生成的人类如此的白人化、男性化和老派，我仍然感到不舒服。DALL-E 2 尤其如此，当得到“CEO”或“董事（总监）”这样的提示时，它在 97% 的情况下会生成白人男性。
在人工智能创造的更广阔的世界中，偏见问题比你想象的更根深蒂固。斯坦福大学研究员费德里科·比安奇（Federico Bianchi）告诉我，因为这些模型是由美国公司创建的，大多数训练数据来自北美，所以当它们被要求生成再普通不过的日常用品时，比如门和房屋，它们会创造出看起来很北美的物体。
随着人工智能生成的图像不断涌现，我们将看到大量反映美国偏见、文化和价值观的图像。谁知道人工智能会不会最终成为美国软实力的主要工具呢？
那么，我们该如何解决这些问题呢？想解决人工智能模型训练 数据集中的偏差，肯定有很多的工作要做，不过最近的两篇论文提出了一些有趣的新方法。
如果你可以直接告诉模型，让它给你偏见更少的答案呢？
德国达姆施塔特技术大学 的研究人员和人工智能初创公司 Hugging Face 开发了一种名为 Fair Diffusion 的工具，可以更容易地调整人工智能模型来生成你想要的图像类型。例如，你可以在不同的设置下生成 CEO 的照片，然后使用 Fair Diffusion 技术将图像中的白人男性交换为女性或不同种族的人。
戳链接查看详情：
网页链接
