外贸网站哪个好,汕头论坛网站建设,建站之星演示,网站建设平台怎么做OpenAI的文字图像转换器与文本、科学和偏见作斗争。在2022年4月#xff0c;人工智能#xff08;AI#xff09;研究实验室OpenAI继2021年推出的DALL-E后#xff0c;又推出了DALL-E 2。这两个人工智能系统都可以根据自然语言的文本描述来生成令人惊奇的图像#xff0c;包括照…OpenAI的文字图像转换器与文本、科学和偏见作斗争。在2022年4月人工智能AI研究实验室OpenAI继2021年推出的DALL-E后又推出了DALL-E 2。这两个人工智能系统都可以根据自然语言的文本描述来生成令人惊奇的图像包括照片、插图、绘画、动画和其他能用语言表达艺术风格的几乎任何图片见下图。DALL-E 2的分辨率更高处理速度更快增加的编辑功能能够让用户仅使用文本命令修改已生成图像例如“把那个花瓶换成植物”或“让狗的鼻子更大一点”。对于DALL-E 2全球最初的反应是震惊和欣慰。它可以在几秒钟之内把任何物体和生物组合在一起可以模仿任何艺术风格还能描绘任何地点并且可以刻画各种照明条件。比如说看到宇航员骑着一匹马的安迪•沃霍尔Andy Warhol风格图片谁能不被感动不过随着人们列出可以被这种技术轻易扰乱的行业也难免出现了一丝担忧。OpenAI尚未向公众、商业实体乃至整个人工智能社区发布相关技术。OpenAI的研究员马克•陈Mark Chen“我们和大家一样担心滥用的问题而且非常重视这件事。”该公司确实邀请了一些人针对DALL-E 2进行实验。过去几个月出现的研究结果充分说明了现今深度学习技术的局限性也给我们打开了一个窗口了解对于人类世界人工智能有哪些能够理解又有哪些完全没有理解。工作原理OpenAI在论文预印本网站ArXiv上发布的一篇论文表明DALL-E 2接受了从互联网上截取的约6.5亿个图像-文本对的训练。通过这个庞大的数据集它学习图像与描述这些图像的文字之间的关系。OpenAI在训练之前对数据集进行筛选移除了包含明显暴力、色情和其他恶劣内容的图片。“模型没有暴露这些概念之下。”陈说“所以它生成未见过内容的可能性非常非常低。”但研究人员明确指出这种过滤有局限性DALL-E 2仍然有可能生成有害的内容。一旦这种“编码器”模型经过训练可理解文本和图片之间的关系OpenAI就将它与一个可根据文本提示生成图片的解码器配对使用一种名为“扩散”的方法从随机的点图案开始慢慢改变图案生成图像。此外该公司集成了一些过滤器以便生成的图像符合内容政策并承诺了不断进行更新。可能产生禁止内容的改变会被阻止而且为了防止深度伪造它无法准确地再现在训练过程中见过的面孔这可部分解释为什么它通常会产生超现实的面孔。到目前为止OpenAI还采用了人工审查员检查被标记为可能有问题的图像。由于DALL-E 2明显有可能被滥用OpenAI最初授权使用的只有几百人大多是人工智能研究人员和艺术家。与该实验室的语言生成模型GPT-3不同即便是有限的商业应用DALL-E 2 也尚不具备而且OpenAI也未公开讨论相关计划。不过浏览DALL-E 2用户创建并发布在Reddit等论坛上的图像可以发现有些专业应用确实应该引起担忧例如DALL-E 2擅长的美食摄影、公司手册和网站的图片库以及适用于宿舍海报或杂志封面上的插图。问题所在热心的实验者生成的图像表明尽管DALL-E 2有很多优势但关于这个世界它还需要学习很多东西。以下是3个最明显、最引人关注的错误。文本 DALL-E 2虽然擅长理解生成图像的文本提示却很难将可理解的文本放入图像这一点令人感到费解。用户发现要求放入任意类型的文本都会产出一堆混乱的字母。珍妮尔•肖恩Janelle Shane喜欢在自己的人工智能博客里利用该系统创建公司的徽标并观察由此产生的混乱。不过未来的版本可能会纠正该问题因为OpenAI的GPT-3团队有着丰富的文本生成专业知识。肖恩“最终DALL-E的后继者将能够拼写‘松饼屋’Waffle House那一天我一定会很伤心的。我还得换一种不同方式来扰乱它、找乐子。”科学你可以说DALL-E 2理解一些科学定律因为它可以轻松地描绘掉落的物体或漂浮在太空中的宇航员。但要求它生成解剖图、X光图、数学证明或蓝图时它生成的图像看似正确而实际上却是完全错误的。例如要求DALL-E 2“按比例绘制太阳系图解插图”在得到的结果图像中地球非常奇怪而且有太多假设的太阳系邻居。“DALL-E不懂什么是科学。它只知道怎样阅读文字说明然后绘图。”OpenAI的研究院阿迪蒂亚•拉梅什Aditya Ramesh说“因此它不理解其中的含义而试着编造一些看起来相似的东西。”偏见DALL-E 2被认为是一种接受图片和文本训练的多模态人工智能系统会表现出某种形式的多模态偏见。例如如果用户要求它生成一名首席执行官、一名建筑工人或者一名技术记者的图片它通常会根据其在训练数据中看到的图片-文本对来提供男性的图片。在发布DALL-E 2之前OpenAI要求从事该领域相关工作的外部研究员来充当“红队”他们的见解有助于OpenAI评估该系统的风险和局限性。他们发现除了表现有关性别的社会成见该系统会过多地表现白人和西方传统与环境。陈认为“我们可以采取某些机器学习缓解措施”来纠正这些偏见该团队已经采取了一些措施例如在训练期间他们发现由于在训练数据中消除了的色情内容在建立的数据集中男性要多于女性这导致DALL-E 2生成更多男性的图像。“所以我们调整了训练方法并提高了女性图像的权重使其更有可能生成女性图像。”陈解释道。为了帮助DALL-E 2产生更多样化的结果用户还可以使用“女性宇航员”或“印度婚礼”等指定性别、种族或地理位置的提示。总之DALL-E 2团队表示他们渴望看到早期用户在测试系统时发现的问题和故障他们也已经在考虑接下来的工作。“我们非常有兴趣提高系统的整体智能。”拉梅什说并补充说该团队希望能在“DALL-E中加深对语言及其与世界关系的理解”。他指出OpenAI的文本生成工具GPT-3对普通常识、科学和人类行为有着非常惊人的理解。“一个充满希望的目标是尝试通过DALL-E将GPT-3的知识与图像领域联系起来。”拉梅什说。作者Eliza StricklandIEEE Spectrum《科技纵览》官方微信公众平台往期推荐“编织”属于自己的存储器电动汽车如何为电网供电人工智能领域的10大算法