Adobe被发现出售人工智能生成的以巴暴力图像

2025-01-01 18:54来源:

这些错误信息来自科技行业内部。

软件巨头Adobe被发现出售人工智能生成的以色列-哈斯战争图像,这是澳大亚新闻媒体首先发现的,这是一个令人震惊和道德上应受谴责的公司直接从网上传播错误信息中获利的例子。

在该公司的Adobe Stock网站上快速搜索“以色列和巴勒斯坦之间的冲突”,会出现在高密度城市环境中爆炸的逼真图像,与现实生活中正在加沙展开的大屠杀非常相似。Adobe Stock网站为订阅用户提供了访问通用库存图片库的服务,现在还提供人工智能照片。

另一张图片显示了“巴以战争冲突中被摧毁的城市中的母亲和孩子”,这是一个完全由人工智能生成的破坏性框架。事实上,这是一系列33张图片中的一张,它们都显示了相似的构图。

还有一幅显示了“以色列城中被毁坏和烧毁的建筑”。

这些图片似乎都是由Adobe Stock用户提交的,而不是由Adobe自己生成的。

然而,虽然它们在技术上被标记为“人工智能生成”,这是所有用户提交作品的要求,但其中一些图片已经在网络的其他部分流传,这很容易误导不知情的公众。

在谷歌上简单的反向图像搜索证实了这一点,许多小型出版物都使用了一张逼真的人工智能大爆炸图像。

毕竟,如果不仔细检查这些图像是否有人工智能生成的迹象,比如不对齐的窗户或不匹配的光影,它们很容易被误认为是真实的东西。

OpenAI的DALL-E、Stable Diffusion和Midjourney等人工智能图像生成器在过去12个月里取得了巨大的技术飞跃。明显的故障或可怕的动物怪物的日子已经一去不复返了。

因此,人工智能生成的图像在网上获得了巨大的知名度。今年早些时候,他发现,在谷歌搜索著名现实主义艺术家爱德华·霍珀(Edward Hopper)名字的最热门图片结果是人工智能伪造的。

Adobe并没有小心翼翼地踏入生成式人工智能的世界,而是选择了热情地拥抱这项技术。

上个月,该公司推出了名为Firefly的生成式人工智能模型,使其成为其广泛使用的Photoshop中不可或缺且易于使用的功能,引起了轰动。该公司甚至为Adobe股票贡献者增加了一项新的年度奖金计划,积极激励他们将自己的工作成果用于培训公司的人工智能模型。

但这种热情并不总是对每个人都有利。随着Adobe选择营销人工智能生成的图像,该公司也在积极破坏摄影记者的工作。在许多方面,这是人工智能技术威胁到那些拍摄原始图像的人的生计的又一个例子,这些人工智能图像生成算法首先是根据这些图像生成算法进行训练的。

考虑到战地摄影师为了记录人类冲突的残酷现实而将自己置身于危险之中,这是一个特别令人担忧和道德上可疑的例子。

更糟糕的是,虽然这类图片很容易导致错误信息的传播,但它们也在积极破坏我们对每天阅读的新闻的信任。

南加州大学工程学院教授瓦埃尔·阿布德-阿尔马吉德去年曾说:“一旦真假界限被打破,一切都将变成假的。”“我们将无法相信任何事情。”


早关注网声明:未经许可,不得转载。
资讯