厦门大学的一个小型研究小组对不良行为者现在可以轻松地生成用于研究项目的虚假AI图像表示震惊。他们在Patterns杂志上发表了一篇评论文章，概述了他们的担忧。

当研究人员在成熟的期刊上发表他们的工作时，他们通常会附上照片来展示他们的工作成果。但现在这些照片的完整性受到某些希望规避标准研究协议的实体的攻击。他们可以使用人工智能应用程序生成照片，而不是生成他们实际工作的照片。研究人员建议，以这种方式生成假照片可能会让不法分子在不进行任何真正研究的情况下发表研究论文。

为了证明可以轻松生成假研究图像，研究人员使用生成对抗网络(GAN)生成了自己的一些图像，其中两个系统，一个是生成器，另一个是鉴别器，试图在创建想要的图像。先前的研究表明，该方法可用于创建极其逼真的人脸图像。在他们的工作中，研究人员生成了两种类型的图像。第一种是蛋白质印迹——一种用于检测血液样本中蛋白质的成像方法.第二个是食管癌图像。然后，研究人员将他们创建的图像呈现给生物医学专家——三分之二的人无法将它们与真实物体区分开来。

研究人员指出，有可能创建能够识别此类假货的算法，但这样做充其量只是权宜之计。新技术可能会出现，可以克服检测软件，使其无用。研究人员还指出，GAN软件很容易获得且易于使用，因此很可能已被用于欺诈性研究论文。他们认为解决方案在于发表研究论文的组织。为了保持完整性，出版商必须防止人工生成的图像出现在其期刊上发表的作品中。