AI如何想象中国?

蓝星宇 ,  潘知静 ,  赵韦奕 ,  王柏然

新媒体与网络 ›› 2025, Vol. 2 ›› Issue (4) : 23 -40.

PDF (4431KB)
新媒体与网络 ›› 2025, Vol. 2 ›› Issue (4) : 23 -40. DOI: 10.20233/j.cnki.xmtwl.202504003
智能传播研究

AI如何想象中国?

作者信息 +

Imagining China:Algorithmic Auditing of Large-Model-Generated Images of Chinese Scenarios

Author information +
文章历史 +
PDF (4536K)

摘要

随着生成式人工智能的快速发展,文生图模型已成为文化再现与建构的重要媒介。但是,其有时会携带刻画失真、文化偏见与刻板印象,引发社会担忧。目前,针对文生图模型的算法审计研究多聚焦性别、种族维度,对地缘文化,尤其是非西方文化的探讨尤为匮乏。研究采用众包审计的方法,选取6个文生图大模型,招募中国用户评估模型在绘制中国场景时的表现。发现大模型生成中国场景时,主要会出现元素错误、文化误读与风格滤染三类问题。对比来看,西方模型在西方化呈现、片面化叙事、夸张化呈现等问题上更为突出,且客观的事实性错误更多。为文生图大模型的研究贡献了关于中华文化的实证数据,以期为优化跨文化场景下人工智能应用提供参考。

Abstract

With the rapid advancement of generative artificial intelligence,text-to-image models have become a vital media for global cultural representation and identity construction. However,issues of cultural bias and stereotypes embedded in model-generated content have become increasingly evident. Existing studies primarily focus on gender and racial biases,while research on algorithmic bias in geo-cultural contexts—especially concerning non-Western cultures—remain limited. Centering on two key questions—“What problems might text-to-image models exhibit when portraying Chinese scenarios?” and “Do models developed by Chinese and non-Chinese companies perform differently in this regard?”This study employs an algorithmic auditing approach to compare six mainstream Chinese and international text-to-image models (DALL·E 3,Stable Diffusion 3.5,Midjourney V7,Dreamina V1.5.5,Kling AI 2.1,and ERNIE Bot 4.5) in generating images for ten Chinese scenarios (fountain,fortress,harbor,skyscraper,palace,bedroom,restaurant,kitchen,gallery,and mansion).A total of 150 Chinese participants were recruited through the Credamo online platform to evaluate 300 images. They provided ratings across three dimensions—“scene authenticity,element consistency,and perceived bias”—and provide qualitative feedback.The research findings reveal three major categories of problems in the AI-generated depictions of Chinese scenarios:(1)Elemental errors,including factual biases such as the generation of pseudo-Chinese characters,architectural mismatches,and temporal-spatial inconsistencies.(2)Cultural misinterpretations,manifested as semantic-level biases like ritual inaccuracies,color semantic conflicts,and Westernized visualizations.(3)Stylistic filtering,where models tend to produce overcrowded,one-dimensional,or exaggerated representations.Therefore,text-to-image models exhibit both factual and cultural biases when generating Chinese scenarios.Comparative analysis further shows that models developed by Chinese companies significantly outperform those developed by Western companies in depicting Chinese scenarios.Non-Chinese models are more prone to problems such as “Westernized rendering”,“one-sided narratives” and “exaggerated depictions”,reflecting latent Western-centrism in their training corpora.While local models achieve higher overall cultural alignment,they still exhibit deficiencies such as the generation of pseudo-Chinese characters and the oversight of folk customs. The main contribution of this study lies in empirically auditing the systemic bias in AI-generated Chinese cultural imagery and proposing a dual-layer framework of factual and cultural biases. This research provides methodological support for studying cultural fairness in AI visual generation and holds important policy and practical implications: it advances the global dialogue on cultural diversity in AI governance,promotes algorithmic transparency and cross-cultural inclusivity,and offers a indigenous perspective for developing AI ethics grounded in the Chinese context.

关键词

AI偏见 / 文生图大模型 / 算法审计 / 生成式人工智能

Key words

AI bias / text-to-image models / algorithmic auditing / generative AI

引用本文

引用格式 ▾
蓝星宇,潘知静,赵韦奕,王柏然. AI如何想象中国?[J]. 新媒体与网络, 2025, 2(4): 23-40 DOI:10.20233/j.cnki.xmtwl.202504003

登录浏览全文

4963

注册一个新账户 忘记密码

一 问题提出

当前,生成式人工智能(generative artificial intelligence,GenAI)技术进入高速发展阶段。其中,文生图(text-to-image)大模型,如Stable Diffusion和Midjourney等,已形成了丰富的创作生态和广泛的应用场景。它们不仅变革着传统的内容创作流程,也成为信息传播、文化再现与身份建构的新媒介。

然而,这些大模型生成的图像,有可能存在对于特定文化、社会与意识形态的刻画偏差或刻板印象,引发社会担忧。例如,联合国教科文组织在2024年3月7日发布研究报告称,人工智能(AI)大模型存在性别偏见、种族刻板印象等倾向,并呼吁各国政府制定监管框架,同时呼吁私营企业应对偏见问题进行持续监测和评估1。在学界,人工智能生成内容(AIGC)中包含的偏见也已得到了较多讨论。例如,Ghosh等1研究发现,当输入“人”这个词时,Stable Diffusion更有可能生成白人男性的图像。Mack等2指出,AI常常过度简化对残疾人的描绘,并展示出其无助的负面刻板印象。不过,现有研究多从性别、种族等方面切入,与地缘文化、尤其是非西方文化相关的研究仍然较少。

中国被“他者化”的过程不仅体现在文学、艺术与媒体叙事中3-4,也在当下AI文生图技术的蓬勃发展中被再生产。例如,Wang等5指出,大多数文本和图像数据集中对中国文化特征的呈现有限,导致生成内容出现西方化、符号粗暴拼贴或语意理解缺陷等问题,进而可能造成深远的影响,包括文化表征的不平等、刻板印象的强化以及潜在误导性文化信息的传播。

由此,本研究使用算法审计方法,选取由中国公司和外国公司开发的、共6种文生图大模型,测量其在生成中国相关场景时的表现,并让利益相关用户(在此研究中操作化为居住在中国并认同中国文化的中国人)来评价这些图像,以回应以下问题:

问题1:文生图大模型在生成中国相关场景时,可能表现出怎样的问题?

问题2:中外文生图大模型在上述问题上的表现是否有显著性差异?

本研究可能的边际贡献是,通过对主流的大模型生成中国文化场景的算法审计研究,进一步为中国文化国际传播与国家形象构建提供经验和反思,讨论跨文化传播中技术中介的潜在偏差和影响。同时,通过“视觉—文化”的双重维度,为智能传播与人际传播研究提供基于“图像”的视觉视角与“中国”的文化维度,为制定更加包容、多元的AI伦理规范提供来自中国经验的本土视角。

二 文献综述

(一) 中国:一个充满复杂性的想象

1 新闻报道里的中国

长久以来,西方媒体在报道发展中国家时通常带有偏见,表现出强烈的西方中心主义,并且以负面的方式将非西方国家塑造成为“他者”6-7,尤其是对于后共产主义国家“充满暴力、离奇和冲突不断”的刻板印象建构8。对于西方而言,中国经常被建构为一个负面且充满异域情调甚至不道德的终极“他者”3-49。Yu等10对2004—2014年18家外国媒体发表的有关北京的文章进行考察,发现“北京”经常被呈现为一个较为单向度且片面的形象,其中生态话题被置于首位,且将环境污染的根源归咎于不计后果的经济增长。通过对1949—2020年《纽约时报》有关中国报道中隐喻的梳理,Shi等11研究发现“液体”“疾病”等隐喻常被用来将中国描绘成“非人类的他者”,关于“机器”的隐喻责备用来描述中国。

不过,上述研究主要聚焦新闻文本,考察新闻报道对中国偏见性的呈现,但对于图像层面,尤其是AI生成图像层面的中国形象仍缺乏系统性的讨论与检视。

2 文化符号的迷思

Zhang3指出,如龙、风、太极等文化符号可能存在被误读或简化的问题,导致外国人对中华文化符号的理解不够全面和深入。西方观众可能会对中国功夫电影中诸如阴阳或无为等抽象概念进行过度简化,从而形成一种刻板印象式的解读,并使这些文化符号成为一种异域化(exoticized)的模式,进一步削弱其在认知和情感上的影响力12。好莱坞电影表现出了相似的问题,即利用高度视觉化材料和精神文化符号来创造一个易于识别的“东方奇观”(oriental wonder),然而这种符号的选择往往受到西方视角的限制,从而导致文化误解或强化刻板印象13。 Hansen等14-15详细讨论了西方国家对于汉字的偏见性认知。西方学者常以拼音的逻辑解读汉字,将其视为“笨重、复杂、低效”的文字系统,由于无法适配打字机而与工业文明和现代性脱节。

北京师范大学文化创新与传播研究院联合国际调研平台(survey sampling international,SSI)开展的外国人对中国文化认知调研表明,国外受众对带有古老中国印记的符号概念或图形认知度相对较高,而更多带有当代中国特征、更具多元特征的中国文化元素却被遗忘在中国文化国际传播的视野中,也被游离在外国人对于中国文化的视野之外,造成中国文化符号的“自我窄化”16

上述研究主要着眼于影视作品和历史文化语境中的经典文化符号,而AIGC是否会再现甚至放大这些问题,则需要更多的经验研究。

(二) AIGC的算法审计:从事实性到文化性

1 事实性“幻觉”

AI生成内容的幻觉通常是指生成的内容看起来毫无意义或与所提供的源内容不符的现象17。AI幻觉分为内在幻觉和外在幻觉,内在幻觉即生成的输出与输入内容相矛盾,此类错误通常能够通过校验输入加以识别;外在幻觉即生成内容的正确性无法由输入内容验证,往往来源于模型调用输入内容之外的数据甚至倾向性言论,外在幻觉更为常见且难以识别17-18。Huang等19将幻觉分为事实幻觉和忠实度幻觉,其中事实幻觉包括事实矛盾和事实编造,忠实度幻觉包括指令不一致、上下文不一致和逻辑不一致。

从文化传播的视角来看,GenAI产生幻觉的原因是训练大模型的原始数据集存在事实性错误或结构性偏见,这些数据集在多样性、代表性和公正性方面存在的缺陷将进一步造成“观点霸权”、文化片面性、事实与想象杂糅,加剧错误与虚假信息的传播20

2 社会文化偏见

早在搜索引擎和社交媒体等数字平台为代表的Web 2.0时代,算法就已经深度介入用户生活,并通过自动化的信息收集和组织排序机制决定了用户能够接触到的信息21。在这一过程中,算法的信息覆盖表现出偏见问题,包括对于不同国家22和利益主体23的网站覆盖率差异,以及对于女性、中老年、农村群体24、不同职业类型25、不同种族26的性别刻板印象。其本质在于算法对社会数据中既有偏见的复刻与放大。然而,随着自然语言处理和多模态生成的技术突破,GenAI的广泛应用使得错误信息的传播呈现出新的形态。

不过,目前大部分关于文生图大模型中偏见问题的实证研究仍聚焦种族偏见和性别偏见等话题,而较少关注到地缘文化偏见问题。李霄骞等27指出,不同文化群体对同一提示词的理解可能完全不同,缺乏背景约束的提示词极易引发误解甚至冒犯。Bianchi等28发现涉及物体的提示词会使模型将美国规范固化为普遍标准,进一步塑造并巩固了“美国即默认”的世界认知。Jha等29发现即使输入了中性或非刻板印象属性的提示词,由文生图大模型生成的图像中,所有身份群体也几乎都呈现出更具视觉刻板印象的外观,且在来自全球南方的身份群体中更为突出。Lan等30发现大模型在描绘东亚女性形象时出现了西方化、文化符号的过度使用或误用、性感化和女性化以及种族刻板印象等四种感知偏见模式。

这些偏见可能从充斥着各种偏见观点的互联网文本中习得,主要表现为刻板印象的传播和社会不平等19。Basu等31指出,大模型的生成内容不仅映射数据中的隐含倾向,更会对偏见产生放大与固化效应,对特定群体过度表征的风险显著上升,进而引发表征性伤害与资源分配伤害,并且数据集中蕴含的既有偏见还存在进一步扩散风险。换言之,大模型不仅会复刻数据中的偏见,还通过图像的再现过程放大既有的文化权力结构,导致部分文化的过度代表与其他文化的边缘化。

AI价值观校准的目标是确保强大的AI与人类价值观保持一致,如何从技术性和规范性两个角度为大模型确定一个可靠的价值准则成为学者关注的焦点。为促进更公平的GenAI建设,亟须引入本土用户在日常使用中所遭遇的符号误读与图像偏差32

三 研究方法

(一) 算法审计

算法审计是一种调查算法系统中潜在问题的实证研究方法33,适用于考察社会问题在技术系统中的体现,从外部寻找算法黑箱中失当行为的证据。本文采取众包审计的方法32,使用文生图大模型生成实验图片集后,在全国范围招募参与者对实验图片进行审计,调查从“被描述者”的大众视角来看该技术的潜藏问题。

(二) 实验图片集生成

本文对6个文生图大模型进行审计:OpenAI公司(美国)的DALL·E 3、Stability AI公司(英国)的Stable Diffusion 3.5、Midjourney工作室(美国)的Midjourney V7、字节跳动公司(中国)的即梦AI V1.5.5、快手公司(中国)的可灵AI 2.1以及百度公司(中国)的文心一言 4.5。其中3个大模型由中国公司开发,3个由非中国公司开发。

在描绘场景的选择上,参考麻省理工学院计算机科学与人工智能实验室公开的Places场景中心数据库34。该数据库常用于计算机视觉场景识别研究,包含205个场景类别和250万张带有类别标签的图像,涵盖户外与室内、公共与私人等不同性质的诸多场景。为了便于在中文语境下开展场景筛选与问卷设计,将数据库中所有场景类别名称由英语翻译为中文,形成双语对照版本,并同步记录各场景对应的训练样本数量。在此基础上,基于三重标准对场景进行筛选:是否为中国语境中常见的场景;是否具有文化性;是否存在重复或高度相似的类别。剔除了中国不常见的场景(如:冰屋igloo)与纯粹的自然场景(如:山mountain),合并了部分重复或高度相似的场景(如:将kitchenette与kitchen合并为厨房kitchen),并按照数据库中样本图片数量排序选取前10个场景,作为本次实验中被描绘的场景。最终选取的10个场景分别是:喷泉、堡垒、港口、摩天大楼、宫殿、卧室、饭店、厨房、画廊和宅第。

为真实模拟更多用户的使用过程,对于中国公司开发的模型采用中文提示词,对于非中国公司开发的模型采用英文提示词,提示词格式统一设置为“在中国的一个[地点]”或“a(n) [PLACE] in China”。鉴于文生图大模型对同一指令的图片生成并不稳定,使用6个文生图大模型,分别对10个场景各生成5张图片,由此得到一个含有300张图片的实验图片集。

(三) 预实验

综合已有图像研究35-36,从场景真实性、元素匹配度与偏见感知度三个维度对文生图大模型生成中国场景图的质量进行测量。在正式实验前,进行了两轮预实验以验证问卷设计的合理性与量表的信度。其间先后发放了30份与50份问卷,并选取8名参与者进行访谈,了解其对问卷描述的理解与思考过程。

在预实验的过程中发现了若干问题,并对设问表述作出了针对性修改:

第一,图注“中国的[地点]”的表述易使参与者理解为“独属中国的”或“中国特色的”,引发地理概念与文化概念之间的混淆,因此改为“在中国的一个[地点]”。

第二,部分参与者过度关注模型的技术细节(如清晰度、物理结构合理性),与研究关注的文化主题偏离,因此在问卷前言与开放性问题中明确说明本研究关注文化层面的分析,请参与者忽略图像生成精度或画面瑕疵。

第三,个别参与者带入过于强烈的个人情感判断,偏离对于图像本身的审计,因此将主观评价的设问修改为“您认为这张图像在多大程度上对中国存在偏见”。

最终问卷确定为:“该图像描绘场景在中国有多大可能性出现,1=非常不可能,5=非常可能,数字越大表示可能性越大”;“该图像中的元素(包括物品、符号等)与实际场景多大程度上是匹配的,1=非常不匹配,5=非常匹配,数字越大表示匹配度越高”;“您认为这张图像在多大程度上对中国存在偏见,1=没有偏见,5=极端偏见,数字越大表示偏见程度越高”。

(四) 参与者招募

通过Credamo见数平台招募在中国生活的参与者参与审计,最终招募150名有效参与者,包含76名男性与74名女性,年龄分布为20~58周岁(平均值为30.24,标准差为8.23),受教育程度涵盖小学至研究生。研究通过Credamo平台线上进行,参与者需对实验图像集中随机抽取的20张图片分别进行观看评价,每位参与者独立完成审计,在观看每张图片之后需要作答量表,并文字输入对图片的评价与量表评分的原因。

四 研究发现

参与者通过文字输入的方式阐释自己对每张图片的感受与量表评分的原因,研究组对这些材料进行编码与分类。本文采用统一代码指代特定实验图片,如P23指一张描绘宫殿2的、使用2号模型Stable Diffusion3生成的第3张图片。

(一) 图像表征分析

总体而言,参与者对18.33%的图片表达了满意,并由此归纳出文生图大模型对中国理想的场景想象具备的三个评判要素:现实联想性、元素配置恰当与积极情感唤起。如表1所示。

现实联想性。参与者往往会对能够引发其对现实场景联想的图像给予较高的评价。所谓现实场景联想,既可以是对某个著名场景或某种建筑与装饰风格的联想,如一位参与者对P53评价“……类似故宫等皇家宫殿的风格,现存有很多”;也可以是与参与者生活中常见场景的联系,如一位参与者对F54评价“很像某个城市中的一个广场内部的喷泉”。

元素配置恰当。参与者普遍认为,理想的中国场景描绘中,画面元素选取要符合典型,并遵循正确的排放逻辑。如参与者对P21评价“符合中式宫殿的特征,红砖绿瓦……”,对A41评价“很符合中国画廊的样式,墙上有一些梅兰竹菊等中式植物的画像”。

积极情感唤起。许多参与者提到,能够在中华文化语境下唤起积极良好的情绪或情感的图像,会收获更高的评价。积极情感既包括诸如民族文化自信、社会发展进步等宏大议题,如参与者对S45评价“……在一线城市中心区域比较常见的摩天大楼,是这三十多年大力发展的成果”;也包括人际关怀、家庭生活等微观日常情景,如参与者对B63的评价“……既有中式典雅气息,又不失人气”。

接着,研究组对参与者提到图像中令其困惑或不适的要素进行编码归类,总结出文生图大模型在描绘中国场景时的典型问题。通过梳理,将问题归为三大类,分别是:元素错误、文化误读和风格滤染。具体而言,在元素错误方面,7%的图片表现出了伪汉字生成的问题,16.67%的图片表现出了建筑结构错误的问题,29%的图片表现出了时空错位的问题;在文化误读方面,31.33%的图片表现出了民俗失察的问题,22.33%的图片表现出了西方化呈现的问题;在风格滤染方面,38%的图片表现出了片面化叙事的问题,17%的图片表现出了多样性缺失的问题。具体如表2所示。

1 元素错误

元素错误这一问题维度指构成图像的基础视觉元素(如文字、建筑构件、时空标识等)存在与客观实际不符的偏差,包括元素的错误呈现、缺失或者多余等情况。具体而言,包含伪汉字生成、建筑结构错误与时空错位三大主要问题。

首先,伪汉字生成。语言文字符号,尤其是非字母形式的汉字生成,是文生图大模型描绘场景时极易出现的错误之处。汉字不仅是传播中华文明的载体,更承载着丰富的文化内涵和审美特质,是跨文化理解中国文化的关键桥梁37,而汉字的错用将会直接阻碍文化传播过程,削弱文化表达的准确性与有效性。通过图片观察与参与者回答编码,总结出伪汉字生成的两种具体表现。

一是字型混乱。文生图大模型生成的字符中,一些符号是对汉字结构的模仿,其往往采用传统书法字体中的笔画设计,但完全缺乏识别性。如对于图片P25,参与者认为墙体上方的红色“旗帜式”的符号类似汉字但无法辨认;对于图片R12,参与者表示尽管墙上的装饰物是书法形式,但因为无法识别而“不能确定是不是中国字”。

二是笔画拼贴。另一部分错误生成的字符,在整体框架上近似汉字且可近似辨认为特定汉字,但笔画形态或结构组合方式存在错误。如R42与R63两张图片呈现的饭店牌匾上,文字符号与汉字极其相似,但部分笔画的错误呈现让参与者认为“感到不舒服,对中华文化有一种不尊重的感觉”。

其次,建筑结构错误。建筑作为中国文化场景中的重要符号,并不总被文生图大模型准确绘制,有时出现建筑重要结构的缺损、冗余以及风格或功能上错配的情况。

一是建筑结构缺损。文生图大模型绘制建筑物时,有时出现建筑物重要功能性结构缺损的情况,导致建筑物的部分基本功能不能在图像中体现。如参与者指出,图片K24描绘的厨房没有窗户玻璃,直接与户外连通不符常理;而图片C21中的堡垒并没有与四周楼梯相接的门,不符合建筑设计逻辑。

二是建筑结构冗余。除了结构缺损的情况,文生图大模型往往将一些非必要的结构与建筑物相连,造成观感上的冗杂。结构冗余或是对于建筑设计惯例的忽视,如图片F21中“凉亭不会出现多层叠加的效果”;或是将不属于建筑本体的装饰物与建筑刻意绑定,如图片F31中喷泉上方多出一把油纸伞。

三是建筑结构错配。文生图大模型有时会将不同风格、不同体系的建筑结构错误拼配,造成结构组合上的逻辑错误。如参与者发现图片C25堡垒的土黄色外墙象征着战争塔防,而“上方的红色建筑像是祭祀的庙宇”,产生割裂;图片F33中的喷泉出现在肃穆的殿堂前,也不符合空间规划常理。

最后,时空错位。文生图大模型往往将分属不同历史时代或地理空间的元素并置于同一图像中,造成参与者对中国场景图像的困惑。具体而言,可分为时间冲突、自然环境冲突与经济环境冲突三种表现形式。

一是时间冲突。属于不同历史时代的元素被并置于同一张图片中,往往会给参与者造成图像与现实的强烈割裂感。如有参与者指出,图片K25中厨房整体呈现古代中国的情况,但其中现代化的燃气灶显得十分突兀;而图片R14中楼体外的空调暗示其现代背景,但图片中人物都身着古代服饰,与时代定位不符。

二是自然环境冲突。图像中的自然景观往往也暗含部分文化含义,而文生图大模型有时忽视了这一象征。如参与者指出,图片M25中巨大的豪华宅第建于深山之中,这在现实中不符合环境保护的法律规定;而图片C54中堡垒立于荒凉的不毛之地,不符合建筑物的功能定位。

三是经济环境冲突。文生图大模型绘制的图像中,有时呈现的社会活动、技术水平等与场景所暗示的生产力发展水平不匹配。如图片H11中,参与者发现“港口是破旧的设施,但背后是新建的高楼”;图片S13中,摩天大楼四周的房屋矮小破旧,不符合常见的城市规划逻辑。

2 文化误读

文化误读这一问题维度指绘制图像时,对中华民族文化共同体所普遍认可、约定俗成的文化符号(涵盖民俗符号、色彩象征意义等)内涵出现理解不充分或者错误解读的情况。其主要包含民俗失察与西方化呈现两大主要问题。

第一,民俗失察。文生图大模型绘制中国场景时,暴露其对中华文化中的民间习俗或习惯缺乏认知与关注,常常错误呈现民俗相关信息。

一是色彩语意冲突。色彩作为图像构成的重要元素,却在文生图大模型绘制中国场景时,出现与中华文化语境中的文化寓意、情感表达等相互矛盾的情况。如参与者对M62的评价“柱子上的蓝色对联非常刺眼,不符合规律”,对B33的评价“……房间墙壁以红色颜料来粉饰太不合乎常理”。

二是生活习惯偏差。文生图大模型往往绘制出与中国居民的日常生活习惯不符的图像,使参与者对于创作者非人类身份的感知过于强烈。一部分是对器物使用的曲解,如图片B64中“床上不能摆茶具,这是不符合常理的”;另一部分是对传统审美的忽视,如图片P55“石狮子边上的石雕在左侧没有放置,不符合对称美”。

第二,西方化呈现。文生图大模型有时会在描绘中国场景时过度融入西方元素,导致中国文化符号自身被削弱或扭曲。具体而言,有元素拼贴与风格嫁接两种体现形式。

一是元素拼贴。文生图大模型绘制中国场景时,有时将西方与东方的标志性元素粗暴拼贴或杂糅,而非保持文化风格的统一或恰当适度地融合。如对于图片M31,参与者指出建筑中式飞檐屋顶下方采用了西式的白墙,有强烈的割裂感;而图片F14中的龙图腾更形似西方文化语境中的龙形象。

二是风格嫁接。文生图大模型呈现中国景观时,有时误用与中国文化背景不符的西方艺术风格。如图片C33中的堡垒尽管采用了中式的配色,但建筑形制是传统的西方城堡建筑风格;而图片K15,参与者指出其将西式厨房的开放式结构与中国文化韵味的木质装修风格杂糅,显得有些突兀。

3 风格滤染

文生图大模型绘制中国场景时,在对客观事实以及文化内容进行呈现的基础上,有时或许会受到具有倾向性的审美模式、风格偏好或者意识形态立场的影响,使图像呈现出带有特定导向性的风格特点,本文将此类情况归纳为“风格滤染”。具体而言,其包含两大主要问题概念:夸张化呈现与片面化叙事。

第一,夸张化呈现。部分参与者表示,对于在一些特点上过于夸张化的图像,他们认为其并不能作为中国普遍场景的有效代表。这种夸张化不仅体现在过于繁盛或破败中,还体现在文生图大模型对于中国的第三种夸张化呈现形式——过于拥挤。

一是过于拥挤。Leung等38指出,西方媒体话语常将中国描述为人口密度高、人类与动物生活在狭小空间的未开化形象。这种认知在文生图大模型绘制中国场景时同样显现,具体表现为在建筑密度、人群规模与中华符号装饰上的夸张化呈现。如参与者对于图片A64评价“中国的画廊应该不会制作如此窄小的走廊,并且左右两边放如此密密麻麻的画作”;而对于图片C13,参与者指出“楼的风格、桥的风格和山水的风格感觉是众多刻板印象中中国元素的堆砌”。

二是过于破败。文生图大模型绘制的部分图像中,呈现出极度破败的场景,与当今中国的实际发展状况并不相符。如参与者认为图片H15中“渔船很多都是几十年前或者山水画中那种老旧的,是对中国经济落后的一种偏见”;而图片K35中肮脏破败的厨房被参与者评价为“不代表中国厨房的全部面貌”。

三是过于繁盛。文生图大模型生成的部分图片中,夸张地体现了对于古代中国盛况或现代中国发展的想象,出现了神话化或幻想式的描绘。如参与者认为图片P12对宫殿的描绘“建筑细节融合了过度理想化、程式化的设计”;而图片B13被认为是古代皇帝的寝宫,并不能反映大部分中国居民的生活状况。

第二,片面化叙事。在进行众多画面元素的排列时,文生图大模型在元素选择与排列方式上,有时会忽略中华文化与中国社会的多样性,进行单调重复的片面化展现。具体而言,可归纳出过度代表与机械复制两种表现形式。

一是过度代表。在凸显部分场景的中国属性时,文生图大模型有时会放大某一个或某一类中华文化符号,没有对现实中的多样性异质性进行如实体现。如图片B62中卧室的中国结让参与者有“刻意体现”的猜疑;而参与者对图片A54评价“一提到中国绘画就只想到山水画,是有偏见的”。

二是机械复制。文生图大模型绘制的部分场景内,元素高度相似且趋于同质化,缺乏变体,给人以与现实割裂的复制感。如对于图片R14,参与者发现“食客着装单一,有些奇怪”;而图片K31中“锅的材质与形状千篇一律,不符合现实需求”。

在上述三大类问题中,“元素错误”属于较为客观可验证的偏差,其表现多集中于视觉事实层面的失真,如汉字笔画的错误拼贴、建筑结构的逻辑错配及时空背景的混合使用等,这些问题具有清晰的可观察依据和一致的判断标准。而“文化误读”与“风格滤染”则带有更强的主观性与解释空间,参与者的判断往往依赖于个人的文化经验、价值认同与审美偏好。例如,对于何种色彩搭配更符合中式审美或何种建筑风格构成“西方化呈现”,参与者的理解存在差异。

这种差异反映出文生图大模型在生成中国场景时的双重困境:一方面,其在客观事实层面仍未能充分捕捉中国文化语境下的物象规律与结构逻辑;另一方面,在文化再现层面也暴露出对文化语意系统的理解不足。由此可见,文生图大模型的偏见不仅源于训练数据中对非西方文化的表征缺失,也体现出模型在语意层和符号层上的文化理解能力不足。

(二) 模型表现对比

实验图片集中的每张图片都随机被10名参与者进行独立评价。针对量表中的第三个问题——“您认为这张图像在多大程度上对中国存在偏见”,采用反向编码处理,以确保分值方向与“真实性”和“匹配度”等正向指标一致。随后,分别计算每张图片在场景真实性、元素匹配度与偏见感知度(反向编码后)三个维度上的得分。最后将三个维度的得分相加,得到每张图片的综合评价得分。量表Cronbach’s α=0.94,内部信度良好。6个文生图大模型的得分情况如表3所示。

同时,研究组根据是否为中国公司开发的文生图模型,将模型划分为两组,对其均值进行独立样本t检验。结果显示,中国公司开发的文生图模型与非中国公司开发的文生图模型在描绘中国场景时得分差异显著(t=-10.51,P<0.001)。中国公司开发的文生图模型(平均值为12.82,标准差为1.12)在描绘中国场景时得分显著高于非中国公司开发的文生图模型(平均值为11.16,标准差为1.57)。

进而,根据“典型问题归纳”部分得出的3个问题维度与7大问题概念,基于参与者对图片的评价,对每个模型生成的50张图像进行问题计数。表4展示了各模型生成图像在典型问题中发生频数的占比,其中前3个是非中国公司开发的文生图大模型,后3个是中国公司开发的文生图大模型。

经过卡方检验可以发现,非中国公司开发的文生图大模型在伪汉字生成(χ2=4.147 5,P=0.042)、时空错位(χ2=8.564 0,P=0.003)、西方化呈现(χ2=16.161 7,P=0.003)与片面性叙事(χ2=35.370 7,P<0.001)问题上,发生问题频次远大于中国公司开发的文生图大模型,且相当一部分为客观的事实性错误,如图片中床上放着茶具,现代港口中出现木质小船等。而具体到单个大模型,也呈现出不同的特点,如DALL·E的伪汉字生成问题较为严重,而Midjourney在片面化叙事问题上尤为凸显。

五 结论与讨论

(一) 研究结论

本研究以算法审计方法对比了中外6个主流文生图大模型在生成中国文化场景时的表现,重点审计其在场景真实性、元素匹配度与文化偏见性三个维度上的差异。研究结果显示:

文生图大模型在生成中国场景时主要存在三类问题:元素错误、文化误读与风格滤染。其中,元素错误属于客观层面偏差,文化误读反映模型对中华文化语意体系的理解不足,而风格滤染表现为模型在审美与叙事层面对中国的夸张化和片面化呈现。文生图大模型在生成中国场景时,兼具事实性与文化性两重偏差。

中国公司开发的文生图大模型整体表现显著优于非中国公司开发的模型。无论是在建筑、装饰元素的准确呈现,还是在对现实生活场景的再现上,本土模型均表现出更高的可信度与匹配度。非中国公司开发的文生图大模型更容易在生成过程中出现“西方化呈现”“片面化叙事”和“夸张化表达”等典型问题。这不仅反映了训练语料中潜在的西方中心主义倾向,也揭示了跨文化生成任务中隐含的符号误读与意义错位风险。与之相比,中国公司开发的模型在这些问题上发生频率较低,但仍存在伪汉字生成、民俗失察等不足。

总之,本土模型虽在文化适切性上更具优势,但并未完全避免对文化细节的误用;而非本土模型则更容易生产东方主义式的异域化想象。这一结论不仅印证了语料分布与文化语境对生成结果的显著影响,也为未来改进跨文化图像生成的公平性、多样性与准确性提供了实证依据。

(二) 研究局限性

本研究仍存在一些局限性。首先,样本量相对有限,尽管能够揭示一定的规律性,但可能不足以全面反映不同大模型在中华文化场景生成能力上的情况。其次,文化符号的呈现覆盖度有限。在生成的场景中,部分具有高度代表性的文化符号(如汉字)出现频率较低,导致伪汉字或失真汉字的生成概率本身偏低,这可能影响对相关问题的系统性评估。最后,提示词语言间的语意差异亦可能对生成结果造成影响。即便在研究设计中保持最大限度的一致性,中英文提示词在内涵与文化语境上的差异,仍可能导致生成图像在构成与风格上的偏差,从而在一定程度上干扰了对于中外文生图大模型对于中国文化符号呈现偏差的纯粹性考察。

(三) 未来研究展望

在使用不同文本生成图像模型生成图片的过程中,研究发现提示词语言(中文与英文)会显著影响生成图像的风格:中文提示词更倾向于生成现代风格的场景,英文提示词则更偏向于古风。这一现象可能源自训练数据中的语料——提示词的文化偏差。由于模型在训练阶段吸收的语料与图像存在强关联,不同语言的数据分布差异会直接影响生成风格:英文语料可能更多地与古典化、东方奇观化的中国文化图像共现,而中文语料则更多关联当代中国的现代化语境。因此,在面对不同语言的提示词时,模型会自动调用对应语言最常见的视觉分布,从而导致跨语言风格差异。

这一发现与现有文献关于跨语言与地缘文化偏见的研究结果相呼应,即语料分布差异会深刻影响模型在文化再现中的表现。基于此,未来研究需要更系统地揭示提示词语言与生成表现之间的因果机制,可设计跨语言、跨文化的系统对比实验,在控制其他变量的情况下,仅改变提示词语言,生成并收集大规模图像样本,从风格倾向、文化元素的准确性与多样性等维度展开量化分析。此类实证研究将有助于揭示语言提示在视觉输出中的作用方式,明确不同语言在文化再现中的偏好结构与影响程度,并为提升文生图模型的跨语言文化生成能力提供理论与实践依据。

参考文献

[1]

GHOSH SCALISKAN A. “Person” = light-skinned, western man, and sexualization of women of color: stereotypes in stable diffusion[C]//Proceedings of the conference on empirical methods in natural language processing. Association for Computational Linguistics, 2023: 6971-6985.

[2]

MACK K AQADRI RDENTON Ret al. They only care to show us the wheelchair: disability representation in text-to-image AI models[C]//Proceedings of the CHI conference on human factors in computing systems.ACM, 2024: 1-23.

[3]

ZHANG L. The myth of the other: China in the eyes of the West[J]. China Information200822(1): 1-27.

[4]

OOI S MD’ARCANGELIS G. Framing China: discourses of othering in US news and political rhetoric[J]. Global Media and China20182(3/4): 269-283.

[5]

WANG ZJIANG MWANG Tet al. Partiality and misconception: investigating cultural representativeness in text-to-image models[C]//Proceedings of the 2024 CHI conference on human factors in computing systems. ACM, 2024: 1-20.

[6]

DE BEER A S. News: the fleeting, elusive, but essential feature of global journalism[M]//DE BEER A S, MERRILL J C. Global journalism: topical issues and media systems. Pearson, 2004: 163-176.

[7]

MERRILL J C. International media systems: an overview[M]//DE BEER A S, MERRILL J C. Global journalism: topical issues and media systems. Pearson, 2004: 19-34.

[8]

WEAVER D HWILHOIT G C. Foreign news in the western agencies[M]//STEVENSON R L, SHAW D L. Foreign news and the new world information order. Ames: Iowa State University Press, 1984: 153-185.

[9]

MORGAN J. Distinguishing truth, knowledge, and belief: a philosophical contribution to the problem of images of China[J]. Modern China200430(3): 398-427.

[10]

YU GWANG M. The change of Beijing image in the foreign media: an analysis of coverage by mainstream English media[J]. Global Media and China20172(3/4): 333-351.

[11]

SHI LJIANG YMA J. China’s metaphorically “othered” image in The New York Times (1949-2020[J]. Journalism202325(10): 2079-2098.

[12]

MENG GRAZI S A B H MKASIMON D. Decoding Chinese Kung Fu films: cultural symbolism, audience cognition, and the formation of national identity[J]. Environment and Social Psychology202510(6):1-14.

[13]

CHEN Y. Analysis of Chinese cultural symbols in Hollywood movies[J]. Lecture Notes in Education Psychology and Public Media2025109(1): 27-33.

[14]

HANSEN C. Chinese ideographs and Western ideas[J]. The Journal of Asian Studies199352(2): 373-399.

[15]

MULLANEY T S. The Chinese typewriter: a history[M]. Cambridge: Harvard University Press, 2017:65-66.

[16]

杨越明, 藤依舒. 国外民众对中国文化符号的认知与印象研究:《2017外国人对中国文化认知调研》系列报告之一[J]. 对外传播2018(8): 50-53.

[17]

MAYNEZ JNARAYAN SBOHNET Bet al. On faithfulness and factuality in abstractive summarization[C]//JURAFSKY D, CHAI J, SCHLUTER N, et al. Proceedings of the 58th annual meeting of the association for computational linguistics. Association for Computational Linguistics, 2020: 1906-1919.

[18]

BANG YCAHYAWIJAYA SLEE Net al. A multitask, multilingual, multimodal evaluation of ChatGPT on reasoning, hallucination, and interactivity[C]//PARK J C, ARASE Y, HU B, et al. Proceedings of the 13th international joint conference on natural language processing and the 3rd conference of the Asia-Pacific chapter of the association for computational linguistics. Nusa Dua, Bali: Association for Computational Linguistics, 2023: 675-718.

[19]

HUANG LYU WMA Wet al. A survey on hallucination in large language models: principles, taxonomy, challenges, and open questions[J]. ACM Transactions on Information Systems202543(2): 1-55.

[20]

陈昌凤, 张梦. 由数据决定 ? AIGC的价值观和伦理问题[J]. 新闻与写作2023(4): 15-23.

[21]

BOZDAG E. Bias in algorithmic filtering and personalization[J]. Ethics and Information Technology201315(3): 209-227.

[22]

VAUGHAN LTHELWALL M. Search engine coverage bias: evidence and possible causes[J]. Information Processing & Management200440(4): 693-707.

[23]

师文, 陈昌凤. 国内主流搜索引擎的算法审计研究[J]. 新闻大学2022(10): 84-100.

[24]

塔娜, 林聪. 点击搜索之前:针对搜索引擎自动补全算法偏见的实证研究[J]. 国际新闻界2023(8): 132-154.

[25]

周葆华, 罗沛. 搜索引擎图片中的职业性别刻板印象:基于跨平台算法审计的研究[J]. 新闻大学2024(6): 1-17.

[26]

NOBLE S U. Google search: hyper-visibility as a means of rendering black women and girls invisible[J]. InVisible Culture2013: 1-36.

[27]

李霄骞, 杨婧文, 塔娜. 提示词设计如何塑造人机关系:从双向对齐到情境化互动[J]. 新媒体与网络2025(3): 14-31.

[28]

BIANCHI FKALLURI PDURMUS Eet al. Easily accessible text-to-image generation amplifies demographic stereotypes at large scale[C]//Proceedings of the 2023 ACM conference on fairness, accountability, and transparency. 2023: 1493-1504.

[29]

JHA A, PRABHAKARAN VDENTON Ret al. ViSAGe: a global-scale analysis of visual stereotypes in text-to-image generation[C]//KU L W, MARTINS A, SRIKUMAR V. Proceedings of the 62nd annual meeting of the association for computational linguistics. Bangkok: Association for Computational Linguistics, 2024: 12333-12347.

[30]

LAN XAN JGUO Yet al. Imagining the far east: exploring perceived biases in AI-generated images of east Asian women[C]//Proceedings of the extended abstracts of the CHI conference on human factors in computing systems. New York: Association for Computing Machinery, 2025.

[31]

BASU ABABU R VPRUTHI D. Inspecting the geographical representativeness of images from text-to-image models[C]. 2023 IEEE/CVF international conference on computer vision, 2023: 5113-5124.

[32]

DEVOS ADHABALIA ASHEN Het al. Toward user-driven algorithm auditing: investigating users’ strategies for uncovering harmful algorithmic behavior[C]//Proceedings of the 2022 CHI conference on human factors in computing systems, 2022:1-19.

[33]

BANDY J. Problematic machine behavior: a systematic literature review of algorithm audits[J]. Proceedings of the ACM on Human-Computer Interaction20215(CSCW1): 1-34.

[34]

ZHOU XJIN YWEI F. The mechanism of othering: a discourse analysis of the construction of China’s image in EurActiv and Euronews[J]. International Communication Gazette202587(8): 793-814.

[35]

AZIZ MREHMAN UDANISH M Uet al. Global-local image perceptual score (GLIPS): evaluating photorealistic quality of AI-generated images[J]. IEEE Transactions on Human-Machine Systems202555(2): 223-233.

[36]

NAYAK SBHATIA MZHANG Xet al. Cultural frames: assessing cultural expectation alignment in text-to-image models and evaluation metrics[C]//CHRISTODOULOPOULOS C, CHAKRABORTY T, ROSE C, et al. Findings of the association for computational linguistics: EMNLP 2025. Suzhou: Association for Computational Linguistics, 2025: 20918-20953.

[37]

王悦欣. 中国文化对外传播中汉字的审美与表达[J]. 河北大学学报(哲学社会科学版)2013(5): 94-97.

[38]

LEUNG C C MHUANG Y. The paradox of journalistic representation of the other: the case of SARS coverage on China and Vietnam by western-led English-language media in five countries[J]. Journalism20078(6): 675-697.

基金资助

国家自然科学基金项目(62402121)

复旦大学新闻学院科研创新项目

复旦大学本科生学术研究资助计划(250004)

AI Summary AI Mindmap
PDF (4431KB)

0

访问

0

被引

详细

导航
相关文章

AI思维导图

/