文章首次系统评估了四种大型视觉语言模型(CLIP、LLaVA、OpenFlamingo、GPT-4o)在艺术史属性分类任务中的表现,包括艺术风格、作者和时期预测。通过WikiArt和JenAesthetics基准数据集及自建挑战集ArTest的分析表明,GPT-4o在风格分类上表现最佳(ArTest准确率65.31%),但仍显著低于专用模型的71.24%。研究发现模型对印象派、巴洛克等流行风格识别较好,但对立体主义分支等复杂风格存在混淆。添加作者和年代信息可提升LLaVA性能20%,但模型仍会犯艺术史专家不可接受的错误,强调该领域仍需专家监督。
艺术史分类涉及作者、时期、地理起源等多维度属性,传统上依赖专家人工分析。尽管自动化分类能提升艺术品管理效率,但艺术风格的多样性(从写实到抽象)使其成为极具挑战的任务。大型视觉语言模型(VLMs)在多领域表现出色,但尚未在艺术史领域被系统评估。
文章评估四种前沿VLMs:CLIP(基于对比学习的图像-文本匹配)、LLaVA(视觉指令微调的多模态助手)、OpenFlamingo(自回归视觉语言模型)和GPT-4o(闭源多模态模型)。所有测试均在零样本场景下进行,未针对任务微调。
采用三个核心数据集:WikiArt(81,449幅画作,27种风格)、JenAesthetics(1,576幅油画,11个时期)和专家策划的ArTest挑战集(147幅关键作品,含毕加索多风格作品及艺术史经典)。ArTest特别包含36幅WikiArt未收录的非常规画作。
聚焦三个艺术史属性预测:
1. 艺术风格分类(27类)
2. 作者识别(最高1,119位艺术家)
3. 时期预测(按世纪/十年评估)
创新性地探索上下文提示增强策略,如在LLaVA提示中加入作者和创作年份信息。
GPT-4o表现最优(WikiArt 51.62%,ArTest 65.31%),但仍落后专用模型11个百分点。所有模型对巴洛克、印象派等流行风格识别较好(F1最高0.9),但对行动绘画、新现实主义等风格识别率为零。添加作者和年份信息使LLaVA在JenAesthetics准确率提升20.47%,但对俄语艺术家作品无效。
模型混淆具有时空相似性的风格:
- CLIP将现实主义误判为浪漫主义(训练集偏差)
- LLaVA将37%的立体主义作品错误归为分析立体主义
- GPT-4o将弗兰克·斯特拉的《马拉喀什》(色域绘画)误判为欧普艺术
OpenFlamingo存在严重词汇缺陷,常输出"鱼类学"等无关标签。
作者识别中,CLIP在ArTest达63.27%(知名艺术家优势),但将9幅毕加索作品误归乔治·布拉克。时期预测上,CLIP世纪级准确率最高(WikiArt 89.25%),而LLaVA因频繁输出"19世纪"(实际画作均创作于1900年后)表现差于随机基线。
VLMs在艺术史多任务处理上展现潜力,但存在根本局限:
1. 对艺术运动边界理解不足,尤其立体主义等复杂风格
2. 描述缺乏专业性(如将"湿壁画"误认为艺术风格)
3. 非知名艺术家识别率骤降
文章强调当前模型无法替代艺术史专家,需建立专家监督机制避免错误传播,未来需融合艺术史知识图谱改进模型。