HARD-VQA / README_ZH.md
FelixKAI's picture
Publish verified English and Chinese dataset cards
e9632fb verified
|
Raw History Blame Contribute Delete
9.17 kB

HARD-VQA

RL-MIND research group logo HARD-VQA dataset logo

每题内嵌原图的超高分辨率航拍视觉问答数据集

🤗 Hugging Face · 🟣 ModelScope · 📊 Statistics

English:Hugging Face · ModelScope | 中文

📚 简介

HARD-VQA 将超高分辨率航拍视觉问答数据组织为每题自包含的 Parquet 分片。每一行对应一道多项选择题,所需原始 JPEG 字节直接嵌入有序的 images 列。单图、双图和三图问题均保留原有图像顺序。

原生数据包包含 1,563 条有效问题,覆盖 8 类任务,使用来自 NJU-xianlin、UAV-BASE-13 和 UAV-BASE-14 的 854 张不同原图。每张原图的分辨率均为 12,768 × 9,564 像素。读取单条记录无需外部图像目录、图片 URL 或原始服务器:每个嵌入图像的 path 为 null,bytes 中保存完整 JPEG。

HARD-VQA 与 NJU-HARD 使用相同的有效问题和原始图像,区别在于存储布局。 HARD-VQA 在每题记录中直接存放所需原图,多题共用的图像会重复存储。Hugging Face 上的 NJU-HARD / ModelScope 则在 images 配置中仅存储一次每张原图,由独立的 questions 配置关联引用。

📊 数据集概览

项目 原生数据包
有效问题 1,563
任务类型 8
不同原始图像 854
有序图像出现次数 2,571
单图 / 双图 / 三图问题 855 / 408 / 300
原始分辨率 12,768 × 9,564 像素
不重复的源 JPEG 总字节数 87,637,348,481 字节
按问题展开的 JPEG 字节数(Parquet 压缩前) 263,224,331,477 字节
原始分辨率 Parquet 391 个分片;263,218,065,108 字节(约 263.22 GB)
默认配置 / 划分 default / unsplit
浏览预览 每类任务一个样例,共 8 条,使用派生缩略图

这些数字描述原生数据包。多题重复存储图像是本版本体积较大的原因。原始 JPEG 没有缩放、裁剪或重新编码;预览缩略图是单独提供的浏览辅助内容。

原始任务标签 问题数
classification 250
counting 200
property 154
spatial_relation 100
task1_specialdetect 66
task3_region_single 151
task4_findit_nearbox 342
task_2_relocate 300
合计 1,563

📦 数据组织

配置 划分 内容
default (默认) unsplit 问题记录,每一行均嵌入该题所需全部原图
preview sample 8 条带内嵌缩略图的浏览样例
data/        # 391 个原始分辨率 Parquet 分片
preview/     # vqa_preview.parquet:8 条缩略图样例
provenance/  # 校验和、排除记录及验证报告
statistics.json

原始分辨率数据的字段如下:

字段 类型 含义
question_id int32 原始问题编号
images Sequence(Image()) / List(Image()) 完整原始 JPEG 字节,按 Image 1、Image 2、Image 3 排列
question string 原始问题文本
options 含 A/B/C/D 字符串的 struct 原始选项;二选一问题的 C/D 为 null
answer string 源数据给定的正确选项键
answer_text string 源答案键对应的选项文本
task_type string 原始任务标签
num_images int32 有序图像数量
source_image_paths 字符串列表 仅用于来源追溯,读取图像不依赖这些路径
reference_bbox int64 列表 源数据提供时保留的 XYXY 像素坐标
scene、sequence string 图像序列标识
quality_flags 字符串列表 已记录的源数据质量问题

Parquet 特征元数据采用兼容的 Sequence(Image()) 表示,较新的 Datasets 版本会将其规范化为 List(Image())。

🚀 快速开始

使用 **datasets>=3.6**。数据包已通过 Datasets 3.6.0 和 5.0.0 的检查。可以先读取小型预览:

from datasets import load_dataset

preview = load_dataset("RL-MIND/HARD-VQA", "preview", split="sample")
print(preview[0]["question"], preview[0]["options"])

流式读取原始分辨率样例,并将图像保留为 JPEG 字节:

from datasets import Image, Sequence, load_dataset

ds = load_dataset(
    "RL-MIND/HARD-VQA", "default", split="unsplit", streaming=True
)
ds = ds.cast_column("images", Sequence(Image(decode=False)))
row = next(iter(ds))
print(row["question"], row["options"], row["answer"])
original_jpeg_bytes = row["images"][0]["bytes"]

流式读取无需先下载整个数据包。单张原图较大,建议逐条检查样例,并在解码前预留足够内存。解码已知的数据包原图:

from io import BytesIO
from PIL import Image as PILImage

PILImage.MAX_IMAGE_PIXELS = None  # 打包时已验证的超高分辨率原图。
image = PILImage.open(BytesIO(original_jpeg_bytes))

对于从 Hugging Face(RL-MIND/HARD-VQA)或 ModelScope(KAIWANG/HARD-VQA)下载到本地的快照,可使用同一个 Parquet 加载方式:

ds = load_dataset(
    "parquet",
    data_files={"unsplit": "/path/to/HARD-VQA/data/*.parquet"},
    split="unsplit",
)

完整加载原始分辨率数据约需传输 263.22 GB,并建立本地缓存;请额外预留缓存空间。

🔎 预览与原始分辨率

preview 配置使用 1,024 像素缩略图,并为每一行设置 preview_only=true,用于浏览。问题保留原始表述;缩略图不等同于原始分辨率评测数据。

对于不能展示图像列表的浏览器,预览还提供独立的 image_1、image_2 和 image_3 图像列。不存在的第二张或第三张图像为 null,同时保留有序的 images 列。原图和基于原图坐标的标注应使用 default 配置。

✅ 源数据审计与划分

源数据包含 1,565 条记录。编号 476 和 496 因生成结果解析失败,其问题、选项和答案为空,已排除并记录于 excluded_records.jsonl。仅被这些排除记录引用的图像没有纳入数据包。

编号 597 按原样保留,并标记 duplicate_option_text:选项 A 与 B 均为 white,源答案为 B。需要唯一正确选项的评测可过滤带质量标记的记录。

问题文本、选项、答案键、图像顺序和源数据提供的边界框均被保留。结构验证不等同于验证每个源答案的语义正确性。源数据没有规定训练、验证或测试集归属,因此原始分辨率数据使用单一 unsplit 划分。下游自行划分时,应考虑共用图像和相邻帧带来的关联。

🔐 完整性与来源

打包过程使用 SHA-256 对照源文件检查嵌入图像字节,并记录原图和 Parquet 校验和。验证报告记录问题字段保留情况、有序图像引用以及 schema 兼容性:

ModelScope 数据包也在 provenance/ 目录和 statistics.json 中提供相同文件。

📜 许可

源数据未提供许可证声明,因此数据卡保留 **license: unknown**。此次打包不新增授予任何使用许可;使用条款请联系数据集所有者。