Datasets:
Download README_ZH.md from RL-MIND/HARD-VQA: direct link, hf CLI and curl.
- Browser
- Download file 9.17 kB
-
https://huggingface.co/datasets/RL-MIND/HARD-VQA/resolve/main/README_ZH.md
- Command line
-
hf download hf://datasets/RL-MIND/HARD-VQA/README_ZH.md
-
curl -L -o README_ZH.md https://huggingface.co/datasets/RL-MIND/HARD-VQA/resolve/main/README_ZH.md
HARD-VQA
|
|
每题内嵌原图的超高分辨率航拍视觉问答数据集
🤗 Hugging Face · 🟣 ModelScope · 📊 Statistics
English:Hugging Face · ModelScope | 中文
📚 简介
HARD-VQA 将超高分辨率航拍视觉问答数据组织为每题自包含的 Parquet 分片。每一行对应一道多项选择题,所需原始 JPEG 字节直接嵌入有序的 images 列。单图、双图和三图问题均保留原有图像顺序。
原生数据包包含 1,563 条有效问题,覆盖 8 类任务,使用来自 NJU-xianlin、UAV-BASE-13 和 UAV-BASE-14 的 854 张不同原图。每张原图的分辨率均为 12,768 × 9,564 像素。读取单条记录无需外部图像目录、图片 URL 或原始服务器:每个嵌入图像的 path 为 null,bytes 中保存完整 JPEG。
HARD-VQA 与 NJU-HARD 使用相同的有效问题和原始图像,区别在于存储布局。 HARD-VQA 在每题记录中直接存放所需原图,多题共用的图像会重复存储。Hugging Face 上的 NJU-HARD / ModelScope 则在 images 配置中仅存储一次每张原图,由独立的 questions 配置关联引用。
📊 数据集概览
| 项目 | 原生数据包 |
|---|---|
| 有效问题 | 1,563 |
| 任务类型 | 8 |
| 不同原始图像 | 854 |
| 有序图像出现次数 | 2,571 |
| 单图 / 双图 / 三图问题 | 855 / 408 / 300 |
| 原始分辨率 | 12,768 × 9,564 像素 |
| 不重复的源 JPEG 总字节数 | 87,637,348,481 字节 |
| 按问题展开的 JPEG 字节数(Parquet 压缩前) | 263,224,331,477 字节 |
| 原始分辨率 Parquet | 391 个分片;263,218,065,108 字节(约 263.22 GB) |
| 默认配置 / 划分 | default / unsplit |
| 浏览预览 | 每类任务一个样例,共 8 条,使用派生缩略图 |
这些数字描述原生数据包。多题重复存储图像是本版本体积较大的原因。原始 JPEG 没有缩放、裁剪或重新编码;预览缩略图是单独提供的浏览辅助内容。
| 原始任务标签 | 问题数 |
|---|---|
classification |
250 |
counting |
200 |
property |
154 |
spatial_relation |
100 |
task1_specialdetect |
66 |
task3_region_single |
151 |
task4_findit_nearbox |
342 |
task_2_relocate |
300 |
| 合计 | 1,563 |
📦 数据组织
| 配置 | 划分 | 内容 |
|---|---|---|
default (默认) |
unsplit |
问题记录,每一行均嵌入该题所需全部原图 |
preview |
sample |
8 条带内嵌缩略图的浏览样例 |
data/ # 391 个原始分辨率 Parquet 分片
preview/ # vqa_preview.parquet:8 条缩略图样例
provenance/ # 校验和、排除记录及验证报告
statistics.json
原始分辨率数据的字段如下:
| 字段 | 类型 | 含义 |
|---|---|---|
question_id |
int32 |
原始问题编号 |
images |
Sequence(Image()) / List(Image()) |
完整原始 JPEG 字节,按 Image 1、Image 2、Image 3 排列 |
question |
string |
原始问题文本 |
options |
含 A/B/C/D 字符串的 struct | 原始选项;二选一问题的 C/D 为 null |
answer |
string |
源数据给定的正确选项键 |
answer_text |
string |
源答案键对应的选项文本 |
task_type |
string |
原始任务标签 |
num_images |
int32 |
有序图像数量 |
source_image_paths |
字符串列表 | 仅用于来源追溯,读取图像不依赖这些路径 |
reference_bbox |
int64 列表 |
源数据提供时保留的 XYXY 像素坐标 |
scene、sequence |
string |
图像序列标识 |
quality_flags |
字符串列表 | 已记录的源数据质量问题 |
Parquet 特征元数据采用兼容的 Sequence(Image()) 表示,较新的 Datasets 版本会将其规范化为 List(Image())。
🚀 快速开始
使用 **datasets>=3.6**。数据包已通过 Datasets 3.6.0 和 5.0.0 的检查。可以先读取小型预览:
from datasets import load_dataset
preview = load_dataset("RL-MIND/HARD-VQA", "preview", split="sample")
print(preview[0]["question"], preview[0]["options"])
流式读取原始分辨率样例,并将图像保留为 JPEG 字节:
from datasets import Image, Sequence, load_dataset
ds = load_dataset(
"RL-MIND/HARD-VQA", "default", split="unsplit", streaming=True
)
ds = ds.cast_column("images", Sequence(Image(decode=False)))
row = next(iter(ds))
print(row["question"], row["options"], row["answer"])
original_jpeg_bytes = row["images"][0]["bytes"]
流式读取无需先下载整个数据包。单张原图较大,建议逐条检查样例,并在解码前预留足够内存。解码已知的数据包原图:
from io import BytesIO
from PIL import Image as PILImage
PILImage.MAX_IMAGE_PIXELS = None # 打包时已验证的超高分辨率原图。
image = PILImage.open(BytesIO(original_jpeg_bytes))
对于从 Hugging Face(RL-MIND/HARD-VQA)或 ModelScope(KAIWANG/HARD-VQA)下载到本地的快照,可使用同一个 Parquet 加载方式:
ds = load_dataset(
"parquet",
data_files={"unsplit": "/path/to/HARD-VQA/data/*.parquet"},
split="unsplit",
)
完整加载原始分辨率数据约需传输 263.22 GB,并建立本地缓存;请额外预留缓存空间。
🔎 预览与原始分辨率
preview 配置使用 1,024 像素缩略图,并为每一行设置 preview_only=true,用于浏览。问题保留原始表述;缩略图不等同于原始分辨率评测数据。
对于不能展示图像列表的浏览器,预览还提供独立的 image_1、image_2 和 image_3 图像列。不存在的第二张或第三张图像为 null,同时保留有序的 images 列。原图和基于原图坐标的标注应使用 default 配置。
✅ 源数据审计与划分
源数据包含 1,565 条记录。编号 476 和 496 因生成结果解析失败,其问题、选项和答案为空,已排除并记录于 excluded_records.jsonl。仅被这些排除记录引用的图像没有纳入数据包。
编号 597 按原样保留,并标记 duplicate_option_text:选项 A 与 B 均为 white,源答案为 B。需要唯一正确选项的评测可过滤带质量标记的记录。
问题文本、选项、答案键、图像顺序和源数据提供的边界框均被保留。结构验证不等同于验证每个源答案的语义正确性。源数据没有规定训练、验证或测试集归属,因此原始分辨率数据使用单一 unsplit 划分。下游自行划分时,应考虑共用图像和相邻帧带来的关联。
🔐 完整性与来源
打包过程使用 SHA-256 对照源文件检查嵌入图像字节,并记录原图和 Parquet 校验和。验证报告记录问题字段保留情况、有序图像引用以及 schema 兼容性:
ModelScope 数据包也在 provenance/ 目录和 statistics.json 中提供相同文件。
📜 许可
源数据未提供许可证声明,因此数据卡保留 **license: unknown**。此次打包不新增授予任何使用许可;使用条款请联系数据集所有者。