# HARD-VQA
|
|
每题内嵌原图的超高分辨率航拍视觉问答数据集
🤗 Hugging Face · 🟣 ModelScope · 📊 Statistics
English:Hugging Face · ModelScope | 中文
## 📚 简介 **HARD-VQA** 将超高分辨率航拍视觉问答数据组织为**每题自包含的 Parquet 分片**。每一行对应一道多项选择题,所需原始 JPEG 字节直接嵌入有序的 `images` 列。单图、双图和三图问题均保留原有图像顺序。 原生数据包包含 **1,563 条有效问题**,覆盖 **8 类任务**,使用来自 `NJU-xianlin`、`UAV-BASE-13` 和 `UAV-BASE-14` 的 **854 张不同原图**。每张原图的分辨率均为 **12,768 × 9,564 像素**。读取单条记录无需外部图像目录、图片 URL 或原始服务器:每个嵌入图像的 `path` 为 null,`bytes` 中保存完整 JPEG。 **HARD-VQA 与 NJU-HARD 使用相同的有效问题和原始图像,区别在于存储布局。** HARD-VQA 在每题记录中直接存放所需原图,多题共用的图像会重复存储。[Hugging Face 上的 NJU-HARD](https://huggingface.co/datasets/RL-MIND/NJU-HARD) / [ModelScope](https://www.modelscope.cn/datasets/KAIWANG/NJU-HARD) 则在 `images` 配置中仅存储一次每张原图,由独立的 `questions` 配置关联引用。 ## 📊 数据集概览 | 项目 | 原生数据包 | |:---|:---| | 有效问题 | 1,563 | | 任务类型 | 8 | | 不同原始图像 | 854 | | 有序图像出现次数 | 2,571 | | 单图 / 双图 / 三图问题 | 855 / 408 / 300 | | 原始分辨率 | 12,768 × 9,564 像素 | | 不重复的源 JPEG 总字节数 | 87,637,348,481 字节 | | 按问题展开的 JPEG 字节数(Parquet 压缩前) | 263,224,331,477 字节 | | 原始分辨率 Parquet | 391 个分片;263,218,065,108 字节(约 263.22 GB) | | 默认配置 / 划分 | `default` / `unsplit` | | 浏览预览 | 每类任务一个样例,共 8 条,使用派生缩略图 | 这些数字描述原生数据包。多题重复存储图像是本版本体积较大的原因。原始 JPEG **没有缩放、裁剪或重新编码**;预览缩略图是单独提供的浏览辅助内容。 | 原始任务标签 | 问题数 | |:---|---:| | `classification` | 250 | | `counting` | 200 | | `property` | 154 | | `spatial_relation` | 100 | | `task1_specialdetect` | 66 | | `task3_region_single` | 151 | | `task4_findit_nearbox` | 342 | | `task_2_relocate` | 300 | | **合计** | **1,563** | ## 📦 数据组织 | 配置 | 划分 | 内容 | |:---|:---|:---| | `default` **(默认)** | `unsplit` | 问题记录,每一行均嵌入该题所需全部原图 | | `preview` | `sample` | 8 条带内嵌缩略图的浏览样例 | ```text data/ # 391 个原始分辨率 Parquet 分片 preview/ # vqa_preview.parquet:8 条缩略图样例 provenance/ # 校验和、排除记录及验证报告 statistics.json ``` 原始分辨率数据的字段如下: | 字段 | 类型 | 含义 | |:---|:---|:---| | `question_id` | `int32` | 原始问题编号 | | `images` | `Sequence(Image())` / `List(Image())` | 完整原始 JPEG 字节,按 Image 1、Image 2、Image 3 排列 | | `question` | `string` | 原始问题文本 | | `options` | 含 A/B/C/D 字符串的 struct | 原始选项;二选一问题的 C/D 为 null | | `answer` | `string` | 源数据给定的正确选项键 | | `answer_text` | `string` | 源答案键对应的选项文本 | | `task_type` | `string` | 原始任务标签 | | `num_images` | `int32` | 有序图像数量 | | `source_image_paths` | 字符串列表 | 仅用于来源追溯,读取图像不依赖这些路径 | | `reference_bbox` | `int64` 列表 | 源数据提供时保留的 XYXY 像素坐标 | | `scene`、`sequence` | `string` | 图像序列标识 | | `quality_flags` | 字符串列表 | 已记录的源数据质量问题 | Parquet 特征元数据采用兼容的 `Sequence(Image())` 表示,较新的 Datasets 版本会将其规范化为 `List(Image())`。 ## 🚀 快速开始 使用 **`datasets>=3.6`**。数据包已通过 Datasets **3.6.0 和 5.0.0** 的检查。可以先读取小型预览: ```python from datasets import load_dataset preview = load_dataset("RL-MIND/HARD-VQA", "preview", split="sample") print(preview[0]["question"], preview[0]["options"]) ``` 流式读取原始分辨率样例,并将图像保留为 JPEG 字节: ```python from datasets import Image, Sequence, load_dataset ds = load_dataset( "RL-MIND/HARD-VQA", "default", split="unsplit", streaming=True ) ds = ds.cast_column("images", Sequence(Image(decode=False))) row = next(iter(ds)) print(row["question"], row["options"], row["answer"]) original_jpeg_bytes = row["images"][0]["bytes"] ``` 流式读取无需先下载整个数据包。单张原图较大,建议逐条检查样例,并在解码前预留足够内存。解码已知的数据包原图: ```python from io import BytesIO from PIL import Image as PILImage PILImage.MAX_IMAGE_PIXELS = None # 打包时已验证的超高分辨率原图。 image = PILImage.open(BytesIO(original_jpeg_bytes)) ``` 对于从 Hugging Face(`RL-MIND/HARD-VQA`)或 ModelScope(`KAIWANG/HARD-VQA`)下载到本地的快照,可使用同一个 Parquet 加载方式: ```python ds = load_dataset( "parquet", data_files={"unsplit": "/path/to/HARD-VQA/data/*.parquet"}, split="unsplit", ) ``` 完整加载原始分辨率数据约需传输 **263.22 GB**,并建立本地缓存;请额外预留缓存空间。 ## 🔎 预览与原始分辨率 `preview` 配置使用 **1,024 像素缩略图**,并为每一行设置 `preview_only=true`,用于浏览。问题保留原始表述;缩略图不等同于原始分辨率评测数据。 对于不能展示图像列表的浏览器,预览还提供独立的 `image_1`、`image_2` 和 `image_3` 图像列。不存在的第二张或第三张图像为 null,同时保留有序的 `images` 列。原图和基于原图坐标的标注应使用 `default` 配置。 ## ✅ 源数据审计与划分 源数据包含 **1,565 条记录**。编号 **476** 和 **496** 因生成结果解析失败,其问题、选项和答案为空,已排除并记录于 [excluded_records.jsonl](https://huggingface.co/datasets/RL-MIND/HARD-VQA/blob/main/provenance/excluded_records.jsonl)。仅被这些排除记录引用的图像没有纳入数据包。 编号 **597** 按原样保留,并标记 `duplicate_option_text`:选项 A 与 B 均为 `white`,源答案为 B。需要唯一正确选项的评测可过滤带质量标记的记录。 问题文本、选项、答案键、图像顺序和源数据提供的边界框均被保留。结构验证不等同于验证每个源答案的语义正确性。源数据没有规定训练、验证或测试集归属,因此原始分辨率数据使用单一 **`unsplit`** 划分。下游自行划分时,应考虑共用图像和相邻帧带来的关联。 ## 🔐 完整性与来源 打包过程使用 SHA-256 对照源文件检查嵌入图像字节,并记录原图和 Parquet 校验和。验证报告记录问题字段保留情况、有序图像引用以及 schema 兼容性: - [原图校验和](https://huggingface.co/datasets/RL-MIND/HARD-VQA/blob/main/provenance/original_images.sha256.jsonl) - [Parquet 分片校验和](https://huggingface.co/datasets/RL-MIND/HARD-VQA/blob/main/provenance/parquet.sha256.jsonl) - [验证报告](https://huggingface.co/datasets/RL-MIND/HARD-VQA/blob/main/provenance/validation.json) - [Schema 兼容性报告](https://huggingface.co/datasets/RL-MIND/HARD-VQA/blob/main/provenance/schema_compatibility_validation.json) - [数据包统计](https://huggingface.co/datasets/RL-MIND/HARD-VQA/blob/main/statistics.json) ModelScope 数据包也在 `provenance/` 目录和 `statistics.json` 中提供相同文件。 ## 📜 许可 源数据未提供许可证声明,因此数据卡保留 **`license: unknown`**。此次打包不新增授予任何使用许可;使用条款请联系数据集所有者。