pei39/Taxi1500-RawData-test

Taxi1500 Raw Data

Introduction

This repository contains the raw text data of the Taxi1500-c_v3.0 corpus, without classification labels and Bible verse ids. For the original Taxi1500 dataset for Text Classification, please refer to the GitHub repository.

The data format of the Taxi1500-RawData is identical to that of the Glot500 Dataset, facilitating seamless parallel utilization of both datasets.

Usage

Replace acr_Latn with your specific language.

from datasets import load_dataset
dataset = load_dataset('cis-lmu/Taxi1500-RawData', 'acr_Latn', split='taxi1500')
print(dataset[0]) # First row of acr_Latn

Click to show supported language-script pairs:

aai_Latn
aak_Latn
aau_Latn
aaz_Latn
abt_Latn
abx_Latn
aby_Latn
acf_Latn
acr_Latn
acu_Latn
adt_Latn
adz_Latn
aer_Latn
aey_Latn
agd_Latn
agg_Latn
agm_Latn
agn_Latn
agr_Latn
agt_Latn
agu_Latn
ahr_Deva
aia_Latn
aii_Syrc
aka_Latn
ake_Latn
akh_Latn
aln_Latn
alp_Latn
alq_Latn
als_Latn
aly_Latn
ame_Latn
amf_Latn
amk_Latn
amm_Latn
amn_Latn
amo_Latn
amp_Latn
amr_Latn
amu_Latn
amx_Latn
anh_Latn
anv_Latn
aoi_Latn
aoj_Latn
aom_Latn
aon_Latn
apb_Latn
ape_Latn
apn_Latn
apr_Latn
apu_Latn
apw_Latn
apy_Latn
apz_Latn
arb_Arab
are_Latn
arl_Latn
arn_Latn
arp_Latn
arz_Arab
asm_Beng
aso_Latn
ata_Latn
atb_Latn
atd_Latn
atg_Latn
att_Latn
auc_Latn
aui_Latn
auy_Latn
avt_Latn
awb_Latn
awk_Latn
awx_Latn
azb_Latn
aze_Latn
azg_Latn
azz_Latn
bao_Latn
bba_Latn
bbb_Latn
bbr_Latn
bch_Latn
bco_Latn
bdd_Latn
bdv_Orya
bea_Latn
bef_Latn
ben_Beng
beo_Latn
beu_Latn
bfz_Deva
bgc_Deva
bgg_Latn
bgs_Latn
bgt_Latn
bhd_Deva
bhg_Latn
bhl_Latn
bht_Deva
big_Latn
bjk_Latn
bjp_Latn
bjr_Latn
bjv_Latn
bjz_Latn
bkd_Latn
bki_Latn
bkq_Latn
bkx_Latn
bla_Latn
blw_Latn
blz_Latn
bmh_Latn
bmk_Latn
bmr_Latn
bmu_Latn
bnp_Latn
boa_Latn
bod_Tibt
boj_Latn
bon_Latn
box_Latn
bpr_Latn
bps_Latn
bpx_Deva
bqc_Latn
bqp_Latn
bre_Latn
bsj_Latn
bsn_Latn
bsp_Latn
bss_Latn
btt_Latn
buk_Latn
bus_Latn
bvd_Latn
bvr_Latn
bwo_Latn
bxh_Latn
byr_Latn
byx_Latn
bzd_Latn
bzh_Latn
bzj_Latn
caa_Latn
cab_Latn
cac_Latn
caf_Latn
cak_Latn
cao_Latn
cap_Latn
car_Latn
cav_Latn
cax_Latn
cbc_Latn
cbi_Latn
cbk_Latn
cbr_Latn
cbs_Latn
cbt_Latn
cbu_Latn
cbv_Latn
cco_Latn
ceb_Latn
ceg_Latn
cek_Latn
ces_Latn
cgc_Latn
cha_Latn
chd_Latn
chf_Latn
chk_Latn
chq_Latn
chz_Latn
cjo_Latn
cjv_Latn
ckb_Arab
cle_Latn
clu_Latn
cme_Latn
cmn_Hani
cni_Latn
cnl_Latn
cnt_Latn
coe_Latn
cof_Latn
con_Latn
cop_Copt
cot_Latn
cpa_Latn
cpb_Latn
cpc_Latn
cpu_Latn
cpy_Latn
crn_Latn
crx_Latn
cso_Latn
csy_Latn
cta_Latn
cth_Latn
ctp_Latn
ctu_Latn
cub_Latn
cuc_Latn
cui_Latn
cuk_Latn
cut_Latn
cux_Latn
cwe_Latn
cya_Latn
cym_Latn
daa_Latn
dad_Latn
dah_Latn
dak_Latn
dan_Latn
dao_Latn
ded_Latn
deu_Latn
dgc_Latn
dgr_Latn
dgz_Latn
dhg_Latn
dif_Latn
dik_Latn
dji_Latn
djj_Latn
djk_Latn
djr_Latn
dob_Latn
dop_Latn
dov_Latn
dso_Orya
dwr_Ethi
dwr_Latn
dwu_Latn
dww_Latn
dwy_Latn
ebk_Latn
ekk_Latn
eko_Latn
emi_Latn
emp_Latn
ena_Latn
eng_Latn
enm_Latn
enq_Latn
epo_Latn
eri_Latn
ese_Latn
esk_Latn
etr_Latn
eus_Latn
ewe_Latn
faa_Latn
fai_Latn
far_Latn
ffm_Latn
fil_Latn
fin_Latn
for_Latn
fra_Latn
fue_Latn
fuf_Latn
fuh_Latn
gah_Latn
gai_Latn
gam_Latn
gaq_Orya
gaw_Latn
gaz_Latn
gdn_Latn
gdr_Latn
geb_Latn
gfk_Latn
ghs_Latn
gia_Latn
gla_Latn
glk_Arab
glv_Latn
gmv_Ethi
gmv_Latn
gng_Latn
gnn_Latn
gnw_Latn
gof_Ethi
gof_Latn
got_Latn
gqr_Latn
grc_Grek
gub_Latn
guc_Latn
gue_Latn
guh_Latn
gui_Latn
guj_Gujr
gul_Latn
gum_Latn
gun_Latn
guo_Latn
gup_Latn
gux_Latn
gvc_Latn
gvf_Latn
gvn_Latn
gvs_Latn
gwi_Latn
gym_Latn
gyr_Latn
hat_Latn
hau_Latn
haw_Latn
hbo_Hebr
hch_Latn
heb_Hebr
heg_Latn
hin_Deva
hix_Latn
hla_Latn
hlt_Latn
hmo_Latn
hns_Latn
hop_Latn
hot_Latn
hoy_Deva
hrv_Latn
hto_Latn
hub_Latn
hui_Latn
hun_Latn
hus_Latn
huu_Latn
huv_Latn
hvn_Latn
hwc_Latn
ian_Latn
ibo_Latn
ign_Latn
ikk_Latn
ikw_Latn
ilo_Latn
imo_Latn
inb_Latn
ind_Latn
ino_Latn
iou_Latn
ipi_Latn
isl_Latn
isn_Latn
ita_Latn
iws_Latn
ixl_Latn
jac_Latn
jae_Latn
jao_Latn
jic_Latn
jid_Latn
jiv_Latn
jni_Latn
jpn_Jpan
juy_Orya
jvn_Latn
kan_Knda
kan_Latn
kaq_Latn
kbc_Latn
kbh_Latn
kbm_Latn
kbq_Latn
kca_Cyrl
kdc_Latn
kde_Latn
kdl_Latn
kek_Latn
ken_Latn
kew_Latn
kfw_Latn
kgf_Latn
kgk_Latn
kgp_Latn
khs_Latn
khz_Latn
kij_Latn
kik_Latn
kiw_Latn
kiz_Latn
kje_Latn
kjn_Latn
kjs_Latn
kkc_Latn
kkl_Latn
kky_Latn
klt_Latn
klv_Latn
kmg_Latn
kmh_Latn
kmk_Latn
kmo_Latn
kms_Latn
kmu_Latn
kne_Latn
knf_Latn
knj_Latn
knv_Latn
kos_Latn
kpf_Latn
kpg_Latn
kpj_Latn
kpr_Latn
kpw_Latn
kpx_Latn
kqa_Latn
kqc_Latn
kqf_Latn
kql_Latn
kqw_Latn
ksd_Latn
ksj_Latn
ksr_Latn
ksw_Mymr
ktm_Latn
kto_Latn
kud_Latn
kue_Latn
kup_Latn
kux_Latn
kvg_Latn
kvn_Latn
kwd_Latn
kwf_Latn
kwi_Latn
kwj_Latn
kxv_Orya
kyc_Latn
kyf_Latn
kyg_Latn
kyq_Latn
kyz_Latn
kze_Latn
lac_Latn
lat_Latn
lbb_Latn
lbk_Latn
lbm_Deva
lcm_Latn
leu_Latn
lex_Latn
lgl_Latn
lid_Latn
lif_Deva
lif_Limb
lin_Latn
lit_Latn
llg_Latn
lrg_Latn
lug_Latn
luo_Latn
lww_Latn
lzh_Hani
maa_Latn
maj_Latn
mal_Mlym
mam_Latn
maq_Latn
mar_Deva
mau_Latn
mav_Latn
maz_Latn
mbb_Latn
mbc_Latn
mbh_Latn
mbj_Latn
mbl_Latn
mbs_Latn
mbt_Latn
mca_Latn
mcb_Latn
mcd_Latn
mcf_Latn
mco_Latn
mcp_Latn
mcq_Latn
mcr_Latn
mdy_Ethi
med_Latn
mee_Latn
mek_Latn
meq_Latn
met_Latn
meu_Latn
mfy_Latn
mgc_Latn
mgh_Latn
mgw_Latn
mib_Latn
mic_Latn
mie_Latn
mig_Latn
mih_Latn
mil_Latn
mio_Latn
mir_Latn
mit_Latn
miz_Latn
mjc_Latn
mkj_Latn
mkl_Latn
mkn_Latn
mks_Latn
mle_Latn
mlh_Latn
mlp_Latn
mmo_Latn
mmx_Latn
mna_Latn
mni_Latn
moh_Latn
mop_Latn
mox_Latn
mph_Latn
mpj_Latn
mpm_Latn
mpp_Latn
mps_Latn
mpt_Latn
mpx_Latn
mqb_Latn
mqj_Latn
msa_Latn
msb_Latn
msc_Latn
msk_Latn
msm_Latn
msy_Latn
mti_Latn
mto_Latn
mux_Latn
muy_Latn
mva_Latn
mvn_Latn
mwc_Latn
mwe_Latn
mwf_Latn
mwp_Latn
mxb_Latn
mxp_Latn
mxq_Latn
mxt_Latn
mya_Mymr
myk_Latn
myu_Latn
myw_Latn
myy_Latn
mzz_Latn
nab_Latn
naf_Latn
nag_Latn
nak_Latn
nas_Latn
nay_Latn
nbq_Latn
nca_Latn
nce_Latn
nch_Latn
ncj_Latn
ncl_Latn
ncu_Latn
nde_Latn
ndg_Latn
ndj_Latn
nfa_Latn
ngp_Latn
ngu_Latn
nhe_Latn
nhg_Latn
nhi_Latn
nho_Latn
nhr_Latn
nhu_Latn
nhw_Latn
nhy_Latn
nif_Latn
nii_Latn
nin_Latn
nko_Latn
nlc_Latn
nld_Latn
nlg_Latn
nlx_Deva
nmw_Latn
nna_Latn
nno_Latn
nnq_Latn
noa_Latn
nob_Latn
nog_Cyrl
nop_Latn
not_Latn
nou_Latn
npi_Deva
npl_Latn
nrf_Latn
nsn_Latn
nss_Latn
ntj_Latn
ntp_Latn
ntu_Latn
nuy_Latn
nvm_Latn
nwi_Latn
nya_Latn
nys_Latn
nyu_Latn
obo_Latn
oji_Latn
okv_Latn
omb_Latn
omw_Latn
ong_Latn
ons_Latn
ood_Latn
opm_Latn
ory_Orya
ote_Latn
otm_Latn
otn_Latn
otq_Latn
ots_Latn
pab_Latn
pad_Latn
pah_Latn
pan_Guru
pao_Latn
peg_Orya
pes_Arab
pib_Latn
pio_Latn
pir_Latn
piu_Latn
pjt_Latn
pls_Latn
plt_Latn
plu_Latn
pma_Latn
poe_Latn
poh_Latn
poi_Latn
pol_Latn
pon_Latn
por_Latn
pot_Latn
poy_Latn
ppo_Latn
prf_Latn
pri_Latn
ptp_Latn
ptu_Latn
pwg_Latn
qub_Latn
quc_Latn
quf_Latn
quh_Latn
qul_Latn
qup_Latn
quw_Latn
qvc_Latn
qve_Latn
qvh_Latn
qvm_Latn
qvn_Latn
qvs_Latn
qvw_Latn
qvz_Latn
qwh_Latn
qxh_Latn
qxn_Latn
qxo_Latn
rai_Latn
reg_Latn
rgu_Latn
rkb_Latn
rmb_Latn
rmc_Cyrl
rmc_Latn
rmn_Cyrl
rmn_Latn
rmq_Latn
rmy_Cyrl
rmy_Latn
ron_Cyrl
ron_Latn
roo_Latn
rop_Latn
row_Latn
rro_Latn
ruf_Latn
rug_Latn
rup_Latn
rus_Cyrl
rwo_Latn
sab_Latn
san_Arab
san_Beng
san_Deva
san_Gujr
san_Guru
san_Khmr
san_Knda
san_Latn
san_Mlym
san_Mymr
san_Orya
san_Sinh
san_Taml
san_Telu
san_Thai
san_Tibt
sbd_Latn
sbe_Latn
sbk_Latn
sbs_Latn
sby_Latn
sch_Latn
seh_Latn
sey_Latn
sgb_Latn
sgz_Latn
shj_Latn
shp_Latn
sim_Latn
sja_Latn
sll_Latn
smk_Latn
sna_Latn
snc_Latn
snn_Latn
snp_Latn
snx_Latn
sny_Latn
som_Latn
soq_Latn
soy_Latn
spa_Latn
spl_Latn
spm_Latn
spp_Latn
sps_Latn
spy_Latn
sqi_Latn
sri_Latn
srm_Latn
srn_Latn
srp_Latn
srq_Latn
ssd_Latn
ssg_Latn
ssx_Latn
stp_Latn
sua_Latn
sue_Latn
sus_Arab
sus_Latn
suz_Deva
swe_Latn
swh_Latn
swp_Latn
sxb_Latn
tac_Latn
taj_Deva
tam_Taml
tar_Latn
tav_Latn
taw_Latn
tbc_Latn
tbf_Latn
tbg_Latn
tbk_Latn
tbl_Latn
tbo_Latn
tbz_Latn
tca_Latn
tcs_Latn
tcz_Latn
tdt_Latn
tdx_Latn
tee_Latn
tel_Telu
ter_Latn
tet_Latn
tew_Latn
tfr_Latn
tgj_Latn
tgk_Cyrl
tgl_Latn
tgo_Latn
tgp_Latn
tha_Thai
thd_Latn
tif_Latn
tim_Latn
tiw_Latn
tiy_Latn
tke_Latn
tkr_Latn
tku_Latn
tlf_Latn
tmd_Latn
tna_Latn
tnc_Latn
tnk_Latn
tnn_Latn
tnp_Latn
toc_Latn
tod_Latn
tof_Latn
toj_Latn
ton_Latn
too_Latn
top_Latn
tos_Latn
tpa_Latn
tpi_Latn
tpt_Latn
tpz_Latn
trc_Latn
tsn_Latn
tsw_Latn
ttc_Latn
tte_Latn
tuc_Latn
tue_Latn
tuf_Latn
tuo_Latn
tvk_Latn
tvt_Latn
twi_Latn
txq_Latn
txu_Latn
tzj_Latn
tzo_Latn
ubr_Latn
ubu_Latn
udu_Latn
uig_Arab
uig_Cyrl
uig_Latn
ukr_Cyrl
uli_Latn
ulk_Latn
unx_Orya
upv_Latn
ura_Latn
urb_Latn
urd_Arab
urd_Deva
urd_Latn
uri_Latn
urt_Latn
urw_Latn
usa_Latn
usp_Latn
uvh_Latn
uvl_Latn
vid_Latn
vie_Latn
viv_Latn
vmy_Latn
waj_Latn
wal_Latn
wap_Latn
wat_Latn
wbi_Latn
wbp_Latn
wed_Latn
wer_Latn
wim_Latn
wiu_Latn
wiv_Latn
wlg_Latn
wmt_Latn
wmw_Latn
wnc_Latn
wnu_Latn
wol_Latn
wos_Latn
wrk_Latn
wro_Latn
wrs_Latn
wsk_Latn
wuv_Latn
xav_Latn
xbi_Latn
xed_Latn
xla_Latn
xnj_Latn
xnn_Latn
xon_Latn
xsi_Latn
xtd_Latn
xtm_Latn
yaa_Latn
yad_Latn
yal_Latn
yao_Latn
yap_Latn
yaq_Latn
yby_Latn
ycn_Latn
yij_Latn
yka_Latn
yle_Latn
yml_Latn
yom_Latn
yon_Latn
yor_Latn
yrb_Latn
yre_Latn
yss_Latn
yuj_Latn
yut_Latn
yuw_Latn
yva_Latn
zaa_Latn
zab_Latn
zac_Latn
zad_Latn
zai_Latn
zaj_Latn
zam_Latn
zao_Latn
zap_Latn
zar_Latn
zas_Latn
zat_Latn
zav_Latn
zaw_Latn
zca_Latn
zga_Latn
zho_Hani
zia_Latn
ziw_Latn
zlm_Latn
zos_Latn
zpc_Latn
zpi_Latn
zpl_Latn
zpm_Latn
zpo_Latn
zpq_Latn
zpu_Latn
zpv_Latn
zpz_Latn
zsm_Latn
zsr_Latn
ztq_Latn
zty_Latn
zyp_Latn

Citation

If you use our work, please cite:

@misc{ma2023taxi1500,
      title={Taxi1500: A Multilingual Dataset for Text Classification in 1500 Languages}, 
      author={Chunlan Ma and Ayyoob ImaniGooghari and Haotian Ye and Ehsaneddin Asgari and Hinrich Schütze},
      year={2023},
      eprint={2305.08487},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}