intfloat commited on
Commit
a168b86
1 Parent(s): 7b44e28

add loading script

Browse files
Files changed (1) hide show
  1. multilingual_cc_news.py +255 -0
multilingual_cc_news.py ADDED
@@ -0,0 +1,255 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ """multilingual cc news dataset."""
2
+
3
+
4
+ import gzip
5
+ import json
6
+
7
+ import datasets
8
+
9
+
10
+ logger = datasets.logging.get_logger(__name__)
11
+
12
+
13
+ _DESCRIPTION = """\
14
+ Multilingual CC-News dataset.
15
+
16
+ This is the processed version from https://huggingface.co/datasets/CloverSearch/cc-news-mutlilingual.
17
+ """
18
+
19
+ _DATA_URL = "https://huggingface.co/datasets/CloverSearch/cc-news-mutlilingual/resolve/main"
20
+
21
+ _LANGUAGE_TO_PATH_LIST = {
22
+ "af": ['2016/af.jsonl.gz', '2017/af.jsonl.gz', '2018/af.jsonl.gz', '2019/af.jsonl.gz', '2020/af.jsonl.gz', '2021/af.jsonl.gz'],
23
+ "als": ['2016/als.jsonl.gz', '2017/als.jsonl.gz', '2018/als.jsonl.gz', '2019/als.jsonl.gz', '2020/als.jsonl.gz', '2021/als.jsonl.gz'],
24
+ "am": ['2016/am.jsonl.gz', '2017/am.jsonl.gz', '2018/am.jsonl.gz', '2019/am.jsonl.gz', '2020/am.jsonl.gz', '2021/am.jsonl.gz'],
25
+ "an": ['2017/an.jsonl.gz', '2018/an.jsonl.gz', '2019/an.jsonl.gz', '2020/an.jsonl.gz', '2021/an.jsonl.gz'],
26
+ "ar": ['2016/ar.jsonl.gz', '2017/ar.jsonl.gz', '2018/ar.jsonl.gz', '2019/ar.jsonl.gz', '2020/ar.jsonl.gz', '2021/ar.jsonl.gz'],
27
+ "arz": ['2016/arz.jsonl.gz', '2017/arz.jsonl.gz', '2018/arz.jsonl.gz', '2019/arz.jsonl.gz', '2020/arz.jsonl.gz', '2021/arz.jsonl.gz'],
28
+ "as": ['2018/as.jsonl.gz', '2019/as.jsonl.gz', '2020/as.jsonl.gz', '2021/as.jsonl.gz'],
29
+ "ast": ['2016/ast.jsonl.gz', '2017/ast.jsonl.gz', '2018/ast.jsonl.gz', '2019/ast.jsonl.gz', '2020/ast.jsonl.gz', '2021/ast.jsonl.gz'],
30
+ "av": ['2016/av.jsonl.gz', '2017/av.jsonl.gz', '2018/av.jsonl.gz', '2019/av.jsonl.gz', '2020/av.jsonl.gz', '2021/av.jsonl.gz'],
31
+ "az": ['2016/az.jsonl.gz', '2017/az.jsonl.gz', '2018/az.jsonl.gz', '2019/az.jsonl.gz', '2020/az.jsonl.gz', '2021/az.jsonl.gz'],
32
+ "azb": ['2016/azb.jsonl.gz', '2017/azb.jsonl.gz', '2018/azb.jsonl.gz', '2019/azb.jsonl.gz', '2020/azb.jsonl.gz', '2021/azb.jsonl.gz'],
33
+ "ba": ['2016/ba.jsonl.gz', '2017/ba.jsonl.gz', '2018/ba.jsonl.gz', '2019/ba.jsonl.gz', '2020/ba.jsonl.gz', '2021/ba.jsonl.gz'],
34
+ "bar": ['2016/bar.jsonl.gz', '2017/bar.jsonl.gz', '2018/bar.jsonl.gz', '2019/bar.jsonl.gz', '2020/bar.jsonl.gz', '2021/bar.jsonl.gz'],
35
+ "bcl": ['2017/bcl.jsonl.gz', '2018/bcl.jsonl.gz', '2019/bcl.jsonl.gz', '2020/bcl.jsonl.gz', '2021/bcl.jsonl.gz'],
36
+ "be": ['2016/be.jsonl.gz', '2017/be.jsonl.gz', '2018/be.jsonl.gz', '2019/be.jsonl.gz', '2020/be.jsonl.gz', '2021/be.jsonl.gz'],
37
+ "bg": ['2016/bg.jsonl.gz', '2017/bg.jsonl.gz', '2018/bg.jsonl.gz', '2019/bg.jsonl.gz', '2020/bg.jsonl.gz', '2021/bg.jsonl.gz'],
38
+ "bh": ['2018/bh.jsonl.gz', '2019/bh.jsonl.gz', '2020/bh.jsonl.gz', '2021/bh.jsonl.gz'],
39
+ "bn": ['2016/bn.jsonl.gz', '2017/bn.jsonl.gz', '2018/bn.jsonl.gz', '2019/bn.jsonl.gz', '2020/bn.jsonl.gz', '2021/bn.jsonl.gz'],
40
+ "bo": ['2017/bo.jsonl.gz', '2018/bo.jsonl.gz', '2019/bo.jsonl.gz', '2020/bo.jsonl.gz', '2021/bo.jsonl.gz'],
41
+ "bpy": ['2019/bpy.jsonl.gz', '2020/bpy.jsonl.gz', '2021/bpy.jsonl.gz'],
42
+ "br": ['2016/br.jsonl.gz', '2017/br.jsonl.gz', '2018/br.jsonl.gz', '2019/br.jsonl.gz', '2020/br.jsonl.gz', '2021/br.jsonl.gz'],
43
+ "bs": ['2016/bs.jsonl.gz', '2017/bs.jsonl.gz', '2018/bs.jsonl.gz', '2019/bs.jsonl.gz', '2020/bs.jsonl.gz', '2021/bs.jsonl.gz'],
44
+ "bxr": ['2016/bxr.jsonl.gz', '2017/bxr.jsonl.gz', '2018/bxr.jsonl.gz', '2019/bxr.jsonl.gz', '2020/bxr.jsonl.gz', '2021/bxr.jsonl.gz'],
45
+ "ca": ['2016/ca.jsonl.gz', '2017/ca.jsonl.gz', '2018/ca.jsonl.gz', '2019/ca.jsonl.gz', '2020/ca.jsonl.gz', '2021/ca.jsonl.gz'],
46
+ "cbk": ['2017/cbk.jsonl.gz', '2018/cbk.jsonl.gz', '2020/cbk.jsonl.gz', '2021/cbk.jsonl.gz'],
47
+ "ce": ['2017/ce.jsonl.gz', '2018/ce.jsonl.gz', '2019/ce.jsonl.gz', '2020/ce.jsonl.gz', '2021/ce.jsonl.gz'],
48
+ "ceb": ['2016/ceb.jsonl.gz', '2017/ceb.jsonl.gz', '2018/ceb.jsonl.gz', '2019/ceb.jsonl.gz', '2020/ceb.jsonl.gz', '2021/ceb.jsonl.gz'],
49
+ "ckb": ['2016/ckb.jsonl.gz', '2017/ckb.jsonl.gz', '2018/ckb.jsonl.gz', '2019/ckb.jsonl.gz', '2020/ckb.jsonl.gz', '2021/ckb.jsonl.gz'],
50
+ "co": ['2018/co.jsonl.gz', '2020/co.jsonl.gz', '2021/co.jsonl.gz'],
51
+ "cs": ['2016/cs.jsonl.gz', '2017/cs.jsonl.gz', '2018/cs.jsonl.gz', '2019/cs.jsonl.gz', '2020/cs.jsonl.gz', '2021/cs.jsonl.gz'],
52
+ "cv": ['2016/cv.jsonl.gz', '2017/cv.jsonl.gz', '2018/cv.jsonl.gz', '2019/cv.jsonl.gz', '2020/cv.jsonl.gz', '2021/cv.jsonl.gz'],
53
+ "cy": ['2016/cy.jsonl.gz', '2017/cy.jsonl.gz', '2018/cy.jsonl.gz', '2019/cy.jsonl.gz', '2020/cy.jsonl.gz', '2021/cy.jsonl.gz'],
54
+ "da": ['2016/da.jsonl.gz', '2017/da.jsonl.gz', '2018/da.jsonl.gz', '2019/da.jsonl.gz', '2020/da.jsonl.gz', '2021/da.jsonl.gz'],
55
+ "de": ['2016/de.jsonl.gz', '2017/de.jsonl.gz', '2018/de.jsonl.gz', '2019/de.jsonl.gz', '2020/de.jsonl.gz', '2021/de.jsonl.gz'],
56
+ "diq": ['2017/diq.jsonl.gz', '2018/diq.jsonl.gz', '2019/diq.jsonl.gz', '2020/diq.jsonl.gz', '2021/diq.jsonl.gz'],
57
+ "dsb": ['2020/dsb.jsonl.gz', '2021/dsb.jsonl.gz'],
58
+ "dty": ['2019/dty.jsonl.gz', '2021/dty.jsonl.gz'],
59
+ "dv": ['2016/dv.jsonl.gz', '2017/dv.jsonl.gz', '2018/dv.jsonl.gz', '2019/dv.jsonl.gz', '2021/dv.jsonl.gz'],
60
+ "el": ['2016/el.jsonl.gz', '2017/el.jsonl.gz', '2018/el.jsonl.gz', '2019/el.jsonl.gz', '2020/el.jsonl.gz', '2021/el.jsonl.gz'],
61
+ "eml": ['2016/eml.jsonl.gz', '2017/eml.jsonl.gz', '2018/eml.jsonl.gz', '2019/eml.jsonl.gz', '2020/eml.jsonl.gz', '2021/eml.jsonl.gz'],
62
+ "en": ['2016/en.jsonl.gz', '2017/en00.jsonl.gz', '2017/en01.jsonl.gz', '2017/en02.jsonl.gz', '2017/en03.jsonl.gz', '2017/en04.jsonl.gz', '2018/en00.jsonl.gz', '2018/en01.jsonl.gz', '2018/en02.jsonl.gz', '2018/en03.jsonl.gz', '2018/en04.jsonl.gz', '2019/en00.jsonl.gz', '2019/en01.jsonl.gz', '2019/en02.jsonl.gz', '2019/en03.jsonl.gz', '2019/en04.jsonl.gz', '2019/en05.jsonl.gz', '2019/en06.jsonl.gz', '2020/en00.jsonl.gz', '2020/en01.jsonl.gz', '2020/en02.jsonl.gz', '2020/en03.jsonl.gz', '2020/en04.jsonl.gz', '2020/en05.jsonl.gz', '2020/en06.jsonl.gz', '2020/en07.jsonl.gz', '2020/en08.jsonl.gz', '2020/en09.jsonl.gz', '2020/en10.jsonl.gz', '2020/en11.jsonl.gz', '2021/en00.jsonl.gz', '2021/en01.jsonl.gz', '2021/en02.jsonl.gz', '2021/en03.jsonl.gz', '2021/en04.jsonl.gz', '2021/en05.jsonl.gz', '2021/en06.jsonl.gz', '2021/en07.jsonl.gz', '2021/en08.jsonl.gz', '2021/en09.jsonl.gz', '2021/en10.jsonl.gz', '2021/en11.jsonl.gz', '2021/en12.jsonl.gz'],
63
+ "eo": ['2016/eo.jsonl.gz', '2017/eo.jsonl.gz', '2018/eo.jsonl.gz', '2019/eo.jsonl.gz', '2020/eo.jsonl.gz', '2021/eo.jsonl.gz'],
64
+ "es": ['2016/es.jsonl.gz', '2017/es.jsonl.gz', '2018/es.jsonl.gz', '2019/es.jsonl.gz', '2020/es01.jsonl.gz', '2020/es02.jsonl.gz', '2020/es03.jsonl.gz', '2021/es00.jsonl.gz', '2021/es01.jsonl.gz', '2021/es02.jsonl.gz', '2021/es03.jsonl.gz'],
65
+ "et": ['2016/et.jsonl.gz', '2017/et.jsonl.gz', '2018/et.jsonl.gz', '2019/et.jsonl.gz', '2020/et.jsonl.gz', '2021/et.jsonl.gz'],
66
+ "eu": ['2016/eu.jsonl.gz', '2017/eu.jsonl.gz', '2018/eu.jsonl.gz', '2019/eu.jsonl.gz', '2020/eu.jsonl.gz', '2021/eu.jsonl.gz'],
67
+ "fa": ['2016/fa.jsonl.gz', '2017/fa.jsonl.gz', '2018/fa.jsonl.gz', '2019/fa.jsonl.gz', '2020/fa.jsonl.gz', '2021/fa.jsonl.gz'],
68
+ "fi": ['2016/fi.jsonl.gz', '2017/fi.jsonl.gz', '2018/fi.jsonl.gz', '2019/fi.jsonl.gz', '2020/fi.jsonl.gz', '2021/fi.jsonl.gz'],
69
+ "fr": ['2016/fr.jsonl.gz', '2017/fr.jsonl.gz', '2018/fr.jsonl.gz', '2019/fr.jsonl.gz', '2020/fr.jsonl.gz', '2021/fr.jsonl.gz'],
70
+ "fy": ['2016/fy.jsonl.gz', '2017/fy.jsonl.gz', '2018/fy.jsonl.gz', '2019/fy.jsonl.gz', '2020/fy.jsonl.gz', '2021/fy.jsonl.gz'],
71
+ "ga": ['2016/ga.jsonl.gz', '2017/ga.jsonl.gz', '2018/ga.jsonl.gz', '2019/ga.jsonl.gz', '2020/ga.jsonl.gz', '2021/ga.jsonl.gz'],
72
+ "gd": ['2016/gd.jsonl.gz', '2017/gd.jsonl.gz', '2018/gd.jsonl.gz', '2019/gd.jsonl.gz', '2020/gd.jsonl.gz', '2021/gd.jsonl.gz'],
73
+ "gl": ['2016/gl.jsonl.gz', '2017/gl.jsonl.gz', '2018/gl.jsonl.gz', '2019/gl.jsonl.gz', '2020/gl.jsonl.gz', '2021/gl.jsonl.gz'],
74
+ "gn": ['2016/gn.jsonl.gz', '2017/gn.jsonl.gz', '2018/gn.jsonl.gz', '2019/gn.jsonl.gz', '2020/gn.jsonl.gz', '2021/gn.jsonl.gz'],
75
+ "gom": ['2017/gom.jsonl.gz', '2018/gom.jsonl.gz', '2019/gom.jsonl.gz', '2020/gom.jsonl.gz', '2021/gom.jsonl.gz'],
76
+ "gu": ['2016/gu.jsonl.gz', '2017/gu.jsonl.gz', '2018/gu.jsonl.gz', '2019/gu.jsonl.gz', '2020/gu.jsonl.gz', '2021/gu.jsonl.gz'],
77
+ "gv": ['2017/gv.jsonl.gz', '2018/gv.jsonl.gz', '2019/gv.jsonl.gz', '2020/gv.jsonl.gz', '2021/gv.jsonl.gz'],
78
+ "he": ['2016/he.jsonl.gz', '2017/he.jsonl.gz', '2018/he.jsonl.gz', '2019/he.jsonl.gz', '2020/he.jsonl.gz', '2021/he.jsonl.gz'],
79
+ "hi": ['2016/hi.jsonl.gz', '2017/hi.jsonl.gz', '2018/hi.jsonl.gz', '2019/hi.jsonl.gz', '2020/hi.jsonl.gz', '2021/hi.jsonl.gz'],
80
+ "hif": ['2021/hif.jsonl.gz'],
81
+ "hr": ['2016/hr.jsonl.gz', '2017/hr.jsonl.gz', '2018/hr.jsonl.gz', '2019/hr.jsonl.gz', '2020/hr.jsonl.gz', '2021/hr.jsonl.gz'],
82
+ "hsb": ['2017/hsb.jsonl.gz', '2018/hsb.jsonl.gz', '2019/hsb.jsonl.gz', '2020/hsb.jsonl.gz', '2021/hsb.jsonl.gz'],
83
+ "ht": ['2016/ht.jsonl.gz', '2017/ht.jsonl.gz', '2018/ht.jsonl.gz', '2019/ht.jsonl.gz', '2020/ht.jsonl.gz', '2021/ht.jsonl.gz'],
84
+ "hu": ['2016/hu.jsonl.gz', '2017/hu.jsonl.gz', '2018/hu.jsonl.gz', '2019/hu.jsonl.gz', '2020/hu.jsonl.gz', '2021/hu.jsonl.gz'],
85
+ "hy": ['2016/hy.jsonl.gz', '2017/hy.jsonl.gz', '2018/hy.jsonl.gz', '2019/hy.jsonl.gz', '2020/hy.jsonl.gz', '2021/hy.jsonl.gz'],
86
+ "ia": ['2016/ia.jsonl.gz', '2017/ia.jsonl.gz', '2018/ia.jsonl.gz', '2019/ia.jsonl.gz', '2020/ia.jsonl.gz', '2021/ia.jsonl.gz'],
87
+ "id": ['2016/id.jsonl.gz', '2017/id.jsonl.gz', '2018/id.jsonl.gz', '2019/id.jsonl.gz', '2020/id.jsonl.gz', '2021/id.jsonl.gz'],
88
+ "ie": ['2016/ie.jsonl.gz', '2017/ie.jsonl.gz', '2018/ie.jsonl.gz', '2019/ie.jsonl.gz', '2020/ie.jsonl.gz', '2021/ie.jsonl.gz'],
89
+ "ilo": ['2016/ilo.jsonl.gz', '2017/ilo.jsonl.gz', '2018/ilo.jsonl.gz', '2019/ilo.jsonl.gz', '2020/ilo.jsonl.gz', '2021/ilo.jsonl.gz'],
90
+ "io": ['2016/io.jsonl.gz', '2017/io.jsonl.gz', '2018/io.jsonl.gz', '2019/io.jsonl.gz', '2020/io.jsonl.gz', '2021/io.jsonl.gz'],
91
+ "is": ['2016/is.jsonl.gz', '2017/is.jsonl.gz', '2018/is.jsonl.gz', '2019/is.jsonl.gz', '2020/is.jsonl.gz', '2021/is.jsonl.gz'],
92
+ "it": ['2016/it.jsonl.gz', '2017/it.jsonl.gz', '2018/it.jsonl.gz', '2019/it.jsonl.gz', '2020/it.jsonl.gz', '2021/it.jsonl.gz'],
93
+ "ja": ['2016/ja.jsonl.gz', '2017/ja.jsonl.gz', '2018/ja.jsonl.gz', '2019/ja.jsonl.gz', '2020/ja.jsonl.gz', '2021/ja.jsonl.gz'],
94
+ "jbo": ['2016/jbo.jsonl.gz', '2017/jbo.jsonl.gz', '2018/jbo.jsonl.gz', '2019/jbo.jsonl.gz', '2020/jbo.jsonl.gz', '2021/jbo.jsonl.gz'],
95
+ "jv": ['2016/jv.jsonl.gz', '2017/jv.jsonl.gz', '2018/jv.jsonl.gz', '2019/jv.jsonl.gz', '2020/jv.jsonl.gz', '2021/jv.jsonl.gz'],
96
+ "ka": ['2016/ka.jsonl.gz', '2017/ka.jsonl.gz', '2018/ka.jsonl.gz', '2019/ka.jsonl.gz', '2020/ka.jsonl.gz', '2021/ka.jsonl.gz'],
97
+ "kk": ['2016/kk.jsonl.gz', '2017/kk.jsonl.gz', '2018/kk.jsonl.gz', '2019/kk.jsonl.gz', '2020/kk.jsonl.gz', '2021/kk.jsonl.gz'],
98
+ "km": ['2017/km.jsonl.gz', '2018/km.jsonl.gz', '2019/km.jsonl.gz', '2020/km.jsonl.gz', '2021/km.jsonl.gz'],
99
+ "kn": ['2016/kn.jsonl.gz', '2017/kn.jsonl.gz', '2018/kn.jsonl.gz', '2019/kn.jsonl.gz', '2020/kn.jsonl.gz', '2021/kn.jsonl.gz'],
100
+ "ko": ['2016/ko.jsonl.gz', '2017/ko.jsonl.gz', '2018/ko.jsonl.gz', '2019/ko.jsonl.gz', '2020/ko.jsonl.gz', '2021/ko.jsonl.gz'],
101
+ "krc": ['2016/krc.jsonl.gz', '2017/krc.jsonl.gz', '2018/krc.jsonl.gz', '2019/krc.jsonl.gz', '2020/krc.jsonl.gz', '2021/krc.jsonl.gz'],
102
+ "ku": ['2016/ku.jsonl.gz', '2017/ku.jsonl.gz', '2018/ku.jsonl.gz', '2019/ku.jsonl.gz', '2020/ku.jsonl.gz', '2021/ku.jsonl.gz'],
103
+ "kv": ['2017/kv.jsonl.gz', '2018/kv.jsonl.gz', '2019/kv.jsonl.gz', '2020/kv.jsonl.gz', '2021/kv.jsonl.gz'],
104
+ "kw": ['2016/kw.jsonl.gz', '2017/kw.jsonl.gz', '2018/kw.jsonl.gz', '2019/kw.jsonl.gz', '2020/kw.jsonl.gz', '2021/kw.jsonl.gz'],
105
+ "ky": ['2016/ky.jsonl.gz', '2017/ky.jsonl.gz', '2018/ky.jsonl.gz', '2019/ky.jsonl.gz', '2020/ky.jsonl.gz', '2021/ky.jsonl.gz'],
106
+ "la": ['2016/la.jsonl.gz', '2017/la.jsonl.gz', '2018/la.jsonl.gz', '2019/la.jsonl.gz', '2020/la.jsonl.gz', '2021/la.jsonl.gz'],
107
+ "lb": ['2016/lb.jsonl.gz', '2017/lb.jsonl.gz', '2018/lb.jsonl.gz', '2019/lb.jsonl.gz', '2020/lb.jsonl.gz', '2021/lb.jsonl.gz'],
108
+ "lez": ['2018/lez.jsonl.gz', '2020/lez.jsonl.gz', '2021/lez.jsonl.gz'],
109
+ "li": ['2017/li.jsonl.gz', '2018/li.jsonl.gz', '2020/li.jsonl.gz', '2021/li.jsonl.gz'],
110
+ "lmo": ['2016/lmo.jsonl.gz', '2017/lmo.jsonl.gz', '2018/lmo.jsonl.gz', '2019/lmo.jsonl.gz', '2020/lmo.jsonl.gz', '2021/lmo.jsonl.gz'],
111
+ "lo": ['2016/lo.jsonl.gz', '2017/lo.jsonl.gz', '2018/lo.jsonl.gz', '2019/lo.jsonl.gz', '2020/lo.jsonl.gz', '2021/lo.jsonl.gz'],
112
+ "lt": ['2016/lt.jsonl.gz', '2017/lt.jsonl.gz', '2018/lt.jsonl.gz', '2019/lt.jsonl.gz', '2020/lt.jsonl.gz', '2021/lt.jsonl.gz'],
113
+ "lv": ['2016/lv.jsonl.gz', '2017/lv.jsonl.gz', '2018/lv.jsonl.gz', '2019/lv.jsonl.gz', '2020/lv.jsonl.gz', '2021/lv.jsonl.gz'],
114
+ "mai": ['2020/mai.jsonl.gz', '2021/mai.jsonl.gz'],
115
+ "mg": ['2016/mg.jsonl.gz', '2017/mg.jsonl.gz', '2018/mg.jsonl.gz', '2019/mg.jsonl.gz', '2020/mg.jsonl.gz', '2021/mg.jsonl.gz'],
116
+ "mhr": ['2016/mhr.jsonl.gz', '2017/mhr.jsonl.gz', '2018/mhr.jsonl.gz', '2019/mhr.jsonl.gz', '2020/mhr.jsonl.gz', '2021/mhr.jsonl.gz'],
117
+ "min": ['2017/min.jsonl.gz', '2018/min.jsonl.gz', '2019/min.jsonl.gz', '2020/min.jsonl.gz', '2021/min.jsonl.gz'],
118
+ "mk": ['2016/mk.jsonl.gz', '2017/mk.jsonl.gz', '2018/mk.jsonl.gz', '2019/mk.jsonl.gz', '2020/mk.jsonl.gz', '2021/mk.jsonl.gz'],
119
+ "ml": ['2016/ml.jsonl.gz', '2017/ml.jsonl.gz', '2018/ml.jsonl.gz', '2019/ml.jsonl.gz', '2020/ml.jsonl.gz', '2021/ml.jsonl.gz'],
120
+ "mn": ['2016/mn.jsonl.gz', '2017/mn.jsonl.gz', '2018/mn.jsonl.gz', '2019/mn.jsonl.gz', '2020/mn.jsonl.gz', '2021/mn.jsonl.gz'],
121
+ "mr": ['2016/mr.jsonl.gz', '2017/mr.jsonl.gz', '2018/mr.jsonl.gz', '2019/mr.jsonl.gz', '2020/mr.jsonl.gz', '2021/mr.jsonl.gz'],
122
+ "mrj": ['2017/mrj.jsonl.gz', '2020/mrj.jsonl.gz'],
123
+ "ms": ['2016/ms.jsonl.gz', '2017/ms.jsonl.gz', '2018/ms.jsonl.gz', '2019/ms.jsonl.gz', '2020/ms.jsonl.gz', '2021/ms.jsonl.gz'],
124
+ "mt": ['2016/mt.jsonl.gz', '2017/mt.jsonl.gz', '2018/mt.jsonl.gz', '2019/mt.jsonl.gz', '2020/mt.jsonl.gz', '2021/mt.jsonl.gz'],
125
+ "mwl": ['2017/mwl.jsonl.gz', '2018/mwl.jsonl.gz', '2019/mwl.jsonl.gz', '2020/mwl.jsonl.gz'],
126
+ "my": ['2016/my.jsonl.gz', '2017/my.jsonl.gz', '2018/my.jsonl.gz', '2019/my.jsonl.gz', '2020/my.jsonl.gz', '2021/my.jsonl.gz'],
127
+ "myv": ['2017/myv.jsonl.gz', '2018/myv.jsonl.gz', '2019/myv.jsonl.gz', '2020/myv.jsonl.gz'],
128
+ "mzn": ['2017/mzn.jsonl.gz', '2018/mzn.jsonl.gz', '2019/mzn.jsonl.gz', '2020/mzn.jsonl.gz', '2021/mzn.jsonl.gz'],
129
+ "nah": ['2019/nah.jsonl.gz'],
130
+ "nap": ['2016/nap.jsonl.gz', '2017/nap.jsonl.gz', '2018/nap.jsonl.gz', '2019/nap.jsonl.gz', '2020/nap.jsonl.gz', '2021/nap.jsonl.gz'],
131
+ "nds": ['2016/nds.jsonl.gz', '2017/nds.jsonl.gz', '2018/nds.jsonl.gz', '2019/nds.jsonl.gz', '2020/nds.jsonl.gz', '2021/nds.jsonl.gz'],
132
+ "ne": ['2016/ne.jsonl.gz', '2017/ne.jsonl.gz', '2018/ne.jsonl.gz', '2019/ne.jsonl.gz', '2020/ne.jsonl.gz', '2021/ne.jsonl.gz'],
133
+ "new": ['2016/new.jsonl.gz', '2017/new.jsonl.gz', '2018/new.jsonl.gz', '2019/new.jsonl.gz', '2020/new.jsonl.gz', '2021/new.jsonl.gz'],
134
+ "nl": ['2016/nl.jsonl.gz', '2017/nl.jsonl.gz', '2018/nl.jsonl.gz', '2019/nl.jsonl.gz', '2020/nl.jsonl.gz', '2021/nl.jsonl.gz'],
135
+ "nn": ['2016/nn.jsonl.gz', '2017/nn.jsonl.gz', '2018/nn.jsonl.gz', '2019/nn.jsonl.gz', '2020/nn.jsonl.gz', '2021/nn.jsonl.gz'],
136
+ "no": ['2016/no.jsonl.gz', '2017/no.jsonl.gz', '2018/no.jsonl.gz', '2019/no.jsonl.gz', '2020/no.jsonl.gz', '2021/no.jsonl.gz'],
137
+ "oc": ['2016/oc.jsonl.gz', '2017/oc.jsonl.gz', '2018/oc.jsonl.gz', '2019/oc.jsonl.gz', '2020/oc.jsonl.gz', '2021/oc.jsonl.gz'],
138
+ "or": ['2018/or.jsonl.gz', '2019/or.jsonl.gz', '2020/or.jsonl.gz', '2021/or.jsonl.gz'],
139
+ "os": ['2020/os.jsonl.gz', '2021/os.jsonl.gz'],
140
+ "pa": ['2016/pa.jsonl.gz', '2017/pa.jsonl.gz', '2018/pa.jsonl.gz', '2019/pa.jsonl.gz', '2020/pa.jsonl.gz', '2021/pa.jsonl.gz'],
141
+ "pam": ['2017/pam.jsonl.gz', '2018/pam.jsonl.gz', '2019/pam.jsonl.gz', '2020/pam.jsonl.gz', '2021/pam.jsonl.gz'],
142
+ "pfl": ['2020/pfl.jsonl.gz'],
143
+ "pl": ['2016/pl.jsonl.gz', '2017/pl.jsonl.gz', '2018/pl.jsonl.gz', '2019/pl.jsonl.gz', '2020/pl.jsonl.gz', '2021/pl.jsonl.gz'],
144
+ "pms": ['2016/pms.jsonl.gz', '2017/pms.jsonl.gz', '2018/pms.jsonl.gz', '2019/pms.jsonl.gz', '2020/pms.jsonl.gz', '2021/pms.jsonl.gz'],
145
+ "pnb": ['2016/pnb.jsonl.gz', '2017/pnb.jsonl.gz', '2018/pnb.jsonl.gz', '2019/pnb.jsonl.gz', '2020/pnb.jsonl.gz', '2021/pnb.jsonl.gz'],
146
+ "ps": ['2016/ps.jsonl.gz', '2017/ps.jsonl.gz', '2018/ps.jsonl.gz', '2019/ps.jsonl.gz', '2020/ps.jsonl.gz', '2021/ps.jsonl.gz'],
147
+ "pt": ['2016/pt.jsonl.gz', '2017/pt.jsonl.gz', '2018/pt.jsonl.gz', '2019/pt.jsonl.gz', '2020/pt.jsonl.gz', '2021/pt.jsonl.gz'],
148
+ "qu": ['2016/qu.jsonl.gz', '2017/qu.jsonl.gz', '2018/qu.jsonl.gz', '2019/qu.jsonl.gz', '2020/qu.jsonl.gz', '2021/qu.jsonl.gz'],
149
+ "rm": ['2016/rm.jsonl.gz', '2017/rm.jsonl.gz', '2018/rm.jsonl.gz', '2019/rm.jsonl.gz', '2020/rm.jsonl.gz', '2021/rm.jsonl.gz'],
150
+ "ro": ['2016/ro.jsonl.gz', '2017/ro.jsonl.gz', '2018/ro.jsonl.gz', '2019/ro.jsonl.gz', '2020/ro.jsonl.gz', '2021/ro.jsonl.gz'],
151
+ "ru": ['2016/ru.jsonl.gz', '2017/ru.jsonl.gz', '2018/ru.jsonl.gz', '2019/ru.jsonl.gz', '2020/ru.jsonl.gz', '2021/ru.jsonl.gz'],
152
+ "sa": ['2016/sa.jsonl.gz', '2017/sa.jsonl.gz', '2018/sa.jsonl.gz', '2019/sa.jsonl.gz', '2020/sa.jsonl.gz', '2021/sa.jsonl.gz'],
153
+ "sah": ['2016/sah.jsonl.gz', '2017/sah.jsonl.gz', '2018/sah.jsonl.gz', '2019/sah.jsonl.gz', '2020/sah.jsonl.gz', '2021/sah.jsonl.gz'],
154
+ "sc": ['2017/sc.jsonl.gz', '2018/sc.jsonl.gz', '2019/sc.jsonl.gz', '2020/sc.jsonl.gz', '2021/sc.jsonl.gz'],
155
+ "scn": ['2017/scn.jsonl.gz', '2018/scn.jsonl.gz', '2019/scn.jsonl.gz', '2020/scn.jsonl.gz', '2021/scn.jsonl.gz'],
156
+ "sco": ['2017/sco.jsonl.gz', '2018/sco.jsonl.gz', '2019/sco.jsonl.gz', '2020/sco.jsonl.gz', '2021/sco.jsonl.gz'],
157
+ "sd": ['2016/sd.jsonl.gz', '2017/sd.jsonl.gz', '2018/sd.jsonl.gz', '2019/sd.jsonl.gz', '2020/sd.jsonl.gz', '2021/sd.jsonl.gz'],
158
+ "sh": ['2016/sh.jsonl.gz', '2017/sh.jsonl.gz', '2018/sh.jsonl.gz', '2019/sh.jsonl.gz', '2020/sh.jsonl.gz', '2021/sh.jsonl.gz'],
159
+ "si": ['2016/si.jsonl.gz', '2017/si.jsonl.gz', '2018/si.jsonl.gz', '2019/si.jsonl.gz', '2020/si.jsonl.gz', '2021/si.jsonl.gz'],
160
+ "sk": ['2016/sk.jsonl.gz', '2017/sk.jsonl.gz', '2018/sk.jsonl.gz', '2019/sk.jsonl.gz', '2020/sk.jsonl.gz', '2021/sk.jsonl.gz'],
161
+ "sl": ['2016/sl.jsonl.gz', '2017/sl.jsonl.gz', '2018/sl.jsonl.gz', '2019/sl.jsonl.gz', '2020/sl.jsonl.gz', '2021/sl.jsonl.gz'],
162
+ "so": ['2016/so.jsonl.gz', '2017/so.jsonl.gz', '2018/so.jsonl.gz', '2019/so.jsonl.gz', '2020/so.jsonl.gz', '2021/so.jsonl.gz'],
163
+ "sq": ['2016/sq.jsonl.gz', '2017/sq.jsonl.gz', '2018/sq.jsonl.gz', '2019/sq.jsonl.gz', '2020/sq.jsonl.gz', '2021/sq.jsonl.gz'],
164
+ "sr": ['2016/sr.jsonl.gz', '2017/sr.jsonl.gz', '2018/sr.jsonl.gz', '2019/sr.jsonl.gz', '2020/sr.jsonl.gz', '2021/sr.jsonl.gz'],
165
+ "su": ['2016/su.jsonl.gz', '2017/su.jsonl.gz', '2018/su.jsonl.gz', '2019/su.jsonl.gz', '2020/su.jsonl.gz', '2021/su.jsonl.gz'],
166
+ "sv": ['2016/sv.jsonl.gz', '2017/sv.jsonl.gz', '2018/sv.jsonl.gz', '2019/sv.jsonl.gz', '2020/sv.jsonl.gz', '2021/sv.jsonl.gz'],
167
+ "sw": ['2016/sw.jsonl.gz', '2017/sw.jsonl.gz', '2018/sw.jsonl.gz', '2019/sw.jsonl.gz', '2020/sw.jsonl.gz', '2021/sw.jsonl.gz'],
168
+ "ta": ['2016/ta.jsonl.gz', '2017/ta.jsonl.gz', '2018/ta.jsonl.gz', '2019/ta.jsonl.gz', '2020/ta.jsonl.gz', '2021/ta.jsonl.gz'],
169
+ "te": ['2016/te.jsonl.gz', '2017/te.jsonl.gz', '2018/te.jsonl.gz', '2019/te.jsonl.gz', '2020/te.jsonl.gz', '2021/te.jsonl.gz'],
170
+ "tg": ['2016/tg.jsonl.gz', '2017/tg.jsonl.gz', '2018/tg.jsonl.gz', '2019/tg.jsonl.gz', '2020/tg.jsonl.gz', '2021/tg.jsonl.gz'],
171
+ "th": ['2016/th.jsonl.gz', '2017/th.jsonl.gz', '2018/th.jsonl.gz', '2019/th.jsonl.gz', '2020/th.jsonl.gz', '2021/th.jsonl.gz'],
172
+ "tk": ['2016/tk.jsonl.gz', '2017/tk.jsonl.gz', '2019/tk.jsonl.gz', '2020/tk.jsonl.gz', '2021/tk.jsonl.gz'],
173
+ "tl": ['2016/tl.jsonl.gz', '2017/tl.jsonl.gz', '2018/tl.jsonl.gz', '2019/tl.jsonl.gz', '2020/tl.jsonl.gz', '2021/tl.jsonl.gz'],
174
+ "tr": ['2016/tr.jsonl.gz', '2017/tr.jsonl.gz', '2018/tr.jsonl.gz', '2019/tr.jsonl.gz', '2020/tr.jsonl.gz', '2021/tr.jsonl.gz'],
175
+ "tt": ['2016/tt.jsonl.gz', '2017/tt.jsonl.gz', '2018/tt.jsonl.gz', '2019/tt.jsonl.gz', '2020/tt.jsonl.gz', '2021/tt.jsonl.gz'],
176
+ "tyv": ['2018/tyv.jsonl.gz'],
177
+ "ug": ['2017/ug.jsonl.gz', '2019/ug.jsonl.gz', '2020/ug.jsonl.gz', '2021/ug.jsonl.gz'],
178
+ "uk": ['2016/uk.jsonl.gz', '2017/uk.jsonl.gz', '2018/uk.jsonl.gz', '2019/uk.jsonl.gz', '2020/uk.jsonl.gz', '2021/uk.jsonl.gz'],
179
+ "ur": ['2016/ur.jsonl.gz', '2017/ur.jsonl.gz', '2018/ur.jsonl.gz', '2019/ur.jsonl.gz', '2020/ur.jsonl.gz', '2021/ur.jsonl.gz'],
180
+ "uz": ['2016/uz.jsonl.gz', '2017/uz.jsonl.gz', '2018/uz.jsonl.gz', '2019/uz.jsonl.gz', '2020/uz.jsonl.gz', '2021/uz.jsonl.gz'],
181
+ "vec": ['2016/vec.jsonl.gz', '2017/vec.jsonl.gz', '2018/vec.jsonl.gz', '2019/vec.jsonl.gz', '2020/vec.jsonl.gz', '2021/vec.jsonl.gz'],
182
+ "vep": ['2018/vep.jsonl.gz', '2019/vep.jsonl.gz', '2020/vep.jsonl.gz', '2021/vep.jsonl.gz'],
183
+ "vi": ['2016/vi.jsonl.gz', '2017/vi.jsonl.gz', '2018/vi.jsonl.gz', '2019/vi.jsonl.gz', '2020/vi.jsonl.gz', '2021/vi.jsonl.gz'],
184
+ "vls": ['2017/vls.jsonl.gz', '2018/vls.jsonl.gz'],
185
+ "vo": ['2016/vo.jsonl.gz', '2017/vo.jsonl.gz', '2018/vo.jsonl.gz', '2019/vo.jsonl.gz', '2020/vo.jsonl.gz', '2021/vo.jsonl.gz'],
186
+ "wa": ['2017/wa.jsonl.gz', '2018/wa.jsonl.gz', '2019/wa.jsonl.gz', '2020/wa.jsonl.gz', '2021/wa.jsonl.gz'],
187
+ "war": ['2016/war.jsonl.gz', '2017/war.jsonl.gz', '2018/war.jsonl.gz', '2019/war.jsonl.gz', '2020/war.jsonl.gz', '2021/war.jsonl.gz'],
188
+ "wuu": ['2017/wuu.jsonl.gz', '2018/wuu.jsonl.gz', '2019/wuu.jsonl.gz', '2020/wuu.jsonl.gz', '2021/wuu.jsonl.gz'],
189
+ "xal": ['2018/xal.jsonl.gz', '2019/xal.jsonl.gz', '2020/xal.jsonl.gz', '2021/xal.jsonl.gz'],
190
+ "xmf": ['2021/xmf.jsonl.gz'],
191
+ "yi": ['2017/yi.jsonl.gz', '2018/yi.jsonl.gz', '2019/yi.jsonl.gz', '2020/yi.jsonl.gz', '2021/yi.jsonl.gz'],
192
+ "yo": ['2017/yo.jsonl.gz', '2018/yo.jsonl.gz', '2019/yo.jsonl.gz', '2020/yo.jsonl.gz', '2021/yo.jsonl.gz'],
193
+ "yue": ['2016/yue.jsonl.gz', '2017/yue.jsonl.gz', '2018/yue.jsonl.gz', '2019/yue.jsonl.gz', '2020/yue.jsonl.gz', '2021/yue.jsonl.gz'],
194
+ "zh": ['2016/zh.jsonl.gz', '2017/zh.jsonl.gz', '2018/zh.jsonl.gz', '2019/zh.jsonl.gz', '2020/zh.jsonl.gz', '2021/zh.jsonl.gz'],
195
+ }
196
+
197
+
198
+ class CCNewsConfig(datasets.BuilderConfig):
199
+
200
+ def __init__(self, *args, languages, **kwargs):
201
+ """BuilderConfig for CC-News.
202
+ Args:
203
+ languages (:obj:`List[str]`): list of languages to load
204
+ **kwargs: keyword arguments forwarded to super.
205
+ """
206
+ super().__init__(
207
+ *args,
208
+ name="+".join(languages),
209
+ **kwargs,
210
+ )
211
+ self.languages = languages
212
+
213
+
214
+ class Mc4(datasets.GeneratorBasedBuilder):
215
+ VERSION = datasets.Version("0.1.0")
216
+ BUILDER_CONFIGS = [CCNewsConfig(languages=[lang]) for lang in _LANGUAGE_TO_PATH_LIST]
217
+ BUILDER_CONFIG_CLASS = CCNewsConfig
218
+
219
+ def _info(self):
220
+ return datasets.DatasetInfo(
221
+ description=_DESCRIPTION,
222
+ features=datasets.Features(
223
+ {
224
+ "title": datasets.Value("string"),
225
+ "maintext": datasets.Value("string"),
226
+ "url": datasets.Value("string"),
227
+ "date_publish": datasets.Value("string"),
228
+ }
229
+ ),
230
+ supervised_keys=None,
231
+ )
232
+
233
+ def _split_generators(self, dl_manager):
234
+ data_urls = ["{}/{}".format(_DATA_URL, path) for lang in self.config.languages for path in _LANGUAGE_TO_PATH_LIST[lang]]
235
+ downloaded_files = dl_manager.download(data_urls)
236
+ return [
237
+ datasets.SplitGenerator(name=datasets.Split.TRAIN, gen_kwargs={"filepaths": downloaded_files}),
238
+ ]
239
+
240
+ def _generate_examples(self, filepaths):
241
+ """This function returns the examples in the raw (text) form by iterating on all the files."""
242
+ id_ = 0
243
+ for filepath in filepaths:
244
+ logger.info("generating examples from = %s", filepath)
245
+ with gzip.open(open(filepath, "rb"), "rt", encoding="utf-8") as f:
246
+ for line in f:
247
+ if line:
248
+ example = json.loads(line)
249
+ yield id_, {
250
+ "title": example["title"] or "",
251
+ "maintext": example["maintext"] or "",
252
+ "url": example["url"] or "",
253
+ "date_publish": example["date_publish"] or "",
254
+ }
255
+ id_ += 1