| """multilingual cc news dataset.""" | |
| import gzip | |
| import json | |
| import datasets | |
| logger = datasets.logging.get_logger(__name__) | |
| _DESCRIPTION = """\ | |
| Multilingual CC-News dataset. | |
| This is the processed version from https://huggingface.co/datasets/CloverSearch/cc-news-mutlilingual. | |
| """ | |
| _DATA_URL = "https://huggingface.co/datasets/CloverSearch/cc-news-mutlilingual/resolve/main" | |
| _LANGUAGE_TO_PATH_LIST = { | |
| "af": ['2016/af.jsonl.gz', '2017/af.jsonl.gz', '2018/af.jsonl.gz', '2019/af.jsonl.gz', '2020/af.jsonl.gz', '2021/af.jsonl.gz'], | |
| "als": ['2016/als.jsonl.gz', '2017/als.jsonl.gz', '2018/als.jsonl.gz', '2019/als.jsonl.gz', '2020/als.jsonl.gz', '2021/als.jsonl.gz'], | |
| "am": ['2016/am.jsonl.gz', '2017/am.jsonl.gz', '2018/am.jsonl.gz', '2019/am.jsonl.gz', '2020/am.jsonl.gz', '2021/am.jsonl.gz'], | |
| "an": ['2017/an.jsonl.gz', '2018/an.jsonl.gz', '2019/an.jsonl.gz', '2020/an.jsonl.gz', '2021/an.jsonl.gz'], | |
| "ar": ['2016/ar.jsonl.gz', '2017/ar.jsonl.gz', '2018/ar.jsonl.gz', '2019/ar.jsonl.gz', '2020/ar.jsonl.gz', '2021/ar.jsonl.gz'], | |
| "arz": ['2016/arz.jsonl.gz', '2017/arz.jsonl.gz', '2018/arz.jsonl.gz', '2019/arz.jsonl.gz', '2020/arz.jsonl.gz', '2021/arz.jsonl.gz'], | |
| "as": ['2018/as.jsonl.gz', '2019/as.jsonl.gz', '2020/as.jsonl.gz', '2021/as.jsonl.gz'], | |
| "ast": ['2016/ast.jsonl.gz', '2017/ast.jsonl.gz', '2018/ast.jsonl.gz', '2019/ast.jsonl.gz', '2020/ast.jsonl.gz', '2021/ast.jsonl.gz'], | |
| "av": ['2016/av.jsonl.gz', '2017/av.jsonl.gz', '2018/av.jsonl.gz', '2019/av.jsonl.gz', '2020/av.jsonl.gz', '2021/av.jsonl.gz'], | |
| "az": ['2016/az.jsonl.gz', '2017/az.jsonl.gz', '2018/az.jsonl.gz', '2019/az.jsonl.gz', '2020/az.jsonl.gz', '2021/az.jsonl.gz'], | |
| "azb": ['2016/azb.jsonl.gz', '2017/azb.jsonl.gz', '2018/azb.jsonl.gz', '2019/azb.jsonl.gz', '2020/azb.jsonl.gz', '2021/azb.jsonl.gz'], | |
| "ba": ['2016/ba.jsonl.gz', '2017/ba.jsonl.gz', '2018/ba.jsonl.gz', '2019/ba.jsonl.gz', '2020/ba.jsonl.gz', '2021/ba.jsonl.gz'], | |
| "bar": ['2016/bar.jsonl.gz', '2017/bar.jsonl.gz', '2018/bar.jsonl.gz', '2019/bar.jsonl.gz', '2020/bar.jsonl.gz', '2021/bar.jsonl.gz'], | |
| "bcl": ['2017/bcl.jsonl.gz', '2018/bcl.jsonl.gz', '2019/bcl.jsonl.gz', '2020/bcl.jsonl.gz', '2021/bcl.jsonl.gz'], | |
| "be": ['2016/be.jsonl.gz', '2017/be.jsonl.gz', '2018/be.jsonl.gz', '2019/be.jsonl.gz', '2020/be.jsonl.gz', '2021/be.jsonl.gz'], | |
| "bg": ['2016/bg.jsonl.gz', '2017/bg.jsonl.gz', '2018/bg.jsonl.gz', '2019/bg.jsonl.gz', '2020/bg.jsonl.gz', '2021/bg.jsonl.gz'], | |
| "bh": ['2018/bh.jsonl.gz', '2019/bh.jsonl.gz', '2020/bh.jsonl.gz', '2021/bh.jsonl.gz'], | |
| "bn": ['2016/bn.jsonl.gz', '2017/bn.jsonl.gz', '2018/bn.jsonl.gz', '2019/bn.jsonl.gz', '2020/bn.jsonl.gz', '2021/bn.jsonl.gz'], | |
| "bo": ['2017/bo.jsonl.gz', '2018/bo.jsonl.gz', '2019/bo.jsonl.gz', '2020/bo.jsonl.gz', '2021/bo.jsonl.gz'], | |
| "bpy": ['2019/bpy.jsonl.gz', '2020/bpy.jsonl.gz', '2021/bpy.jsonl.gz'], | |
| "br": ['2016/br.jsonl.gz', '2017/br.jsonl.gz', '2018/br.jsonl.gz', '2019/br.jsonl.gz', '2020/br.jsonl.gz', '2021/br.jsonl.gz'], | |
| "bs": ['2016/bs.jsonl.gz', '2017/bs.jsonl.gz', '2018/bs.jsonl.gz', '2019/bs.jsonl.gz', '2020/bs.jsonl.gz', '2021/bs.jsonl.gz'], | |
| "bxr": ['2016/bxr.jsonl.gz', '2017/bxr.jsonl.gz', '2018/bxr.jsonl.gz', '2019/bxr.jsonl.gz', '2020/bxr.jsonl.gz', '2021/bxr.jsonl.gz'], | |
| "ca": ['2016/ca.jsonl.gz', '2017/ca.jsonl.gz', '2018/ca.jsonl.gz', '2019/ca.jsonl.gz', '2020/ca.jsonl.gz', '2021/ca.jsonl.gz'], | |
| "cbk": ['2017/cbk.jsonl.gz', '2018/cbk.jsonl.gz', '2020/cbk.jsonl.gz', '2021/cbk.jsonl.gz'], | |
| "ce": ['2017/ce.jsonl.gz', '2018/ce.jsonl.gz', '2019/ce.jsonl.gz', '2020/ce.jsonl.gz', '2021/ce.jsonl.gz'], | |
| "ceb": ['2016/ceb.jsonl.gz', '2017/ceb.jsonl.gz', '2018/ceb.jsonl.gz', '2019/ceb.jsonl.gz', '2020/ceb.jsonl.gz', '2021/ceb.jsonl.gz'], | |
| "ckb": ['2016/ckb.jsonl.gz', '2017/ckb.jsonl.gz', '2018/ckb.jsonl.gz', '2019/ckb.jsonl.gz', '2020/ckb.jsonl.gz', '2021/ckb.jsonl.gz'], | |
| "co": ['2018/co.jsonl.gz', '2020/co.jsonl.gz', '2021/co.jsonl.gz'], | |
| "cs": ['2016/cs.jsonl.gz', '2017/cs.jsonl.gz', '2018/cs.jsonl.gz', '2019/cs.jsonl.gz', '2020/cs.jsonl.gz', '2021/cs.jsonl.gz'], | |
| "cv": ['2016/cv.jsonl.gz', '2017/cv.jsonl.gz', '2018/cv.jsonl.gz', '2019/cv.jsonl.gz', '2020/cv.jsonl.gz', '2021/cv.jsonl.gz'], | |
| "cy": ['2016/cy.jsonl.gz', '2017/cy.jsonl.gz', '2018/cy.jsonl.gz', '2019/cy.jsonl.gz', '2020/cy.jsonl.gz', '2021/cy.jsonl.gz'], | |
| "da": ['2016/da.jsonl.gz', '2017/da.jsonl.gz', '2018/da.jsonl.gz', '2019/da.jsonl.gz', '2020/da.jsonl.gz', '2021/da.jsonl.gz'], | |
| "de": ['2016/de.jsonl.gz', '2017/de.jsonl.gz', '2018/de.jsonl.gz', '2019/de.jsonl.gz', '2020/de.jsonl.gz', '2021/de.jsonl.gz'], | |
| "diq": ['2017/diq.jsonl.gz', '2018/diq.jsonl.gz', '2019/diq.jsonl.gz', '2020/diq.jsonl.gz', '2021/diq.jsonl.gz'], | |
| "dsb": ['2020/dsb.jsonl.gz', '2021/dsb.jsonl.gz'], | |
| "dty": ['2019/dty.jsonl.gz', '2021/dty.jsonl.gz'], | |
| "dv": ['2016/dv.jsonl.gz', '2017/dv.jsonl.gz', '2018/dv.jsonl.gz', '2019/dv.jsonl.gz', '2021/dv.jsonl.gz'], | |
| "el": ['2016/el.jsonl.gz', '2017/el.jsonl.gz', '2018/el.jsonl.gz', '2019/el.jsonl.gz', '2020/el.jsonl.gz', '2021/el.jsonl.gz'], | |
| "eml": ['2016/eml.jsonl.gz', '2017/eml.jsonl.gz', '2018/eml.jsonl.gz', '2019/eml.jsonl.gz', '2020/eml.jsonl.gz', '2021/eml.jsonl.gz'], | |
| "en": ['2016/en.jsonl.gz', '2017/en00.jsonl.gz', '2017/en01.jsonl.gz', '2017/en02.jsonl.gz', '2017/en03.jsonl.gz', '2017/en04.jsonl.gz', '2018/en00.jsonl.gz', '2018/en01.jsonl.gz', '2018/en02.jsonl.gz', '2018/en03.jsonl.gz', '2018/en04.jsonl.gz', '2019/en00.jsonl.gz', '2019/en01.jsonl.gz', '2019/en02.jsonl.gz', '2019/en03.jsonl.gz', '2019/en04.jsonl.gz', '2019/en05.jsonl.gz', '2019/en06.jsonl.gz', '2020/en00.jsonl.gz', '2020/en01.jsonl.gz', '2020/en02.jsonl.gz', '2020/en03.jsonl.gz', '2020/en04.jsonl.gz', '2020/en05.jsonl.gz', '2020/en06.jsonl.gz', '2020/en07.jsonl.gz', '2020/en08.jsonl.gz', '2020/en09.jsonl.gz', '2020/en10.jsonl.gz', '2020/en11.jsonl.gz', '2021/en00.jsonl.gz', '2021/en01.jsonl.gz', '2021/en02.jsonl.gz', '2021/en03.jsonl.gz', '2021/en04.jsonl.gz', '2021/en05.jsonl.gz', '2021/en06.jsonl.gz', '2021/en07.jsonl.gz', '2021/en08.jsonl.gz', '2021/en09.jsonl.gz', '2021/en10.jsonl.gz', '2021/en11.jsonl.gz', '2021/en12.jsonl.gz'], | |
| "eo": ['2016/eo.jsonl.gz', '2017/eo.jsonl.gz', '2018/eo.jsonl.gz', '2019/eo.jsonl.gz', '2020/eo.jsonl.gz', '2021/eo.jsonl.gz'], | |
| "es": ['2016/es.jsonl.gz', '2017/es.jsonl.gz', '2018/es.jsonl.gz', '2019/es.jsonl.gz', '2020/es01.jsonl.gz', '2020/es02.jsonl.gz', '2020/es03.jsonl.gz', '2021/es00.jsonl.gz', '2021/es01.jsonl.gz', '2021/es02.jsonl.gz', '2021/es03.jsonl.gz'], | |
| "et": ['2016/et.jsonl.gz', '2017/et.jsonl.gz', '2018/et.jsonl.gz', '2019/et.jsonl.gz', '2020/et.jsonl.gz', '2021/et.jsonl.gz'], | |
| "eu": ['2016/eu.jsonl.gz', '2017/eu.jsonl.gz', '2018/eu.jsonl.gz', '2019/eu.jsonl.gz', '2020/eu.jsonl.gz', '2021/eu.jsonl.gz'], | |
| "fa": ['2016/fa.jsonl.gz', '2017/fa.jsonl.gz', '2018/fa.jsonl.gz', '2019/fa.jsonl.gz', '2020/fa.jsonl.gz', '2021/fa.jsonl.gz'], | |
| "fi": ['2016/fi.jsonl.gz', '2017/fi.jsonl.gz', '2018/fi.jsonl.gz', '2019/fi.jsonl.gz', '2020/fi.jsonl.gz', '2021/fi.jsonl.gz'], | |
| "fr": ['2016/fr.jsonl.gz', '2017/fr.jsonl.gz', '2018/fr.jsonl.gz', '2019/fr.jsonl.gz', '2020/fr.jsonl.gz', '2021/fr.jsonl.gz'], | |
| "fy": ['2016/fy.jsonl.gz', '2017/fy.jsonl.gz', '2018/fy.jsonl.gz', '2019/fy.jsonl.gz', '2020/fy.jsonl.gz', '2021/fy.jsonl.gz'], | |
| "ga": ['2016/ga.jsonl.gz', '2017/ga.jsonl.gz', '2018/ga.jsonl.gz', '2019/ga.jsonl.gz', '2020/ga.jsonl.gz', '2021/ga.jsonl.gz'], | |
| "gd": ['2016/gd.jsonl.gz', '2017/gd.jsonl.gz', '2018/gd.jsonl.gz', '2019/gd.jsonl.gz', '2020/gd.jsonl.gz', '2021/gd.jsonl.gz'], | |
| "gl": ['2016/gl.jsonl.gz', '2017/gl.jsonl.gz', '2018/gl.jsonl.gz', '2019/gl.jsonl.gz', '2020/gl.jsonl.gz', '2021/gl.jsonl.gz'], | |
| "gn": ['2016/gn.jsonl.gz', '2017/gn.jsonl.gz', '2018/gn.jsonl.gz', '2019/gn.jsonl.gz', '2020/gn.jsonl.gz', '2021/gn.jsonl.gz'], | |
| "gom": ['2017/gom.jsonl.gz', '2018/gom.jsonl.gz', '2019/gom.jsonl.gz', '2020/gom.jsonl.gz', '2021/gom.jsonl.gz'], | |
| "gu": ['2016/gu.jsonl.gz', '2017/gu.jsonl.gz', '2018/gu.jsonl.gz', '2019/gu.jsonl.gz', '2020/gu.jsonl.gz', '2021/gu.jsonl.gz'], | |
| "gv": ['2017/gv.jsonl.gz', '2018/gv.jsonl.gz', '2019/gv.jsonl.gz', '2020/gv.jsonl.gz', '2021/gv.jsonl.gz'], | |
| "he": ['2016/he.jsonl.gz', '2017/he.jsonl.gz', '2018/he.jsonl.gz', '2019/he.jsonl.gz', '2020/he.jsonl.gz', '2021/he.jsonl.gz'], | |
| "hi": ['2016/hi.jsonl.gz', '2017/hi.jsonl.gz', '2018/hi.jsonl.gz', '2019/hi.jsonl.gz', '2020/hi.jsonl.gz', '2021/hi.jsonl.gz'], | |
| "hif": ['2021/hif.jsonl.gz'], | |
| "hr": ['2016/hr.jsonl.gz', '2017/hr.jsonl.gz', '2018/hr.jsonl.gz', '2019/hr.jsonl.gz', '2020/hr.jsonl.gz', '2021/hr.jsonl.gz'], | |
| "hsb": ['2017/hsb.jsonl.gz', '2018/hsb.jsonl.gz', '2019/hsb.jsonl.gz', '2020/hsb.jsonl.gz', '2021/hsb.jsonl.gz'], | |
| "ht": ['2016/ht.jsonl.gz', '2017/ht.jsonl.gz', '2018/ht.jsonl.gz', '2019/ht.jsonl.gz', '2020/ht.jsonl.gz', '2021/ht.jsonl.gz'], | |
| "hu": ['2016/hu.jsonl.gz', '2017/hu.jsonl.gz', '2018/hu.jsonl.gz', '2019/hu.jsonl.gz', '2020/hu.jsonl.gz', '2021/hu.jsonl.gz'], | |
| "hy": ['2016/hy.jsonl.gz', '2017/hy.jsonl.gz', '2018/hy.jsonl.gz', '2019/hy.jsonl.gz', '2020/hy.jsonl.gz', '2021/hy.jsonl.gz'], | |
| "ia": ['2016/ia.jsonl.gz', '2017/ia.jsonl.gz', '2018/ia.jsonl.gz', '2019/ia.jsonl.gz', '2020/ia.jsonl.gz', '2021/ia.jsonl.gz'], | |
| "id": ['2016/id.jsonl.gz', '2017/id.jsonl.gz', '2018/id.jsonl.gz', '2019/id.jsonl.gz', '2020/id.jsonl.gz', '2021/id.jsonl.gz'], | |
| "ie": ['2016/ie.jsonl.gz', '2017/ie.jsonl.gz', '2018/ie.jsonl.gz', '2019/ie.jsonl.gz', '2020/ie.jsonl.gz', '2021/ie.jsonl.gz'], | |
| "ilo": ['2016/ilo.jsonl.gz', '2017/ilo.jsonl.gz', '2018/ilo.jsonl.gz', '2019/ilo.jsonl.gz', '2020/ilo.jsonl.gz', '2021/ilo.jsonl.gz'], | |
| "io": ['2016/io.jsonl.gz', '2017/io.jsonl.gz', '2018/io.jsonl.gz', '2019/io.jsonl.gz', '2020/io.jsonl.gz', '2021/io.jsonl.gz'], | |
| "is": ['2016/is.jsonl.gz', '2017/is.jsonl.gz', '2018/is.jsonl.gz', '2019/is.jsonl.gz', '2020/is.jsonl.gz', '2021/is.jsonl.gz'], | |
| "it": ['2016/it.jsonl.gz', '2017/it.jsonl.gz', '2018/it.jsonl.gz', '2019/it.jsonl.gz', '2020/it.jsonl.gz', '2021/it.jsonl.gz'], | |
| "ja": ['2016/ja.jsonl.gz', '2017/ja.jsonl.gz', '2018/ja.jsonl.gz', '2019/ja.jsonl.gz', '2020/ja.jsonl.gz', '2021/ja.jsonl.gz'], | |
| "jbo": ['2016/jbo.jsonl.gz', '2017/jbo.jsonl.gz', '2018/jbo.jsonl.gz', '2019/jbo.jsonl.gz', '2020/jbo.jsonl.gz', '2021/jbo.jsonl.gz'], | |
| "jv": ['2016/jv.jsonl.gz', '2017/jv.jsonl.gz', '2018/jv.jsonl.gz', '2019/jv.jsonl.gz', '2020/jv.jsonl.gz', '2021/jv.jsonl.gz'], | |
| "ka": ['2016/ka.jsonl.gz', '2017/ka.jsonl.gz', '2018/ka.jsonl.gz', '2019/ka.jsonl.gz', '2020/ka.jsonl.gz', '2021/ka.jsonl.gz'], | |
| "kk": ['2016/kk.jsonl.gz', '2017/kk.jsonl.gz', '2018/kk.jsonl.gz', '2019/kk.jsonl.gz', '2020/kk.jsonl.gz', '2021/kk.jsonl.gz'], | |
| "km": ['2017/km.jsonl.gz', '2018/km.jsonl.gz', '2019/km.jsonl.gz', '2020/km.jsonl.gz', '2021/km.jsonl.gz'], | |
| "kn": ['2016/kn.jsonl.gz', '2017/kn.jsonl.gz', '2018/kn.jsonl.gz', '2019/kn.jsonl.gz', '2020/kn.jsonl.gz', '2021/kn.jsonl.gz'], | |
| "ko": ['2016/ko.jsonl.gz', '2017/ko.jsonl.gz', '2018/ko.jsonl.gz', '2019/ko.jsonl.gz', '2020/ko.jsonl.gz', '2021/ko.jsonl.gz'], | |
| "krc": ['2016/krc.jsonl.gz', '2017/krc.jsonl.gz', '2018/krc.jsonl.gz', '2019/krc.jsonl.gz', '2020/krc.jsonl.gz', '2021/krc.jsonl.gz'], | |
| "ku": ['2016/ku.jsonl.gz', '2017/ku.jsonl.gz', '2018/ku.jsonl.gz', '2019/ku.jsonl.gz', '2020/ku.jsonl.gz', '2021/ku.jsonl.gz'], | |
| "kv": ['2017/kv.jsonl.gz', '2018/kv.jsonl.gz', '2019/kv.jsonl.gz', '2020/kv.jsonl.gz', '2021/kv.jsonl.gz'], | |
| "kw": ['2016/kw.jsonl.gz', '2017/kw.jsonl.gz', '2018/kw.jsonl.gz', '2019/kw.jsonl.gz', '2020/kw.jsonl.gz', '2021/kw.jsonl.gz'], | |
| "ky": ['2016/ky.jsonl.gz', '2017/ky.jsonl.gz', '2018/ky.jsonl.gz', '2019/ky.jsonl.gz', '2020/ky.jsonl.gz', '2021/ky.jsonl.gz'], | |
| "la": ['2016/la.jsonl.gz', '2017/la.jsonl.gz', '2018/la.jsonl.gz', '2019/la.jsonl.gz', '2020/la.jsonl.gz', '2021/la.jsonl.gz'], | |
| "lb": ['2016/lb.jsonl.gz', '2017/lb.jsonl.gz', '2018/lb.jsonl.gz', '2019/lb.jsonl.gz', '2020/lb.jsonl.gz', '2021/lb.jsonl.gz'], | |
| "lez": ['2018/lez.jsonl.gz', '2020/lez.jsonl.gz', '2021/lez.jsonl.gz'], | |
| "li": ['2017/li.jsonl.gz', '2018/li.jsonl.gz', '2020/li.jsonl.gz', '2021/li.jsonl.gz'], | |
| "lmo": ['2016/lmo.jsonl.gz', '2017/lmo.jsonl.gz', '2018/lmo.jsonl.gz', '2019/lmo.jsonl.gz', '2020/lmo.jsonl.gz', '2021/lmo.jsonl.gz'], | |
| "lo": ['2016/lo.jsonl.gz', '2017/lo.jsonl.gz', '2018/lo.jsonl.gz', '2019/lo.jsonl.gz', '2020/lo.jsonl.gz', '2021/lo.jsonl.gz'], | |
| "lt": ['2016/lt.jsonl.gz', '2017/lt.jsonl.gz', '2018/lt.jsonl.gz', '2019/lt.jsonl.gz', '2020/lt.jsonl.gz', '2021/lt.jsonl.gz'], | |
| "lv": ['2016/lv.jsonl.gz', '2017/lv.jsonl.gz', '2018/lv.jsonl.gz', '2019/lv.jsonl.gz', '2020/lv.jsonl.gz', '2021/lv.jsonl.gz'], | |
| "mai": ['2020/mai.jsonl.gz', '2021/mai.jsonl.gz'], | |
| "mg": ['2016/mg.jsonl.gz', '2017/mg.jsonl.gz', '2018/mg.jsonl.gz', '2019/mg.jsonl.gz', '2020/mg.jsonl.gz', '2021/mg.jsonl.gz'], | |
| "mhr": ['2016/mhr.jsonl.gz', '2017/mhr.jsonl.gz', '2018/mhr.jsonl.gz', '2019/mhr.jsonl.gz', '2020/mhr.jsonl.gz', '2021/mhr.jsonl.gz'], | |
| "min": ['2017/min.jsonl.gz', '2018/min.jsonl.gz', '2019/min.jsonl.gz', '2020/min.jsonl.gz', '2021/min.jsonl.gz'], | |
| "mk": ['2016/mk.jsonl.gz', '2017/mk.jsonl.gz', '2018/mk.jsonl.gz', '2019/mk.jsonl.gz', '2020/mk.jsonl.gz', '2021/mk.jsonl.gz'], | |
| "ml": ['2016/ml.jsonl.gz', '2017/ml.jsonl.gz', '2018/ml.jsonl.gz', '2019/ml.jsonl.gz', '2020/ml.jsonl.gz', '2021/ml.jsonl.gz'], | |
| "mn": ['2016/mn.jsonl.gz', '2017/mn.jsonl.gz', '2018/mn.jsonl.gz', '2019/mn.jsonl.gz', '2020/mn.jsonl.gz', '2021/mn.jsonl.gz'], | |
| "mr": ['2016/mr.jsonl.gz', '2017/mr.jsonl.gz', '2018/mr.jsonl.gz', '2019/mr.jsonl.gz', '2020/mr.jsonl.gz', '2021/mr.jsonl.gz'], | |
| "mrj": ['2017/mrj.jsonl.gz', '2020/mrj.jsonl.gz'], | |
| "ms": ['2016/ms.jsonl.gz', '2017/ms.jsonl.gz', '2018/ms.jsonl.gz', '2019/ms.jsonl.gz', '2020/ms.jsonl.gz', '2021/ms.jsonl.gz'], | |
| "mt": ['2016/mt.jsonl.gz', '2017/mt.jsonl.gz', '2018/mt.jsonl.gz', '2019/mt.jsonl.gz', '2020/mt.jsonl.gz', '2021/mt.jsonl.gz'], | |
| "mwl": ['2017/mwl.jsonl.gz', '2018/mwl.jsonl.gz', '2019/mwl.jsonl.gz', '2020/mwl.jsonl.gz'], | |
| "my": ['2016/my.jsonl.gz', '2017/my.jsonl.gz', '2018/my.jsonl.gz', '2019/my.jsonl.gz', '2020/my.jsonl.gz', '2021/my.jsonl.gz'], | |
| "myv": ['2017/myv.jsonl.gz', '2018/myv.jsonl.gz', '2019/myv.jsonl.gz', '2020/myv.jsonl.gz'], | |
| "mzn": ['2017/mzn.jsonl.gz', '2018/mzn.jsonl.gz', '2019/mzn.jsonl.gz', '2020/mzn.jsonl.gz', '2021/mzn.jsonl.gz'], | |
| "nah": ['2019/nah.jsonl.gz'], | |
| "nap": ['2016/nap.jsonl.gz', '2017/nap.jsonl.gz', '2018/nap.jsonl.gz', '2019/nap.jsonl.gz', '2020/nap.jsonl.gz', '2021/nap.jsonl.gz'], | |
| "nds": ['2016/nds.jsonl.gz', '2017/nds.jsonl.gz', '2018/nds.jsonl.gz', '2019/nds.jsonl.gz', '2020/nds.jsonl.gz', '2021/nds.jsonl.gz'], | |
| "ne": ['2016/ne.jsonl.gz', '2017/ne.jsonl.gz', '2018/ne.jsonl.gz', '2019/ne.jsonl.gz', '2020/ne.jsonl.gz', '2021/ne.jsonl.gz'], | |
| "new": ['2016/new.jsonl.gz', '2017/new.jsonl.gz', '2018/new.jsonl.gz', '2019/new.jsonl.gz', '2020/new.jsonl.gz', '2021/new.jsonl.gz'], | |
| "nl": ['2016/nl.jsonl.gz', '2017/nl.jsonl.gz', '2018/nl.jsonl.gz', '2019/nl.jsonl.gz', '2020/nl.jsonl.gz', '2021/nl.jsonl.gz'], | |
| "nn": ['2016/nn.jsonl.gz', '2017/nn.jsonl.gz', '2018/nn.jsonl.gz', '2019/nn.jsonl.gz', '2020/nn.jsonl.gz', '2021/nn.jsonl.gz'], | |
| "no": ['2016/no.jsonl.gz', '2017/no.jsonl.gz', '2018/no.jsonl.gz', '2019/no.jsonl.gz', '2020/no.jsonl.gz', '2021/no.jsonl.gz'], | |
| "oc": ['2016/oc.jsonl.gz', '2017/oc.jsonl.gz', '2018/oc.jsonl.gz', '2019/oc.jsonl.gz', '2020/oc.jsonl.gz', '2021/oc.jsonl.gz'], | |
| "or": ['2018/or.jsonl.gz', '2019/or.jsonl.gz', '2020/or.jsonl.gz', '2021/or.jsonl.gz'], | |
| "os": ['2020/os.jsonl.gz', '2021/os.jsonl.gz'], | |
| "pa": ['2016/pa.jsonl.gz', '2017/pa.jsonl.gz', '2018/pa.jsonl.gz', '2019/pa.jsonl.gz', '2020/pa.jsonl.gz', '2021/pa.jsonl.gz'], | |
| "pam": ['2017/pam.jsonl.gz', '2018/pam.jsonl.gz', '2019/pam.jsonl.gz', '2020/pam.jsonl.gz', '2021/pam.jsonl.gz'], | |
| "pfl": ['2020/pfl.jsonl.gz'], | |
| "pl": ['2016/pl.jsonl.gz', '2017/pl.jsonl.gz', '2018/pl.jsonl.gz', '2019/pl.jsonl.gz', '2020/pl.jsonl.gz', '2021/pl.jsonl.gz'], | |
| "pms": ['2016/pms.jsonl.gz', '2017/pms.jsonl.gz', '2018/pms.jsonl.gz', '2019/pms.jsonl.gz', '2020/pms.jsonl.gz', '2021/pms.jsonl.gz'], | |
| "pnb": ['2016/pnb.jsonl.gz', '2017/pnb.jsonl.gz', '2018/pnb.jsonl.gz', '2019/pnb.jsonl.gz', '2020/pnb.jsonl.gz', '2021/pnb.jsonl.gz'], | |
| "ps": ['2016/ps.jsonl.gz', '2017/ps.jsonl.gz', '2018/ps.jsonl.gz', '2019/ps.jsonl.gz', '2020/ps.jsonl.gz', '2021/ps.jsonl.gz'], | |
| "pt": ['2016/pt.jsonl.gz', '2017/pt.jsonl.gz', '2018/pt.jsonl.gz', '2019/pt.jsonl.gz', '2020/pt.jsonl.gz', '2021/pt.jsonl.gz'], | |
| "qu": ['2016/qu.jsonl.gz', '2017/qu.jsonl.gz', '2018/qu.jsonl.gz', '2019/qu.jsonl.gz', '2020/qu.jsonl.gz', '2021/qu.jsonl.gz'], | |
| "rm": ['2016/rm.jsonl.gz', '2017/rm.jsonl.gz', '2018/rm.jsonl.gz', '2019/rm.jsonl.gz', '2020/rm.jsonl.gz', '2021/rm.jsonl.gz'], | |
| "ro": ['2016/ro.jsonl.gz', '2017/ro.jsonl.gz', '2018/ro.jsonl.gz', '2019/ro.jsonl.gz', '2020/ro.jsonl.gz', '2021/ro.jsonl.gz'], | |
| "ru": ['2016/ru.jsonl.gz', '2017/ru.jsonl.gz', '2018/ru.jsonl.gz', '2019/ru.jsonl.gz', '2020/ru.jsonl.gz', '2021/ru.jsonl.gz'], | |
| "sa": ['2016/sa.jsonl.gz', '2017/sa.jsonl.gz', '2018/sa.jsonl.gz', '2019/sa.jsonl.gz', '2020/sa.jsonl.gz', '2021/sa.jsonl.gz'], | |
| "sah": ['2016/sah.jsonl.gz', '2017/sah.jsonl.gz', '2018/sah.jsonl.gz', '2019/sah.jsonl.gz', '2020/sah.jsonl.gz', '2021/sah.jsonl.gz'], | |
| "sc": ['2017/sc.jsonl.gz', '2018/sc.jsonl.gz', '2019/sc.jsonl.gz', '2020/sc.jsonl.gz', '2021/sc.jsonl.gz'], | |
| "scn": ['2017/scn.jsonl.gz', '2018/scn.jsonl.gz', '2019/scn.jsonl.gz', '2020/scn.jsonl.gz', '2021/scn.jsonl.gz'], | |
| "sco": ['2017/sco.jsonl.gz', '2018/sco.jsonl.gz', '2019/sco.jsonl.gz', '2020/sco.jsonl.gz', '2021/sco.jsonl.gz'], | |
| "sd": ['2016/sd.jsonl.gz', '2017/sd.jsonl.gz', '2018/sd.jsonl.gz', '2019/sd.jsonl.gz', '2020/sd.jsonl.gz', '2021/sd.jsonl.gz'], | |
| "sh": ['2016/sh.jsonl.gz', '2017/sh.jsonl.gz', '2018/sh.jsonl.gz', '2019/sh.jsonl.gz', '2020/sh.jsonl.gz', '2021/sh.jsonl.gz'], | |
| "si": ['2016/si.jsonl.gz', '2017/si.jsonl.gz', '2018/si.jsonl.gz', '2019/si.jsonl.gz', '2020/si.jsonl.gz', '2021/si.jsonl.gz'], | |
| "sk": ['2016/sk.jsonl.gz', '2017/sk.jsonl.gz', '2018/sk.jsonl.gz', '2019/sk.jsonl.gz', '2020/sk.jsonl.gz', '2021/sk.jsonl.gz'], | |
| "sl": ['2016/sl.jsonl.gz', '2017/sl.jsonl.gz', '2018/sl.jsonl.gz', '2019/sl.jsonl.gz', '2020/sl.jsonl.gz', '2021/sl.jsonl.gz'], | |
| "so": ['2016/so.jsonl.gz', '2017/so.jsonl.gz', '2018/so.jsonl.gz', '2019/so.jsonl.gz', '2020/so.jsonl.gz', '2021/so.jsonl.gz'], | |
| "sq": ['2016/sq.jsonl.gz', '2017/sq.jsonl.gz', '2018/sq.jsonl.gz', '2019/sq.jsonl.gz', '2020/sq.jsonl.gz', '2021/sq.jsonl.gz'], | |
| "sr": ['2016/sr.jsonl.gz', '2017/sr.jsonl.gz', '2018/sr.jsonl.gz', '2019/sr.jsonl.gz', '2020/sr.jsonl.gz', '2021/sr.jsonl.gz'], | |
| "su": ['2016/su.jsonl.gz', '2017/su.jsonl.gz', '2018/su.jsonl.gz', '2019/su.jsonl.gz', '2020/su.jsonl.gz', '2021/su.jsonl.gz'], | |
| "sv": ['2016/sv.jsonl.gz', '2017/sv.jsonl.gz', '2018/sv.jsonl.gz', '2019/sv.jsonl.gz', '2020/sv.jsonl.gz', '2021/sv.jsonl.gz'], | |
| "sw": ['2016/sw.jsonl.gz', '2017/sw.jsonl.gz', '2018/sw.jsonl.gz', '2019/sw.jsonl.gz', '2020/sw.jsonl.gz', '2021/sw.jsonl.gz'], | |
| "ta": ['2016/ta.jsonl.gz', '2017/ta.jsonl.gz', '2018/ta.jsonl.gz', '2019/ta.jsonl.gz', '2020/ta.jsonl.gz', '2021/ta.jsonl.gz'], | |
| "te": ['2016/te.jsonl.gz', '2017/te.jsonl.gz', '2018/te.jsonl.gz', '2019/te.jsonl.gz', '2020/te.jsonl.gz', '2021/te.jsonl.gz'], | |
| "tg": ['2016/tg.jsonl.gz', '2017/tg.jsonl.gz', '2018/tg.jsonl.gz', '2019/tg.jsonl.gz', '2020/tg.jsonl.gz', '2021/tg.jsonl.gz'], | |
| "th": ['2016/th.jsonl.gz', '2017/th.jsonl.gz', '2018/th.jsonl.gz', '2019/th.jsonl.gz', '2020/th.jsonl.gz', '2021/th.jsonl.gz'], | |
| "tk": ['2016/tk.jsonl.gz', '2017/tk.jsonl.gz', '2019/tk.jsonl.gz', '2020/tk.jsonl.gz', '2021/tk.jsonl.gz'], | |
| "tl": ['2016/tl.jsonl.gz', '2017/tl.jsonl.gz', '2018/tl.jsonl.gz', '2019/tl.jsonl.gz', '2020/tl.jsonl.gz', '2021/tl.jsonl.gz'], | |
| "tr": ['2016/tr.jsonl.gz', '2017/tr.jsonl.gz', '2018/tr.jsonl.gz', '2019/tr.jsonl.gz', '2020/tr.jsonl.gz', '2021/tr.jsonl.gz'], | |
| "tt": ['2016/tt.jsonl.gz', '2017/tt.jsonl.gz', '2018/tt.jsonl.gz', '2019/tt.jsonl.gz', '2020/tt.jsonl.gz', '2021/tt.jsonl.gz'], | |
| "tyv": ['2018/tyv.jsonl.gz'], | |
| "ug": ['2017/ug.jsonl.gz', '2019/ug.jsonl.gz', '2020/ug.jsonl.gz', '2021/ug.jsonl.gz'], | |
| "uk": ['2016/uk.jsonl.gz', '2017/uk.jsonl.gz', '2018/uk.jsonl.gz', '2019/uk.jsonl.gz', '2020/uk.jsonl.gz', '2021/uk.jsonl.gz'], | |
| "ur": ['2016/ur.jsonl.gz', '2017/ur.jsonl.gz', '2018/ur.jsonl.gz', '2019/ur.jsonl.gz', '2020/ur.jsonl.gz', '2021/ur.jsonl.gz'], | |
| "uz": ['2016/uz.jsonl.gz', '2017/uz.jsonl.gz', '2018/uz.jsonl.gz', '2019/uz.jsonl.gz', '2020/uz.jsonl.gz', '2021/uz.jsonl.gz'], | |
| "vec": ['2016/vec.jsonl.gz', '2017/vec.jsonl.gz', '2018/vec.jsonl.gz', '2019/vec.jsonl.gz', '2020/vec.jsonl.gz', '2021/vec.jsonl.gz'], | |
| "vep": ['2018/vep.jsonl.gz', '2019/vep.jsonl.gz', '2020/vep.jsonl.gz', '2021/vep.jsonl.gz'], | |
| "vi": ['2016/vi.jsonl.gz', '2017/vi.jsonl.gz', '2018/vi.jsonl.gz', '2019/vi.jsonl.gz', '2020/vi.jsonl.gz', '2021/vi.jsonl.gz'], | |
| "vls": ['2017/vls.jsonl.gz', '2018/vls.jsonl.gz'], | |
| "vo": ['2016/vo.jsonl.gz', '2017/vo.jsonl.gz', '2018/vo.jsonl.gz', '2019/vo.jsonl.gz', '2020/vo.jsonl.gz', '2021/vo.jsonl.gz'], | |
| "wa": ['2017/wa.jsonl.gz', '2018/wa.jsonl.gz', '2019/wa.jsonl.gz', '2020/wa.jsonl.gz', '2021/wa.jsonl.gz'], | |
| "war": ['2016/war.jsonl.gz', '2017/war.jsonl.gz', '2018/war.jsonl.gz', '2019/war.jsonl.gz', '2020/war.jsonl.gz', '2021/war.jsonl.gz'], | |
| "wuu": ['2017/wuu.jsonl.gz', '2018/wuu.jsonl.gz', '2019/wuu.jsonl.gz', '2020/wuu.jsonl.gz', '2021/wuu.jsonl.gz'], | |
| "xal": ['2018/xal.jsonl.gz', '2019/xal.jsonl.gz', '2020/xal.jsonl.gz', '2021/xal.jsonl.gz'], | |
| "xmf": ['2021/xmf.jsonl.gz'], | |
| "yi": ['2017/yi.jsonl.gz', '2018/yi.jsonl.gz', '2019/yi.jsonl.gz', '2020/yi.jsonl.gz', '2021/yi.jsonl.gz'], | |
| "yo": ['2017/yo.jsonl.gz', '2018/yo.jsonl.gz', '2019/yo.jsonl.gz', '2020/yo.jsonl.gz', '2021/yo.jsonl.gz'], | |
| "yue": ['2016/yue.jsonl.gz', '2017/yue.jsonl.gz', '2018/yue.jsonl.gz', '2019/yue.jsonl.gz', '2020/yue.jsonl.gz', '2021/yue.jsonl.gz'], | |
| "zh": ['2016/zh.jsonl.gz', '2017/zh.jsonl.gz', '2018/zh.jsonl.gz', '2019/zh.jsonl.gz', '2020/zh.jsonl.gz', '2021/zh.jsonl.gz'], | |
| } | |
| class CCNewsConfig(datasets.BuilderConfig): | |
| def __init__(self, *args, languages, **kwargs): | |
| """BuilderConfig for CC-News. | |
| Args: | |
| languages (:obj:`List[str]`): list of languages to load | |
| **kwargs: keyword arguments forwarded to super. | |
| """ | |
| super().__init__( | |
| *args, | |
| name="+".join(languages), | |
| **kwargs, | |
| ) | |
| self.languages = languages | |
| class Mc4(datasets.GeneratorBasedBuilder): | |
| VERSION = datasets.Version("0.1.0") | |
| BUILDER_CONFIGS = [CCNewsConfig(languages=[lang]) for lang in _LANGUAGE_TO_PATH_LIST] | |
| BUILDER_CONFIG_CLASS = CCNewsConfig | |
| def _info(self): | |
| return datasets.DatasetInfo( | |
| description=_DESCRIPTION, | |
| features=datasets.Features( | |
| { | |
| "title": datasets.Value("string"), | |
| "maintext": datasets.Value("string"), | |
| "url": datasets.Value("string"), | |
| "date_publish": datasets.Value("string"), | |
| } | |
| ), | |
| supervised_keys=None, | |
| ) | |
| def _split_generators(self, dl_manager): | |
| data_urls = ["{}/{}".format(_DATA_URL, path) for lang in self.config.languages for path in _LANGUAGE_TO_PATH_LIST[lang]] | |
| downloaded_files = dl_manager.download(data_urls) | |
| return [ | |
| datasets.SplitGenerator(name=datasets.Split.TRAIN, gen_kwargs={"filepaths": downloaded_files}), | |
| ] | |
| def _generate_examples(self, filepaths): | |
| """This function returns the examples in the raw (text) form by iterating on all the files.""" | |
| id_ = 0 | |
| for filepath in filepaths: | |
| logger.info("generating examples from = %s", filepath) | |
| with gzip.open(open(filepath, "rb"), "rt", encoding="utf-8") as f: | |
| for line in f: | |
| if line: | |
| example = json.loads(line) | |
| yield id_, { | |
| "title": example["title"] or "", | |
| "maintext": example["maintext"] or "", | |
| "url": example["url"] or "", | |
| "date_publish": example["date_publish"] or "", | |
| } | |
| id_ += 1 | |