llmjp-warp-html / README.md
hpprc's picture
Update README.md
c7b81df verified
metadata
dataset_info:
  features:
    - name: title
      dtype: string
    - name: text
      dtype: string
    - name: id
      dtype: string
    - name: date
      dtype: timestamp[us]
    - name: url
      dtype: string
  splits:
    - name: train
      num_bytes: 1059198207
      num_examples: 235298
  download_size: 594355237
  dataset_size: 1059198207
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
license: cc-by-4.0
language:
  - ja

llm-jp-corpus-v3のwarp_htmlのうちlevel2フィルタリングされたデータをHFフォーマットに変換し、各データに付与されたURLから元記事のタイトルを取得可能なものについては取得して付与したデータセットです。

ライセンスは元ページに従いCC-BY 4.0とします。