README.md

---
dataset_info:
  features:
  - name: title
    dtype: string
  - name: text
    dtype: string
  - name: id
    dtype: string
  - name: date
    dtype: timestamp[us]
  - name: url
    dtype: string
  splits:
  - name: train
    num_bytes: 1059198207
    num_examples: 235298
  download_size: 594355237
  dataset_size: 1059198207
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
license: cc-by-4.0
language:
- ja
---

[llm-jp-corpus-v3のwarp_htmlのうちlevel2フィルタリングされたデータ](https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v3/-/tree/main/ja/ja_warp_html/level2)をHFフォーマットに変換し、各データに付与されたURLから元記事のタイトルを取得可能なものについては取得して付与したデータセットです。

ライセンスは元ページに従いCC-BY 4.0とします。