Datasets:

ssunbear
/

custom_summarization_dataset

Dataset card Viewer Files Files and versions Community

Dataset Preview

Split (2)

train

The full dataset viewer is not available (click to read why). Only showing a preview of the rows.

The dataset generation failed

Error code:   DatasetGenerationError
Exception:    ArrowNotImplementedError
Message:      Cannot write struct type '_format_kwargs' with no child field to Parquet. Consider adding a dummy child field.
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 2013, in _prepare_split_single
                  writer.write_table(table)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 583, in write_table
                  self._build_writer(inferred_schema=pa_table.schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 404, in _build_writer
                  self.pa_writer = self._WRITER_CLASS(self.stream, schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/pyarrow/parquet/core.py", line 1010, in __init__
                  self.writer = _parquet.ParquetWriter(
                File "pyarrow/_parquet.pyx", line 2157, in pyarrow._parquet.ParquetWriter.__cinit__
                File "pyarrow/error.pxi", line 154, in pyarrow.lib.pyarrow_internal_check_status
                File "pyarrow/error.pxi", line 91, in pyarrow.lib.check_status
              pyarrow.lib.ArrowNotImplementedError: Cannot write struct type '_format_kwargs' with no child field to Parquet. Consider adding a dummy child field.
              
              During handling of the above exception, another exception occurred:
              
              Traceback (most recent call last):
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 2029, in _prepare_split_single
                  num_examples, num_bytes = writer.finalize()
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 602, in finalize
                  self._build_writer(self.schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 404, in _build_writer
                  self.pa_writer = self._WRITER_CLASS(self.stream, schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/pyarrow/parquet/core.py", line 1010, in __init__
                  self.writer = _parquet.ParquetWriter(
                File "pyarrow/_parquet.pyx", line 2157, in pyarrow._parquet.ParquetWriter.__cinit__
                File "pyarrow/error.pxi", line 154, in pyarrow.lib.pyarrow_internal_check_status
                File "pyarrow/error.pxi", line 91, in pyarrow.lib.check_status
              pyarrow.lib.ArrowNotImplementedError: Cannot write struct type '_format_kwargs' with no child field to Parquet. Consider adding a dummy child field.
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1396, in compute_config_parquet_and_info_response
                  parquet_operations = convert_to_parquet(builder)
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1045, in convert_to_parquet
                  builder.download_and_prepare(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1029, in download_and_prepare
                  self._download_and_prepare(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1124, in _download_and_prepare
                  self._prepare_split(split_generator, **prepare_split_kwargs)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1884, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 2040, in _prepare_split_single
                  raise DatasetGenerationError("An error occurred while generating the dataset") from e
              datasets.exceptions.DatasetGenerationError: An error occurred while generating the dataset

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

_data_files list	_fingerprint string	_format_columns null	_format_kwargs dict	_format_type null	_output_all_columns bool	_split null
[ { "filename": "data-00000-of-00001.arrow" } ]	a1df46296853828f	null	{}	null	false	null

YAML Metadata Warning: empty or missing yaml metadata in repo card (https://huggingface.co/docs/hub/datasets-cards)

#Custom Summarization Dataset

Dataset Name

사용자 정의 텍스트 데이터셋

Overview

이 데이터셋은 [특정 작업, 예: 요약, 분류 등]을 위한 텍스트 문서 모음으로 구성되어 있습니다. 다양한 예제를 제공하여 [특정 도메인 또는 주제, 예: 뉴스 기사, 과학 논문]에 대한 모델을 훈련하고 평가하는 것을 목표로 합니다.

Composition

샘플 수: 약 [숫자 삽입]개의 문서
데이터 유형: 텍스트 문서, 필요 시 레이블 또는 카테고리와 함께 제공될 수 있습니다.
언어: 주로 [언어 삽입, 예: 한국어, 영어].
데이터 형식: [예: JSON, CSV, 일반 텍스트].

Collection Process

데이터셋은 [출처 삽입, 예: 웹 스크래핑, 공개 저장소, 사용자 기여]에서 수집되었습니다. 수집 과정에서는 [사용된 특정 방법이나 도구 설명, 예: 스크래핑 도구, API]가 포함되었습니다.

Preprocessing

사용하기 전에 데이터셋은 여러 전처리 단계를 거쳤습니다:

텍스트 정리: 원하지 않는 문자, HTML 태그 또는 특수 기호 제거.
토큰화: 모델 호환성을 위한 텍스트 분할.
정규화: 소문자 변환, 어간 추출 또는 표제어 추출.
레이블링: [적용되는 경우, 데이터가 어떻게 레이블링되었는지 설명].

How to Use

import pandas as pd

# 데이터셋 로드
 df = pd.read_csv("path/to/custom_text_dataset.csv")

# 데이터 접근 예
for index, row in df.iterrows():
    print(f"텍스트: {row['text']}, 레이블: {row['label']}")

Evaluation

데이터셋은 작업에 따라 다양한 메트릭을 사용하여 평가할 수 있습니다:

분류 작업에 대해: 정확도, F1 점수, 정밀도, 재현율.
요약 작업에 대해: ROUGE 점수, BLEU 점수.

Limitations

편향: 데이터셋은 수집된 출처에 따라 편향을 포함할 수 있습니다.
품질: 문서의 품질이 다양할 수 있으며, 잠재적인 노이즈와 관련 없는 정보가 포함될 수 있습니다.
도메인 특수성: 데이터셋이 의도된 도메인 외부의 작업에 잘 일반화되지 않을 수 있습니다.

Ethical Considerations

데이터 프라이버시: 데이터셋에 개인 식별 정보(PII) 또는 민감한 내용이 포함되지 않도록 확인.
편향 및 공정성: 데이터셋의 잠재적인 편향이 모델 성능과 예측의 공정성에 영향을 미칠 수 있음을 인식.

이 데이터셋 카드는 사용자 정의 텍스트 데이터셋의 사용 및 배포에 대한 정보를 제공합니다. 필요에 따라 내용을 추가하거나 수정할 수 있습니다. 추가적인 도움이 필요하시면 말씀해 주세요!

Downloads last month: 0

Edit dataset card