[论文解读] Potrika: Raw and Balanced Newspaper Datasets in the Bangla Language with Eight Topics and Five Attributes

Istiak Ahmad, Fahad Alqurashi+1 more|arXiv (Cornell University)|Oct 17, 2022

Imbalanced Data Classification Techniques被引用 6

一句话总结

本文介绍了 Potrika，这是迄今为止最大且最全面的单一标签孟加拉语新闻数据集，包含 664,880 篇原始文章（18551 万词，1257 万句话），涵盖八个主题和五个属性。通过回译和 NLP 增强技术，作者创建了一个包含 320,000 篇文章（每类 40,000 篇）的平衡数据集，支持孟加拉语文本分类、摘要生成和文本生成等领域的稳健 NLP 研究。

ABSTRACT

Knowledge is central to human and scientific developments. Natural Language Processing (NLP) allows automated analysis and creation of knowledge. Data is a crucial NLP and machine learning ingredient. The scarcity of open datasets is a well-known problem in machine and deep learning research. This is very much the case for textual NLP datasets in English and other major world languages. For the Bangla language, the situation is even more challenging and the number of large datasets for NLP research is practically nil. We hereby present Potrika, a large single-label Bangla news article textual dataset curated for NLP research from six popular online news portals in Bangladesh (Jugantor, Jaijaidin, Ittefaq, Kaler Kontho, Inqilab, and Somoyer Alo) for the period 2014-2020. The articles are classified into eight distinct categories (National, Sports, International, Entertainment, Economy, Education, Politics, and Science \& Technology) providing five attributes (News Article, Category, Headline, Publication Date, and Newspaper Source). The raw dataset contains 185.51 million words and 12.57 million sentences contained in 664,880 news articles. Moreover, using NLP augmentation techniques, we create from the raw (unbalanced) dataset another (balanced) dataset comprising 320,000 news articles with 40,000 articles in each of the eight news categories. Potrika contains both the datasets (raw and balanced) to suit a wide range of NLP research. By far, to the best of our knowledge, Potrika is the largest and the most extensive dataset for news classification.

研究动机与目标

• 解决大规模、公开可用的孟加拉语 NLP 数据集，特别是新闻分类领域的关键稀缺问题。
• 通过 NLP 增强技术创建平衡版本，克服现有孟加拉语新闻数据集中的不平衡问题。
• 提供一个全面、公开可访问的数据集，包含五个属性（新闻文章、类别、标题、发布日期、来源），以支持多样化的 NLP 应用。
• 支持机器学习和深度学习模型在孟加拉语自然语言处理领域的基准测试与进步。
• 支持低资源语言环境下的时间序列分析、关键词趋势检测和稳健的文本分类。

提出的方法

• 从六个主要孟加拉国在线新闻门户网站（Jugantor、Jaijaidin、Ittefaq、Kaler Kontho、Inqilab、Somoyer Alo）收集 2014–2020 年的原始新闻文章。
• 将文章分类为八个不同类别：国家、体育、国际、娱乐、经济、教育、政治和科技与技术。
• 每篇文章提取五个属性：完整新闻文本、类别、标题、发布日期和报纸来源。
• 使用 Google Translate API（5000 字符限制）进行回译，以增强代表性不足的类别（教育、经济、科技与技术、政治、娱乐）。
• 使用同义词替换、随机插入、删除和文本交换（EDA）以及 NLP Albumentation（打乱/去除重复项）来增强数据平衡性。
• 通过多语言回译技术，在保持语义上下文的同时，实现了 320,000 篇文章（每类 40,000 篇）的平衡数据集。

实验结果

研究问题

• RQ1 如何构建一个大规模、平衡的孟加拉语新闻数据集，以支持低资源语言的稳健 NLP 研究？
• RQ2 回译和 EDA 技术在多大程度上能有效平衡孟加拉语新闻文本数据集的不平衡问题？
• RQ3 单标签、多类别孟加拉语新闻数据集能否支持文本分类、摘要生成和文本生成等多样化 NLP 任务？
• RQ4 时间元数据（发布日期）的包含如何实现新闻趋势和主题演化的纵向分析？
• RQ5 数据集规模和平衡性对孟加拉语文本分类中机器学习模型性能的影响如何？

主要发现

• Potrika 包含 664,880 篇原始新闻文章，共 185.51 百万词和 1257 万句话，是迄今为止最大的孟加拉语新闻数据集。
• 原始数据集涵盖八个不同类别，其中国家、国际和体育类文章数量最多（每类均超过 100,000 篇）。
• 通过回译和 NLP 增强技术，创建了 320,000 篇文章的平衡数据集，每类别恰好 40,000 篇。
• 平衡数据集确保了所有类别的均等表示，减少了下游 NLP 模型中的偏差。
• 每篇文章包含五个属性，支持对内容、上下文和时间趋势的丰富分析。
• Potrika 公开可用，旨在作为孟加拉语 NLP 中文本分类、摘要生成和文本生成的基准数据集。