Skip to main content
 首页 » 编程设计

python之Scikit-Learn 中的分类数据转换

2025年05月04日10shanyou

我有一个用于分类任务的 4000 万 x 22 numpy 整数数据数组。 大多数特征是分类数据,使用不同的整数值来表示不同的类别。例如,在“颜色”列中:0 表示蓝色,1 表示红色,依此类推。我已经使用 LabelEncoder 预处理了数据。

  1. 将这些数据放入 SK-learn 中的任何分类模型是否有意义?我试图将数据拟合到随机森林模型中,但准确性极差。我也尝试过One Hot Encoding将数据转化为dummy variables,但是我的电脑使用One Hot Encoding后只能处理稀疏矩阵,问题是Random Forest只能取稠密矩阵,会超出我电脑的内存。
  2. 在 SK-learn 中处理分类数据的正确策略是什么?

请您参考如下方法:

LabelEncoder 在您的情况下没有用,因为输出数字作为数字没有任何意义(即对它们执行算术运算毫无意义)。 OneHotEncoder 在处理分类数据时必不可少。

最近 sklearn got support for sparse input在随机森林和决策树中,所以你可能想查看最新版本。此外,其他方法如 LogisticRegression支持稀疏数据。

此外,我不认为您需要使用所有 40M 的示例才能获得不错的准确性。随机抽取 100k 个样本应该就足够了(这个数字取决于 OneHotEncoding 后的特征数量、它们的可变性和目标类的数量)。