MustafaDe 2022-10-25 13:23 采纳率: 33.3%
浏览 25
已结题

机器学习去除停用词问题

分词之后 去除停用词运行结果出问题了 有人知道是什么原因吗?

import pandas as pd  # pandas模块用于读取和处理数据
import jieba  # jieba模块用于对短信内容进行分词
from sklearn.feature_extraction.text import CountVectorizer  # 文本特征抽取
from sklearn.model_selection import train_test_split  # 划分训练集和测试集

def swindle():
    # 读取数据和处理数据
    data = pd.read_table("swindle_text.txt", sep="\t", header=None, nrows=10000, names=["标签", "短信内容"])
    new_data = []
    # 进行分词
    data['分词后数据'] = data["短信内容"].apply(lambda x: ' '.join(jieba.cut(x)))

    # 去除停用词
    # stpwrdpath = "/Users/mustafa-de/PycharmProjects/pythonProject/mechine_swindle/stop_words.txt"
    with open('stop_words.txt', 'rb') as f:
        stopword = f.read().decode('utf-8')  # 停用词提取
        stpwrdlst = stopword.splitlines()  # 将停用词表转换为list

        for word in data:
            if word not in stpwrdlst:
                new_data.append(word)
    print(new_data)

    # 提取特征

    # 分割训练集和测试集

    return None


if __name__ == "__main__":
    swindle()


  • 写回答

1条回答 默认 最新

  • 於黾 2022-10-25 13:58
    关注

    data是个表啊
    for word in data:
    word是个行吗?

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论

报告相同问题?

问题事件

  • 系统已结题 11月2日
  • 已采纳回答 10月25日
  • 创建了问题 10月25日

悬赏问题

  • ¥15 linux驱动,linux应用,多线程
  • ¥20 我要一个分身加定位两个功能的安卓app
  • ¥15 基于FOC驱动器,如何实现卡丁车下坡无阻力的遛坡的效果
  • ¥15 IAR程序莫名变量多重定义
  • ¥15 (标签-UDP|关键词-client)
  • ¥15 关于库卡officelite无法与虚拟机通讯的问题
  • ¥15 目标检测项目无法读取视频
  • ¥15 GEO datasets中基因芯片数据仅仅提供了normalized signal如何进行差异分析
  • ¥100 求采集电商背景音乐的方法
  • ¥15 数学建模竞赛求指导帮助