我编写了一个程序,该程序接收包含推文和标签的Twitter数据(0
用于中性情绪和1
消极情绪),并预测该推文所属的类别。该程序在训练和测试集上效果很好。但是我在对字符串应用预测函数时遇到问题。我不确定该怎么做。
我尝试在调用预报函数之前以清理数据集的方式清理字符串,但返回的值格式错误。
import numpy as np
import pandas as pd
from nltk.corpus import stopwords
from nltk.stem.porter import PorterStemmer
ps = PorterStemmer()
import re
#Loading dataset
dataset = pd.read_csv('tweet.csv')
#List to hold cleaned tweets
clean_tweet = []
#Cleaning tweets
for i in range(len(dataset)):
tweet = re.sub('[^a-zA-Z]', ' ', dataset['tweet'][i])
tweet = re.sub('@[\w]*',' ',dataset['tweet'][i])
tweet = tweet.lower()
tweet = tweet.split()
tweet = [ps.stem(token) for token in tweet if not token in set(stopwords.words('english'))]
tweet = ' '.join(tweet)
clean_tweet.append(tweet)
from sklearn.feature_extraction.text import CountVectorizer
cv = CountVectorizer(max_features = 3000)
X = cv.fit_transform(clean_tweet)
X = X.toarray()
y = dataset.iloc[:, 1].values
from sklearn.model_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y)
from sklearn.naive_bayes import GaussianNB
n_b = GaussianNB()
n_b.fit(X_train, y_train)
y_pred = n_b.predict(X_test)
some_tweet = "this is a mean tweet" # How to apply predict function to this string
cv.transform([cleaned_new_tweet])
在新的字符串上使用,可以将新的Tweet转换为现有的文档术语矩阵。这将以正确的形状返回推文。
cv.transform()
在我的新字符串上给我一个错误-ValueError: Iterable over raw text documents expected, string object received.
抱歉,cv.transform()采用了可迭代类型的对象,因此您需要添加可迭代类型的new_tweet部分。我已经更新了答案,应该可以。
谢谢,它奏效了。但是,您能告诉我为什么
cv.fit_transform()
这里错了吗?stackoverflow.com/questions/38692520/…这应该为您指明正确的方向。
谢谢你的链接