四时宝库

程序员的知识宝库

Python决策树(python决策树可视化)

决策树是一种常用的机器学习算法,可以处理分类和回归问题。在Python中,有多种库可以使用来构建决策树。

1. 使用scikit-learn库构建决策树


scikit-learn是一个非常流行的Python机器学习库,可以轻松地构建决策树模型。下面是一段基本的代码示例:


from sklearn.datasets import load_iris

from sklearn.tree import DecisionTreeClassifier

from sklearn.model_selection import train_test_split


# 加载数据集

iris = load_iris()

X = iris.data

y = iris.target


# 划分数据集为训练集和测试集

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)


# 构建模型并训练

clf = DecisionTreeClassifier(random_state=42)

clf.fit(X_train, y_train)


# 预测测试集

predictions = clf.predict(X_test)


# 计算准确率

accuracy = clf.score(X_test, y_test)


2. 使用TensorFlow库构建决策树


TensorFlow是一个非常流行的机器学习和深度学习库,也可以用来构建决策树模型。下面是一段基本的代码示例:


import tensorflow as tf

from sklearn.datasets import load_iris

from sklearn.model_selection import train_test_split


# 加载数据集

iris = load_iris()

X = iris.data

y = iris.target


# 划分数据集为训练集和测试集

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)


# 定义输入和标签占位符

X_placeholder = tf.placeholder(tf.float32, [None, 4])

y_placeholder = tf.placeholder(tf.int32, [None])


# 编写决策树构造函数

def decision_tree(X):

# 对第一个特征进行判断

condition = tf.less(X[:, 0], 5.4)

left_indices = tf.where(condition)

left_labels = tf.gather(y_placeholder, left_indices)

left_labels = tf.reshape(left_labels, [-1])

left_outputs = tf.zeros([tf.size(left_labels)], dtype=tf.int32)


right_indices = tf.where(tf.logical_not(condition))

right_labels = tf.gather(y_placeholder, right_indices)

right_labels = tf.reshape(right_labels, [-1])

right_outputs = tf.ones([tf.size(right_labels)], dtype=tf.int32)


outputs = tf.dynamic_stitch([left_indices, right_indices], [left_outputs, right_outputs])

return outputs


# 构建模型并训练

logits = decision_tree(X_placeholder)

predictions = tf.argmax(logits, axis=1)

accuracy = tf.reduce_mean(tf.cast(tf.equal(predictions, y_placeholder), tf.float32))


# 计算准确率

with tf.Session() as sess:

sess.run(tf.global_variables_initializer())

acc = sess.run(accuracy, feed_dict={X_placeholder: X_test, y_placeholder: y_test})

以上就是使用scikit-learn和TensorFlow构建决策树模型的基本步骤。当然,在实际使用中可能需要根据具体的应用场景对模型进行调优和优化。

发表评论:

控制面板
您好,欢迎到访网站!
  查看权限
网站分类
最新留言
    友情链接