Улучшить модель классификации

#Зависимости
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import random
import os
 
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import MinMaxScaler, OneHotEncoder
from sklearn.compose import ColumnTransformer
 
from sklearn.linear_model import LogisticRegression
 
from sklearn.metrics import f1_score
 
import tensorflow as tf
from keras.models import Sequential
from keras.layers import Dense, Dropout
 
#Инициализируем все известные генераторы случаынйх чисел / Setting all known random seeds
my_code = "Anton"
seed_limit = 2 ** 32
my_seed = int.from_bytes(my_code.encode(), "little") % seed_limit
 
os.environ['PYTHONHASHSEED']=str(my_seed)
 
random.seed(my_seed)
 
np.random.seed(my_seed)
 
tf.compat.v1.set_random_seed(my_seed)
 
session_conf = tf.compat.v1.ConfigProto(intra_op_parallelism_threads=1, inter_op_parallelism_threads=1)
sess = tf.compat.v1.Session(graph=tf.compat.v1.get_default_graph(), config=session_conf)
tf.compat.v1.keras.backend.set_session(sess)
 
# Читаем данные из файла
train_data = pd.read_csv("datasets/iris_train.csv")
train_data.head()
 
classes = train_data['species']
plt.hist(classes)
plt.show()
 
# Определим размер валидационной выборки
val_size = round(0.2*len(train_data))
print(val_size)
 
# Создадим обучающую и валидационную выборки
random_state = my_seed
train, val = train_test_split(train_data, test_size=val_size, random_state=random_state)
print(len(train), len(val))
 
# Значения в числовых столбцах преобразуем к отрезку [0,1].
# Для настройки скалировщика используем только обучающую выборку.
num_columns = ['sepal_length', 'sepal_width', 'petal_length', 'petal_width']
ord_columns = ['species']
 
ct = ColumnTransformer(transformers=[('numerical', MinMaxScaler(), num_columns)], remainder='passthrough')
 
ct.fit(train)
 
# Преобразуем значения, тип данных приводим к DataFrame
sc_train = pd.DataFrame(ct.transform(train))
sc_val = pd.DataFrame(ct.transform(val))
 
# Устанавливаем названия столбцов
column_names = num_columns + ord_columns
sc_train.columns = column_names
sc_val.columns = column_names
sc_train
 
# Отберем необходимые параметры
x_train = sc_train[num_columns]
x_val = sc_val[num_columns]
 
y_train = (sc_train[ord_columns].values).flatten()
y_val = (sc_val[ord_columns].values).flatten()
 
# Создадим простую модель логистической регрессии
model = LogisticRegression()
 
# Обучим модель
model.fit(x_train, y_train)
 
# Проверим работу обученной нейронной сети на валидационной выборке
pred_val = model.predict(x_val)
f1 = f1_score(y_val, pred_val, average='weighted')
print(f1)
 
test = pd.read_csv("datasets/iris_test.csv")
test['species'] = ''
test.head()
 
sc_test = pd.DataFrame(ct.transform(test))
sc_test.columns = column_names
x_test = sc_test[num_columns]
test['species'] = model.predict(x_test)
 
test.head()
test.to_csv('task4_results/iris_test_result.csv', index=False)