Форум программистов, компьютерный форум, киберфорум
Konst2016
Войти
Регистрация
Восстановить пароль
Оценить эту запись

Работа с генераторами keras

Запись от Konst2016 размещена 04.10.2021 в 19:57

Здравствуйте!Хочу привести код с генераторами изображений на
keras.Структуру папок я показал в комментариях к коду.В папках
train я нарисовал треугольник, круг, квадрат, они цветные,
отнеслись к классам в лексиграфическом порядке генераторами.
Папка val(validate) была проверочной в обучении, но из нее
я скопировал на проверку в папку test_folder.Обучать получилось
только локально.Все сработала, predict правильно ответил из
папки test_folder.
Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
#-*-coding:cp1251-*-
from keras import models
from keras.layers import Input, Convolution2D, MaxPooling2D, Dense, Dropout, Flatten
from keras.models import Model
from keras.preprocessing.image import ImageDataGenerator
import pickle
import theano
theano.config.optimizer="None" # чтобы работали свертки theano (не через numpy и нет g++ у меня)
import os
from PIL import Image
import numpy as np
"""
->
На google colab (c tensorflow) такой код с генератароми не сработает - там баг, что-то
про steps_per_epoch, batch_size, epochs
"""
"""
Общая структура проекта:
D:.
.   app.py
.   learned.pkl
.   learn_log.txt
.
.....vscode
.       launch.json
.       settings.json
.
....data
.   ....train
.   .   ....krug
.   .   .       krug1.png
.   .   .
.   .   ....kvadr
.   .   .       kvadr1.png
.   .   .
.   .   ....treug
.   .           treug1.png
.   .
.   ....val
.       ....krug
.       .       krug1.png
.       .
.       ....kvadr
.       .       kvadr1.png
.       .
.       ....treug
.               treug1.png
.
....test_folder
        krug1.png
        kvadr1.png
        treug1.png
"""
 
# параметры обучения
nbatch_size = 32 
nepochs = 10
nsteps_per_epoch=5 
nvalidation_steps=5
# /параметры обучения
 
kernel_size = 3 
pool_size = 2 
conv_depth_1 = 8 
hidden_size = 480
 
height=64
width=64
depth=3
num_classes=3
drop_prob_6=0.3
 
fpickle_learned='learned.pkl'
 
image_directory = 'test_folder/' # для спрашивания
 
 
# для google colab
# from google.colab import drive
# drive.mount('/content/gdrive')
# fold_images_train = '/content/gdrive/MyDrive/Colab Notebooks/data'
# fold_images_val = '/content/gdrive/MyDrive/Colab Notebooks/val'
# /для google colab
 
# для компа
fold_images_train = './data/train'
fold_images_val = './data/val'
# /для компа
 
 
 
def save_model(model):
    """
    ->
    Пользуюсь таким так как на google colab всегда tensorfow, 
    у меня theano для win32
    """
    len_layers=len(model.layers)
    weights={}
    for i in range(len_layers):
        weights[i]=model.layers[i].get_weights()
 
    with open(fpickle_learned, 'wb') as f:
        pickle.dump(weights, f) 
        print(f'saved learned to {fpickle_learned}')
 
 
def get_model():
  inp = Input(shape=(height, width, depth)) 
 
  conv_1 = Convolution2D(conv_depth_1, (kernel_size, kernel_size), padding='valid', activation='relu')(inp)
  pool_2 = MaxPooling2D(pool_size=(pool_size, pool_size), padding='valid')(conv_1)
 
  flat = Flatten()(pool_2)
  hidden = Dense(hidden_size, activation='relu')(flat)
  # drop_6 = Dropout(drop_prob_6)(hidden) # Не знаю как восстанавливать такое после сохранения весов
  out = Dense(num_classes, activation='softmax')(hidden)
  model = Model(inputs=inp, outputs=out)
 
  return model
 
 
def from_file(file=None):
    model= get_model()
    if file:
        params = {}
        with open(file, 'rb') as f:
            params = pickle.load(f)
        len_layers = len(model.layers)
 
        for i in range(len_layers):
            model.layers[i].set_weights(params[i])
 
    return model
 
 
def learn():
  train_datagen = ImageDataGenerator(
        rotation_range=45,     #Random rotation between 0 and 45
        width_shift_range=0.2,   #% shift
        height_shift_range=0.2,
        rescale=1./255, # изменение масштаба всех значений пикселей с 0 до 255, после этого шага они будут находится в диапазоне (0,1)
        shear_range=0.2, # применение случайных преобразований
        zoom_range=0.2, # увеличение масштаба
        horizontal_flip=True,
        fill_mode='constant', cval=125)    # Заполнение (цветом) после уменьшения изображения областей - Also try nearest, constant, reflect, wrap) # горизонтальный поворот
 
  test_datagen = ImageDataGenerator(rescale=1./255)
  training_set = train_datagen.flow_from_directory(
        fold_images_train,
        target_size=(64, 64),
        batch_size=nbatch_size,
        class_mode='categorical',
        shuffle = False)
  test_set = test_datagen.flow_from_directory(
        fold_images_val,
        target_size=(64, 64),
        batch_size=nbatch_size,
        class_mode='categorical',
        shuffle = False )
  model=get_model()
 
  model.compile(loss='categorical_crossentropy',
              optimizer='adam', 
              metrics=['accuracy']) # reporting the accuracy
  try: # Имеем возможность прервать обучение и сохранить веса
 
 
    model.fit_generator(
        training_set,
        steps_per_epoch=nsteps_per_epoch,
        epochs=nepochs,
        validation_data=test_set,
        validation_steps=nvalidation_steps,
        )
  except KeyboardInterrupt:
    save_model(model)
    model.evaluate_generator(test_datagen, steps=5, verbose=1) # Evaluate the trained model on the test set!
  finally:
    save_model(model) 
    model.evaluate_generator(test_set, steps=5, verbose=1) 
 
 
def ask():
  model=from_file(fpickle_learned)
 
  my_images = os.listdir(image_directory)
  for i, image_name in enumerate(my_images):
    if (image_name.split('.')[1] == 'png'):
        print(f'file {image_name} and class {i}', ' ')
        image = Image.open(image_directory + image_name)
        image = image.resize((height, width)) # не обязательно 64x64px должно быть, ресайзим
        image=np.array(image)
        image = Image.fromarray(image, 'RGB') # читаем как 3d
        x=np.array(image) # 3d
        x=x / 255
        print(model.predict(np.array([x]))) # требует как 4d
 
      
def main():
  # learn()
  ask()
 
 
main()
Вывод:
Bash
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
Found 3 images belonging to 3 classes.
Found 3 images belonging to 3 classes.
Epoch 1/10
 
1/5 [=====>........................] - ETA: 22s - loss: 0.7851 - acc: 0.5556
2/5 [===========>..................] - ETA: 16s - loss: 0.9269 - acc: 0.5556
3/5 [=================>............] - ETA: 10s - loss: 1.3525 - acc: 0.5556
4/5 [=======================>......] - ETA: 5s - loss: 1.9857 - acc: 0.5556 
5/5 [==============================] - 28s 6s/step - loss: 1.9201 - acc: 0.6000 - val_loss: 1.3080 - val_acc: 0.5556
Epoch 2/10
 
1/5 [=====>........................] - ETA: 21s - loss: 1.3263 - acc: 0.5556
2/5 [===========>..................] - ETA: 16s - loss: 1.0928 - acc: 0.6667
3/5 [=================>............] - ETA: 10s - loss: 0.9663 - acc: 0.6296
4/5 [=======================>......] - ETA: 5s - loss: 0.9997 - acc: 0.6111 
5/5 [==============================] - 28s 6s/step - loss: 1.2060 - acc: 0.6444 - val_loss: 2.3479 - val_acc: 0.5556
Epoch 3/10
 
1/5 [=====>........................] - ETA: 21s - loss: 2.8859 - acc: 0.5556
2/5 [===========>..................] - ETA: 16s - loss: 1.9128 - acc: 0.5556
3/5 [=================>............] - ETA: 10s - loss: 1.5104 - acc: 0.6296
4/5 [=======================>......] - ETA: 5s - loss: 1.2130 - acc: 0.6944 
5/5 [==============================] - 28s 6s/step - loss: 1.3243 - acc: 0.6667 - val_loss: 0.5909 - val_acc: 0.7778
Epoch 4/10
 
1/5 [=====>........................] - ETA: 22s - loss: 0.1316 - acc: 1.0000
2/5 [===========>..................] - ETA: 16s - loss: 0.3554 - acc: 0.7778
3/5 [=================>............] - ETA: 10s - loss: 0.5457 - acc: 0.7778
4/5 [=======================>......] - ETA: 5s - loss: 0.4484 - acc: 0.8333 
5/5 [==============================] - 28s 6s/step - loss: 0.4465 - acc: 0.8222 - val_loss: 0.6407 - val_acc: 0.6667
Epoch 5/10
 
1/5 [=====>........................] - ETA: 21s - loss: 0.1771 - acc: 0.7778
2/5 [===========>..................] - ETA: 15s - loss: 0.2153 - acc: 0.8333
3/5 [=================>............] - ETA: 10s - loss: 0.2786 - acc: 0.8148
4/5 [=======================>......] - ETA: 5s - loss: 0.2820 - acc: 0.8056 
5/5 [==============================] - 28s 6s/step - loss: 0.2726 - acc: 0.8444 - val_loss: 0.6851 - val_acc: 0.7778
Epoch 6/10
 
1/5 [=====>........................] - ETA: 21s - loss: 0.0583 - acc: 1.0000
2/5 [===========>..................] - ETA: 16s - loss: 0.2034 - acc: 0.8889
3/5 [=================>............] - ETA: 10s - loss: 0.1977 - acc: 0.9259
4/5 [=======================>......] - ETA: 5s - loss: 0.2780 - acc: 0.8889 
5/5 [==============================] - 28s 6s/step - loss: 0.2583 - acc: 0.8889 - val_loss: 0.7698 - val_acc: 0.7778
Epoch 7/10
 
1/5 [=====>........................] - ETA: 21s - loss: 0.4337 - acc: 0.7778
2/5 [===========>..................] - ETA: 16s - loss: 0.4337 - acc: 0.7778
3/5 [=================>............] - ETA: 10s - loss: 0.3984 - acc: 0.7778
4/5 [=======================>......] - ETA: 5s - loss: 0.3117 - acc: 0.8333 
5/5 [==============================] - 28s 6s/step - loss: 0.2610 - acc: 0.8667 - val_loss: 0.7325 - val_acc: 0.7778
Epoch 8/10
 
1/5 [=====>........................] - ETA: 21s - loss: 0.1013 - acc: 1.0000
2/5 [===========>..................] - ETA: 16s - loss: 0.0914 - acc: 1.0000
3/5 [=================>............] - ETA: 10s - loss: 0.2043 - acc: 0.9259
4/5 [=======================>......] - ETA: 5s - loss: 0.1870 - acc: 0.9444 
5/5 [==============================] - 28s 6s/step - loss: 0.1592 - acc: 0.9556 - val_loss: 0.5968 - val_acc: 0.5556
Epoch 9/10
 
1/5 [=====>........................] - ETA: 22s - loss: 0.3254 - acc: 0.7778
2/5 [===========>..................] - ETA: 16s - loss: 0.3248 - acc: 0.7778
3/5 [=================>............] - ETA: 10s - loss: 0.3740 - acc: 0.7778
4/5 [=======================>......] - ETA: 5s - loss: 0.2981 - acc: 0.8333 
5/5 [==============================] - 28s 6s/step - loss: 0.2793 - acc: 0.8222 - val_loss: 0.6832 - val_acc: 0.6667
Epoch 10/10
 
1/5 [=====>........................] - ETA: 20s - loss: 0.1792 - acc: 0.7778
2/5 [===========>..................] - ETA: 15s - loss: 0.2394 - acc: 0.7778
3/5 [=================>............] - ETA: 10s - loss: 0.2187 - acc: 0.8148
4/5 [=======================>......] - ETA: 5s - loss: 0.1793 - acc: 0.8611 
5/5 [==============================] - 28s 6s/step - loss: 0.1546 - acc: 0.8889 - val_loss: 0.6671 - val_acc: 0.6667
saved learned to learned.pkl
 
1/5 [=====>........................] - ETA: 3s
2/5 [===========>..................] - ETA: 2s
3/5 [=================>............] - ETA: 1s
4/5 [=======================>......] - ETA: 0s
5/5 [==============================] - 5s 988ms/step
"""
->
 Что-то здесь не вышло.
"""
"""
Спрашивание:
file krug1.png and class 0
[[6.07578543e-10 8.93111408e-01 1.06888585e-01]]
0.00
0.89
0.11
Правильно
 
file kvadr1.png and class 1
[[1.4098404e-09 7.1699566e-01 2.8300437e-01]]
0.00
0.72
0.28
Правильно
 
file treug1.png and class 2
[[1.0240623e-10 1.1933116e-01 8.8066888e-01]]
0.00
0.12
0.88
Правильно
"""
Размещено в Без категории
Показов 947 Комментарии 0
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin® Version 3.8.9
Copyright ©2000 - 2021, vBulletin Solutions, Inc.