Tensorflow: Как корректно выполнить изменение значения переменной-тензора

@Alex_py · Регистрация: 25.09.2017

Студворк — интернет-сервис помощи студентам

Здравствуйте! Переменная embeddings, которая инициализирована массивом nxm случайных чисел не меняет свою размерность.

Python
1
embeddings = tf.Variable(tf.random_uniform([vocabulary_size, embedding_size], -1.0, 1.0),validate_shape=False)

Далее, мне нужно изменить её значение присвоив ей новый массив размером (n+1)xm. Массив этот находится в некоем словаре the_arrays по ключу "embeddings":

Python
1
embeddings.assign(the_arrays["embeddings"])

При этом она как была размерностью nxm , так и осталась.

И да, как нужно управлять динамически размерностью переменной, если это массив?

validate_shape=False у меня стоит.

@Alex_py · 05.08.2020, 21:21 **[ТС]**

Ой, слушайте, какая же бадяга, эти пакеты tensorflow , так и keras.

Для склеивания массивов в тензорах существует штатная функция concat, которая в качестве первого параметра принимает список массивов для склеивания. Второй параметр --- это уровень по которому массивы будут склеины

Python
1
embedings = tf.concat([embeddings.eval(), the _arrays["embeddings"]], 0)

Во, тогда переменная меняется и размерность её становится уже такой какая и нужна.

Далее, этот тензор embedings используется при вычислении некоторого множества векторов v $https://www.cyberforum.ru/cgi-bin/latex.cgi?\subseteq$ embedings по их индексам, которые подаются в тензор train_dataset.

Python
1
embed = tf.nn.embedding_lookup(embeddings, train_dataset)

И train_dataset и embeddings имеют по первому уровню. То есть n+1

Но при его вычислении, происходит ошибка InvalidArgumentError: indices[n+1] = 3765 is not in [0, n+1)

Словно что-то не той размерности. Хотя после ошибки размерность была проверена у каждого.

Что здесь не чисто?

Добавлено через 13 минут
Как вообще быть, если в процессе обучения нужно менять размерность некоторых параметров , поскольку размер входных данных растет?

@Alex_py · 06.08.2020, 15:46 **[ТС]**

Пока что ничего не приходит на ум, как задать в переменной embeddings размер массива изначально больше, чем это нужно на первое время.

Видимо, играет роль то, как эта переменная была инициализирована, а именно массивом каких размеров.

Просто это как-то странно для задач оптимизации, если нам на первое время не нужны такие размеры, поскольку выборка, на которой учится нейронная сеть имеет начальные размеры n, но которые в будущем вырастут, при подаче новых данных. И вот с новыми данными и предполагалось подгонять параметры нейронной сети, а именно размеры переменных. Но жаль, что это не учитывает этот пакет, а приходится выбирать размер параметров нейронной сети что называется почти с потолка.

@Fudthhh · 06.08.2020, 15:49

Alex_py, чтоб так не возиться, не проще ли самому написать?

@Alex_py · 06.08.2020, 17:21 **[ТС]**

Сообщение от DmFat

Alex_py, чтоб так не возиться, не проще ли самому написать?

С нуля писать нейронные сети никогда не проще. Чтобы написать, нужно прочитать теорию, освежить в памяти алгоритмы --- градиентный спуск, word2vec. Я без особого представления как именно изменяются вектора на множестве данных.

На всё усвоение время нужно, на будущее конечно, можно, но проще по соплям дать разработчикам, чтобы устранили недостатки. С другой стороны, понятно почему так сделано, ну не может множество векторов расти бесконечно. То есть, по мнению разработчиков, модель должна иметь какой-то верхний предел. Но мне в принципе не нравится как тензор флоу написан. Написан не качественно --- много строк с комментариями, читать код затруднительно еще сам по себе.

Но придётся их использовать. Технологии устоявшиеся как никак.

Новые блоги и статьи Все статьи Все блоги /
Отчёт о спецтехнике находящейся в ремонте Maks 20.04.2026 Отчёт из решения ниже размещен в конфигурации КА2. Задача: отобразить спецтехнику, которая на данный момент находится в ремонте. Есть нетиповой документ "Заявка на ремонт спецтехники" который. . .	Памятка для бота и "визитка" для читателей "Semantic Universe Layer (Слой семантической вселенной)" Hrethgir 19.04.2026 Сгенерировано для краткого описания по случаю сборки и компиляции скелета серверного приложения. И пусть после этого скажут, что статьи сгенерированные AI - туфта и не интересно. И это не реклама -. . .	Запрет удаления строк ТЧ документа при определенном условии Maks 19.04.2026 Алгоритм из решения ниже реализован на примере нетипового документа "Аккумуляторы", разработанного в конфигурации КА2. У данного документа есть ТЧ, в которой в зависимости от прав доступа. . .	Модель заражения группы наркоманов alhaos 17.04.2026 Условия задачи сформулированы тут Суть: - Группа наркоманов из 10 человек. - Только один инфицирован ВИЧ. - Колются одной иглой. - Колются раз в день. - Колются последовательно через. . .
Мысли в слух. Про "навсегда". kumehtar 16.04.2026 Подумалось тут, что наверное очень глупо использовать во всяких своих установках понятие "навсегда". Это очень сильное понятие, и я только начинаю понимать край его смысла, не смотря на то что давно. . .	My Business CRM MaGz GoLd 16.04.2026 Всем привет, недавно возникла потребность создать CRM, для личных нужд. Собственно программа предоставляет из себя базу данных клиентов, в которой можно фиксировать звонки, стадии сделки, а также. . .	Знаешь почему 90% людей редко бывают счастливыми? kumehtar 14.04.2026 Потому что они ждут. Ждут выходных, ждут отпуска, ждут удачного момента. . . а удачный момент так и не приходит.	Фиксация колонок в отчете СКД Maks 14.04.2026 Фиксация колонок в СКД отчета типа Таблица. Задача: зафиксировать три левых колонки в отчете. Процедура ПриКомпоновкеРезультата(ДокументРезультат, ДанныеРасшифровки, СтандартнаяОбработка) / / . . .

@Alex_py 5 / 5 / 0 Регистрация: 25.09.2017 Сообщений: 569
	06.08.2020, 15:46 [ТС]
	Пока что ничего не приходит на ум, как задать в переменной embeddings размер массива изначально больше, чем это нужно на первое время. Видимо, играет роль то, как эта переменная была инициализирована, а именно массивом каких размеров. Просто это как-то странно для задач оптимизации, если нам на первое время не нужны такие размеры, поскольку выборка, на которой учится нейронная сеть имеет начальные размеры n, но которые в будущем вырастут, при подаче новых данных. И вот с новыми данными и предполагалось подгонять параметры нейронной сети, а именно размеры переменных. Но жаль, что это не учитывает этот пакет, а приходится выбирать размер параметров нейронной сети что называется почти с потолка. 0

@Fudthhh Модератор 2696 / 1602 / 513 Регистрация: 21.02.2017 Сообщений: 4,210 Записей в блоге: 1
	06.08.2020, 15:49
	Alex_py, чтоб так не возиться, не проще ли самому написать? 1

Опции темы