С Новым годом! Форум программистов, компьютерный форум, киберфорум
Python
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
0 / 0 / 0
Регистрация: 27.03.2013
Сообщений: 54

Теория. Разделение потока данных

10.03.2018, 14:23. Показов 990. Ответов 0
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Доброго времени суток, форумчане!

Итак, сразу к делу.
Тема моей дипломной работы "Разработка метода разделения потока данных для параллельной передачи файлов большого размера с учётом приоритетов".
Проблематика и предметная область? Есть суперкомпьютеры. На них нужно с обычных компов передавать файлы большого размера (до 10ТБ) параллельно. Канал связи ограничен своей пропускной способностью. Так как время передачи каждого из файлов очень большое - становится вопрос в приоритете их загрузки. То есть, пользователь может задать приоритет загружаемому\выгружаемому файлу, чтобы он передался или принялся быстрее и с ним можно было уже начать работать. На тот момент я просто подумал, что нужно файлы дробить на части и от одного файла передавать больше таких частей, чем от другого, вот и весь приоритет.
Окей, я выбрал протокол, который создан для передачи файлов - FTP, язык Python 3.+, покопавшись, выбрал сторонний модуль для создания ftp-сервера (модуль pyftpdlib - асинхронный ftp-сервер, очень быстрый по-сравнению с аналогами), затем для клиента взял тот же Python 3.+, PyQt 5, библиотеку ftplib для работы с сервером по ftp.
Интересная вещь в том, как я реализую приоритет сейчас. Не знаю, сработает или нет, но очень надеюсь, что да. Получается так, что асинхронный сервер работает на максимум своей производительности, то есть он не ограничивает ни одного клиента какой-то постоянной константой по скорости передачи. Скорость передачи ограничивается лишь загруженностью ftp-сервера. При передаче или приёме файлов в клиенте можно задать размер "частей" файла, которые будут передаваться при каждом "цикле\такте" передачи. То есть, загружаю два файла. Первый буду принимать кусочками по 3 Кбайта, а второй кусочками по 25 Кбайт. Очень надеюсь и верю в то, что таким образом смогу реализовать систему приоритетов.

У меня возникло 2 проблемы.
1) Этот функционал уже реализован в таком ftp-клиенте, как, например, fileZilla. Там можно задать приоритет загрузки и оно действительно грузит быстрее\медленнее. Получается, что мне нужно что-то добавить своего интересного и научного, только я не знаю что. Я думал о том, чтобы как-то автоматически расставлять приоритеты загрузкам\отгрузкам, но кроме размера файла я больше не обладаю никакой инфой, чтобы как-то в автоматическом режиме вычислять приоритет и ставить его файлам.
2) Поговорив с другими преподавателями, мне было сказано, что в моей дипломной работе нет никакой математической части. Я учусь на "прикладной математике и информатике". Сказали:"Ну в чём проблема, если человек захотел передать первым файл, пусть возьмёт, передаст сначала его, а потом другие. Где же научность работы? Ну может можно как-то автоматически метки расставлять файлам (в зависимости от типа файла), и, например, чтобы компьютер сам понимал, что все файлы с такой меткой мне нужно загрузить быстрее?! ну или что-то такое..". Проблема в том, что файлы абсолютно разные могут быть. Метки автоматом им не поставить. Только если пользователь вручную их будет ставить, а потом говорить, какая метка самая важная. Но в чём же разница тогда в сравнении с приоритетами? Это же одно и то же тогда получится...

Ребят, напишите пожалуйста свои идеи по этому поводу. Просто совсем скоро сдавать и времени на разработку не там уж и много, а ещё тестировать, анализировать результаты, придумывать метрику "довольности пользователя", рассчитывать её и всё такое.
Спасибо всем, кто не прошёл мимо!
0
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
10.03.2018, 14:23
Ответы с готовыми решениями:

Разделение данных между потоками (теория)
Помогите понять что такое разделение данных между потоками. Изучаю статью "Работа с потоками C#" Вот код: class ThreadTest { ...

Разделение потока на порции данных
Все то, что функция send()посылает на хост, может разделиться на несколько отдельных порций данных, на прочтение каждой из которых нужен...

Разделение TCP потока на отдельные пакеты
получаю данные так: Socket lsSock; byte data = new byte; lsSock.Recieve(data); данные - это пакеты где первые 2 байта - размер...

0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
10.03.2018, 14:23
Помогаю со студенческими работами здесь

Каким будет поток, получающийся в регуляторе прореживания простейшего потока? (теория систем массового обслуживания)
Добрый день! Подскажите, как решить задачу: Производится случайное прореживание простейшего потока событий с интенсивностью λ; каждое...

Задание 1 создать три потока данных. Запустить все три потока одновременно но через 10 секунд блокировать дополнительные
создать три потока данных 1. Основной поток выводит числа от 0 до 29 2. Дополнительный -1 поток выводит числа с 30 до 69 3....

Разделение данных между пользователями БД. Назначение нормы обработки данных в день
Добрый день уважаемые форумчане! Столкнулась с острой необходимость реализовать следующее: 1)Есть некий файл Excel, допустим...

Open/Save Dialog. Сериализация данных. Запись/чтение данных объектов в/из потока.
Описана файловая переменная FileOfFilms: file of TFilmArr и переменная, содержащая имя файла FileName: string, на форме присутствуют...

Разделение данных
Давненько не сидел за Access, сейчас решил к нему вернуться. Создаю БД на Access 2007, и сейчас выплыла небольшая проблема. Постараюсь...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
1
Ответ Создать тему
Новые блоги и статьи
Модель микоризы: классовый агентный подход
anaschu 02.01.2026
Раньше это было два гриба и бактерия. Теперь три гриба, растение. И на уровне агентов добавится между грибами или бактериями взаимодействий. До того я пробовал подход через многомерные массивы,. . .
Учёным и волонтёрам проекта «Einstein@home» удалось обнаружить четыре гамма-лучевых пульсара в джете Млечного Пути
Programma_Boinc 01.01.2026
Учёным и волонтёрам проекта «Einstein@home» удалось обнаружить четыре гамма-лучевых пульсара в джете Млечного Пути Сочетание глобально распределённой вычислительной мощности и инновационных. . .
Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост.
Programma_Boinc 28.12.2025
Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост. Налог на собак: https:/ / **********/ gallery/ V06K53e Финансовый отчет в Excel: https:/ / **********/ gallery/ bKBkQFf Пост отсюда. . .
Кто-нибудь знает, где можно бесплатно получить настольный компьютер или ноутбук? США.
Programma_Boinc 26.12.2025
Нашел на реддите интересную статью под названием Anyone know where to get a free Desktop or Laptop? Ниже её машинный перевод. После долгих разбирательств я наконец-то вернула себе. . .
Thinkpad X220 Tablet — это лучший бюджетный ноутбук для учёбы, точка.
Programma_Boinc 23.12.2025
Рецензия / Мнение/ Перевод Нашел на реддите интересную статью под названием The Thinkpad X220 Tablet is the best budget school laptop period . Ниже её машинный перевод. Thinkpad X220 Tablet —. . .
PhpStorm 2025.3: WSL Terminal всегда стартует в ~
and_y87 14.12.2025
PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
Как объединить две одинаковые БД Access с разными данными
VikBal 11.12.2025
Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук
volvo 07.12.2025
Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru