|
0 / 0 / 0
Регистрация: 27.03.2013
Сообщений: 54
|
|
Теория. Разделение потока данных10.03.2018, 14:23. Показов 990. Ответов 0
Метки нет (Все метки)
Доброго времени суток, форумчане!
Итак, сразу к делу. Тема моей дипломной работы "Разработка метода разделения потока данных для параллельной передачи файлов большого размера с учётом приоритетов". Проблематика и предметная область? Есть суперкомпьютеры. На них нужно с обычных компов передавать файлы большого размера (до 10ТБ) параллельно. Канал связи ограничен своей пропускной способностью. Так как время передачи каждого из файлов очень большое - становится вопрос в приоритете их загрузки. То есть, пользователь может задать приоритет загружаемому\выгружаемому файлу, чтобы он передался или принялся быстрее и с ним можно было уже начать работать. На тот момент я просто подумал, что нужно файлы дробить на части и от одного файла передавать больше таких частей, чем от другого, вот и весь приоритет. Окей, я выбрал протокол, который создан для передачи файлов - FTP, язык Python 3.+, покопавшись, выбрал сторонний модуль для создания ftp-сервера (модуль pyftpdlib - асинхронный ftp-сервер, очень быстрый по-сравнению с аналогами), затем для клиента взял тот же Python 3.+, PyQt 5, библиотеку ftplib для работы с сервером по ftp. Интересная вещь в том, как я реализую приоритет сейчас. Не знаю, сработает или нет, но очень надеюсь, что да. Получается так, что асинхронный сервер работает на максимум своей производительности, то есть он не ограничивает ни одного клиента какой-то постоянной константой по скорости передачи. Скорость передачи ограничивается лишь загруженностью ftp-сервера. При передаче или приёме файлов в клиенте можно задать размер "частей" файла, которые будут передаваться при каждом "цикле\такте" передачи. То есть, загружаю два файла. Первый буду принимать кусочками по 3 Кбайта, а второй кусочками по 25 Кбайт. Очень надеюсь и верю в то, что таким образом смогу реализовать систему приоритетов. У меня возникло 2 проблемы. 1) Этот функционал уже реализован в таком ftp-клиенте, как, например, fileZilla. Там можно задать приоритет загрузки и оно действительно грузит быстрее\медленнее. Получается, что мне нужно что-то добавить своего интересного и научного, только я не знаю что. Я думал о том, чтобы как-то автоматически расставлять приоритеты загрузкам\отгрузкам, но кроме размера файла я больше не обладаю никакой инфой, чтобы как-то в автоматическом режиме вычислять приоритет и ставить его файлам. 2) Поговорив с другими преподавателями, мне было сказано, что в моей дипломной работе нет никакой математической части. Я учусь на "прикладной математике и информатике". Сказали:"Ну в чём проблема, если человек захотел передать первым файл, пусть возьмёт, передаст сначала его, а потом другие. Где же научность работы? Ну может можно как-то автоматически метки расставлять файлам (в зависимости от типа файла), и, например, чтобы компьютер сам понимал, что все файлы с такой меткой мне нужно загрузить быстрее?! ну или что-то такое..". Проблема в том, что файлы абсолютно разные могут быть. Метки автоматом им не поставить. Только если пользователь вручную их будет ставить, а потом говорить, какая метка самая важная. Но в чём же разница тогда в сравнении с приоритетами? Это же одно и то же тогда получится... Ребят, напишите пожалуйста свои идеи по этому поводу. Просто совсем скоро сдавать и времени на разработку не там уж и много, а ещё тестировать, анализировать результаты, придумывать метрику "довольности пользователя", рассчитывать её и всё такое. Спасибо всем, кто не прошёл мимо!
0
|
|
| 10.03.2018, 14:23 | |
|
Ответы с готовыми решениями:
0
Разделение данных между потоками (теория) Разделение потока на порции данных Разделение TCP потока на отдельные пакеты |
| 10.03.2018, 14:23 | |
|
Помогаю со студенческими работами здесь
1
Каким будет поток, получающийся в регуляторе прореживания простейшего потока? (теория систем массового обслуживания) Задание 1 создать три потока данных. Запустить все три потока одновременно но через 10 секунд блокировать дополнительные Разделение данных между пользователями БД. Назначение нормы обработки данных в день Open/Save Dialog. Сериализация данных. Запись/чтение данных объектов в/из потока. Разделение данных Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
Новые блоги и статьи
|
||||
|
Модель микоризы: классовый агентный подход
anaschu 02.01.2026
Раньше это было два гриба и бактерия. Теперь три гриба, растение.
И на уровне агентов добавится между грибами или бактериями взаимодействий.
До того я пробовал подход через многомерные массивы,. . .
|
Учёным и волонтёрам проекта «Einstein@home» удалось обнаружить четыре гамма-лучевых пульсара в джете Млечного Пути
Programma_Boinc 01.01.2026
Учёным и волонтёрам проекта «Einstein@home» удалось обнаружить четыре гамма-лучевых пульсара в джете Млечного Пути
Сочетание глобально распределённой вычислительной мощности и инновационных. . .
|
Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост.
Programma_Boinc 28.12.2025
Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост.
Налог на собак: https:/ / **********/ gallery/ V06K53e
Финансовый отчет в Excel: https:/ / **********/ gallery/ bKBkQFf
Пост отсюда. . .
|
Кто-нибудь знает, где можно бесплатно получить настольный компьютер или ноутбук? США.
Programma_Boinc 26.12.2025
Нашел на реддите интересную статью под названием Anyone know where to get a free Desktop or Laptop?
Ниже её машинный перевод.
После долгих разбирательств я наконец-то вернула себе. . .
|
Thinkpad X220 Tablet — это лучший бюджетный ноутбук для учёбы, точка.
Programma_Boinc 23.12.2025
Рецензия / Мнение/ Перевод
Нашел на реддите интересную статью под названием The Thinkpad X220 Tablet is the best budget school laptop period . Ниже её машинный перевод.
Thinkpad X220 Tablet —. . .
|
|
PhpStorm 2025.3: WSL Terminal всегда стартует в ~
and_y87 14.12.2025
PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта
Симптом:
После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
|
Как объединить две одинаковые БД Access с разными данными
VikBal 11.12.2025
Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
|
Новый ноутбук
volvo 07.12.2025
Всем привет.
По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне:
Ryzen 5 7533HS
64 Gb DDR5
1Tb NVMe
16" Full HD Display
Win11 Pro
|
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
|
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
|