Запись в файл multiprocessing

@stanton · Регистрация: 03.02.2015

Студворк — интернет-сервис помощи студентам

Как организовать запись в файл, чтобы каждый процесс ожидал завершения предыдущего?

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
from multiprocessing.dummy import Pool
import string
 
 
letter = string.ascii_letters
 
 
def foo(letter):
    with open('test.txt') as fr:
        data = fr.readlines()
        data = list(map(lambda i: i.strip(), data))
        val = data.pop(0)
        while not val:
            val = data.pop(0)
        data.append(val + letter)
    with open('test.txt', "w") as fw:
        for line in data:
            fw.write("{0}\n".format(line))
    return val
 
if __name__ == '__main__':
    with Pool(processes=10) as p:
        p.map(foo, letter)

@dondublon · 30.08.2016, 13:31

А зачем такой изврат?

@stanton · 30.08.2016, 15:03 **[ТС]**

Не знаю

Это для примера. Но смысл остается. В файле сайты к которым осуществляется запрос. Нужно брать первую строку, возвращать и записывать в конец. Если брать строки из файла и помещать в список, то все норм. А с перезаписью самого файла, не получается

@dondublon · 30.08.2016, 15:13

Во-первых, в файл нельзя писать многопоточно. Там же данные перемешаются.

Во-вторых, если каждый поток будет ждать завершения предыдущего - теряется весь смысл многопоточности, это же обычный последовательный код по смыслу получается.

В третьих, метод wait. Но это для нормального программирования

@stanton · 30.08.2016, 15:42 **[ТС]**

Не знаю как в python, в C# так делал ч/з Lock
Поэтому и спрашиваю, как лучше сделать
AttributeError: 'ThreadPool' object has no attribute 'wait'

@dondublon · 30.08.2016, 16:10

wait у одного потока, у пула не в курсе, не пользовался.

@vrm2 · 30.08.2016, 19:47

Сообщение от stanton

Как организовать запись в файл, чтобы каждый процесс ожидал завершения предыдущего?

Например так:

Python
1
2
3
4
5
import threading
 
my_lock = threading.Lock()
with my_lock:
    ...do it here...

Новые блоги и статьи Все статьи Все блоги /
http://iceja.net/ сервер решения полиномов iceja 18.01.2026 Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма). На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .	Первый деплой lagorue 16.01.2026 Не спеша развернул своё 1ое приложение в kubernetes. А дальше мне интересно создать 1фронтэнд приложения и 2 бэкэнд приложения развернуть 2 деплоя в кубере получится 2 сервиса и что-бы они. . .	Расчёт переходных процессов в цепи постоянного тока igorrr37 16.01.2026 / * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит: токи, напряжения и их 1 и 2 производные при t = 0;. . .	Восстановить юзерскрипты Greasemonkey из бэкапа браузера damix 15.01.2026 Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .
Изучаю kubernetes lagorue 13.01.2026 А пригодятся-ли мне знания kubernetes в России?	Сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/	WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .

@dondublon 4652 / 2072 / 366 Регистрация: 17.03.2012 Сообщений: 10,182 Записей в блоге: 6
	30.08.2016, 13:31
	А зачем такой изврат? 0

@stanton 1 / 1 / 0 Регистрация: 03.02.2015 Сообщений: 35
	30.08.2016, 15:03 [ТС]
	Не знаю Это для примера. Но смысл остается. В файле сайты к которым осуществляется запрос. Нужно брать первую строку, возвращать и записывать в конец. Если брать строки из файла и помещать в список, то все норм. А с перезаписью самого файла, не получается 0

@dondublon 4652 / 2072 / 366 Регистрация: 17.03.2012 Сообщений: 10,182 Записей в блоге: 6
	30.08.2016, 15:13
	Во-первых, в файл нельзя писать многопоточно. Там же данные перемешаются. Во-вторых, если каждый поток будет ждать завершения предыдущего - теряется весь смысл многопоточности, это же обычный последовательный код по смыслу получается. В третьих, метод wait. Но это для нормального программирования 1

@stanton 1 / 1 / 0 Регистрация: 03.02.2015 Сообщений: 35
	30.08.2016, 15:42 [ТС]
	Не знаю как в python, в C# так делал ч/з Lock Поэтому и спрашиваю, как лучше сделать AttributeError: 'ThreadPool' object has no attribute 'wait' 0

@dondublon 4652 / 2072 / 366 Регистрация: 17.03.2012 Сообщений: 10,182 Записей в блоге: 6
	30.08.2016, 16:10
	wait у одного потока, у пула не в курсе, не пользовался. 0