Удалить дубликаты, перед этим объединив csv файлы

@izuchaju_python · Регистрация: 30.06.2015

Студворк — интернет-сервис помощи студентам

Есть csv файлы, пусть будет три штуки, пот 20 тыщ строк, каждая строка содержит имя человека, компанию, телефон, адрес. Нужно объединить три эти файла, и удалить те строки, где компания повторяется.
допустим:
бякин коля, метолабс, 12-34-56-7, Москва
пупкин, метолабс, 12-34-56-7, Москва

Вот мы оставим одного только, остальные должны быть удалены.
Если это проблема, то есть несколько csv файлов с именами, компаниями телефонами, адресами, которые были склеены через zip python.
В общем нужен совет, всем спасибо.

@Garry Galler · 26.11.2016, 19:59

Удалить дубликаты, перед этим объединив csv файлы

Способов это сделать, разумеется, не один. Кто-то, например, может предложить заюзать SQL, поскольку положив все данные в базу, легко применить соответствующий запрос для конечной выборки.
Я для таких ситуаций предпочитаю работать с pandas, поскольку прямо из нее можно читать\писать csv.

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
import os,sys
import pandas as pd
 
os.chdir(sys.path[0])
 
df=pd.DataFrame(columns=['name','org','phone','city']) # создаем пустой фрейм и определяем имена столбцов
 
for filename in ['test.csv','test2.csv','test3.csv']:
    tmp = pd.read_csv(filename,names=['name','org','phone','city']) # считываем каждый файл в dataframe
    df = df.append(tmp,ignore_index=True) # добавляем каждый новый фрейм в основной
 
print(df) # выводим dataframe со всеми строками  из всех csv файлов
# фильтруем дубликаты по колонке city, оставляем только первый результат (по умолчанию), можно наоборот - последний (keep='last'), или вообще - удалить все (keep=False)
df.drop_duplicates('city',keep='first',inplace=True) 
print('-------------------')
print(df) # выводим отфильтрованный фрейм
# записываем в файл
df.to_csv('test_all.csv',index=False,header=False)

Новые блоги и статьи Все статьи Все блоги /
Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост. Programma_Boinc 28.12.2025 Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост. Налог на собак: https:/ / ********/ gallery/ V06K53e Финансовый отчет в Excel: https:/ / ********/ gallery/ bKBkQFf Пост отсюда. . .	Кто-нибудь знает, где можно бесплатно получить настольный компьютер или ноутбук? США. Programma_Boinc 26.12.2025 Нашел на реддите интересную статью под названием Anyone know where to get a free Desktop or Laptop? Ниже её машинный перевод. После долгих разбирательств я наконец-то вернула себе. . .	Thinkpad X220 Tablet — это лучший бюджетный ноутбук для учёбы, точка. Programma_Boinc 23.12.2025 Рецензия / Мнение/ Перевод Нашел на реддите интересную статью под названием The Thinkpad X220 Tablet is the best budget school laptop period . Ниже её машинный перевод. Thinkpad X220 Tablet —. . .	PhpStorm 2025.3: WSL Terminal всегда стартует в ~ and_y87 14.12.2025 PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .	Как объединить две одинаковые БД Access с разными данными VikBal 11.12.2025 Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro	Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .	Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .	Сколько Государство потратило денег на меня, обеспечивая инсулином. Programma_Boinc 20.11.2025 Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .

@izuchaju_python 20 / 21 / 6 Регистрация: 30.06.2015 Сообщений: 431

	Удалить дубликаты, перед этим объединив csv файлы 26.11.2016, 12:10. Показов 5587. Ответов 1 Метки нет (Все метки) Есть csv файлы, пусть будет три штуки, пот 20 тыщ строк, каждая строка содержит имя человека, компанию, телефон, адрес. Нужно объединить три эти файла, и удалить те строки, где компания повторяется. допустим: бякин коля, метолабс, 12-34-56-7, Москва пупкин, метолабс, 12-34-56-7, Москва Вот мы оставим одного только, остальные должны быть удалены. Если это проблема, то есть несколько csv файлов с именами, компаниями телефонами, адресами, которые были склеены через zip python. В общем нужен совет, всем спасибо. 0

Удалить дубликаты, перед этим объединив csv файлы

Решение