SQLAlchemy, ORDER_BY DESC NULLS LAST + OFFSET дают дубли

@Resistanse · Регистрация: 05.08.2017

Студворк — интернет-сервис помощи студентам

Всем привет, есть модель (урезал):

Python
1
2
3
4
5
class Ad(Base):
    __tablename__ = "ad"
 
    id = sqlalchemy.Column(sqlalchemy.Integer, primary_key=True, autoincrement=True)
    publish_date = sqlalchemy.Column(sqlalchemy.DateTime)

В БД предположим 25 записей и у 5 из них поле publish_date != None, я хочу получить значения в порядке убывания по полю publish_date, при этом чтобы записи == None были в конце, я делаю:

Python
1
2
3
4
with Session(main_engine) as session:
    for i in range(25):
        ad = session.query(Ad).order_by(Ad.publish_date.desc().nulls_last()).limit(1).offset(i).one()
        print(ad.id, ad.publish_date)

В итоге результатом данного куска программы является вывод в консоль ID и полей publish_date, в плане сортировки по убыванию код делает все корректно, но проблема начинается с записями, у которых publish_date == None, они дублируются. В чем может быть проблема?
Вывод скрипта:

Code
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
12521 2023-04-26 08:40:31
12697 2023-04-25 10:48:05
12630 2023-04-24 13:32:29
12598 2023-04-18 08:43:28
10325 2023-02-02 12:00:00
12700 None Вот отсюда начинается дублирование записей
12700 None
12766 None
12766 None
12766 None
12698 None
12698 None
13066 None
13099 None
13100 None
12833 None
12866 None
12899 None
12932 None
13101 None

При этом если убрать .nulls_last, то дубли убираются, но при этом нулевые значения встают первыми

@supmener · 29.07.2023, 20:37

Видел такое решение вашей проблемы.
Это происходит потому, что PostgreSQL (и то же относится к другим SQL-системам) не задает четкого порядка для равных значений. Когда вы сортируете значениях с NULL, все они равны, поэтому PostgreSQL может вернуть их в любом порядке. Вероятно, OFFSET "выбирает" одно и то же значение NULL несколько раз.

Есть несколько способов решения этой проблемы. Финальный выбор зависит от ваших требований и ограничений.

Использование дополнительных условий сортировки
Давайте добавим второе условие сортировки. Это может быть любое поле, которое является уникальным для каждой записи. Наиболее очевидный выбор — это по id:

Python
1
2
3
4
with Session(main_engine) as session:
    for i in range(25):
        ad = session.query(Ad).order_by(Ad.publish_date.desc().nulls_last(), Ad.id).limit(1).offset(i).one()
        print(ad.id, ad.publish_date)

Использование windows-функций
Если добавление дополнительного условия сортировки по какой-то причине не работает или создаёт другие проблемы, вы можете использовать window-функции.

Python
1
2
3
4
5
6
7
with Session(main_engine) as session:
    id_subquery = session.query(Ad.id).order_by(Ad.publish_date.desc().nulls_last(), Ad.id).subquery()
    for i in range(25):
        q = session.query(Ad).join(id_subquery, Ad.id == id_subquery.c.id).order_by(id_subquery.c.id).limit(1).offset(i)
        ad = q.one()
        print(ad.id, ad.publish_date)
Важно отметить, что в обоих случаях, новый код может слегка ухудшить производительность из-за дополнительного условия ORDER_BY или join'а.

Надеюсь, это поможет решить вашу проблему!

Новые блоги и статьи Все статьи Все блоги /
Учёным и волонтёрам проекта «Einstein@home» удалось обнаружить четыре гамма-лучевых пульсара в джете Млечного Пути Programma_Boinc 01.01.2026 Учёным и волонтёрам проекта «Einstein@home» удалось обнаружить четыре гамма-лучевых пульсара в джете Млечного Пути Сочетание глобально распределённой вычислительной мощности и инновационных. . .	Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост. Programma_Boinc 28.12.2025 Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост. Налог на собак: https:/ / ********/ gallery/ V06K53e Финансовый отчет в Excel: https:/ / ********/ gallery/ bKBkQFf Пост отсюда. . .	Кто-нибудь знает, где можно бесплатно получить настольный компьютер или ноутбук? США. Programma_Boinc 26.12.2025 Нашел на реддите интересную статью под названием Anyone know where to get a free Desktop or Laptop? Ниже её машинный перевод. После долгих разбирательств я наконец-то вернула себе. . .	Thinkpad X220 Tablet — это лучший бюджетный ноутбук для учёбы, точка. Programma_Boinc 23.12.2025 Рецензия / Мнение/ Перевод Нашел на реддите интересную статью под названием The Thinkpad X220 Tablet is the best budget school laptop period . Ниже её машинный перевод. Thinkpad X220 Tablet —. . .	PhpStorm 2025.3: WSL Terminal всегда стартует в ~ and_y87 14.12.2025 PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
Как объединить две одинаковые БД Access с разными данными VikBal 11.12.2025 Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.	Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro	Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .	Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .