[SnowOne 2025] Сергей Петрелевич: Что такое и для чего нужно backpressure?

Разберемся, что такое backpressure и для чего оно нужно. Как backpressure уже реализовано в WebFlux и как его можно реализовать самостоятельно.

Видео: https://youtu.be/prHS1EF1KBY

Transcript

1. Backpressure. Что это? И для чего? Петрелевич Сергей Squad
2. Кто я? Петрелевич Сергей Более 20 лет в разработке. Компания Squad Разрабатываем систему защиты Rest API. 2
3. Сложность взаимодействия Вопрос масштаба. Задачи: - обработать 100 запросов в секунду. - обработать 100.000 запросов в секунду. Есть ли разница? 3
4. Сложность взаимодействия Быстрый источник - медленный потребитель Скорость работы publisher: 2N Скорость работы subscriber: N С избыточными данными надо что-то делать… 4
5. Слишком большой поток Обратное давление (Back pressure) — это сопротивление или сила, противодействующая желаемому потоку жидкости по трубам, что приводит к потерям на трение и падению давления. Википедия. 5
6. Виды Publisher-ов Классификация по способам управления subscriber-ом : • управляемый • неуправляемый 6
7. Управляемый publisher Управление publisher-ом со стороны потребителя – обычное дело в «реальном» мире. 7
8. Реализация управления Как это уже реализовано? Посмотрим пример Webflux. 8
9. Основные идеи управления 9 У publisher-а должны быть ручки управления: Subscriber сам говорит, сколько надо…
10. Основные идеи управления 10 Subscriber должен содержать временное хранилище. Java Concurrency Tools for the JVM. https://github.com/JCTools/JCTools/tree/master SpscArrayQueue – пример такого хранилища.
11. SpscArrayQueue 11
12. SpscArrayQueue 12
13. SpscArrayQueue 13
14. SpscArrayQueue 14
15. SpscArrayQueue 15
16. SpscArrayQueue 16
17. SpscArrayQueue 17
18. Реализация управления 18 Как это можно реализовать? Посмотрим на реализацию без Webflux.
19. Управляемый Publisher 19 Возможность управления существенно упрощает задачу. Webflux может предложить ряд интересных идей.
20. Неуправляемый publisher 20 Неуправляемые потребители в «реальном» мире …. да почти все…
21. Один-ко-многим 21 Один «быстрый» источник данных и несколько потребителей
22. Быстрый Publisher 22 Publisher – быстрый. Subscriber – медленный. Что делать с переизбытком данных? - терять сразу - пытаться что-то сохранить.
23. Стравливаем лишний пар 23
24. Теряем не глядя 24 Возможные варианты в Webflux: - теряем сразу: directBestEffort - пытаемся что-то сохранить: onBackpressureBuffer
25. Теряем не глядя 25 directBestEffort. Теряем, но не все и не сразу… Неочевидные очереди…
26. Пытаемся что-то сохранить 26 onBackpressureBuffer. Работает, но не так быстро... Добавилась общая очередь…
27. На что обратить внимание 27 - неявные очереди; - определение размера очереди («округление»); - работа subscriber-ов в темпе самого медленного (onBackpressureBuffer).
28. Многие-ко-многим 28 Вроде бы, все просто и должно работать, но есть нюанс…
29. Sink – «однопоточный» 29 Получаем ошибку: FAIL_NON_SERIALIZED
30. Sink – «однопоточный» 30 Первый наивный способ «починки»: synchronized.
31. Sink – «однопоточный» 31 Первый наивный способ «починки»: synchronized. Хорошо, но очень уж медленно при множестве писателей.
32. Sink – «однопоточный» 32 Неоптимальное потребление ресурсов наблюдаем ежедневно…
33. Многие-ко-многим 33 Используем практику webflux с очередями… Один поток читает из очереди и пишет в sink.
34. Многие-ко-многим 34 Посмотрим на реализацию Webflux.
35. Многие-ко-многим 35 Можем позаимствовать идеи и подходы. Посмотрим на реализацию без webflux...
36. Многие-ко-многим 36 А если надо все же быстро? Создаем подобные схемы под каждый запрос. Входящий запрос Входящий запрос Входящий запрос
37. Выводы 37 - задача согласования publisher-subscriber может решаться разными способами. - в каких-то случаях удобно взять уже готовое решение, например Webflux. - в каких-то случаях готовое решение надо немного доработать. - когда-то из готового решения можно взять идеи и сделать самому. - и не забываем про gracefully shutdown
38. 38 Вопросы? Петрелевич Сергей телега: @petrelevich Примеры: https://github.com/petrelevich/jvm-digging/tree/main/webflux-example/backpressure Спасибо за внимание