Reverse Proxy — nginx, Envoy, আর Service Mesh-এর জন্ম

আগের experiment শুধু কতক্ষণ স্টেল থাকে তা মাপল — এই build সেটাকে এক ধাপ এগিয়ে দেখায় কী ভুল সেই স্টেল উইন্ডোতে proxy-র ভিউতে থাকে।

# xds_lite.py -- a minimal simulation of the two propagation models as
# stateful cluster managers, so we can inspect the WRONG view a reload-model
# proxy holds during its stale window (not just the duration).

class ClusterManager:
    def __init__(self, model):
        assert model in ("reload", "stream")
        self.model = model
        self.view = set()            # what the proxy currently believes
        self._pending_reload = set() # only used by reload model

    def apply_stream_event(self, kind, backend):
        """Envoy xDS-style: apply a single event to the LIVE view immediately."""
        if self.model != "stream":
            raise RuntimeError("only valid for stream model")
        if kind == "add":
            self.view.add(backend)
        else:
            self.view.discard(backend)

    def stage_for_reload(self, kind, backend):
        """nginx-style: event only updates a pending set, not the live view."""
        if self.model != "reload":
            raise RuntimeError("only valid for reload model")
        if kind == "add":
            self._pending_reload.add(backend)
        else:
            self._pending_reload.discard(backend)

    def reload(self):
        """The discrete moment a reload happens: live view jumps to match."""
        self.view = set(self._pending_reload)


# ---- drive both models through the same event sequence ----
events = [
    ("add", "10.0.1.11"),
    ("add", "10.0.1.12"),
    ("reload_boundary", None),   # nginx reloads here
    ("add", "10.0.1.13"),        # new pod scheduled
    ("remove", "10.0.1.11"),     # old pod evicted
    ("reload_boundary", None),   # nginx reloads again
]

stream_mgr = ClusterManager("stream")
reload_mgr = ClusterManager("reload")
reload_mgr._pending_reload = set()

print("step | actual truth (what SHOULD be routable) | stream-proxy view | reload-proxy view")
truth = set()
for kind, backend in events:
    if kind == "reload_boundary":
        reload_mgr.reload()
        print(f"{'RELOAD':6}|" + " " * 42 + f"|{'':20}| view -> {sorted(reload_mgr.view)}")
        continue
    if kind == "add":
        truth.add(backend)
    else:
        truth.discard(backend)
    stream_mgr.apply_stream_event(kind, backend)
    reload_mgr.stage_for_reload(kind, backend)
    print(f"{kind:6}| truth={sorted(truth)!s:30}| stream={sorted(stream_mgr.view)!s:8}| reload={sorted(reload_mgr.view)!s:8} <- STALE" if sorted(reload_mgr.view) != sorted(truth) else f"{kind:6}| truth={sorted(truth)!s:30}| stream={sorted(stream_mgr.view)!s:8}| reload={sorted(reload_mgr.view)!s:8}")

প্রকৃত চালিয়ে পাওয়া output:

step | actual truth (what SHOULD be routable) | stream-proxy view | reload-proxy view
add   | truth=['10.0.1.11']                 | stream=['10.0.1.11']| reload=[]       <- STALE
add   | truth=['10.0.1.11', '10.0.1.12']    | stream=['10.0.1.11', '10.0.1.12']| reload=[]       <- STALE
RELOAD|                                          |                    | view -> ['10.0.1.11', '10.0.1.12']
add   | truth=['10.0.1.11', '10.0.1.12', '10.0.1.13']| stream=['10.0.1.11', '10.0.1.12', '10.0.1.13']| reload=['10.0.1.11', '10.0.1.12'] <- STALE
remove| truth=['10.0.1.12', '10.0.1.13']    | stream=['10.0.1.12', '10.0.1.13']| reload=['10.0.1.11', '10.0.1.12'] <- STALE
RELOAD|                                          |                    | view -> ['10.0.1.12', '10.0.1.13']

লক্ষ্য করার মতো: stream-কলাম কখনো truth-এর থেকে ভিন্ন হয় না — প্রতিটা ইভেন্ট সাথে সাথে প্রয়োগ হচ্ছে। reload-কলাম দুইবার স্পষ্টভাবে ভুল — একবার নতুন backend (10.0.1.13) থাকা সত্ত্বেও proxy সেটা জানে না (ট্রাফিক হারানো সুযোগ), আরেকবার সরানো backend (10.0.1.11) এখনও proxy-র তালিকায়, মানে proxy তার দিকে ট্রাফিক পাঠাতেই পারে — একটা dead backend-এ request যাওয়ার ঝুঁকি, যা connection error/timeout হিসেবে ক্লায়েন্টের কাছে ফিরে আসতে পারে। এই দ্বিতীয় সমস্যাটাই বাস্তবে reload-based মডেলের সবচেয়ে বিরক্তিকর পরিণতি — শুধু “ধীর” না, সক্রিয়ভাবে ভুল।