CS
Postava glóbu Eco², upravená pro toto portfolio podle nejnovější oficiální hlavní postavy: blankytně modrý glóbus se zelenou pevninou, klíčkem na temeni a hnědým usměvavým obličejem
Zpět do sálu

Eco²

Backend · Cloud infrastructure

Rady k třídění odpadu z jedné fotky a rozhovoru.

Univerzální asistent AI, který rozumí tomu, jak funguje třídění odpadu v Koreji.

2025.10.31 — 2026.02.10

Týmový projekt · základ infrastruktury a nasazení → doménový backend → asynchronní zpracování, konverzační agent, ověřování

2025 새싹 해커톤 (Saessak Hackathon)Cena za excelenci · 2025.12.02

  • Webová aplikaceSlužba ukončena

Jak se 24 uzlů skutečně propojuje, tok po toku.

Samostatně spravovaný Kubernetes sestavený pomocí kubeadm. Mapa umisťuje 24 fyzických uzlů a workloady na nich do pěti vrstev z README a spojuje je skutečnými spojeními. Výběr toku zvýrazní jen tuto cestu s očíslovanými kroky.

Rozpozná odpad na fotografii a vysvětlí, jak s ním naložit, a v konverzaci volá nástroje pro místa, počasí, výkupní ceny druhotných surovin a vyhledávání na webu a generuje obrázky. V tomto týmovém projektu začal můj rozsah u clusteru a základu nasazení a postupně se rozšířil o doménový backend, asynchronní zpracování, konverzačního agenta a ověřování.

Od soutěžního vývoje po zpevnění backendu a provozu

Služba ukončila provoz; nahrané demo a technická zpráva ji ukazují v činnosti.

Mapa spojení clusteru · překresleno z manifestů a kódu v commitu a072127
Mapa spojení clusteru Eco² · 24 uzlůMapa 24 fyzických uzlů v pěti pásech vrstev z README. Prohlížeč jen vyhledá název v Route 53; po ukončení TLS na ALB na portu 443 předá ingress Envoy Istio na NodePort požadavek doménovému API. Scan API zařadí práci do RabbitMQ a okamžitě vrátí job_id; scan-worker v poolu AI zapisuje (XADD) události o postupu do Redis Streams. Event Router je čte, aktualizuje State KV a publikuje do Pub/Sub a SSE Gateway je posílá do prohlížeče. checkpoint-syncer ukládá checkpointy Chat a persistence consumer na uzlu Chat ukládá zprávy do PostgreSQL. Platform Layer není cestou požadavků; konfiguruje, škáluje a pozoruje.ProhlížečHTTPS · SSEAWS ALB443 · zde končí TLSRoute 53DNSGitHub Actions · Docker Hubobraz · revize manifestuLLM APIOpenAI · GoogleLangSmithtrasování běhů LLMFluent BitDaemonSet · každý uzelk8s-masterALB Controller · ExternalDNSArgo CD image updaterIstiodcontrol planek8s-ingress-gatewayIstio ingress Envoyk8s-api-scanScan APIk8s-api-chatChat APImessage consumerpersistence consumerk8s-api-authauth APIext-authzk8s-api-infoInfo APIinfo-workerk8s-api-charactercharacter APIk8s-api-imageimages APIk8s-api-usersusers APIk8s-api-locationlocation APIk8s-sse-gatewaySSE Gatewayk8s-event-routerEvent Routerk8s-rabbitmqRabbitMQk8s-worker-aik8s-worker-ai-2k8s-worker-storagek8s-worker-storage-2k8s-redis-pubsubPub/Subk8s-redis-streamsStreamsState KVk8s-redis-cacheCachek8s-postgresqlPostgreSQLk8s-redis-authblacklistk8s-monitoringKEDAPrometheusGrafanaAlertmanagerk8s-loggingElasticsearchKibanascan-workerchat-workercheckpoint-syncerauth-relayauth-workerusers-workercharacter-workercharacter-match-workerKialiJaeger · dev in-memoryCluster Kubernetes24 uzlů · kubeadmEdge Layer1 uzelService Layer8 uzlů · Envoy sidecarIntegration Layer7 uzlůPersistence Layer5 uzlůPlatform Layer3 uzly · konfigurace · škálování · pozorováníSpravováno AWSPool AIdomain: worker-aipool storagedomain: worker-storageBez připnutého uzlu1dotaz DNS2 HTTPS 443 · Prohlížeč → AWS ALB23HTTP · NodePort4VirtualService5Úloha Celery6 consume · RabbitMQ → scan-worker67 HTTPS · Pool AI → LLM API78XADD scan:events9XREADGROUP10SETEX state11PUBLISH12SUBSCRIBE13Stream SSE14Obnova po opětovném připojení1 HTTPS 443 · Prohlížeč → AWS ALB12HTTP · NodePort3VirtualService4Úloha Taskiq5 consume · RabbitMQ → chat-worker56 HTTPS · Pool AI → LLM API67XADD chat:events8XREADGROUP9PUBLISH10SUBSCRIBE11Stream SSE12checkpoint13čtení checkpointu14synchronizace do PostgreSQL15chat-persistence group16uložení zpráv1dotaz DNS2 HTTPS 443 · Prohlížeč → AWS ALB23HTTP · NodePort4ext-authz · gRPC 500515vyhledání v blacklistu6VirtualService7gRPC8gRPC1outbox:blacklist2blacklist.events3 blacklist.events · RabbitMQ → auth-worker34uložení blacklistu5 Celery batch · RabbitMQ → users-worker56UPSERT1obraz · revize manifestu2Ingress → ALB · záznamy DNS3konfigurace xDS4počet podů5 počet podů · KEDA → pool storage56logy7 trasování běhů LLM · Pool AI → LangSmith7

Požadavek Scan → živé doručení

Požadavek na analýzu fotografie se stane prací ve frontě a jeho události o postupu se vracejí do stejného prohlížeče.

  1. Prohlížečdotaz DNSRoute 53

    Ze záznamů Route 53 se překládá jen název. Požadavky přes DNS neprocházejí.

  2. ProhlížečHTTPS 443AWS ALB

    TLS končí na ALB.

  3. AWS ALBHTTP · NodePortIstio ingress Envoyk8s-ingress-gateway

    Předáno ingress Envoy Istio přes NodePort cíle typu instance EC2.

  4. Istio ingress Envoyk8s-ingress-gatewayVirtualServiceScan APIk8s-api-scan

    Směrováno do Scan API, které práci zařadí do fronty a okamžitě vrátí job_id; dotaz na výsledek odpovídá 202, dokud úloha neskončí.

  5. Scan APIk8s-api-scanÚloha CeleryRabbitMQk8s-rabbitmq

    Úloha Scan jde do RabbitMQ.

  6. RabbitMQk8s-rabbitmqconsumescan-workerk8s-worker-ai · k8s-worker-ai-2

    scan-worker (Celery · gevent) v poolu AI ji převezme a spustí Vision → Rule → Answer → Reward. Čtyři fáze jsou zřetězené úlohy Celery, nikoli uzly.

  7. Pool AIk8s-worker-ai · k8s-worker-ai-2HTTPSLLM API

    Workery scan a chat volají API OpenAI a Google.

  8. scan-workerk8s-worker-ai · k8s-worker-ai-2XADD scan:eventsStreamsk8s-redis-streams

    Události o postupu se zapisují do jednoho ze čtyř shardů Streams.

  9. Streamsk8s-redis-streamsXREADGROUPEvent Routerk8s-event-router

    Event Router je čte jako consumer group a po zpracování provede XACK; pending a reclaim udržují doručení typu at-least-once.

  10. Event Routerk8s-event-routerSETEX stateState KVk8s-redis-streams

    Zapisuje nejnovější stav a značku duplicitního zpracování do State KV na stejném uzlu Redis.

  11. Event Routerk8s-event-routerPUBLISHPub/Subk8s-redis-pubsub

    Doručováno v reálném čase na kanálu úlohy ve shardovaném Pub/Sub.

  12. Pub/Subk8s-redis-pubsubSUBSCRIBESSE Gatewayk8s-sse-gateway

    SSE Gateway se přihlašuje k odběru přes jeden sdílený listener na proces a rozesílá do každého připojeného prohlížeče.

  13. SSE Gatewayk8s-sse-gatewayStream SSEProhlížeč

    Spojení otevřené stejnou cestou přes ALB a ingress. Doručení typu at-least-once; duplicity se zpracovávají idempotentně.

  14. State KVk8s-redis-streamsObnova po opětovném připojeníSSE Gatewayk8s-sse-gateway

    Po opětovném připojení s Last-Event-ID doplní State KV a uchované Streams zmeškané události.

Chat · tokeny a ukládání

Tokeny Chat jdou stejnou cestou událostí jako Scan; checkpointy a zprávy ukládají dva různé workloady.

  1. ProhlížečHTTPS 443AWS ALB

    TLS končí na ALB.

  2. AWS ALBHTTP · NodePortIstio ingress Envoyk8s-ingress-gateway

    Předáno ingress Envoy Istio přes NodePort cíle typu instance EC2.

  3. Istio ingress Envoyk8s-ingress-gatewayVirtualServiceChat APIk8s-api-chat

    Směrováno do Chat API.

  4. Chat APIk8s-api-chatÚloha TaskiqRabbitMQk8s-rabbitmq

    Úloha Chat jde do RabbitMQ.

  5. RabbitMQk8s-rabbitmqconsumechat-workerk8s-worker-ai · k8s-worker-ai-2

    chat-worker (Taskiq · asyncio) klasifikuje záměr pomocí LangGraph, poté podle potřeby spustí vision, vybrané nástroje, aggregator a podle potřeby shrnutí a odpoví. Každý požadavek spouští jen větve, které potřebuje.

  6. Pool AIk8s-worker-ai · k8s-worker-ai-2HTTPSLLM API

    Workery scan a chat volají API OpenAI a Google.

  7. chat-workerk8s-worker-ai · k8s-worker-ai-2XADD chat:eventsStreamsk8s-redis-streams

    Tokeny a události fází se zapisují do čtyř shardů Streams; odtud je cesta doručení stejná jako u Scan.

  8. Streamsk8s-redis-streamsXREADGROUPEvent Routerk8s-event-router

    Event Router je čte jako consumer group a po zpracování provede XACK; pending a reclaim udržují doručení typu at-least-once.

  9. Event Routerk8s-event-routerPUBLISHPub/Subk8s-redis-pubsub

    Doručováno v reálném čase na kanálu úlohy ve shardovaném Pub/Sub.

  10. Pub/Subk8s-redis-pubsubSUBSCRIBESSE Gatewayk8s-sse-gateway

    SSE Gateway se přihlašuje k odběru přes jeden sdílený listener na proces a rozesílá do každého připojeného prohlížeče.

  11. SSE Gatewayk8s-sse-gatewayStream SSEProhlížeč

    Spojení otevřené stejnou cestou přes ALB a ingress. Doručení typu at-least-once; duplicity se zpracovávají idempotentně.

  12. chat-workerk8s-worker-ai · k8s-worker-ai-2checkpointCachek8s-redis-cache

    Checkpoint LangGraph se uchovává v Redis Cache.

  13. Cachek8s-redis-cachečtení checkpointucheckpoint-syncerk8s-worker-ai · k8s-worker-ai-2

    checkpoint-syncer čte checkpoint z Redis.

  14. checkpoint-syncerk8s-worker-ai · k8s-worker-ai-2synchronizace do PostgreSQLPostgreSQLk8s-postgresql

    AsyncPostgresSaver ho asynchronně ukládá do PostgreSQL.

  15. Streamsk8s-redis-streamschat-persistence grouppersistence consumerk8s-api-chat

    Persistence consumer na uzlu Chat čte události done jako consumer group.

  16. persistence consumerk8s-api-chatuložení zprávPostgreSQLk8s-postgresql

    Zprávy Chat se ukládají do PostgreSQL. Je to jiný workload než checkpoint-syncer.

Vstup · autentizace

Synchronní cesta od vstupu do clusteru k doménovému API. Autentizaci nejprve kontrolují jen cesty chráněné politikou; provoz podů mezi uzly běží na Calico VXLAN.

  1. Prohlížečdotaz DNSRoute 53

    Ze záznamů Route 53 se překládá jen název. Požadavky přes DNS neprocházejí.

  2. ProhlížečHTTPS 443AWS ALB

    TLS končí na ALB.

  3. AWS ALBHTTP · NodePortIstio ingress Envoyk8s-ingress-gateway

    Předáno ingress Envoy Istio přes NodePort cíle typu instance EC2.

  4. Istio ingress Envoyk8s-ingress-gatewayext-authz · gRPC 50051ext-authzk8s-api-auth

    Jen cesty pod politikou CUSTOM se nejprve ptají Go ext-authz (timeout 2 s, failOpen false). Cesty jako přihlášení, health a docs jsou vyloučeny.

  5. ext-authzk8s-api-authvyhledání v blacklistublacklistk8s-redis-auth

    Token se kontroluje proti blacklistu v Redis.

  6. Istio ingress Envoyk8s-ingress-gatewayVirtualServiceChat APIk8s-api-chat

    Směrováno do Chat API.

  7. Chat APIk8s-api-chatgRPCimages APIk8s-api-image

    Synchronní volání chat → images uvedené v README.

  8. auth APIk8s-api-authgRPCusers APIk8s-api-users

    Synchronní volání auth → users uvedené v README.

Pool storage · asynchronní zápisy

Blacklist autentizace a vlastnictví postav ukládají workery poolu storage, které berou práci z RabbitMQ.

  1. blacklistk8s-redis-authoutbox:blacklistauth-relayk8s-worker-storage · k8s-worker-storage-2

    auth-relay (auth-Bus z README) čte outbox v Redis.

  2. auth-relayk8s-worker-storage · k8s-worker-storage-2blacklist.eventsRabbitMQk8s-rabbitmq

    Znovu publikuje do RabbitMQ, s opakováním a DLQ.

  3. RabbitMQk8s-rabbitmqblacklist.eventsauth-workerk8s-worker-storage · k8s-worker-storage-2

    auth-worker přijímá události blacklistu.

  4. auth-workerk8s-worker-storage · k8s-worker-storage-2uložení blacklistublacklistk8s-redis-auth

    Ukládají se do blacklistu v Redis.

  5. RabbitMQk8s-rabbitmqCelery batchusers-workerk8s-worker-storage · k8s-worker-storage-2

    users-worker přijímá práci na vlastnictví postav v dávkách.

  6. users-workerk8s-worker-storage · k8s-worker-storage-2UPSERTPostgreSQLk8s-postgresql

    Ta se promítá do PostgreSQL.

Konfigurace · škálování · pozorování

Platform Layer není krokem, kterým procházejí požadavky; nasazuje, konfiguruje, škáluje a pozoruje ostatní vrstvy. Uzly jsou instance EC2 vytvořené pomocí Terraform, s kubeadm a Calico nainstalovanými přes Ansible; CI Terraform jen validuje a nikdy ho automaticky neaplikuje.

  1. GitHub Actions · Docker Hubobraz · revize manifestuArgo CD image updaterk8s-master

    Argo CD sjednocuje konfiguraci clusteru přes App-of-Apps a Sync Waves. Potvrzeno bylo jen umístění image updateru na control-plane.

  2. ALB Controller · ExternalDNSk8s-masterIngress → ALB · záznamy DNSSpravováno AWS

    ALB Controller a ExternalDNS konfigurují prostředky na straně AWS. Nejde o cestu, kterou procházejí požadavky.

  3. Istiodk8s-masterkonfigurace xDSIstio ingress Envoyk8s-ingress-gateway

    Istiod posílá konfiguraci Gateway, VirtualService a EnvoyFilter přes xDS do ingress Envoy a do sidecaru Envoy každého API.

  4. KEDAk8s-monitoringpočet podůPool AIk8s-worker-ai · k8s-worker-ai-2

    KEDA upravuje počet podů workerů. Počet uzlů se nemění.

  5. KEDAk8s-monitoringpočet podůpool storagek8s-worker-storage · k8s-worker-storage-2

    Pody workerů v poolu storage se škálují stejně.

  6. Fluent BitlogyElasticsearchk8s-logging

    Fluent Bit je DaemonSet na každém uzlu a posílá logy do Elasticsearch.

  7. Pool AIk8s-worker-ai · k8s-worker-ai-2trasování běhů LLMLangSmith

    Stopy volání LLM jdou do LangSmith, externí služby SaaS.

Každé spojení se stejnou váhou. Výběr toku zvýrazní jen jeho cestu s očíslovanými kroky.

  • Plná čára · směr toku požadavků, práce, událostí a zápisů
  • Tečkovaná · dotaz DNS; požadavky jím neprocházejí
  • Přerušovaná čára · konfigurace nebo škálování; není to datová cesta
  • Dlouhá čerchovaná · logy a trasování běhů
  • Silná černá čára · zvolený tok; čísla udávají pořadí
  • Rámeček · fyzický uzel, název hostitele v záhlaví
  • Vnitřní štítek · workload běžící na tomto uzlu
  • Přerušovaný rám · dvouuzlový plánovací pool
  • Přerušovaný rámeček · mimo cluster, nepočítá se jako uzel
  • Oranžový obrys · místo, kde rozhoduje model
  • Control plane1 uzel
  • Domain API8 uzlů
  • Pool AI2 uzly
  • pool storage2 uzly
  • Data5 uzlů
  • Platform6 uzlů

Pět vrstev z README (pásy) a fyzické skupiny (odstín záhlaví každého uzlu) seskupují tytéž 24 uzly jinak. State KV sdílí uzel se Streams a nepočítá se zvlášť; Route 53, ALB a služby mimo cluster nejsou uzly. Pool je rozsah plánování, nikoli tvrzení, že každý pod běží na obou uzlech.

Rozvržení 24 uzlů · podle seznamu uzlů z dashboardu z January 21, 2026

24uzlů

24 = 1 control plane + 8 API + 4 worker + 5 data + 6 platform

  1. 1Control plane

    role: control-plane

    kube-apiserver · scheduler · controller-manager · etcd a platformní kontrolery.

    1. k8s-master

  2. 8Domain API

    domain: <služba>

    Jeden uzel na doménu. Interní volání používají gRPC.

    1. k8s-api-auth
    2. k8s-api-users
    3. k8s-api-scan
    4. k8s-api-character
    5. k8s-api-location
    6. k8s-api-image
    7. k8s-api-chat
    8. k8s-api-info

  3. 4Execution worker

    Dva plánovací pooly po dvou uzlech. KEDA mění počet podů; počet uzlů zůstává stejný.

    pool storagedomain: worker-storage
    1. k8s-worker-storage
    2. k8s-worker-storage-2
    Pool AIdomain: worker-ai
    1. k8s-worker-ai
    2. k8s-worker-ai-2

  4. 5Data

    Redis je rozdělen podle účelu na čtyři uzly. Úložiště PostgreSQL je EBS CSI · gp3.

    1. k8s-postgresql
    2. k8s-redis-auth
    3. k8s-redis-streams
    4. k8s-redis-cache
    5. k8s-redis-pubsub

  5. 6Platform

    Zasílání zpráv, pozorovatelnost, ingress a doručování v reálném čase mají každé vlastní uzel.

    1. k8s-rabbitmq
    2. k8s-monitoring
    3. k8s-logging
    4. k8s-ingress-gateway
    5. k8s-sse-gateway
    6. k8s-event-router
Každý uzel
  • Fluent Bit · DaemonSet
  • Calico

Nastavené modely · podle poskytovatele

Služba byla ukončena, takže jde o modely nastavené v repozitáři, nikoli o dnes dostupné volby. Každá role je uvedena zvlášť; nejde o seznam ověřených běhů.

  • OpenAI

    Výchozí poskytovatel Chat

    Chat

    • openai/gpt-5.2výchozí

    Výchozím modelem je gpt-5.2; model uvedený v požadavku má přednost.

    Scan

    • gpt-5.2výchozí
    • gpt-5.2-pro
    • gpt-5.1
    • gpt-5
    • gpt-5-pro
    • gpt-5-mini

    Modely mimo mapování 13 modelů se odmítají.

    Mapování obrázků

    • gpt-image-1.5

    Oddělený od gpt-5.2, orchestračního modelu Responses. Generování obrázků je ve výchozím stavu vypnuté.

    Evaluace

    • gpt-4o-minivýchozí

    Hodnotitel LLM pro evaluaci konverzací, oddělený od modelu Chat.

  • Google

    Když Chat zvolí Google

    Chat

    • google/gemini-3-pro-preview
    • google/gemini-3-flash-preview

    Při zvoleném Google je výchozí gemini-3-flash-preview.

    Scan

    • gemini-3-pro-preview
    • gemini-3-flash-preview
    • gemini-2.5-pro
    • gemini-2.5-flash
    • gemini-2.5-flash-lite
    • gemini-2.0-flash
    • gemini-2.0-flash-lite

    Mapování obrázků

    • gemini-3-pro-image-preview

Zdrojbackend main d8840c7Veřejný commit September 29, 2026 · ověřeno October 8, 2026