ET
Eco² maakera-tegelane, selle portfoolio jaoks viimistletud uusimast ametlikust peategelasest: taevassinine maakera rohelise maismaa, pealael oleva idu ja pruuni naeratava näoga
Tagasi saali

Eco²

Backend · Cloud infrastructure

Taaskasutusjuhised ühest fotost ja vestlusest.

Kõik-ühes AI-assistent, mis mõistab, kuidas Koreas jäätmeid sorteeritakse.

2025.10.31 — 2026.02.10

Meeskonnaprojekt · infrastruktuuri ja juurutamise alus → domeeni taustasüsteem → asünkroonne töötlus, vestlusagent, verifitseerimine

2025 새싹 해커톤 (Saessak Hackathon)Tunnustusauhind · 2. detsember 2025

  • VeebirakendusTeenus suletud

Kuidas 24 sõlme tegelikult ühenduvad, üks voog korraga.

Kubeadmiga ehitatud iseseisvalt hallatav Kubernetes. Kaart paigutab 24 füüsilist sõlme ja nendel töötavad töökoormused README viide kihti ning ühendab need tegelike ühendustega. Vali voog ja esile tõstetakse ainult selle tee nummerdatud sammudega.

See tuvastab jäätmed fotolt ja selgitab, kuidas neid käidelda, ning vestluses kutsub tööriistu kohtade, ilma, taaskasutushindade ja veebiotsingu jaoks ning genereerib pilte. Selles meeskonnaprojektis alustasin klastri ja juurutamise alusest ning laiendasin oma ulatust domeeni taustasüsteemile, asünkroonsele töötlusele, vestlusagendile ja verifitseerimisele.

Võistluse arendusest kuni taustasüsteemi ja käitamise tugevdamiseni

Teenus on oma töö lõpetanud; salvestatud demo ja tehniline aruanne näitavad seda töös.

Klastri ühenduste kaart · uuesti joonistatud commiti a072127 manifestide ja koodi põhjal
Eco² klastri ühenduste kaart · 24 sõlmeKaart 24 füüsilisest sõlmest README viie kihi vööndites. Brauser ainult otsib nime Route 53-st; pärast TLS-i lõppu ALB-s pordil 443 saadab NodePortil töötav Istio ingress Envoy päringu domeeni API-le. Scan API paneb töö RabbitMQ järjekorda ja tagastab kohe job_id; AI-kogumi scan-worker kirjutab edenemissündmused käsuga XADD Redis Streamsi. Event Router loeb need, uuendab State KV-d ja avaldab Pub/Subi ning SSE Gateway saadab need brauserisse. checkpoint-syncer salvestab Chati checkpoint'id ja Chati sõlme persistence consumer salvestab sõnumid PostgreSQL-i. Platform Layer ei ole päringutee; see seadistab, skaleerib ja jälgib.BrauserHTTPS · SSEAWS ALB443 · TLS lõpeb siinRoute 53DNSGitHub Actions · Docker Hubtõmmis · manifesti redaktsioonLLM APIOpenAI · GoogleLangSmithLLM-käivituste jälitusFluent BitDaemonSet · iga sõlmk8s-masterALB Controller · ExternalDNSArgo CD image updaterIstiodcontrol planek8s-ingress-gatewayIstio ingress Envoyk8s-api-scanScan APIk8s-api-chatChat APImessage consumerpersistence consumerk8s-api-authauth APIext-authzk8s-api-infoInfo APIinfo-workerk8s-api-charactercharacter APIk8s-api-imageimages APIk8s-api-usersusers APIk8s-api-locationlocation APIk8s-sse-gatewaySSE Gatewayk8s-event-routerEvent Routerk8s-rabbitmqRabbitMQk8s-worker-aik8s-worker-ai-2k8s-worker-storagek8s-worker-storage-2k8s-redis-pubsubPub/Subk8s-redis-streamsStreamsState KVk8s-redis-cacheCachek8s-postgresqlPostgreSQLk8s-redis-authblacklistk8s-monitoringKEDAPrometheusGrafanaAlertmanagerk8s-loggingElasticsearchKibanascan-workerchat-workercheckpoint-syncerauth-relayauth-workerusers-workercharacter-workercharacter-match-workerKialiJaeger · dev in-memoryKubernetese klaster24 sõlme · kubeadmEdge Layer1 sõlmService Layer8 sõlme · Envoy sidecarIntegration Layer7 sõlmePersistence Layer5 sõlmePlatform Layer3 sõlme · seadistamine · skaleerimine · jälgimineAWS-i hallatudAI-kogumdomain: worker-aisalvestuskogumdomain: worker-storageSõlm määramata1DNS-päring2 HTTPS 443 · Brauser → AWS ALB23HTTP · NodePort4VirtualService5Celery ülesanne6 consume · RabbitMQ → scan-worker67 HTTPS · AI-kogum → LLM API78XADD scan:events9XREADGROUP10SETEX state11PUBLISH12SUBSCRIBE13SSE voog14Taastamine uuesti ühendumisel1 HTTPS 443 · Brauser → AWS ALB12HTTP · NodePort3VirtualService4Taskiq ülesanne5 consume · RabbitMQ → chat-worker56 HTTPS · AI-kogum → LLM API67XADD chat:events8XREADGROUP9PUBLISH10SUBSCRIBE11SSE voog12checkpoint13checkpoint'i lugemine14sünkroonimine PostgreSQL-i15chat-persistence group16sõnumite salvestamine1DNS-päring2 HTTPS 443 · Brauser → AWS ALB23HTTP · NodePort4ext-authz · gRPC 500515keelunimekirja päring6VirtualService7gRPC8gRPC1outbox:blacklist2blacklist.events3 blacklist.events · RabbitMQ → auth-worker34keelunimekirja salvestamine5 Celery batch · RabbitMQ → users-worker56UPSERT1tõmmis · manifesti redaktsioon2Ingress → ALB · DNS-kirjed3xDS konfiguratsioon4podide arv5 podide arv · KEDA → salvestuskogum56logid7 LLM-käivituste jälitus · AI-kogum → LangSmith7

Scani päring → reaalajas edastamine

Fotoanalüüsi päringust saab järjekorras töö ja selle edenemissündmused jõuavad tagasi samasse brauserisse.

  1. BrauserDNS-päringRoute 53

    Route 53 kirjetest leitakse ainult nimi. Päringud DNS-ist läbi ei lähe.

  2. BrauserHTTPS 443AWS ALB

    TLS lõpeb ALB-s.

  3. AWS ALBHTTP · NodePortIstio ingress Envoyk8s-ingress-gateway

    Antakse EC2 instance target'i NodePorti kaudu üle Istio ingress Envoyle.

  4. Istio ingress Envoyk8s-ingress-gatewayVirtualServiceScan APIk8s-api-scan

    Suunatakse Scan API-le, mis paneb töö järjekorda ja tagastab kohe job_id; tulemuse päring vastab koodiga 202, kuni töö on valmis.

  5. Scan APIk8s-api-scanCelery ülesanneRabbitMQk8s-rabbitmq

    Scani ülesanne läheb RabbitMQ-sse.

  6. RabbitMQk8s-rabbitmqconsumescan-workerk8s-worker-ai · k8s-worker-ai-2

    AI-kogumi scan-worker (Celery · gevent) võtab selle ja käivitab etapid Vision → Rule → Answer → Reward. Neli etappi on aheldatud Celery ülesanded, mitte sõlmed.

  7. AI-kogumk8s-worker-ai · k8s-worker-ai-2HTTPSLLM API

    Scan- ja chat-workerid kutsuvad OpenAI ja Google'i API-sid.

  8. scan-workerk8s-worker-ai · k8s-worker-ai-2XADD scan:eventsStreamsk8s-redis-streams

    Edenemissündmused kirjutatakse ühte neljast Streamsi killust.

  9. Streamsk8s-redis-streamsXREADGROUPEvent Routerk8s-event-router

    Event Router loeb need tarbijarühmana ja kinnitab pärast töötlemist käsuga XACK; pending ja reclaim hoiavad edastuse vähemalt korra põhimõttel.

  10. Event Routerk8s-event-routerSETEX stateState KVk8s-redis-streams

    See kirjutab viimase oleku ja topelttöötluse märgi sama Redise sõlme State KV-sse.

  11. Event Routerk8s-event-routerPUBLISHPub/Subk8s-redis-pubsub

    Edastatakse reaalajas töö kanalil shard Pub/Subis.

  12. Pub/Subk8s-redis-pubsubSUBSCRIBESSE Gatewayk8s-sse-gateway

    SSE Gateway tellib need ühe protsessipõhise jagatud kuulaja kaudu ja jagab edasi igale ühendatud brauserile.

  13. SSE Gatewayk8s-sse-gatewaySSE voogBrauser

    Ühendus avatakse sama ALB ja ingress'i tee kaudu. Edastamine on vähemalt korra; duplikaate käsitletakse idempotentselt.

  14. State KVk8s-redis-streamsTaastamine uuesti ühendumiselSSE Gatewayk8s-sse-gateway

    Kui brauser ühendub uuesti Last-Event-ID-ga, täidavad State KV ja säilitatud Streams vahele jäänud sündmused.

Chat · tokenid ja salvestamine

Chati tokenid liiguvad sama sündmusteed mööda kui Scani omad; checkpoint'e ja sõnumeid salvestavad kaks eri töökoormust.

  1. BrauserHTTPS 443AWS ALB

    TLS lõpeb ALB-s.

  2. AWS ALBHTTP · NodePortIstio ingress Envoyk8s-ingress-gateway

    Antakse EC2 instance target'i NodePorti kaudu üle Istio ingress Envoyle.

  3. Istio ingress Envoyk8s-ingress-gatewayVirtualServiceChat APIk8s-api-chat

    Suunatakse Chat API-le.

  4. Chat APIk8s-api-chatTaskiq ülesanneRabbitMQk8s-rabbitmq

    Chati ülesanne läheb RabbitMQ-sse.

  5. RabbitMQk8s-rabbitmqconsumechat-workerk8s-worker-ai · k8s-worker-ai-2

    chat-worker (Taskiq · asyncio) liigitab kavatsuse LangGraphiga, käivitab seejärel vajaduse korral vision-etapi, valitud tööriistad, aggregatori ja vajaduse korral kokkuvõtte ning vastab. Iga päring käivitab ainult vajalikud harud.

  6. AI-kogumk8s-worker-ai · k8s-worker-ai-2HTTPSLLM API

    Scan- ja chat-workerid kutsuvad OpenAI ja Google'i API-sid.

  7. chat-workerk8s-worker-ai · k8s-worker-ai-2XADD chat:eventsStreamsk8s-redis-streams

    Tokenid ja etapisündmused kirjutatakse nelja Streamsi killu; sealt edasi on edastamise tee sama mis Scanil.

  8. Streamsk8s-redis-streamsXREADGROUPEvent Routerk8s-event-router

    Event Router loeb need tarbijarühmana ja kinnitab pärast töötlemist käsuga XACK; pending ja reclaim hoiavad edastuse vähemalt korra põhimõttel.

  9. Event Routerk8s-event-routerPUBLISHPub/Subk8s-redis-pubsub

    Edastatakse reaalajas töö kanalil shard Pub/Subis.

  10. Pub/Subk8s-redis-pubsubSUBSCRIBESSE Gatewayk8s-sse-gateway

    SSE Gateway tellib need ühe protsessipõhise jagatud kuulaja kaudu ja jagab edasi igale ühendatud brauserile.

  11. SSE Gatewayk8s-sse-gatewaySSE voogBrauser

    Ühendus avatakse sama ALB ja ingress'i tee kaudu. Edastamine on vähemalt korra; duplikaate käsitletakse idempotentselt.

  12. chat-workerk8s-worker-ai · k8s-worker-ai-2checkpointCachek8s-redis-cache

    LangGraphi checkpoint hoitakse Redis Cache'is.

  13. Cachek8s-redis-cachecheckpoint'i lugeminecheckpoint-syncerk8s-worker-ai · k8s-worker-ai-2

    checkpoint-syncer loeb checkpoint'i Redisest.

  14. checkpoint-syncerk8s-worker-ai · k8s-worker-ai-2sünkroonimine PostgreSQL-iPostgreSQLk8s-postgresql

    AsyncPostgresSaver salvestab selle PostgreSQL-i asünkroonselt.

  15. Streamsk8s-redis-streamschat-persistence grouppersistence consumerk8s-api-chat

    Chati sõlme persistence consumer loeb done-sündmusi tarbijarühmana.

  16. persistence consumerk8s-api-chatsõnumite salvestaminePostgreSQLk8s-postgresql

    Chati sõnumid salvestatakse PostgreSQL-i. See on checkpoint-syncerist erinev töökoormus.

Sisenemine · autentimine

Sünkroonne tee klastri sisenemispunktist domeeni API-ni. Ainult poliitikaga kaitstud teed kontrollivad esmalt autentimist; sõlmedevaheline podide liiklus käib üle Calico VXLAN-i.

  1. BrauserDNS-päringRoute 53

    Route 53 kirjetest leitakse ainult nimi. Päringud DNS-ist läbi ei lähe.

  2. BrauserHTTPS 443AWS ALB

    TLS lõpeb ALB-s.

  3. AWS ALBHTTP · NodePortIstio ingress Envoyk8s-ingress-gateway

    Antakse EC2 instance target'i NodePorti kaudu üle Istio ingress Envoyle.

  4. Istio ingress Envoyk8s-ingress-gatewayext-authz · gRPC 50051ext-authzk8s-api-auth

    Ainult CUSTOM-poliitika all olevad teed küsivad kõigepealt Go ext-authzilt (ajalõpp 2 s, failOpen false). Näiteks sisselogimise, health'i ja docs'i teed on välja jäetud.

  5. ext-authzk8s-api-authkeelunimekirja päringblacklistk8s-redis-auth

    Tokenit kontrollitakse Redise keelunimekirja vastu.

  6. Istio ingress Envoyk8s-ingress-gatewayVirtualServiceChat APIk8s-api-chat

    Suunatakse Chat API-le.

  7. Chat APIk8s-api-chatgRPCimages APIk8s-api-image

    README-s nimetatud sünkroonne kutse chat → images.

  8. auth APIk8s-api-authgRPCusers APIk8s-api-users

    README-s nimetatud sünkroonne kutse auth → users.

Salvestuskogum · asünkroonsed kirjutused

Autentimise keelunimekirja ja tegelaste omandiõigused salvestavad salvestuskogumi workerid, mis võtavad oma töö RabbitMQ-st.

  1. blacklistk8s-redis-authoutbox:blacklistauth-relayk8s-worker-storage · k8s-worker-storage-2

    auth-relay (README auth-Bus) loeb Redise outbox'i.

  2. auth-relayk8s-worker-storage · k8s-worker-storage-2blacklist.eventsRabbitMQk8s-rabbitmq

    See avaldab uuesti RabbitMQ-sse korduste ja DLQ-ga.

  3. RabbitMQk8s-rabbitmqblacklist.eventsauth-workerk8s-worker-storage · k8s-worker-storage-2

    auth-worker võtab vastu keelunimekirja sündmused.

  4. auth-workerk8s-worker-storage · k8s-worker-storage-2keelunimekirja salvestamineblacklistk8s-redis-auth

    Need salvestatakse Redise keelunimekirja.

  5. RabbitMQk8s-rabbitmqCelery batchusers-workerk8s-worker-storage · k8s-worker-storage-2

    users-worker võtab tegelaste omandiõiguse tööd vastu partiidena.

  6. users-workerk8s-worker-storage · k8s-worker-storage-2UPSERTPostgreSQLk8s-postgresql

    Need rakendatakse PostgreSQL-is.

Seadistamine · skaleerimine · jälgimine

Platform Layer ei ole samm, mida päringud läbivad; see juurutab, seadistab, skaleerib ja jälgib teisi kihte. Sõlmed on Terraformiga loodud EC2 instantsid, millele Ansible paigaldas kubeadmi ja Calico; CI ainult valideerib Terraformi ega rakenda seda kunagi automaatselt.

  1. GitHub Actions · Docker Hubtõmmis · manifesti redaktsioonArgo CD image updaterk8s-master

    Argo CD viib klastri konfiguratsiooni vastavusse App-of-Apps'i ja Sync Waves'i abil. Kinnitatud on ainult image updater'i paiknemine control-plane'il.

  2. ALB Controller · ExternalDNSk8s-masterIngress → ALB · DNS-kirjedAWS-i hallatud

    ALB Controller ja ExternalDNS seadistavad AWS-i poole ressursid. See ei ole tee, mida päringud läbivad.

  3. Istiodk8s-masterxDS konfiguratsioonIstio ingress Envoyk8s-ingress-gateway

    Istiod lükkab Gateway, VirtualService'i ja EnvoyFilteri konfiguratsiooni xDS-i kaudu ingress Envoyle ja iga API Envoy sidecar'ile.

  4. KEDAk8s-monitoringpodide arvAI-kogumk8s-worker-ai · k8s-worker-ai-2

    KEDA reguleerib worker-podide arvu. Sõlmede arv ei muutu.

  5. KEDAk8s-monitoringpodide arvsalvestuskogumk8s-worker-storage · k8s-worker-storage-2

    Salvestuskogumi worker-pode skaleeritakse samamoodi.

  6. Fluent BitlogidElasticsearchk8s-logging

    Fluent Bit on iga sõlme DaemonSet ja saadab logid Elasticsearchi.

  7. AI-kogumk8s-worker-ai · k8s-worker-ai-2LLM-käivituste jälitusLangSmith

    LLM-kutsete jäljed lähevad LangSmithi, välisesse SaaS-i.

Kõik ühendused sama kaaluga. Vali voog, et tõsta esile ainult selle tee koos nummerdatud sammudega.

  • Pidevjoon · päringute, tööde, sündmuste ja kirjutuste liikumise suund
  • Punktiirjoon · DNS-päring; päringud selle kaudu ei liigu
  • Kriipsjoon · konfigureerimine või skaleerimine; mitte andmetee
  • Pikk kriips-punktjoon · logid ja käivituste jälitus
  • Paks must joon · valitud voog; numbrid näitavad järjekorda
  • Kast · füüsiline sõlm, hostinimi päises
  • Sisemine silt · selles sõlmes töötav töökoormus
  • Kriipsjoonega raam · kahe sõlme ajastuskogum
  • Kriipsjoonega kast · klastrist väljas, sõlmeks ei loeta
  • Oranž kontuur · koht, kus mudel otsustab
  • Control plane1 sõlm
  • Domain API8 sõlme
  • AI-kogum2 sõlme
  • salvestuskogum2 sõlme
  • Data5 sõlme
  • Platform6 sõlme

README viis kihti (vööndid) ja füüsilised rühmad (iga sõlme päise toon) rühmitavad samu 24 sõlme erinevalt. State KV jagab Streamsi sõlme ja seda eraldi ei loeta; Route 53, ALB ja klastrist väljaspool olevad teenused ei ole sõlmed. Kogum on ajastamisvahemik, mitte väide, et iga pod töötab mõlemal sõlmel.

24 sõlme paigutus · 21. jaanuari 2026 juhtpaneeli sõlmeloendi põhjal

24sõlme

24 = 1 control plane + 8 API + 4 worker + 5 data + 6 platform

  1. 1Control plane

    role: control-plane

    kube-apiserver · scheduler · controller-manager · etcd ning platvormi kontrollerid.

    1. k8s-master

  2. 8Domain API

    domain: <teenus>

    Üks sõlm domeeni kohta. Sisekutsed kasutavad gRPC-d.

    1. k8s-api-auth
    2. k8s-api-users
    3. k8s-api-scan
    4. k8s-api-character
    5. k8s-api-location
    6. k8s-api-image
    7. k8s-api-chat
    8. k8s-api-info

  3. 4Execution worker

    Kaks ajastamiskogumit, kummaski kaks sõlme. KEDA muudab podide arvu; sõlmede arv jääb samaks.

    salvestuskogumdomain: worker-storage
    1. k8s-worker-storage
    2. k8s-worker-storage-2
    AI-kogumdomain: worker-ai
    1. k8s-worker-ai
    2. k8s-worker-ai-2

  4. 5Data

    Redis on jagatud nelja kasutusotstarbepõhise sõlme vahel. PostgreSQL-i salvestus on EBS CSI · gp3.

    1. k8s-postgresql
    2. k8s-redis-auth
    3. k8s-redis-streams
    4. k8s-redis-cache
    5. k8s-redis-pubsub

  5. 6Platform

    Sõnumivahetusel, jälgitavusel, sisenemisel ja reaalajas edastamisel on igaühel oma sõlm.

    1. k8s-rabbitmq
    2. k8s-monitoring
    3. k8s-logging
    4. k8s-ingress-gateway
    5. k8s-sse-gateway
    6. k8s-event-router
Iga sõlm
  • Fluent Bit · DaemonSet
  • Calico

Seadistatud mudelid · pakkujate kaupa

Teenus on suletud, seega on need repositooriumis seadistatud mudelid, mitte praegu valitavad võimalused. Iga roll on loetletud eraldi; see ei ole verifitseeritud käivituste loend.

  • OpenAI

    Chati vaikepakkuja

    Chat

    • openai/gpt-5.2vaikimisi

    Vaikemudel on gpt-5.2; päringus nimetatud mudelit kasutatakse selle asemel.

    Scan

    • gpt-5.2vaikimisi
    • gpt-5.2-pro
    • gpt-5.1
    • gpt-5
    • gpt-5-pro
    • gpt-5-mini

    13 mudeli vastenduse välised mudelid lükatakse tagasi.

    Pildivastendus

    • gpt-image-1.5

    Eraldi Responsesi orkestreerimismudelist gpt-5.2. Piltide genereerimine on vaikimisi välja lülitatud.

    Hindamine

    • gpt-4o-minivaikimisi

    Vestluste hindamise LLM-hindaja, Chati mudelist eraldi.

  • Google

    Kui Chat valib Google'i

    Chat

    • google/gemini-3-pro-preview
    • google/gemini-3-flash-preview

    Kui Google on valitud, on vaikimisi gemini-3-flash-preview.

    Scan

    • gemini-3-pro-preview
    • gemini-3-flash-preview
    • gemini-2.5-pro
    • gemini-2.5-flash
    • gemini-2.5-flash-lite
    • gemini-2.0-flash
    • gemini-2.0-flash-lite

    Pildivastendus

    • gemini-3-pro-image-preview

Allikasbackend main d8840c7Avalik commit 29. september 2026 · kontrollitud 8. oktoobril 2026