INITIALIZING NEURAL CORE INICJALIZACJA RDZENIA NEURONOWEGO

overcl
RACING
cked

Aktualizacje Systemu

RESEARCH & DEVELOPMENT

Śledź naszą drogę od zerowej wiedzy do trenowania konkurencyjnych agentów wyścigowych AI. Każdy krok udokumentowany.

14

Wpisów

6

Faz

5

Wykresów

Faza 6

Jun 30, 2026

Finalni agenci: 92,04 s okrążenia (imitacja i RL)

Dostarczany model bc_v6.pth (429 KB) uzyskał 92,04 s na punktowanym okrążeniu ze startu zatrzymanego (z paliwem i uszkodzeniami), prędkość maksymalna 250 km/h. Uczenie ze wzmocnieniem jest częścią wyniku, nie tylko baseline'em: residualna polityka Soft Actor-Critic, dokładająca wyuczone korekcje na tej samej zamrożonej sieci, osiąga to samo okrążenie ~92 s. Oddajemy obu agentów — więc wynik stoi zarówno na imitacji, jak i na RL.

Wykres to prawdziwy profil prędkości z telemetrii zarejestrowanego okrążenia; dwa głębokie minima to szykana Corkscrew (~56 km/h) i ostatnia ciasna nawrotka.

Results Submission Residual RL

Faza 5

Jun 27, 2026

Destylacja: klonowanie behawioralne, pułapka copycat, DAgger

Nastrojony teacher v6 został sklonowany do sieci MLP o 109 tys. parametrów (32→256→256→128→2, LayerNorm, tanh) na 500 tys. przejść, ze stratą MSE ważoną zakrętami. Czyste BC wpadło w klasyczną pułapkę copycat/inercji (Codevilla i in., 2019): mając poprzednią komendę skrętu w obserwacji, sieć nauczyła się steer ≈ prev_steer — strata walidacyjna 0,002, a mimo to rozbijała się 787 m po starcie pierwszego zamkniętego okrążenia. Poprawka: szum gaussowski (σ = 0,15) dokładnie na tej cesze podczas treningu. DAgger (5 × 100 tys. kroków, etykiety od teachera, zasiew pełnymi okrążeniami) domknął następnie lukę przesunięcia rozkładu.

Behavior Cloning DAgger Distillation Codevilla et al.

Faza 4

Jun 21, 2026

Teacher v6: rozprzęgnięty model prędkości + linia wyścigowa

v5 liczy prędkość na szczycie zakrętu z najciaśniejszego czujnika przedniego (v_apex = c·√sev) i dodaje człon zasięgu hamowania z najbardziej otwartego, ograniczony wolnym parametrem prędkości maksymalnej — zakręty pozostają wolne, proste idą do limitu auta. v6 dodaje strojoną linię wyścigową out-in-out (szerokie wejście, wewnętrzny apex; oba wzmocnienia przeszukiwane od zera, więc Optuna może wrócić do v5). Najlepsze okrążenia ze startu zatrzymanego: v5 = 91,2 s, v6 ≈ 88,8 s.

Teacher Racing Line Optuna

Faza 4

Jun 14, 2026

Przyczyna sufitu 174 km/h: harmonogram zmiany biegów

Narzędzie telemetryczne prędkość–dystans ujawniło twardy sufit 174 km/h na każdej prostej — niewidoczny w samych czasach okrążeń. Silnik ma odcięcie przy 18 700 rpm, a mimo to każdy kontroler i każdy wcześniejszy agent RL zmieniał bieg już przy ~8200 rpm — drastyczne niedokręcanie, trzymające silnik daleko poniżej pasma mocy. Podniesienie progu zmiany do 17 800 rpm dało 184 km/h; rozprzęgnięcie celów prędkości na prostych od zakrętowych odblokowało 244,5 km/h i ścięło okrążenie z ~101 s do 91,2 s. Telemetria pokazuje, że poprawka dotyczyła wyłącznie progu zmiany, nie liczby biegów: auto osiąga prędkość maksymalną na 5. biegu (~17 200 rpm), a interfejs SCR i tak ogranicza komendy do biegu 6. Wyłącznie logika kierowcy — fizyka auta nietknięta.

Telemetry Gearbox Breakthrough

Faza 4

Jun 12, 2026

Kontrolery teacher v2–v4: struktura wygrywa ze strojeniem

Porównane zostały trzy rodziny kontrolerów. v3 (statyczne punkty prędkości i linii po pozycji na torze) zbiegł do 118,8 s po 2210 trialach — plateau, bo profil open-loop nie reaguje na bieżący stan auta. Znacznie prostszy v2 (lookahead PID na żywych czujnikach) osiągnął 105,8 s; v4 wprowadził poprawną fizykę zakrętów v ∝ √R, ale wciąż sprzęgał prędkość na prostych ze wzmocnieniem zakrętowym (107 s). Wniosek, potwierdzony wielokrotnie: żadna ilość strojenia hiperparametrów nie odzyska tego, czego struktura modelu nie potrafi wyrazić.

Teacher Optuna Control Theory

Faza 3

Jun 4, 2026

Rozproszona farma Optuny: 10 headless workerów TORCS

Strojenie teachera wymaga tysięcy ewaluacji, każda to pełny wyścig. TORCS 1.3.7 został skompilowany headless w WSL (fizyka identyczna z kontenerem referencyjnym); do 10 workerów na maszynę — moduł serwera SCR obsługuje maksymalnie 10 robotów — wykonywało triale Optuny na lokalnej bazie SQLite (tryb WAL) lustrzanej jednokierunkowo do chmurowego PostgreSQL. Łącznie zużyto około 15 000 triali. Okupione doświadczeniem wnioski: jedno połączenie DB na proces, self-heal workera nie może zabijać procesów TORCS innych workerów, a zaklinowane auta wymagają detekcji braku postępu.

Optuna WSL Distributed Infrastructure

Faza 3

Jun 1, 2026

Zwrot: architektura teacher–student

Uczenie od zera utknęło w okolicy 106–107 s na okrążenie. Strategia została odwrócona: zbudować analityczny kontroler "white-box" (teacher), którego ~50 parametrów optymalizator black-box przeszukuje w tempie jeden wyścig na trial, a następnie skompresować go do wymaganej sieci neuronowej przez imitację (klonowanie behawioralne + DAgger), opcjonalnie doszlifowaną rezydualnym SAC uczącym się ograniczonych poprawek a = clip(π_base + δ·π_residual) na zamrożonej bazie.

Teacher-Student Residual RL Strategy

Faza 2

May 29, 2026

Post-mortem: dywergencja krytyka przy 445 tys. kroków

Długi przebieg etapu 1 załamał się po ~250 tys. kroków: strata krytyka urosła z O(1) do O(10⁶), automatycznie strojona temperatura entropii wzrosła o dwa rzędy wielkości, a zwrot z epizodu spadł poniżej poziomu startowego; przebieg zakończył się na 445 700 krokach. Przyczyna: zbyt długi horyzont (γ = 0,999 ≈ 20 s bootstrappingu) w połączeniu z nieobciętymi nagrodami kształtującymi pozwolił celom Q rosnąć bez ograniczeń. Poprawki na przyszłość: γ = 0,99, obcinanie nagród, sieci wartości z LayerNorm. Podobna dywergencja nigdy się nie powtórzyła.

Debugging Q-Explosion SAC

Faza 2

May 20, 2026

Curriculum SAC z sieciami LayerNorm

Sformalizowane zostało dwustopniowe curriculum: etap 1 na pustym torze (obserwacja 31-wym.), etap 2 z 36 czujnikami przeciwników (67-wym.) przez rozszerzenie warstwy wejściowej. LayerNorm po każdej warstwie ukrytej aktora i krytyka — utrzymany we wszystkich późniejszych sieciach, łącznie z finalną — oraz normalizacja obserwacji i nagród ustabilizowały wczesny trening.

Curriculum LayerNorm SAC

Faza 2

May 18, 2026

Pipeline telemetrii: 81 kanałów przy 50 Hz

Każdy późniejszy przełom w projekcie został znaleziony w danych, więc przed dalszym treningiem powstało logowanie: 81-kolumnowy zapis stanu auta co takt (wszystkie czujniki, akcje, nagrody) oraz zapis statystyk treningu co 100 kroków (straty aktora/krytyka, temperatura entropii, statystyki wartości Q, rozmiar bufora, FPS). Gigabajty przebiegów z tego pipeline'u stoją za każdym wykresem w tej sekcji.

Telemetry Infrastructure

Faza 2

May 11, 2026

Przeprojektowanie przestrzeni akcji: automatyczna skrzynia, sterowanie 2-D

Wczesne agenty uczyły się zmiany biegów jako trzeciego kanału akcji i traciły większość eksploracji na błędy skrzyni. Sterowanie biegami przeniesiono do środowiska jako automat sterowany obrotami, redukując przestrzeń akcji do [skręt, gaz/hamulec] ∈ [−1, 1]². Nagrodę przebudowano wokół przyrostu dystansu na krok (Δ distRaced) plus koszt czasu — w miejsce formuły z rzutowaną prędkością, która na stałym horyzoncie nagradzała pełzanie tak samo jak ściganie.

Action Space Reward Shaping Auto-Gear

Faza 1

May 9, 2026

Wybór algorytmu: SAC zamiast strategii ewolucyjnych

Prototypowane były dwie rodziny metod: strategie ewolucyjne oraz off-policy actor–critic RL. Wybrany został Soft Actor-Critic (Haarnoja i in., 2018) — ze względu na efektywność próbek (TORCS działa w czasie rzeczywistym, więc każdy krok środowiska kosztuje) oraz eksplorację sterowaną entropią. Przegląd pojemności sieci MLP (256×256×128, 256×256×256, 512×512×512) nie wykazał zysku z większych sieci; najmniejsza architektura została na wszystkie kolejne etapy.

SAC Architecture Haarnoja et al.

Faza 1

May 4, 2026

Uruchomienie środowiska TORCS i klienta SCR

Fundamenty projektu: TORCS 1.3.7 z patchem SCR, klient UDP (snakeoil3) wymieniający telemetrię i komendy sterujące z częstotliwością 50 Hz (20 ms na takt) oraz wrapper środowiska w stylu Gymnasium. Samochód to model otwartokołowy car1-ow1; tor docelowy — Corkscrew (Laguna Seca), 3602 m.

  • Obserwacja: 19 czujników odległości od krawędzi toru + prędkość, kąt, pozycja na torze, obroty, bieg, prędkości kół
  • Komenda: skręt, gaz, hamulec, bieg — odsyłana w budżecie 20 ms
  • Reset epizodu oraz terminacja po wypadnięciu z toru i uszkodzeniach obsługiwane przez wrapper
TORCS SCR Environment

Faza 1

Mar 26, 2026

Inicjacja projektu: Fundamenty ML i RL

Nasza podróż rozpoczęła się od kompleksowego zgłębienia fundamentów uczenia maszynowego (ML) oraz uczenia ze wzmocnieniem (RL). Aby zbudować solidną bazę teoretyczną, studiowaliśmy literaturę branżową oraz autoryzowane wykłady wideo prowadzone przez ekspertów. Dodatkowo z powodzeniem ukończyliśmy wymagany kurs IBM Granite Models for Software Development. Te intensywne przygotowania pozwoliły nam dogłębnie prześledzić ewolucję kluczowych algorytmów — od wczesnych perceptronów, przez strategie ewolucyjne, aż po Proximal Policy Optimization (PPO) i Soft Actor-Critic (SAC).

ML RL PPO SAC IBM Granite