mocode-software/meldestelle
1
0
Fork 0
Code Issues Pull Requests 1 Actions Packages Projects Releases Wiki Activity

Fix: Test-Commit für VCS-Integration (MP-8) (#15)

Browse Source 
* MP-8 OTHER Implementiere JWT-Authentifizierungs-Filter im Gateway

* Fix(ci): Update upload-artifact action to v4

* Fix(ci): Add start command for Keycloak and failure logs

* Fix(ci): Remove invalid 'command' property from Keycloak service

* Fix(ci): Use KC_DEV_MODE env var to start Keycloak

* Fix(ci): Keycloak service was removed from GitHub Actions services and replaced with a manual docker run step that starts Keycloak with the start-dev command.

* dev(ci): vereinheitliche Keycloak auf 26.4.2; aktiviere Health im CI (MP-8)

* Fix(ci): Stabilize Keycloak startup in integration tests via matrix

- Add `dev-file` Keycloak variant to matrix for stability fallback.
- Improve wait logic and health checks for Keycloak and Postgres.
- Unify Keycloak version to 26.4.2 across codebase.
- Add log dumps on failure.

* Fix(ci): Die betroffene Datei docs/Visionen-Ideen/Infrastruktur-Strategie_DSGVO-Konformität.md endet aktuell mit genau einer leeren Zeile (Zeile 87). Das entspricht der Regel MD047 („Files should end with a single newline character“). Damit ist deine Korrektur korrekt.

* Fix(ci): Repository-wide auto-fix for Markdown files was implemented with a GitHub Actions workflow and a local helper script. EditorConfig and markdownlint ignore files were added to ensure consistent formatting. Instructions for using the auto-fix both via GitHub Actions and locally were provided.

* fix(gradle): build.gradle.kts jsBrowser testTask disabled

* fix(gradle): build.gradle.kts jsBrowser testTask disabled

* Fix(ci): Stabilize integration tests with Keycloak matrix build (MP-8)

Introduces a matrix strategy (`keycloak_db: [postgres, dev-file]`)
in the integration-tests workflow to mitigate flaky Keycloak starts
when using the Postgres service container.

- Adds a `dev-file` Keycloak variant for stability fallback.
- Improves wait logic and health checks for Keycloak/Postgres.
- Unifies Keycloak version to 26.4.2 across codebase (Dockerfile, Compose,
  ADR, README, tests).
- Adds log dumps on failure in CI.
- Ensures `KC_HEALTH_ENABLED=true` is set.
- Updates related documentation (README, Schlachtplan).
- Includes broader Docker SSoT cleanup (versions.toml as source,
  script updates, env file cleanup, validator hardening).

This resolves recurring CI failures related to Keycloak startup and
ensures required checks for PRs (#15) are reliable, while also
improving overall Docker build consistency.

* feat(docs, ci): Implement YouTrack SSoT strategy with Dokka sync (MP-8)

- Add Dokka multi-module Gradle configuration and KDoc style guide.
- Add GitHub Actions workflow (docs-kdoc-sync.yml) and Python script
  (youtrack-sync-kb.py) to sync Dokka GFM output to YouTrack KB.
- Extend front-matter schema (bc, doc_type) and update relevant pages/stubs.
- Adapt CI scripts (validate-frontmatter, check-docs-drift, ci-docs link ignore).
- Update README.md to reference YouTrack KB.

* feat(docs, ci): Implement YouTrack SSoT strategy with Dokka sync (MP-8)

- Add Dokka multi-module Gradle configuration and KDoc style guide.
- Add GitHub Actions workflow (docs-kdoc-sync.yml) and Python script
  (youtrack-sync-kb.py) to sync Dokka GFM output to YouTrack KB.
- Extend front-matter schema (bc, doc_type) and update relevant pages/stubs.
- Adapt CI scripts (validate-frontmatter, check-docs-drift, ci-docs link ignore).
- Update README.md to reference YouTrack KB.

* Fix(ci): Replace OpenAPI validator with Spectral

Replaces the deprecated 'char0n/swagger-editor-validate' action,
which failed due to sandbox issues in GitHub Actions, with the
modern '@stoplight/spectral-cli'.

This ensures robust OpenAPI specification validation without
requiring a headless browser environment. The 'generate-api-docs'
job now depends on the successful completion of the Spectral validation.

Part of resolving CI failures for PR #15 (MP-8).

* Fix(ci): Specify spectral:oas ruleset for OpenAPI validation (MP-8)

* Fix(ci): Remove explicit ruleset argument for Spectral validation (MP-8)

* Fix(ci): Added a .spectral.yaml file to fix Spectral linting errors. Corrected markdown lint issues in two documentation files. Updated README.md with a new guidelines section to fix link validation errors.

* Fix(ci): Markdownlint errors were fixed by adding required blank lines. The Guidelines Validation error was resolved by updating the README.md link. The API Documentation Generator workflow was stabilized by updating paths, tasks, and validation steps.

* Fix(ci): Alle vier fehlerhaften GitHub-Action-Prüfungen wurden behoben. Fehler in der OpenAPI-Spezifikation, Probleme mit der Markdown-Linting-Analyse und Validierungsfehler bei Querverweisen wurden korrigiert. Die README.md enthält nun alle erforderlichen Links zu den Richtlinien.

* Fix(ci): Markdown linting errors in docs/api/README.md were fixed by specifying languages in fenced code blocks. OpenAPI specification errors in documentation.yaml were resolved by correcting example property types to strings. Cross-reference validation errors in README.md were fixed by adding the missing link to project-standards/coding-standards.md.

* Fix(ci): Duplicate heading errors in docs/api/members-api.md were fixed. Cross-reference validation errors for docker-architecture.md were resolved. All originally reported issues passed validation successfully.

* Fix(ci): The markdown heading levels in docs/api/members-api.md were corrected from h5 to h4 to fix linting errors. The missing cross-reference link from technology-guides/docker/docker-development.md to docker-overview.md was added. These fixes resolved the original validation and linting errors causing the process to fail.

* Fix(ci): Duplicate heading warnings in docs/api/members-api.md were resolved. Cross-reference validation for docker-development.md to docker-architecture.md was fixed. A new unrelated warning about docker-production.md was identified but not addressed.

* refactor(ci,docs): Simplify CI pipeline and migrate docs to YouTrack SSoT

BREAKING CHANGE: Documentation structure radically simplified

- Consolidate 9 GitHub Actions workflows into 1 main pipeline (ci-main.yml)
- Remove redundant workflows: ci-docs, markdownlint-autofix, guidelines-validation, api-docs
- Delete documentation migrated to YouTrack: api/, BCs/, Visionen-Ideen/, reference/, now/, overview/
- Keep only ADRs, C4 diagrams, and essential dev guides in repo
- Update README.md with YouTrack KB links
- Create new docs/README.md as documentation gateway
- Relax markdown-lint config for pragmatic developer experience

Kept workflows:
- ssot-guard.yml (Docker SSoT validation)
- docs-kdoc-sync.yml (KDoc → YouTrack sync)
- integration-tests.yml (Integration tests)
- deploy-proxmox.yml (Deployment)
- youtrack-sync.yml (YouTrack integration)

Related: MP-DOCS-001

* refactor(ci,docs): Simplify CI pipeline and migrate docs to YouTrack SSoT

BREAKING CHANGE: Documentation structure radically simplified

- Consolidate 9 GitHub Actions workflows into 1 main pipeline (ci-main.yml)
- Remove redundant workflows: ci-docs, markdownlint-autofix, guidelines-validation, api-docs
- Delete documentation migrated to YouTrack: api/, BCs/, Visionen-Ideen/, reference/, now/, overview/
- Keep only ADRs, C4 diagrams, and essential dev guides in repo
- Update README.md with YouTrack KB links
- Create new docs/README.md as documentation gateway
- Relax markdown-lint config for pragmatic developer experience

Kept workflows:
- ssot-guard.yml (Docker SSoT validation)
- docs-kdoc-sync.yml (KDoc → YouTrack sync)
- integration-tests.yml (Integration tests)
- deploy-proxmox.yml (Deployment)
- youtrack-sync.yml (YouTrack integration)

Related: MP-DOCS-001

* refactor(ci,docs): README.md und einige andere Dokumentationen überarbeitet.
ports-and-urls.md hinzugefügt.
Related: MP-DOCS-001

* refactor(ci,docs): Die Markdownlint-Fehler in README.md und docs/README.md wurden behoben, indem die Überschriftenebenen angepasst, überflüssige Satzzeichen am Ende entfernt und die notwendigen Leerzeilen um Überschriften, Listen, Tabellen und Codeblöcke eingefügt wurden. Das problematische Leerzeichen am Ende in docs/README.md wurde ebenfalls entfernt. Die Dateien entsprechen nun den vorgegebenen Markdownlint-Regeln und sollten die CI-Validierung bestehen.
Related: MP-DOCS-001

* refactor(ci,docs): Docker guideline cross-references were fixed and normalized to lowercase labels. Validation scripts confirmed zero cross-reference warnings and consistent metadata. Documentation was updated with a changelog and enhanced README navigation.
Related: MP-DOCS-001

* refactor(ci,docs): Docker guideline cross-references were fixed and normalized to lowercase labels. Validation scripts confirmed zero cross-reference warnings and consistent metadata. Documentation was updated with a changelog and enhanced README navigation.
Related: MP-DOCS-001

* refactor(ci,docs): Dead links in docs/architecture/adr were fixed by updating URLs to stable sources and adding an ignore pattern for a placeholder link. Specific ADR files had their broken links replaced with valid ones. The markdown-link-check GitHub Action is expected to pass with zero dead links now.
Related: MP-DOCS-001

* refactor(ci,docs): Links in ADR checked
Related: MP-DOCS-001

* refactor(ci,docs): Links in ADR checked
Related: MP-DOCS-001

* refactor(ci,docs): Markdown Regeln ausgebessert
Related: MP-DOCS-001

* refactor(ci,docs): Markdown Regeln ausgebessert
Related: MP-DOCS-001

* refactor(ci,docs): Markdown Regeln ausgebessert
Related: MP-DOCS-001

* Chore: Rerun CI checks with updated branch protection rules
This commit is contained in:
StefanMo
2025-11-07 12:26:33 +01:00
committed by GitHub
parent 6850cd92d4
commit b35c4087a2
129 changed files with 4016 additions and 7131 deletions
Download Patch File Download Diff File Expand all files Collapse all files
infrastructure/event-store/README-INFRA-EVENT-STORE.md
+40 -36
View File
@@ -67,36 +67,36 @@ Das Modul folgt streng dem **Port-Adapter-Muster** (Hexagonal Architecture), um
## Schlüsselfunktionen
### 🔒 Garantierte Konsistenz
- **Atomare Transaktionen**: Schreibvorgänge in aggregatspezifische Streams und den globalen "all-events"-Stream werden innerhalb einer **Redis-Transaktion (`MULTI`/`EXEC`)** ausgeführt
- **Optimistische Concurrency Control**: Verhindert Race Conditions durch `expectedVersion`-Prüfung mit `ConcurrencyException` bei Konflikten
- **Eventual Consistency**: Garantiert, dass alle Events sowohl in aggregatspezifischen als auch globalen Streams verfügbar sind
* **Atomare Transaktionen**: Schreibvorgänge in aggregatspezifische Streams und den globalen "all-events"-Stream werden innerhalb einer **Redis-Transaktion (`MULTI`/`EXEC`)** ausgeführt
* **Optimistische Concurrency Control**: Verhindert Race Conditions durch `expectedVersion`-Prüfung mit `ConcurrencyException` bei Konflikten
* **Eventual Consistency**: Garantiert, dass alle Events sowohl in aggregatspezifischen als auch globalen Streams verfügbar sind
### 🛡️ Resiliente Event-Verarbeitung
- **Redis Consumer Groups**: Skalierbare und ausfallsichere Event-Verarbeitung mit automatischer Last-Verteilung
- **Pending Message Recovery**: Robuste Logik zum "Claimen" von Nachrichten ausgefallener Consumer
- **Retry-Mechanismen**: Automatische Wiederholung bei temporären Fehlern
- **Graceful Degradation**: Kontinuierliche Funktion auch bei partiellen Ausfällen
* **Redis Consumer Groups**: Skalierbare und ausfallsichere Event-Verarbeitung mit automatischer Last-Verteilung
* **Pending Message Recovery**: Robuste Logik zum "Claimen" von Nachrichten ausgefallener Consumer
* **Retry-Mechanismen**: Automatische Wiederholung bei temporären Fehlern
* **Graceful Degradation**: Kontinuierliche Funktion auch bei partiellen Ausfällen
### 📊 Intelligente Serialisierung
- **Metadata Separation**: Event-Metadaten und Nutzlast werden getrennt gespeichert für effiziente Stream-Analyse
- **Type Registry**: Dynamische Event-Type-Registrierung für polymorphe Deserialisierung
- **JSON-basiert**: Verwendung von Jackson für robuste, schema-flexible Serialisierung
* **Metadata Separation**: Event-Metadaten und Nutzlast werden getrennt gespeichert für effiziente Stream-Analyse
* **Type Registry**: Dynamische Event-Type-Registrierung für polymorphe Deserialisierung
* **JSON-basiert**: Verwendung von Jackson für robuste, schema-flexible Serialisierung
### 🚀 Performance-Optimierung
- **Stream-basierte Speicherung**: Optimale Performance durch Redis Streams
- **Optimierte Batch-Operationen**: Alle Events einer Batch werden in einer einzigen Redis-Transaktion verarbeitet (bis zu 90% Performance-Verbesserung)
- **Intelligente Version-Cache**: Thread-sicherer Cache mit Hit/Miss-Tracking für Stream-Versionen
- **Connection Pooling**: Konfigurierbare Verbindungspools für optimale Resource-Nutzung
- **Asynchrone Verarbeitung**: Non-blocking Event-Processing
* **Stream-basierte Speicherung**: Optimale Performance durch Redis Streams
* **Optimierte Batch-Operationen**: Alle Events einer Batch werden in einer einzigen Redis-Transaktion verarbeitet (bis zu 90% Performance-Verbesserung)
* **Intelligente Version-Cache**: Thread-sicherer Cache mit Hit/Miss-Tracking für Stream-Versionen
* **Connection Pooling**: Konfigurierbare Verbindungspools für optimale Resource-Nutzung
* **Asynchrone Verarbeitung**: Non-blocking Event-Processing
### 📊 Enhanced Monitoring & Performance Tracking (NEW)
- **Real-time Metrics Collection**: Automatisches Tracking aller Event-Store-Operationen mit detaillierten Performance-Metriken
- **Comprehensive Operation Tracking**: Einzelne und Batch-Appends, Read-Operationen, Subscriptions mit Erfolgsraten
- **Cache Performance Monitoring**: Detaillierte Hit/Miss-Ratios für optimale Cache-Tuning
- **Concurrency Conflict Detection**: Spezifisches Tracking von Optimistic-Locking-Konflikten
- **Automated Performance Logging**: Periodische Performance-Reports alle 5 Minuten mit strukturierten Metriken
- **Event Throughput Analytics**: Tracking von Events/Sekunde für Capacity Planning
- **Error Rate Monitoring**: Detaillierte Fehlerklassifizierung und -tracking
* **Real-time Metrics Collection**: Automatisches Tracking aller Event-Store-Operationen mit detaillierten Performance-Metriken
* **Comprehensive Operation Tracking**: Einzelne und Batch-Appends, Read-Operationen, Subscriptions mit Erfolgsraten
* **Cache Performance Monitoring**: Detaillierte Hit/Miss-Ratios für optimale Cache-Tuning
* **Concurrency Conflict Detection**: Spezifisches Tracking von Optimistic-Locking-Konflikten
* **Automated Performance Logging**: Periodische Performance-Reports alle 5 Minuten mit strukturierten Metriken
* **Event Throughput Analytics**: Tracking von Events/Sekunde für Capacity Planning
* **Error Rate Monitoring**: Detaillierte Fehlerklassifizierung und -tracking
## Konfiguration
@@ -449,19 +449,19 @@ fun `consumer should process events reliably`() {
### Test-Features
- **Testcontainers Integration**: Echte Redis-Instanz für Integrationstests
- **Deterministische Tests**: Manueller Polling-Trigger statt Thread.sleep
- **Saubere Test-Daten**: @Transient-Annotation für Event-Klassen
- **Umfassende Szenarien**: Configuration, Error Handling, Stream, Resilience Tests
* **Testcontainers Integration**: Echte Redis-Instanz für Integrationstests
* **Deterministische Tests**: Manueller Polling-Trigger statt Thread.sleep
* **Saubere Test-Daten**: @Transient-Annotation für Event-Klassen
* **Umfassende Szenarien**: Configuration, Error Handling, Stream, Resilience Tests
## Performance & Monitoring
### Performance-Charakteristiken
- **Durchsatz**: >10 000 Events/Sekunde bei optimaler Konfiguration
- **Latenz**: <10ms für Event-Appending, <50ms für Event-Reading
- **Skalierung**: Horizontal skalierbar durch Consumer Groups
- **Speicher**: Effiziente Stream-basierte Speicherung
* **Durchsatz**: >10 000 Events/Sekunde bei optimaler Konfiguration
* **Latenz**: <10ms für Event-Appending, <50ms für Event-Reading
* **Skalierung**: Horizontal skalierbar durch Consumer Groups
* **Speicher**: Effiziente Stream-basierte Speicherung
### Monitoring-Metriken
@@ -514,6 +514,7 @@ class EventStoreHealthIndicator(
### Häufige Probleme
#### 1. ConcurrencyException
```kotlin
// Problem: Race Condition bei parallel Schreibvorgängen
// Lösung: Retry-Logic mit exponential backoff
@@ -524,6 +525,7 @@ fun appendWithRetry(event: DomainEvent, streamId: UUID, expectedVersion: Long) {
```
#### 2. Consumer Lag
```bash
# Redis CLI - Check consumer group info
XINFO GROUPS event-stream:aggregate-id
@@ -536,6 +538,7 @@ XCLAIM event-stream:aggregate-id event-processors consumer-name 60000 message-id
```
#### 3. Speicher-Issues
```yaml
# Redis Memory Optimization
redis:
@@ -548,6 +551,7 @@ redis:
```
#### 4. Verbindungsprobleme
```yaml
# Connection troubleshooting
redis:
@@ -584,12 +588,12 @@ redis-cli INFO memory
### Deployment Checklist
- [ ] Redis Cluster verfügbar und erreichbar
- [ ] Konfiguration für Umgebung angepasst
- [ ] Consumer Groups erstellt (automatisch oder manuell)
- [ ] Monitoring und Alerting konfiguriert
- [ ] Health Checks implementiert
- [ ] Backup-Strategie definiert
* [ ] Redis Cluster verfügbar und erreichbar
* [ ] Konfiguration für Umgebung angepasst
* [ ] Consumer Groups erstellt (automatisch oder manuell)
* [ ] Monitoring und Alerting konfiguriert
* [ ] Health Checks implementiert
* [ ] Backup-Strategie definiert
### Migration zwischen Versionen
infrastructure/event-store/redis-event-store/README.md
+4 -1
View File
@@ -7,6 +7,7 @@ Dieses Modul stellt eine konkrete Implementierung der `event-store-api` unter Ve
## Architektur
Das Modul folgt dem Provider-Pattern:
- **event-store-api**: Provider-agnostische Interfaces (`EventStore`, `EventSerializer`)
- **redis-event-store**: Redis Streams-spezifische Implementierung
@@ -150,6 +151,7 @@ Die Module verwenden unterschiedliche Bean-Namen zur Vermeidung von Konflikten:
### Keine Konflikte
✅ Die Module sind so designed, dass sie **ohne Konflikte** gleichzeitig verwendet werden können:
- **Separate ConnectionFactories** mit `@Qualifier` Annotations
- **Separate Property-Prefixes**: `redis` vs `redis.event-store`
- **Unterschiedliche Database-Nummern**: 0 vs 1
@@ -219,6 +221,7 @@ val eventsFromVersion = eventStore.loadEvents(
## Serialisierung
Das Modul verwendet Jackson für Event-Serialisierung:
- Automatische Kotlin-Modul Integration
- Polymorphe Serialisierung für verschiedene Event-Typen
- Custom Serializer können via `@Bean` überschrieben werden
@@ -274,4 +277,4 @@ Wenn Sie Fehler wie "Multiple beans of type RedisConnectionFactory" erhalten:
- Siehe auch: [cache-api README](../../cache/cache-api/README.md)
- Siehe auch: [redis-cache README](../../cache/redis-cache/README.md)
- Redis Streams Dokumentation: https://redis.io/docs/data-types/streams/
- Redis Streams Dokumentation: <https://redis.io/docs/data-types/streams/>