Data Engineer (2FTE)

Dit ga je doen

Opdrachtbeschrijving

Jouw rol als Cloud/Data Engineer:

• Als Cloud/Data Engineer werk je actief mee aan de realisatie van schaalbare, efficiënte en veilige data-platforms in de Azure-cloud, waarbij Databricks of Kubernetes een centrale plek inneemt. Je werkt binnen een DevOps team aan oplossingen die techniek, beleid en concrete waarde voor Nederland verbinden.
• Data Architectuur & Modellering: Je hebt ruime ervaring met het inrichten van de Medallion Architectuur (Bronze, Silver, Gold) binnen Databricks. Je bent sterk in het vertalen van complexe business logica naar helder gestructureerde datasets, bij voorkeur volgens Kimball (dimensioneel modelleren), en weet robuuste goud-lagen te bouwen.
• Engineering & Transformaties: Je bent bedreven in het ontwikkelen van robuuste datapijplijnen met Kubernetes, PySpark en SQL, en je kent de mogelijkheden van Spark Declarative Pipelines (SDP). Met diepgaande kennis van dbt (data build tool) ontwerp je modulaire en onderhoudbare transformaties.
• Storage & Performance-optimalisatie: Je hebt bewezen affiniteit met het maximaliseren van de platform-performance door het inzetten van de juiste Databricks compute clusters en schaalmogelijkheden. Je bent goed op de hoogte van optimalisaties binnen Delta Lake, zoals Partitioning, Clustering, Z-Ordering en Liquid Clustering.
• Governance & Security: Het inrichten van centrale governance via Unity Catalog is bekend terrein. Je implementeert RBAC (Role-Based Access Control) en hanteert data security best practices als standaard bij de bouw van oplossingen.
• Platform & Deployment: Je zet maximaal in op automatisering en ‘Engineering Excellence’ via Databricks Asset Bundles (DABs) voor betrouwbare en reproduceerbare deployments. Daarnaast ben je vaardig in het instrumenteren, monitoren en debuggen van Databricks jobs, pijplijnen en platformcomponenten.
• Backend & SQL/Postgres (pre): Met Django ontwikkel je API’s, implementeer je authenticatie en zorg je voor betrouwbare koppelingen met databases, waaronder Postgres.
• Monitoring & MLOps (pre): Je zorgt voor goede monitoring en logging (Application Insights, Databricks metrics) en hebt idealiter ervaring met MLOps (model lifecycle management).
• Kennisdeling en ontwikkeling: Je hebt ervaring in het opleiden van interne medewerkers, waarbij je kennis overdraagt en aantoonbaar de expertise van teamleden verhoogt.

Achtergrond opdracht

Je komt te werken binnen het Programma AI van RVO, waarbij je bijdraagt aan de doelstelling om opschaling te doen van bestaande data & AI oplossingen, medewerkers worden opgeleid en er geëxperimenteerd wordt met nieuwe toepassingen en technologieën.