דרוש/ה Data Engineer לבניית פלטפורמות Big Data
Data Engineer ב-Confidential מפתח/ת פלטפורמות נתונים בקנה מידה גדול, ניהול ועיבוד של עשרות TB של נתונים מדי יום באמצעות Spark, Airflow ו-Kubernetes.
על התפקיד
לחברת טכנולוגיה מובילה דרוש/ה Data Engineer מבריק/ה לפיתוח פלטפורמות בקנה מידה גדול. הזדמנות ייחודית להצטרף לצוות בעל ביצועים גבוהים העוסק בכמויות נתונים עצומות, מערכות מבוזרות ואתגרים ארכיטקטוניים מורכבים.
מה שתעשו:
- תנהלו ותעבדו על פיתוח פלטפורמות המעבדות נתונים בקנה מידה עצום.
- תעצבו, תבנו ותפרסו פתרונות לניהול ועיבוד של עשרות TB של נתונים ביום (עיבוד זרם ואצווה).
- תבנו סביבות מרובות אזורים, מבוזרות, אוטומטיות ומנוטרות במלואן. תנהלו תוכניות אשכולות Big Data עבור מוצרים.
- תזהו, תעצבו ותיישמו שיפורי תהליכים - אוטומציה של תהליכים ידניים, אופטימיזציה של העברת נתונים ותכנון מחדש של תשתית למען מדרגיות גדולה יותר.
- תעצבו, תבנו ותשיקו מודלים חדשים של נתונים ותהליכי ETL (extraction, transformation, loading) בייצור. תהיו אחראים על איכות הנתונים בתחומים שהוקצו לכם.
- תובילו את התכנון של מוצרים ויוזמות חדשות תוך השתלבות בשיטות עבודה מומלצות המיושמות כעת.
דרישות:
- 4+ שנות ניסיון בעבודה כמהנדס/ת נתונים.
- ניסיון בעבודה על Big Data עם מחשוב מבוזר (Spark, Airflow, Kubernetes) - חובה.
- ניסיון חזק בתזמור שירותי ענן (Amazon EC2).
- ידע בארכיטקטורה מבוזרת בזיכרון באמצעות מטמון (Memcached, Redis וכו').
- תשוקה לנתונים עם כישורים אנליטיים וטכניים חזקים.
יתרונות:
- ניסיון עם Python או Scala.
- רקע בבניית צינורות CI/CD לנתונים.
אם אתם חובבי נתונים שאוהבים לבנות מערכות חזקות בקנה מידה גדול, זה האתגר הבא שלכם. הגישו מועמדות עוד היום ותניעו את הדור הבא של תשתית הנתונים!
מוכנים להגיש מועמדות?
צרף/י קורות חיים. במידה ותימצא התאמה לאחת המשרות ניצור קשר.