paint-brush
데이터 메시 채택의 함정 방지~에 의해@liorb
1,493 판독값
1,493 판독값

데이터 메시 채택의 함정 방지

~에 의해 Lior Barak6m2024/02/20
Read on Terminal Reader

너무 오래; 읽다

요리사가 맛있는 요리를 함께 만드는 것처럼 데이터 팀이 데이터를 소유하고 공유하는 것을 상상해 보세요. 좋은 것 같지만 조심하세요! 명확한 소유권, 교육, 거버넌스가 없으면 데이터 주방이 주방의 악몽으로 변합니다. 이 기사는 주요 과제를 안내하고 미쉐린 별표를 받은 데이터 여정을 탐색하는 데 도움이 됩니다!
featured image - 데이터 메시 채택의 함정 방지
Lior Barak HackerNoon profile picture
0-item
1-item
2-item

흥미롭지만 도전적인 데이터 메시 접근 방식을 구현하는 임무를 맡은 데이터 리더이신가요? 데이터 리더로서 우리는 기존의 중앙 집중식 데이터 관리의 한계를 인식하고 있습니다. 느린 의사결정, 단절된 정보, 제한된 민첩성은 데이터를 효과적으로 활용하는 능력을 방해합니다. 데이터 메시 입력: 분산형 소유권 및 협업을 향한 유망한 패러다임 전환입니다. 해당 분야 전문가가 데이터를 소유하고 관리할 수 있는 권한을 부여하여 더 깊은 책임과 더 빠른 통찰력을 키우는 것을 상상해 보십시오. 그러나 이러한 이상적인 균형을 달성하려면 신중한 계획과 실행이 필요합니다.


이 기사에서는 데이터 메시 여행 중에 직면했던 일반적인 장애물에 대해 자세히 알아보고 이를 극복할 수 있는 지식을 제공합니다. 결국 성공적인 구현을 시작할 수 있는 준비가 잘 되어 팀이 데이터의 잠재력을 최대한 활용하고 전체 조직에 혁신적인 통찰력을 제공할 수 있도록 지원하게 됩니다.


Zhamak Dehghani 자신은 "Data Mesh의 가장 큰 과제는 명확한 소유권 경계를 정의하는 것 입니다. 이는 모든 사람에게 액세스 권한을 부여하는 것뿐만 아니라 데이터에 대한 책임과 의무를 보장하는 것입니다. 그렇지 않으면 진실이 혼란스럽고 상충되는 버전이 됩니다."라고 말했습니다.

주방에는 규칙이 있습니다. 주방장이 줄을 지나갈 때 뒤에서 비명을 지르는 이유가 있습니다.


고든 램지(Gordon Ramsay)가 고급 주방의 압박감을 느껴본 적도 없고 지쳐버린 단기 주문 요리사 팀으로부터 미슐랭 스타를 받기를 기대하며 식당으로 돌진하는 모습을 상상해 보십시오. 이는 많은 조직이 적절한 지원 없이 데이터 메시에 뛰어들 때 발생하는 혼란스러운 재난의 비결입니다.


고든 램지 요리 GIF


팀에 권한을 부여하는 대신 데이터 무정부 상태를 유발합니다. 훈련받지 않은 요리사를 5성급 주방에 던져서 각각 제한된 기술을 갖춘 무작위 재료를 던진다고 상상해 보십시오. 혼돈이 닥치고 품질이 급락하며 사업은 망하게 됩니다. 이는 바로 조직이 Data Mesh를 구현하기 전에 강력한 학습 프로그램과 데이터 전략이 부족할 때 발생하는 일입니다.


적절한 훈련이 없으면 재능 있는 요리사라도 압박감에 흔들리게 됩니다. 마찬가지로, 팀이 올바른 기술과 지식 없이 데이터 소유권과 분산된 의사 결정을 탐색하기를 기대하면 혼란과 불일치가 발생하고 궁극적으로 데이터 기반 소화 불량으로 이어집니다. 어제 그들은 프런트 엔드 기능을 작업했는데 갑자기 오늘은 그들이 실행하는 이벤트를 기반으로 데이터 제품을 구축해야 합니다.


강력한 데이터 전략은 레스토랑의 메뉴 역할을 하며 목표, 역할 및 기대치를 명확하게 설명합니다. 조직은 팀이 분산형 주방에서 성공할 수 있는 기술과 지식을 갖추도록 데이터 활용 능력 프로그램에 투자해야 합니다.


데이터 메시는 단순히 데이터 소스를 전달하는 것이 아닙니다. 협력과 우수성의 문화를 조성하는 것입니다. 올바른 교육과 명확한 비전이 없으면 데이터 여정은 미슐랭 스타를 받은 성공 사례라기보다는 Kitchen Nightmares 에피소드처럼 보일 수 있습니다.


명확한 소유권 및 측정:

경계와 기대치를 정의하지 않고 단순히 "데이터를 넘겨주지" 마십시오. 단순한 구성 요소가 아니라 지침을 제공하는 것으로 생각하십시오. 명확한 소유권, 역할 및 성공 지표를 설정하여 단절된 이니셔티브를 방지하고 모든 사람이 동일한 데이터를 사용하도록 합니다.


많은 리더들은 Data Mesh를 적절한 지원 없이 단순히 데이터 소유권을 개별 팀에 넘겨주는 것으로 잘못 해석합니다. 경영진은 이를 중심으로 프레임을 구축해야 하며, 아니요, 지금 사람들에게 CDO(최고 데이터 책임자)를 고용하라고 요구하는 것은 아닙니다. 이는 책임을 스스로 제거하려는 고위 관리자의 나쁜 행동이라고 생각합니다. 조직에서 사용하는 데이터의 실제 출처가 무엇인지 결정하는 데 경영진이 참여하기를 기대합니다. 조직의 목표는 무엇이며, 왜 올바른 방향으로 가는지, 그렇지 않은지 평가하고 이를 사람들과 공유하는 방법은 무엇입니까? 그런 다음 데이터에 대한 하나의 실제 소스를 식별합니다. 경영진이 Data Lake의 결정을 처리하거나 데이터 도구 A 또는 B를 사용할 것으로 기대하지는 않습니다. 성공을 측정하는 방법에 대한 명확성을 창출하는 것이 기대됩니다.

경영진이 해야 할 일 - Lior Barak



경영진이 그렇게 하지 않는다면 이는 재앙으로 이어질 것입니다. 통일된 취향이나 측정 없이 각 팀이 요소와 이해를 사용하여 자체 데이터를 준비한다고 상상해 보세요. 경영진은 원하는 "취향"(비즈니스 목표)을 정의하고 성공을 모니터링하기 위한 KPI를 설정하여 데이터 혼란과 "FOMO 중심" 지표가 상황을 흐리게 하는 것을 방지해야 합니다.


  • "데이터 메시는 데이터 품질 문제에 대한 만병통치약이 아닙니다. 잘못된 데이터가 들어오면 소유권이 분산되어 있어도 여전히 나쁜 데이터가 나올 것입니다. 데이터 거버넌스와 품질 표준은 여전히 중요합니다." - 힐러리 메이슨(Hilary Mason), 데이터 과학자 겸 작가


훈련을 통한 역량 강화

훈련받지 않은 요리사를 풀어놓으면 재앙이 닥칠 수 있습니다. 데이터 활용 능력 프로그램에 투자하여 팀이 분산형 주방에서 성공할 수 있는 기술을 갖추도록 하세요. Gordon Ramsay가 자신의 팀을 훈련한다는 점을 기억하십시오. 이 중요한 단계를 건너뛰지 마십시오!


그들이 사용해야 하는 도구를 이해했는지 확인하세요. 몇 달 전 데이터 제품이 무엇인지 이해해달라고 요청한 제품 소유자와의 멘토링 세션이 기억납니다. 그는 프론트엔드 팀의 일원이었고 그의 관리자는 어느 날 그에게 다음과 같이 말했습니다. 이제부터 그는 이벤트의 데이터 제품을 소유하고 있으며 불쌍한 PM은 너무 길을 잃었고 무엇을 해야 할지조차 몰랐습니다. 그는 사용자의 참여를 유도하고 전환율을 높이는 데 있어서 훌륭한 PM이었지만 그가 이해하는 것은 무엇입니까? 그가 발사한 이벤트에서 데이터 제품을 만드는 데 있습니다. 조직에서는 어떤 요리를 제공할지 모르고 레스토랑을 시작하는 등 명확한 데이터 전략 없이 데이터 메시에 뛰어드는 경우가 많습니다. 정의된 데이터 전략은 핵심 데이터 소스를 식별하고 모든 사람을 공통 목표에 맞춰 조정하는 메뉴 역할을 합니다.


프런트 엔드 엔지니어를 보내 데이터 레이크에 데이터를 보내는 데 사용할 수 있는 도구를 알아보고 나중에 표준화된 도구와 교육을 제공하지 않고 테이블을 구축하도록 기대하는 것은 제대로 작동하지 않으며 많은 사람들을 끌게 될 것입니다. 데이터 품질 문제.


“가장 큰 장애물은 기술이 아니라 조직의 문화를 바꾸는 것입니다. 중앙 집중식 하향식 접근 방식에서 분산형 셀프 서비스 접근 방식으로 이동하려면 저항에 부딪힐 수 있는 상당한 사고방식의 변화가 필요합니다." - Adrian Colyer, The Information Lab 공동 창립자


데이터 거버넌스는 비밀 소스입니다

데이터 거버넌스의 중요성을 과소평가하지 마십시오. 이는 정의된 메뉴를 갖고 모든 사람이 올바른 재료를 사용하고 일관된 품질로 요리하도록 보장하는 것과 같습니다. 명확한 지침과 표준을 수립하여 데이터 사일로와 혼란을 피하세요.


스키마 검증 방법을 포함한 데이터 계약을 채택하지 않은 조직은 쓰레기 데이터로 인해 어려움을 겪게 됩니다. 매우 간단합니다. 가장 중요한 부분은 분석가의 요청부터 데이터까지 데이터 생태계의 흐름을 생성하는 도구를 구축할 수 있는 팀을 보유하는 것입니다. 생산자, 데이터 생산자부터 분석가 및 데이터 소비자까지 데이터에서 생성된 변경 사항까지.


데이터 거버넌스를 설정하는 것이 주방에서 이러한 주문을 생성하는 열쇠입니다. 이제 모든 사람이 다른 공급자에게 카레 가루를 주문하면 맛이 달라지는 것은 아닙니다.

도구를 수용하세요

엑셀 시트는 훌륭한 향신료입니다! 도구에 대한 속물근성이 아닌 데이터 문화와 협업을 강화하는 데 집중하세요. Data Mesh는 도구에 관계없이 팀이 자신의 목소리를 소유하고 효과적으로 기여하는 것에 관한 것임을 기억하십시오. 예전에 Netflix에 대한 글을 읽고 '그들이 미쳤나요?'라고 말했던 기억이 납니다. Tableau, MicroStrategy, PowerBI를 사용하는 이유는 조직을 위한 도구를 결정할 수 없기 때문입니까? 글쎄요, 저는 데이터 메시에 대해 전혀 몰랐고 이것이 아마도 그 이유일 것입니다.


엑셀 시트? 땀 없습니다! 데이터 메시의 "Mise en Place" 수용

레거시 시스템, 제한된 도구 및 데이터 품질 문제는 주방의 악몽처럼 느껴질 수 있습니다. 하지만 걱정하지 마세요, 데이터 셰프님! 도구 속물근성을 잊어버리세요. 팀이 Excel 시트를 사용하든 Tableau를 사용하든 관계없이 데이터 메시는 데이터 문화를 강화하고 목소리를 조직에 맞추는 것입니다. 아마도 CRM 팀은 전환율보다 콘텐츠 품질에 집착하고 있는 것 같습니다. 이것이 바로 Data Mesh가 작동하는 모습입니다! 팀은 자체 평가할 수 있지만 회사에서는 성과를 다르게 평가할 수 있다는 점을 이해해야 합니다.


요리하기 전에 재료를 준비하는 프랑스 요리 용어인 "미장플라스(mise en place)" 와 같다고 생각하세요. 강력한 데이터 전략은 구성 요소(데이터 소스, 거버넌스)를 배치하여 모든 사람이 동일한 언어로 말하고 효과적으로 기여할 수 있도록 합니다.

다른 주방에서 배우기

유사한 조직이 직면한 일반적인 장애물을 이해하는 데 도움이 됩니다. 요리사들이 자신의 "부엌 화재" 이야기를 공유하고 서로의 실수로부터 배우는 것을 상상해 보십시오. 이러한 과제와 잠재적인 솔루션을 강조함으로써 다른 사람들도 유사한 함정을 피할 수 있도록 준비할 수 있습니다.


Data Mesh는 단지 부엌 문을 여는 것이 아닙니다. 잘 조화된 요리 앙상블을 만드는 것입니다. 다른 사람들의 "주방 화재" 사례에서 배우고, 유용한 도구와 리소스를 채택하고, 가장 중요한 것은 열린 마음과 협업 정신으로 Data Mesh에 접근하는 것입니다. 따라서 단조로움을 버리고 향신료를 받아들이고 모든 사람의 입맛을 사로잡는 데이터 기반 걸작을 준비하세요!