Process mining teljesítménye: mérések és gyakorlati tanácsok — article illustration

Próbálja ki a saját naplójával

Próbáljon ki egy nagy naplót

Process mining

Process mining teljesítménye: mérések és gyakorlati tanácsok

Nézze meg, hogyan befolyásolja a process mining teljesítményét az adatmennyiség, a fájlformátum és a lekérdezés jellege. A 100 ezer és 100 millió esemény közötti, dátummal ellátott mérésekből ismerheti meg az eredményeket.

A process mining teljesítménye nem csak az események számától függ. A fájlméret, az esetek száma, a lekérdezés jellege és a hálózati átviteli sebesség egyaránt befolyásolja a várakozási időt. Az alábbi mérések 100 ezer és 100 millió esemény közötti adathalmazokra vonatkoznak. A teszteket éles AWS-infrastruktúrán végeztük 2026 márciusában, az itt ismertetett fájlformátumokkal és tesztkörülmények között.

Process mining elemzés a ProcessMindben

Főbb tanulságok

  • Nagy fájloknál vagy lassú kapcsolat esetén a feltöltés jelentheti a várakozás legnagyobb részét.
  • A Parquet- és ORC-fájlok jóval kisebbek a nyers CSV-nél, így rövidebb az átviteli idő.
  • A dashboard válaszideje a lekérdezéstől függ. A statisztikák gyorsan megjelennek, a folyamatábrák elkészítése viszont több időt vesz igénybe, ahogy nő az események száma.
  • A delta betöltés az új eseményeket továbbítja, így nem kell ismét feltöltenie a teljes adathalmazt.
  • A célzott adathalmaz gyorsabban feltölthető és könnyebben elemezhető.

Mi befolyásolja a process mining teljesítményét?

Négy tényező határozza meg a teljesítményt: az adatmennyiség, az eseménynapló felépítése, a futtatott lekérdezés, valamint az adatátvitelhez és -feldolgozáshoz használt környezet.

  • Események és esetek száma: Több esemény általában több feltöltendő és feldolgozandó adatot jelent. Az esetek száma határozza meg, hány folyamatpéldányt fed le az elemzés.
  • A lekérdezés jellege: Egy összesítő statisztika és egy folyamatábra eltérő számításokat igényel. A tevékenységek közötti átmeneteket kiszámító lekérdezések tovább tarthatnak, mint az előre összesített adatokra épülők.
  • Tevékenységek száma és az esetek hossza: A több különböző tevékenység és a hosszabb esetek növelik az útvonalak és változatok kiszámításához szükséges munkát.
  • Fájlméret és hálózati sebesség: Ezek határozzák meg a feltöltés idejét. A hosszú szöveges mezőket tartalmazó, széles CSV-fájl jóval nagyobb lehet, mint az ugyanazokat az eseményeket tartalmazó, tömör oszlopalapú fájl.

Az események száma önmagában nem jelzi előre, mennyi ideig tart az adathalmaz feldolgozása. Használja a mérési eredményeket viszonyítási alapként, majd tesztelje a használni kívánt eseménynaplót és lekérdezéseket. A saját környezetében így kaphatja a leghasznosabb képet a process mining teljesítményéről.

Adatfolyamat: mire megy el az idő?

Az adathalmaz három szakaszon megy keresztül: feltöltésen, előfeldolgozáson, majd a folyamatmodell módosításakor újraszámításon.

Adatfolyamat

  1. Feltöltés: A fájl az interneten keresztül jut el a ProcessMind felhőinfrastruktúrájába. Az átviteli időt a hálózati sebesség és a fájlméret határozza meg. Például egy 50 millió eseményt tartalmazó, 11 GB-os CSV-fájl feltöltése 1 Gbps sebességgel körülbelül 2 perc, 100 Mbps sebességgel 18 perc, 10 Mbps sebességgel pedig több mint 3 óra. Ugyanez az adat egy 1,7 GB-os Parquet-fájlban ezeken a sebességeken körülbelül 19 másodperc, 3 perc, illetve 28 perc alatt tölthető fel.
  2. Előfeldolgozás: A feltöltés után a rendszer optimalizált oszlopalapú tárolási formátumba alakítja az adatokat, indexeli az eseményeket, kiszámítja a tevékenységek közötti átmeneteket és a folyamatváltozatokat, majd összesítő statisztikákat készít. Az alábbi mérésekben ez 100 ezer eseménynél 35 másodpercig, 100 millió eseménynél pedig legfeljebb 2,5 percig tartott.
  3. Modellmódosítások: Ha módosítja a tevékenységek hozzárendelését, vagy tevékenységeket ad hozzá, illetve távolít el, a ProcessMind frissíti a modelltől függő számításokat. Az alábbi mérésekben ez 1 millió eseménynél körülbelül 14 másodpercig, 100 millió eseménynél pedig 52 másodpercig tartott. A szűrők módosítása azonnali.

Nagy adathalmazoknál a fájlméret csökkentése gyakran a leghatékonyabb módja annak, hogy kevesebbet kelljen várnia az első betöltésre. Az előfeldolgozás után a lekérdezések sebessége attól függ, mit kell kiszámítania a dashboardnak.

Hogyan változik a lekérdezések teljesítménye?

A különböző lekérdezések eltérő számítási igényűek. Az alábbi szempontok segítenek felmérni, mire számíthat, és hogyan érdemes összeállítania az adatokat.

  • Tevékenységek száma: A 10–20 különböző tevékenységet tartalmazó modellek könnyebben elemezhetők és áttekinthetők. 50 tevékenység fölött a folyamatábrák kiszámítása tovább tarthat, és nehezebben olvashatók. A kapcsolódó lépéseket akkor vonja össze, ha ez pontosan tükrözi a folyamatot.
  • Változatok sokfélesége: Általában gyorsabban elemezhető az a folyamat, amelyben az esetek többsége néhány útvonalat követ, mint az, amelyben minden eset más útvonalon halad. A nagy változatosság fontos információt hordozhat, de növelheti a lekérdezési időt.
  • Oszlopok száma: A folyamat elemzéséhez szükség van az alapmezőkre: CaseId, Activity és Timestamp. A további attribútumok szűréshez és kategorizáláshoz használhatók, de növelik az átvitt és beolvasott adatok mennyiségét.
  • Eset hossza: Egy 50 eseményből álló eset feldolgozása több munkát igényel, mint egy 5 eseményből állóé. A több száz eseményt tartalmazó esetekkel rendelkező folyamatok lekérdezése tovább tarthat.

Dashboard-válaszidők

Ezek az értékek több mérési futás mediánjai. A dashboard minden eleme külön lekérdezést futtat, és párhuzamosan töltődik be.

Adathalmaz Statisztikák Folyamatábra Változatok Kategóriák Adatböngésző Animáció
100K 0.6s 1.5s 1.1s 1.5s 1.2s 1.4s
1M 0.6s 1.6s 1.4s 1.9s 1.5s 2.0s
5M 0.6s 2.5s 1.8s 2.4s 1.3s 2.1s
10M 0.6s 3.4s 2.2s 2.5s 1.6s 2.4s
20M 0.6s 3.9s 2.7s 3.3s 1.9s 3.6s
50M 0.6s 5.1s 4.2s 5.7s 1.6s 2.7s
100M 0.6s 7.2s 3.5s 4.7s 1.6s 5.0s

A statisztikák minden vizsgált adathalmaznál körülbelül 0,6 másodperc alatt jelentek meg. A folyamatábra elkészítése tovább tartott, ahogy nőtt az események száma, mert ki kell számítani a tevékenységek közötti átmeneteket. A változatok és a kategóriák kezelése mérsékelten lassult, az adatböngésző pedig lapozással gyors maradt. Az animáció ideje a megjelenített aktív esetek számától függött.

1–10 millió eseménynél a mért válaszidő az adott elemtől függően 0,6 és 3,4 másodperc között volt. 50 millió eseménynél a folyamatábra és a kategóriák megjelenítése körülbelül 5–6 másodpercig tartott. Ezek mérési eredmények, nem jelentenek garanciát minden adathalmazra és környezetre.

Mérési adatok: milyen körülmények között zajlottak a tesztek?

A méréseket éles AWS-infrastruktúrán végeztük 2026 márciusában. A feltöltési és előfeldolgozási idők több tesztfutás átlagai. A dashboard válaszideje több futás mediánja. Az egyes adathalmazméreteknél több mint 50 lekérdezéstípust vizsgáltunk.

Az alábbi eseményszámok a tesztfájlok tényleges adatait mutatják. A fájlméretek tömörítetlen CSV-re vonatkoznak, tipikus eseménynapló-sémával: CaseId, Activity, Timestamp és 5–8 üzleti attribútum. Az Ön fájlmérete és eredményei az oszlopok számától, a tartalomtól, a hálózati feltételektől, az adatközpont távolságától és az aktuális terheléstől függően eltérhetnek.

Feltöltési és előfeldolgozási idők

Adathalmaz Tényleges eseményszám Fájlméret Feltöltés (1 Gbps) Feltöltés (100 Mbps) Feltöltés (50 Mbps) Feltöltés (10 Mbps) Előfeldolgozás
100K 125,260 22 MB < 1s 2s 4s 22s 35s
500K 626,300 110 MB 1s 11s 22s 2 min 45s
1M 1,253,424 221 MB 3s 22s 44s 4 min 55s
2M 2,506,848 443 MB 5s 44s 1.5 min 7 min 1 min
5M 4,996,877 1.1 GB 13s 2 min 4 min 18 min 1.5 min
10M 12,511,867 2.2 GB 25s 4 min 7 min 37 min 1.5 min
20M 25,023,734 4.4 GB 50s 7 min 15 min 1.2 hr 2 min
50M 62,559,335 11.1 GB 2 min 18 min 37 min 3 hr 2 min
100M 125,118,670 22.3 GB 4 min 37 min 1.2 hr 6 hr 2.5 min

A mért 1 Gbps átviteli sebesség 88 MB/s volt az AWS eu-central-1 régiójába. A többi sebesség gyakorlati átviteli értékeken alapuló becslés: 50 Mbps-nél körülbelül 5 MB/s, 100 Mbps-nél 10 MB/s, 10 Mbps-nél pedig 1 MB/s. A tényleges sebesség az Ön hálózatától és a körülményektől függ.

Ebben a tesztben az előfeldolgozás 35 másodperctől 2,5 percig tartott. A fájlméret növekedésével a feltöltési idő is nőtt, így nagy fájloknál ez tette ki a várakozás legnagyobb részét.

Fájlformátumok: Parquet és ORC a CSV-hez képest

A ProcessMind a CSV, Parquet, ORC, Excel és XES formátumokat támogatja. Az alábbi fájlméret-összehasonlítás ugyanazokat az eseményszámokat és sémát használja, mint a fenti mérés.

Adathalmaz CSV Parquet ORC CSV.GZ
1M esemény 221 MB 34 MB 39 MB 20 MB
5M esemény 1.1 GB 151 MB 197 MB 107 MB
10M esemény 2.2 GB 301 MB 395 MB 215 MB
20M esemény 4.4 GB 603 MB 791 MB 430 MB
50M esemény 11.1 GB 1.7 GB 1.9 GB 1.1 GB
100M esemény 22.3 GB 3.4 GB 3.7 GB 2.2 GB

Ezekben a tesztekben a Parquet-fájlok körülbelül 85%-kal, az ORC-fájlok pedig 82%-kal voltak kisebbek a CSV-nél. Mindkettő beépített tömörítést használó oszlopalapú formátum. Az olyan adatkezelő eszközök, mint a Spark, a Databricks, a dbt és a BigQuery, támogathatják az exportálást ezekbe a formátumokba.

A Parquet, az ORC és a CSV előfeldolgozási ideje hasonló volt. Nagyobb eseményszámnál a CSV.GZ feldolgozása tovább tartott, mert a gzip-fájlok nem oszthatók fel párhuzamos kitömörítéshez.

Adathalmaz Parquet ORC CSV CSV.GZ
1M esemény 55s 55s 55s 55s
5M esemény 1.5 min 1.5 min 1.5 min 1.5 min
10M esemény 1.5 min 1.5 min 1.5 min 2 min
20M esemény 2 min 2 min 2 min 2.5 min
50M esemény 2 min 2 min 2 min 3 min
100M esemény 2.5 min 2.5 min 2.5 min 4.5 min

A teljes idő a feltöltés és az előfeldolgozás idejéből áll össze. Az alábbi példák 100 Mbps sebességű kapcsolattal készültek.

10M esemény (100 Mbps) Fájlméret Feltöltés Előfeldolgozás Összesen
Parquet 301 MB 30s 1.5 min ~2 min
ORC 395 MB 40s 1.5 min ~2.2 min
CSV 2.2 GB 4 min 1.5 min ~5.5 min
CSV.GZ 215 MB 21s 2 min ~2.5 min
50M esemény (100 Mbps) Fájlméret Feltöltés Előfeldolgozás Összesen
Parquet 1.7 GB 3 min 2 min ~5 min
ORC 1.9 GB 3.2 min 2 min ~5.2 min
CSV 11.1 GB 18 min 2 min ~20 min
CSV.GZ 1.1 GB 2 min 3 min ~5 min

Nagy adathalmazoknál a Parquet és az ORC a kisebb fájlméretnek köszönhetően csökkenti az átviteli időt. A CSV egyszerű megoldás kisebb adathalmazokhoz, illetve akkor, ha az exportálási folyamat nem támogat oszlopalapú formátumokat. A CSV.GZ lassú kapcsolatnál csökkentheti az átviteli időt, de az adathalmaz méretével nő a kitömörítés ideje.

Fájlformátum választása

  • Parquet: Jó alapértelmezett választás nagy adathalmazokhoz, ha az adatfolyamat támogatja. Ezekben a tesztekben ez eredményezte a legkisebb fájlokat.
  • ORC: Hasonló lehetőség, különösen akkor, ha az adatfolyamat Hadoopot vagy Sparkot használ.
  • CSV: Egyszerű és széles körben támogatott formátum. Kisebb adathalmazokhoz praktikus lehet.
  • CSV.GZ: Akkor érdemes választani, ha a feltöltési sebesség jelenti a fő korlátot. Nagyobb eseményszámnál tesztelje az előfeldolgozási időt a saját adataival.

Mely lekérdezési minták lassíthatják az elemzést?

Egyes adatok és dashboard-elrendezések több számítást igényelnek másoknál. Az alábbi szempontok segítenek azonosítani, mi lassíthatja a lekérdezéseket.

  • Túl sok tevékenység: Az 50-nél több különböző tevékenységet tartalmazó folyamatábra kiszámítása tovább tarthat, és nehezebb lehet értelmezni. Ha indokolt, vonja össze a kapcsolódó lépéseket.
  • Sok egyedi változat: Ha az esetek sokféle útvonalat követnek, a változatok kiszámítása több munkát igényel. A nagy változatosság olyan folyamatműködésre is utalhat, amelyet érdemes megvizsgálni.
  • Hosszú esetek: A sok eseményt tartalmazó esetek feldolgozása több időt igényel, mint a rövideké.
  • Felesleges oszlopok: A további attribútumok növelik a fájlméretet, és a lekérdezések is több munkát igényelhetnek miattuk. Csak az elemzéshez szükséges mezőket tartsa meg.
  • Túlzsúfolt, nagy dashboardok: Minden diagram és csempe külön lekérdezést futtat. Tartsa meg azokat az elemeket, amelyek egyértelmű kérdésre válaszolnak, a többi nézetet pedig helyezze külön dashboardra.
  • Nagy számításigényű vizualizációk: Nagy adathalmazoknál a sok kategóriát megjelenítő diagramok kirajzolása tovább tarthat. Ha nincs szüksége részletes bontásra, használjon összesítő nézetet.
  • Animáció sok aktív esettel: Az animáció ideje a megjelenített esetek számától függ. Ha csak a folyamat útvonalát szeretné megvizsgálni, csökkentse a sebességet, vagy kapcsolja ki az útvonalnyomokat és az effekteket.

Hogyan válassza ki a megfelelő adatmennyiséget?

Kezdje a kérdés megválaszolásához szükséges legkisebb adathalmazzal. A célzott adathalmaz gyorsabban feltölthető és könnyebben ellenőrizhető. Bővítse, ha szélesebb lefedettségre, ritka események vizsgálatára vagy hosszabb távú trendekre van szüksége.

Kisebb adathalmazon építse fel és ellenőrizze a modellt

Kezdjen egy friss mintával, állítsa be a modellt, majd ellenőrizze az adatokat, mielőtt nagyobb adathalmazra vált.

  1. Kezdjen egy mintával. Például nyerjen ki 1 millió eseményt egy közelmúltbeli, három hónapos időszakból. A mérésben a feltöltés 1 Gbps sebességgel 3 másodpercig, 100 Mbps sebességgel 22 másodpercig tartott, majd az előfeldolgozás további 55 másodpercet vett igénybe.
  2. Építse fel a modellt. Állítsa be a tevékenységeket, a szűrőket és a nézeteket. A tesztelt, 1–10 millió eseményt tartalmazó adathalmazoknál a modell módosítása körülbelül 14–20 másodpercig tartott.
  3. Ellenőrizze az eredményeket. Nézze meg, hogy a tevékenységek nevei és a folyamat útvonalai megfelelnek-e a valóságnak, és javítsa az adatminőségi problémákat.
  4. Szükség esetén adjon hozzá több adatot. Növelje az események számát, ha ritka eseteket szeretne vizsgálni, vagy hosszabb időszakokat szeretne összehasonlítani.

A táblázat a különböző eseményszámokhoz tartozó kezdeti várakozási időt hasonlítja össze 100 Mbps sebességű kapcsolat mellett.

Módszer Feltöltés (100 Mbps) Előfeldolgozás Teljes várakozás Dashboard sebessége
Kezdés 1M eseménnyel 22s 55s ~1.5 min 1–2s
Kezdés 5M eseménnyel 2 min 1.5 min ~3.5 min 1–2.5s
Kezdés 50M eseménnyel 18 min 2 min ~20 min 1–6s

A megfelelő eseményszám az Ön kérdésétől függ. A gyakori folyamatminták vizsgálatához elegendő lehet egy kisebb adathalmaz, ritka események elemzéséhez vagy a teljes sokaság lefedésére vonatkozó követelmény teljesítéséhez viszont több adatra lehet szükség.

Konkrét kérdés esetén szűkítse az adathalmazt

Ha egy országot, részleget vagy termékvonalat vizsgál, kezdje az adott szegmenssel, ne vonjon össze egymástól független csoportokat. A szegmentálás egyértelműbbé teheti az összehasonlítást, és csökkentheti a feldolgozandó adatmennyiséget.

Például a mérés egy 42 millió szállítási eseményt tartalmazó, 8 országra kiterjedő európai logisztikai adathalmazt mutat be:

  • Minden ország: 42 millió esemény, 9,3 GB, 16 perc feltöltés 100 Mbps sebességgel, 2 perc előfeldolgozás.
  • Németország: 8,5 millió esemény, 1,9 GB, 3 perc feltöltés, 1,5 perc előfeldolgozás.
  • Hollandia: 3,1 millió esemény, 690 MB, 1 perc feltöltés, 1 perc előfeldolgozás.

Az egyes szegmensek ellenőrzése után összehasonlíthatja őket. Hasznos szempont lehet a földrajzi terület, a szervezet, a termék, az időszak vagy az ügyfélszegmens.

Szűrjön a szükséges esetekre

Ha kivételeket vizsgál, csak a releváns esetek exportálásával jelentősen csökkentheti az adathalmaz méretét. A mérés például egy 1,2 millió beszerzési rendelést és 8,4 millió eseményt tartalmazó beszerzéstől kifizetésig folyamatot mutat be. Eszerint 96 000 rendelésnél, vagyis az esetek 8%-ánál fordult elő kivétel, például elutasítás, visszáru, duplikált számla vagy hiányzó jóváhagyás.

Ebben az elemzésben a kivételes esetek exportálásával az adathalmaz 8,4 millióról 670 ezer eseményre csökken. A jelentés szerint a fájlméret 1,9 GB-ról 150 MB-ra, a feltöltési idő pedig 100 Mbps sebességnél 3 percről 15 másodpercre esik. Ha ugyanezt az adatot 15 MB-os Parquet-fájlként exportálja, a mérésben a feltöltés kevesebb mint 2 másodpercig tartott.

Szűrjön állapot, tevékenység, eset időtartama, időszak vagy üzleti egység szerint, ha ezek a mezők kapcsolódnak a vizsgált kérdéshez.

Csak a szükséges oszlopokat válassza ki

Minden oszlop növeli a fájlméretet. A hosszú szöveges mezők, a redundáns azonosítók, az auditmezők és a technikai metaadatok nem feltétlenül szükségesek az elemzéshez.

A mérés egy 1,8 millió beszerzési rendelési eseményt tartalmazó, 45 oszlopos SAP-exportot mutat be. A fájlméret a 12 szükséges oszlopra szűkítve 2,1 GB-ról 380 MB-ra csökkent. Ha ezeket az oszlopokat Parquet formátumban exportálta, a fájl mérete tovább, 58 MB-ra esett. A jelentés szerint a feltöltési idő 100 Mbps sebességnél 3,5 percről 6 másodpercre csökkent.

Tartsa meg az elemzéshez szükséges mezőket, köztük a CaseId, Activity és Timestamp mezőt, valamint a releváns üzleti attribútumokat, például az állapotot, az összeget, a kategóriát vagy a régiót. Ha a személyes adatokra nincs szükség az elemzéshez, távolítsa el őket.

Mikor érdemes nagyobb adathalmazt használni?

Ha a kérdés megválaszolásához szélesebb lefedettségre vagy hosszabb időszakra van szükség, érdemes több eseményt tartalmazó adathalmazzal dolgozni.

  • Ritka események: A 100 000 esetből egyszer előforduló kivételek megtalálásához olyan nagy adathalmazra van szükség, amelyben ezek is szerepelnek. Ha egy kivétel az esetek 0,01%-ában fordul elő, és 50 ilyen esetet szeretne vizsgálni, körülbelül 500 000 esetre lesz szüksége.
  • Ritkán előforduló változatok: Az esetek 0,1%-ában előforduló változatok egy 1 millió eseményes mintában láthatatlanok maradhatnak, míg egy 50 millió eseményt tartalmazó adathalmazban már jól mérhetők.
  • Megfelelés és audit: Egyes követelmények mintavétel helyett a teljes adathalmaz lefedését írják elő.
  • Hosszú távú trendek: A 2024. első negyedévének, 2025. első negyedévének és 2026. első negyedévének összehasonlításához mindhárom időszak adataira szükség van. A delta betöltéssel fokozatosan bővítheti a lefedettséget.

Az 50 millió eseménynél nagyobb adathalmazokhoz a benchmark Parquet használatát, az API-n keresztüli feltöltést és, ha elérhető, gyors hálózati kapcsolatot javasol. A tesztben az 50 millió eseményes CSV-fájl 11,1 GB volt, míg Parquet formátumban 1,7 GB.

A teljesítmény mindig kompromisszumokkal jár: a több adat és a nagyobb sebesség többe kerül. Nem az a kérdés, hogy mire képes egy eszköz, hanem az, hogy mire van szüksége a folyamatának. A ProcessMind nagy adathalmazokkal is jól működik, de a rendkívül nagy adatmennyiségeket továbbra sem javasoljuk, mert gyakran nincs rájuk szükség, és a velük járó bonyolultság elvonhatja a figyelmet magáról a folyamatfejlesztésről.

Roel Vliegen
Roel Vliegen Társalapító és vezérigazgató

Hogyan maradhat gyors a modell és a felület?

Az adatmennyiség csak az egyik tényező. A folyamatmodell és a dashboard kialakítása is befolyásolja, milyen gyorsan tud dolgozni.

  • Tartsa áttekinthetően a modellt: A nagy folyamatokat bontsa moduláris Subprocesses elemekre. A sok látható elemet tartalmazó vászon lassabban jelenhet meg, és nehezebb rajta tájékozódni. Szerkezeti módosítások után használja az auto-layout funkciót.
  • Gondosan válassza ki a dashboard elemeit: Minden diagram és csempe számításokat igényel. Csak azokat a nézeteket tartsa meg, amelyek választ adnak az aktuális kérdéseire.
  • Az adatokhoz illő diagramokat használjon: Nagy adathalmazoknál a sok kategóriát megjelenítő vizualizáció kiszámítása tovább tarthat. Ha nincs szüksége részletes bontásra, használjon összesítést.
  • Csak a kérdéshez szükséges szűrőket használja: A szűrők segítenek szűkíteni az elemzést. Ne kombináljon olyan szűrőket, amelyek nem segítenek megválaszolni a kérdést.
  • Állítsa be az animációt: Az animáció terhelése az aktív esetek számával nő. Ha csak a folyamat menetét szeretné megvizsgálni, csökkentse a sebességet, vagy kapcsolja ki a nyomvonalakat és az effekteket. További információ: Process Animation.
  • Csak a módosult részeket számítsa újra: A modell módosításakor a modellfüggő számítások frissülnek, így nem kell újra lefuttatni a teljes előfeldolgozást. A benchmarkban a módosítások 1 millió eseménynél körülbelül 14 másodpercig, 100 millió eseménynél pedig 52 másodpercig tartottak.

Hogyan csökkenti a delta betöltés a feltöltési időt?

Delta betöltéssel az új eseményeket egy meglévő adathalmazhoz fűzheti, így nem kell minden alkalommal a teljes adathalmazt feltöltenie. Növekvő eseménynapló frissítésekor kevesebb adatot kell továbbítani.

Forgatókönyv Teljes újrafeltöltés Delta feltöltés Megtakarított idő
10 millió meglévő + 500 000 új esemény (100 Mbps) 4 perc feltöltés 5 mp feltöltés ~4 perc
20 millió meglévő + 2 millió új esemény (100 Mbps) 7 perc feltöltés 44 mp feltöltés ~6 perc
50 millió meglévő + 5 millió új esemény (100 Mbps) 18 perc feltöltés 2 perc feltöltés ~16 perc

Delta feltöltés után az előfeldolgozás újra lefut az egyesített adathalmazon. A benchmarkban ez 1–2,5 percet vett igénybe. A feltöltéssel megtakarított idő abból adódik, hogy csak az új eseményeket kell továbbítani.

A deltafájlnak ugyanazt a fájlformátumot és oszlopszerkezetet kell használnia, mint az eredeti feltöltésnek. Részletekért tekintse meg a növekményes adatbetöltés útmutatóját.

Mikor érdemes API-n keresztül feltölteni?

Rendszeresen feltöltött vagy több gigabájtos fájlok esetén az API-s feltöltés könnyebben kezelhető lehet, mint a böngészőn keresztüli adatátvitel. Egy script vagy parancssori eszköz beilleszthető az ETL-folyamatba, támogatja az ütemezett feltöltéseket, és megjeleníti az átvitel állapotát.

A ProcessMind előre aláírt URL-eket biztosít a felhőtárhelyre történő közvetlen feltöltéshez. A feltöltési URL-t a ProcessMind felületén, az adathalmaz beállításai menüből másolhatja ki.

# Upload a Parquet file directly using a presigned URL
curl -X PUT "$PRESIGNED_URL" --upload-file data.parquet

A API-dokumentációban Bash-, JavaScript- és Python-példákat talál, többek között az előre aláírt URL-ek lekérésére és a deltafájlok feltöltésére.

Mikor érdemes felosztani egy adathalmazt?

Ossza fel az adathalmazt, ha egy adott elemzéshez csak az adatok egy részére van szükség, vagy ha különálló csoportokat önállóan szeretne összehasonlítani. Az adatokat földrajzi terület, részleg, termékvonal, időszak vagy esettípus szerint szegmentálhatja, majd külön-külön elemezheti az egyes adathalmazokat.

Hagyja együtt az adatokat, ha a kérdés megválaszolásához össze kell hasonlítania a csoportokat, vagy követnie kell a teljes folyamatot az összes csoportban. Felosztás előtt ellenőrizze, hogy az nem változtatja-e meg az eset jelentését, és nem távolít-e el olyan eseményeket, amelyek szükségesek az útvonal megértéséhez. Időszak szerinti felosztásnál például vegye figyelembe azokat az eseteket, amelyek az egyik időszakban kezdődnek, de a másikban fejeződnek be.

Tesztelje a teljesítményt a saját adataival

A benchmarkok segítenek a tervezésben, de nem jelzik előre minden eseménynapló, hálózat vagy lekérdezés eredményét. Tesztelje a használni kívánt adathalmazt, majd mérje meg a feltöltési és előfeldolgozási időt, valamint az Önnek fontos dashboard-nézetek válaszidejét.

Ha segítségre van szüksége az eseménynapló előkészítéséhez, először olvassa el az adat-előkészítési útmutatót. Azt is megnézheti, hogyan elemezheti a folyamatát, illetve hogyan követheti folyamatosan a folyamatát.

Tesztelje a saját adatmennyiségével

Töltse be az elemezni kívánt eseménynaplót, és mérje meg, hogyan teljesít a saját adataival.

Töltse be a legnagyobb adathalmazát, és próbálja ki

Tesztelje a saját adatmennyiségével

Gyakori kérdések

Az események és az esetek száma, az eseménynapló felépítése, a futtatott lekérdezés, valamint az adatátvitelhez és -feldolgozáshoz használt környezet. A feltöltés idejét a fájlméret és a hálózati sebesség, a dashboard válaszidejét pedig a lekérdezés jellege határozza meg.

A közzétett mérések 100 ezer és 100 millió esemény közötti adathalmazokat fednek le. A teszteket éles AWS-infrastruktúrán végeztük 2026 márciusában. 50 millió eseménynél a folyamatábra és a kategórialekérdezések körülbelül 5–6 másodpercig tartottak.

A Parquet és az ORC fájlok jóval kisebbek a nyers CSV-fájloknál, ezért gyorsabban feltölthetők. A mérésekben a Parquet-fájlok körülbelül 85%-kal, az ORC-fájlok pedig 82%-kal voltak kisebbek a CSV-nél. Kisebb adathalmazokhoz a CSV is megfelelő.

Csökkentse a fájlméretet. Csak a szükséges oszlopokat exportálja, használjon oszlopalapú formátumot, például Parquetet, szűrje az adathalmazt a vizsgált esetekre, vagy ossza részekre. A delta betöltés csak az új eseményeket továbbítja, nem a teljes fájlt.

A delta betöltés a teljes adathalmaz újbóli feltöltése helyett az új eseményeket fűzi hozzá a meglévő adatokhoz. A mérésben 5 millió esemény hozzáadása egy 50 milliós alapadathalmazhoz körülbelül 2 percig tartott, míg a teljes feltöltés 100 Mbps sebességgel 18 percet vett igénybe.

Kezdje a kérdés megválaszolásához elegendő legkisebb adathalmazzal. Állítsa be és ellenőrizze a modellt, majd bővítse az adathalmazt, ha ritka eseményeket, alacsony gyakoriságú változatokat vagy hosszabb távú trendeket szeretne vizsgálni.

Rendszeres feltöltésekhez vagy több gigabájtos fájlokhoz az API-alapú feltöltés jobban illeszkedik egy ETL-folyamathoz, és ütemezett feltöltést is lehetővé tehet. A ProcessMind előre aláírt URL-eket biztosít a felhőtárhelyre történő közvetlen feltöltéshez.

Kapcsolódó blogbejegyzések

Kérjen szakértői elemzéseket a process miningről és a munkafolyamatok fejlesztéséről e-mailben
BPO és folyamatkiszervezés: mérjen, mielőtt kiszervez

Process mining

BPO és folyamatkiszervezés: mérjen, mielőtt kiszervez

Az üzleti folyamatok kiszervezésekor egy külső szolgáltató veszi át a folyamat működtetését. Mérje fel a jelenlegi működést, alakítsa át, amit lehet, és használjanak közös dashboardot.

Folyamatmodellezés és process mining: együtt többre képesek

Folyamatmodellezés

Folyamatmodellezés és process mining: együtt többre képesek

Ismerje meg, mit mutat meg külön-külön a folyamatmodellezés és a process mining, miben különböznek, és hogyan kapcsolja össze őket a megfelelőség-ellenőrzés.

ETL-eszközök process mininghoz: mire van szüksége?

Adatok

ETL-eszközök process mininghoz: mire van szüksége?

Mikor van szükség ETL-re a process mininghoz, mit kell tartalmaznia az adatkinyerésnek, és miért tölti be a ProcessMind a meglévő adatfolyamatok eredményét?

Hogyan támasztják alá az állításokat a fenntarthatósági folyamatelemzések?

Digitális átalakulás

Hogyan támasztják alá az állításokat a fenntarthatósági folyamatelemzések?

Kövesse vissza a fenntarthatósági jelentések számait az alapjukat képező folyamat-eseményekig.

Tervezzen jobb folyamatokat. Építsen összekapcsolt architektúrát. Tartsa kézben a működést.

Azonnal hozzáférhet, bankkártya és várakozás nélkül. Alakítsa szervezete működését világos, összekapcsolt folyamatmodellekké.

Építse fel folyamatarchitektúráját, határozza meg a felelősségi köröket és az ellenőrzéseket, és hangolja össze a szerepeket minden szinten.

Indítsa el az ingyenes próbaverziót, és teremtsen megbízható alapot folyamatainak irányításához, kezeléséhez és folyamatos fejlesztéséhez.