Hadoop-ის რომელი ფაილის ფორმატი იძლევა მონაცემთა შენახვის სვეტის ფორმატს?
Hadoop-ის რომელი ფაილის ფორმატი იძლევა მონაცემთა შენახვის სვეტის ფორმატს?

ვიდეო: Hadoop-ის რომელი ფაილის ფორმატი იძლევა მონაცემთა შენახვის სვეტის ფორმატს?

ვიდეო: Hadoop-ის რომელი ფაილის ფორმატი იძლევა მონაცემთა შენახვის სვეტის ფორმატს?
ვიდეო: Different Data File Formats in Big Data Engineering 2024, აპრილი
Anonim

სვეტის ფაილის ფორმატები (პარკეტი, RCFile )

უახლესი სიცხე ფაილის ფორმატებში Hadoop iscolumnar ფაილის შესანახად. ძირითადად, ეს ნიშნავს, რომ იმის ნაცვლად, რომ უბრალოდ შეინახოთ ერთმანეთის მიმდებარე მონაცემების რიგები, თქვენ ასევე ინახავთ სვეტების მნიშვნელობებს ერთმანეთის მიმდებარედ. ასე რომ, მონაცემთა ნაკრები იყოფა როგორც ჰორიზონტალურად, ასევე ვერტიკალურად.

ამას გარდა, რა ფორმატში ამუშავებს Hadoop მონაცემებს?

Არსებობს რამდენიმე ჰადოპ - კონკრეტული ფაილი ფორმატები რომლებიც სპეციალურად შეიქმნა MapReduce-თან კარგად მუშაობისთვის. ესენი ჰადოპ - კონკრეტული ფაილი ფორმატები მოიცავს ფაილზე დაფუძნებულს მონაცემები სტრუქტურები, როგორიცაა თანმიმდევრობის ფაილები, სერიალიზაცია ფორმატები როგორც ავრო და სვეტიანი ფორმატები როგორიცაა RCFile და პარკეტი.

შეიძლება ასევე იკითხოთ, რა არის სვეტოვანი ფაილის ფორმატი? რიგი და სვეტიანი შენახვა Hive. ORC არის ა სვეტიანი შენახვა ფორმატი გამოიყენება Hadoop for Hivetables-ში. ეს არის ეფექტური ფაილის ფორმატი მონაცემების შესანახად, რომლებშიც ჩანაწერები შეიცავს ბევრ სვეტს. მაგალითად არის Clickstream (ვებ) მონაცემები ვებსაიტის აქტივობისა და მუშაობის გასაანალიზებლად.

ანალოგიურად, ისმის კითხვა, რა არის ფაილის ფორმატი Hadoop-ში?

ძირითადი ფაილის ფორმატები არიან: ტექსტი ფორმატი , გასაღები-ღირებულება ფორმატი , თანმიმდევრობა ფორმატი . სხვა ფორმატები რომლებიც გამოიყენება და კარგად არის ცნობილი: Avro, Parket, RC ან Row-Columnar ფორმატი , ORC ან ოპტიმიზებული RowColumnar ფორმატი.

რატომ გამოიყენება სვეტოვანი ფაილის ფორმატები მონაცემთა საწყობში?

ORC მაღაზიების რიგი მონაცემები in სვეტოვანი ფორმატი ეს რიგი - სვეტოვანი ფორმატი ძალიან ეფექტურია შეკუმშვისა და შენახვა . ის იძლევა პარალელური დამუშავების საშუალებას მთელს კლასტერში და სვეტოვანი ფორმატი საშუალებას გაძლევთ გამოტოვოთ არასაჭირო სვეტები უფრო სწრაფი დამუშავებისა და დეკომპრესიისთვის.

გირჩევთ: