Яке обмеження розміру для Spark?

0 Comments 17:44

Spark дозволяє надсилати вкладення розміром до 2 ГБ із загальним обмеженням 5 ГБ.

Інші параметри конфігурації

Назва властивостіЗа замовчуваннямПочинаючи з версії
spark.sql.files.maxPartitionBytes134217728 (128 Мб)2.0.0
spark.sql.files.openCostInBytes4194304 (4 МБ)2.0.0
spark.sql.files.minPartitionNumПаралелізм за замовчуванням3.1.0
spark.sql.files.maxPartitionNumЖодного3.5.0

Стандартне значення іскри. водій. maxResultSize становить 1 Гб. Мінімальне значення становить 1 Мб, а максимальне 0 (необмежено).

Spark AR має обмеження на розмір файлу ефектів AR. Вони обмежені до 4 Мб залежно від цільової платформи (Instagram, Facebook AD і Messenger).

128 МБ maxPartitionBytes — максимальна кількість байтів для упаковки в один розділ під час читання файлів. За замовчуванням встановлено значення 128 МБ.');})();(функція(){window.jsl.dh('WSrTZtOWNvPOhbIPz-ms-Qg__40','

Під час читання таблиці Spark за замовчуванням читає блоки з максимальним розміром 128 Мб (хоча ви можете змінити це за допомогою файлів sql. maxPartitionBytes ).

Related Post

Що таке генеральна конференція для мормонів?Що таке генеральна конференція для мормонів?

Загальна конференція: Всесвітня зустріч Церкви. Під час генеральної конференції ми почули пророків та інших провідників Церкви. Вони навчають нас тому, що Бог хоче, щоб ми чули. Кожного квітня та жовтня

Скільки коштує обслуговування Aston Martin V8 Vantage?Скільки коштує обслуговування Aston Martin V8 Vantage?

Обслуговування Aston Martin Vantage Витрати на технічне обслуговування та ремонт Aston Martin Vantage становитимуть $19 256 через 5 років. Витрати включають планове технічне обслуговування, нормальний знос і очікуваний ремонт. Ці