TextDecoder iso-8859-1: Фатальный ООМ javascript при неэффективной отметке-уплотняется вблизи предела кучи

#javascript #deno

#javascript #deno

Вопрос:

Я работаю с очень большими CSV-файлами (85Mo). После открытия файла с помощью Deno.readFile я декодирую его с помощью new TextDecoder("iso-8859-1").decode(rawData); и получаю следующую ошибку:

примечание: я не получаю эту ошибку с utf-8

 <--- Last few GCs --->

[17822:0x5400000000] 27318 ms: Mark-sweep (reduce) 1399.4 (1401.5) -> 1399.3 (1403.2) MB, 3173.1 / 0.0 ms (  0.1 ms in 431 steps since start of marking, biggest step 0.0 ms, walltime since start of marking 3424 ms) (average mu = 0.191, current mu = 0.[17822:0x5400000000] 30483 ms: Mark-sweep (reduce) 1399.8 (1401.7) -> 1399.5 (1402.5) MB, 3164.5 / 0.0 ms (average mu = 0.100, current mu = 0.000) allocation failure scavenge might not succeed

<--- JS stacktrace --->

#
# Fatal javascript OOM in Ineffective mark-compacts near heap limit
#
[1] 17822 illegal hardware instruction
  

Версия Deno: 1.2.2

Mac OS: 10.14.6

Объем оперативной памяти: 16 Гб

Вопрос

Что я делаю не так при декодировании моего файла с iso-8859-1 кодировкой?

Ответ №1:

Может показаться, что это ошибка.

Похоже на ошибку в реализации TextDecoder в https://github.com/denoland/deno/blob/master/op_crates/web/08_text_encoding.js

Чтобы временно обойти проблему, запустите deno со следующим флагом v8:

 --v8-flags=--max-old-space-size=8192