Добавить ограничение / задержку на запросы выборки в API

#javascript #api #fetch

#javascript #API #выборка

Вопрос:

Я бы хотел, чтобы используемый мной API не выдавал мне 502 Bad Gateway. На данный момент я просматриваю массив веб-URL и запрашиваю их скриншот. Проблема в том, что я делаю слишком много запросов в секунду. Я хотел бы преобразовать свой код так, чтобы существовала очередь, и запросы отправлялись каждые X промежутков времени (например, каждые 5 секунд). Таким образом, сервер не будет блокировать мои запросы.

Вот мой пример кода:

https://jsfiddle.net/fqu2o7zd/17/

 const urls = ['app.xrespond.com','sizzy.co','www.heidisql.com','quirktools.com','regex101.com','lab.hakim.se','anthonyterrien.com','casperin.github.io','joaopereirawd.github.io','humaan.com','dimsemenov.com','compressor.io','jsbin.com','import.io','ecomfe.github.io','codeanywhere.com','ceagon.com','www.chartjs.org','c3js.org','www.fusioncharts.com','omnipotent.net','www.cloudnotic.com','github.hubspot.com','jquerygrid.net','razorjack.net','select2.github.io','www.virtuosoft.eu','nicolasbize.com','bxslider.com','compressor.io','jsbin.com','import.io','ecomfe.github.io','codeanywhere.com','ceagon.com','www.skitter-slider.net','jedrzejchalubek.com','luis-almeida.github.io','www.thepetedesign.com','www.slidesjs.com','fancyapps.com','www.chartjs.org','c3js.org','www.fusioncharts.com','omnipotent.net','www.cloudnotic.com','github.hubspot.com','bitbrewery.de','jquerygrid.net','razorjack.net','select2.github.io','www.virtuosoft.eu','nicolasbize.com','bxslider.com','www.skitter-slider.net','jedrzejchalubek.com','luis-almeida.github.io','www.thepetedesign.com','fancyapps.com','bitbrewery.de','www.slidesjs.com','compressor.io','www.skitter-slider.net','compressor.io','www.thepetedesign.com','www.fusioncharts.com','www.skitter-slider.net','fancyapps.com','codeanywhere.com','www.fusioncharts.com','www.thepetedesign.com','compressor.io','www.fusioncharts.com','www.thepetedesign.com','fancyapps.com','codeanywhere.com','fancyapps.com','codeanywhere.com','luis-almeida.github.io','www.chartjs.org','ceagon.com','www.cloudnotic.com','razorjack.net','jquerygrid.net','omnipotent.net','luis-almeida.github.io','ceagon.com','www.chartjs.org','razorjack.net','jquerygrid.net','www.cloudnotic.com','github.hubspot.com','ecomfe.github.io','bxslider.com','nicolasbize.com','jsbin.com','www.skitter-slider.net','luis-almeida.github.io','ceagon.com','omnipotent.net','jedrzejchalubek.com','www.chartjs.org','github.hubspot.com','import.io','bxslider.com','ecomfe.github.io','select2.github.io','jsbin.com','c3js.org','nicolasbize.com','bitbrewery.de','omnipotent.net','jedrzejchalubek.com','www.virtuosoft.eu','github.hubspot.com','bxslider.com','select2.github.io','import.io','www.slidesjs.com','c3js.org','www.cloudnotic.com','bitbrewery.de','ecomfe.github.io','compressor.io','razorjack.net','jsbin.com','nicolasbize.com','www.fusioncharts.com','www.slidesjs.com','www.thepetedesign.com','codeanywhere.com','jedrzejchalubek.com','select2.github.io','jquerygrid.net','fancyapps.com','c3js.org','bitbrewery.de','www.skitter-slider.net','ceagon.com','luis-almeida.github.io','www.slidesjs.com','www.chartjs.org','import.io','omnipotent.net','github.hubspot.com','bxslider.com','www.cloudnotic.com','ecomfe.github.io','razorjack.net','jsbin.com','nicolasbize.com','jedrzejchalubek.com','select2.github.io','jquerygrid.net','c3js.org','bitbrewery.de','www.slidesjs.com','import.io','codeanywhere.com','compressor.io','www.chartjs.org','compressor.io','www.chartjs.org','omnipotent.net','compressor.io','github.hubspot.com','www.chartjs.org','github.hubspot.com','bxslider.com','bxslider.com','www.cloudnotic.com','github.hubspot.com','omnipotent.net','ecomfe.github.io','www.cloudnotic.com','bxslider.com','ecomfe.github.io','razorjack.net','omnipotent.net','www.cloudnotic.com','razorjack.net','jsbin.com','ecomfe.github.io','jsbin.com','nicolasbize.com','razorjack.net','nicolasbize.com','jedrzejchalubek.com','jsbin.com','jedrzejchalubek.com','select2.github.io','nicolasbize.com','select2.github.io','jquerygrid.net','jedrzejchalubek.com','jquerygrid.net','c3js.org','select2.github.io','c3js.org','bitbrewery.de','jquerygrid.net','bitbrewery.de','www.slidesjs.com','c3js.org','www.slidesjs.com','import.io','bitbrewery.de','import.io','compressor.io','www.slidesjs.com','compressor.io','www.chartjs.org','import.io','www.chartjs.org','github.hubspot.com','compressor.io','github.hubspot.com','bxslider.com','www.chartjs.org','bxslider.com','omnipotent.net','github.hubspot.com','omnipotent.net','www.cloudnotic.com','bxslider.com','www.cloudnotic.com','ecomfe.github.io','omnipotent.net','ecomfe.github.io','razorjack.net','www.cloudnotic.com','jsbin.com','ecomfe.github.io','nicolasbize.com','jsbin.com','jedrzejchalubek.com','razorjack.net','jedrzejchalubek.com','nicolasbize.com','jsbin.com','razorjack.net','jedrzejchalubek.com']


function _arrayBufferToBase64(buffer) {
    var binary = ''
    var bytes = new Uint8Array(buffer)
    var len = bytes.byteLength
    for (var i = 0; i < len; i  ) {
        binary  = String.fromCharCode(bytes[i])
    }
    return window.btoa(binary)
}

function _createDiv(data) {

  const id = '_'   Math.random().toString(36).substr(2, 9)
  const div = document.createElement('div')
	div.id = id
  document.body.appendChild(div)
  document.getElementById(id).innerHTML = `<img src="${data}" width="300">`
  
}

/* Helpers Above ################################################################ */

/* Fetching from API */
function fetchImg (url) {

    const requestAPI = new Request(`https://mini.s-shot.ru/?http://${url}`)
    const options = {
        method: 'GET',
        mode: 'cors',
        cache: 'default'
    }
    
    fetch(requestAPI, options).then((response) => {

        response.arrayBuffer().then((buffer) => {

            const resContent = response.headers.get('content-type')
            const resStatus = response.status
            const image64 = `data:${resContent};base64,`   _arrayBufferToBase64(buffer)

            if (resStatus === 200) {

              _createDiv(image64)

            } else {

              console.log(`Fetch Issue: ${resStatus}`)

            }

        })
    })

}

/* URL Loop */
urls.forEach((url) => {
  
  fetchImg(url)
  
})  

Комментарии:

1. вы понимаете, что большинство, если не все, из этих запросов завершаются неудачей из-за CORS — замедление запросов не решит вашу проблему

2. Это один из примеров, и я знаю о CORS. Мой вопрос в том, как замедлить запросы на выборку.

3. Цепочка обещаний через .then

4. Не могли бы вы обновить скрипку?

Ответ №1:

Если вам нужно задерживать между запросами, тогда вам нужно

  • цепочка обещаний
  • установите задержку между запросами

Итак, имея это в виду, вот простая задержка, которую вы можете использовать с promises

 const delay = ms => new Promise(r => setTimeout(r, ms));
  

И затем вы измените свой код, чтобы возвращать обещания из своей функции

 function fetchImg (url) {
    const requestAPI = new Request(`https://mini.s-shot.ru/?http://${url}`)
    const options = {
        method: 'GET',
        mode: 'cors',
        cache: 'default'
    }
    // RETURN HERE
    return fetch(requestAPI, options).then((response) => {
        // AND HERE
        return response.arrayBuffer().then((buffer) => {

            const resContent = response.headers.get('content-type')
            const resStatus = response.status
            const image64 = `data:${resContent};base64,`   _arrayBufferToBase64(buffer)

            if (resStatus === 200) {

              _createDiv(image64)

            } else {

              console.log(`Fetch Issue: ${resStatus}`)

            }

        })
    })

}
  

Теперь, чтобы использовать функции, описанные выше

 urls.reduce((p, url) => p.then(() => delay(10)).then(() => fetchImg(url)), Promise.resolve());
  

Или (внутри async функции) гораздо более чистый код…

 for (let url of urls) {
    await fetchImg(url);
    await delay(10);
}
  

Комментарии:

1. Привет @Jaromanda X, спасибо за вашу помощь. В вашем примере мы устанавливаем задержку в самом цикле (уменьшаем), что замедляет рендеринг других элементов. Я сделал то, что искал, на основе двух отдельных циклов (быстрее и медленнее) здесь: jsfiddle.net/nLtz2e7x/5 Есть ли какой-нибудь лучший способ объединить это в одно целое? Спасибо