Web Scraper API

Aprenda a usar a Web Scraper API para raspar qualquer site público que você precise. Encontre exemplos de código, uso de parâmetros, localização, targets e muito mais.

Web Scraper API é um plataforma tudo-em-um de coleta de dados da web. Cobre todas as etapas do web scraping, desde rastrear URLs e contornar bloqueios de IP até parsing preciso de dados e entrega ao seu armazenamento em nuvem preferido. Extraia dados de motores de busca, sites de e-commerce, plataformas de viagem, e qualquer outro site.

Como começar

Crie suas credenciais de usuário da API: Inscreva-se para um teste gratuito ou adquira o produto no painel da Oxylabs para criar suas credenciais de usuário da API (USERNAME e PASSWORD).

Se você precisar de mais de um usuário de API para sua conta, entre em contato com nosso suporte ao cliente ou envie uma mensagem ao nosso suporte via chat ao vivo 24/7.

Solicitar exemplos

Abaixo, você encontrará requisições cURL de exemplo. Para exemplos em outras linguagens de programação, consulte as seções relevantes: Amazon, Google, Outros Sites.

Amazon

curl 'https://realtime.oxylabs.io/v1/queries' \
--user "USERNAME:PASSWORD" \
-H "Content-Type: application/json" \
-d '{
        "source": "amazon_product",
        "query": "B07FZ8S74R",
        "geo_location": "90210",
        "parse": true
    }'

Google

Outro

Usamos método de integração Realtime síncrono em nossos exemplos. Se você quiser usar Proxy Endpoint ou integração Push-Pull assíncrona, consulte os métodos de integração da seção.

17KB

amazon_product output example.json

Abrir

23KB

Generic URL output example.json

Abrir

Valores dos parâmetros da requisição

1. source - Este parâmetro define o scraper que será usado para processar sua requisição.

2. URL ou query - Forneça o URL ou query para o tipo de página que você deseja raspar. Consulte a tabela abaixo e as subpáginas-alvo correspondentes para orientações detalhadas sobre quando usar cada parâmetro.

3. Opcionalmente, você pode incluir parâmetros adicionais, como geo_location, user_agent_type, parse (encontre a lista dos nossos parsers aqui), render e mais para personalizar sua requisição de scraping. Leia mais: Recursos.

- parâmetro obrigatório

Raspagem com URLs ou entradas parametrizadas

A Oxylabs suporta dois grupos gerais de entradas - URLs e entradas parametrizadas como queries, IDs de produto ou vídeo. Alvos genéricos que não têm uma fonte dedicada podem ser raspados com universal como source.

Alvo	Fonte (Scraping URL)	Fonte (Usando Query, ID de Produto ou Vídeo)
Amazon	amazon	amazon_product, amazon_search, amazon_pricing, amazon_sellers, amazon_bestsellers
Google	google	google_search, google_ads, google_ai_mode, google_lens, google_maps, google_travel_hotels, google_trends_explore, google_shopping_product, google_shopping_search
Bing	bing	bing_search
YouTube	universal	youtube_search, youtube_search_max, youtube_video_trainability, youtube_download, youtube_transcript, youtube_subtitles, youtube_metadata, youtube_channel, youtube_autocomplete
ChatGPT	universal	chatgpt
Perplexity	universal	perplexity
Walmart	walmart	walmart_search, walmart_product
TikTok	universal	tiktok_shop_search, tiktok_shop_product
eBay	ebay	ebay_search, ebay_product
Etsy	etsy	etsy_search, etsy_product
Best Buy	universal	bestbuy_search, bestbuy_product
Bed Bath & Beyond	bedbathandbeyond	bedbathandbeyond_search, bedbathandbeyond_product
Bodega Aurrerá	bodegaaurrera	bodegaaurrera_search, bodegaaurrera_product
Instacart	instacart	instacart_search, instacart_product
Kroger	kroger	kroger_search, kroger_product
Lowe's	lowes	lowes_search, lowes_product
Publix	publix	publix_search, publix_product
Alvo	target	target_search, target_product, target_category
Grainger	grainger	grainger_search, grainger_product
Costco	costco	costco_search, costco_product
Menards	menards	menards_search, menards_product
Petco	universal	petco_search
Staples	universal	staples_search
Allegro	universal	allegro_search, allegro_product
Idealo	universal	idealo_search
MediaMarkt	mediamarkt	mediamarkt_search, mediamarkt_product
Cdiscount	cdiscount	cdiscount_search, cdiscount_product
Alibaba	alibaba	alibaba_search, alibaba_product
AliExpress	aliexpress	aliexpress_search, aliexpress_product
IndiaMART	indiamart	indiamart_search, indiamart_product
Avnet	universal	avnet_search
Lazada	lazada	lazada_search, lazada_product
Rakuten	universal	rakuten_search
Tokopedia	universal	tokopedia_search
Flipkart	flipkart	flipkart_search, flipkart_product
MercadoLibre	universal	mercadolibre_search
Mercado Livre	universal	mercadolivre_search
Magazine Luiza	magazineluiza	magazineluiza_search, magazineluiza_product
Falabella	falabella	falabella_search, falabella_product
Dcard	universal	dcard_search
Airbnb	airbnb	airbnb_product
Zillow	zillow	Usando query parâmetro não é suportado
Outros Sites	universal	Usando query parâmetro não é suportado

Se precisar de ajuda para fazer sua primeira requisição, sinta-se à vontade para nos contatar via chat ao vivo disponível 24/7.

Testando via Scraper APIs Playground

Experimente Web Scraper API e OxyCopilot no Scraper APIs Playground.

Testando via Postman

Comece com nossa API usando o Postman, uma ferramenta útil para fazer requisições HTTP. Baixe nossa coleção Postman da Web Scraper API e importe-a. Esta coleção inclui exemplos que demonstram a funcionalidade do scraper. Personalize os exemplos conforme suas necessidades ou comece a raspar imediatamente.

Para instruções passo a passo, assista nosso tutorial em vídeo abaixo. Se você é novo no Postman, confira este curto guia.

Todas as informações aqui fornecidas são apresentadas "no estado em que se encontram" e apenas para fins informativos. Não fazemos nenhuma declaração e renunciamos a toda responsabilidade com respeito ao seu uso de qualquer informação contida nesta página. Antes de se envolver em atividades de scraping de qualquer tipo, você deve consultar seus assessores jurídicos e ler cuidadosamente os termos de serviço do site em questão ou obter uma licença de scraping.