Web Scraper API

Aprenda a usar a Web Scraper API para raspar qualquer site público que você precisar. Encontre exemplos de código, uso de parâmetros, localização, targets e muito mais.

Web Scraper API é um plataforma tudo-em-um de coleta de dados web. Cobre todas as etapas de web scraping, desde rastreamento de URLs e contorno de bloqueios de IP até análise precisa dos dados e entrega ao seu armazenamento em nuvem preferido. Extraia dados de motores de busca, sites de comércio eletrônico, plataformas de viagem, e qualquer outro site.

Primeiros passos

Crie suas credenciais de usuário da API: Inscreva-se para um teste gratuito ou adquira o produto no painel da Oxylabs para criar suas credenciais de usuário da API (USERNAME e PASSWORD).

Se você precisar de mais de um usuário de API para sua conta, entre em contato com nosso suporte ao cliente ou envie uma mensagem ao nosso suporte de chat ao vivo 24/7.

Solicitar exemplos

Abaixo você encontrará exemplos de requisições cURL. Para exemplos em outras linguagens de programação, consulte as seções relevantes: Amazon, Google, Outros Sites.

Amazon

curl 'https://realtime.oxylabs.io/v1/queries' \
--user "USERNAME:PASSWORD" \
-H "Content-Type: application/json" \
-d '{
        "source": "amazon_product",
        "query": "B07FZ8S74R",
        "geo_location": "90210",
        "parse": true
    }'

Google

Outro

Usamos o método de integração síncrono Realtime em nossos exemplos. Se você quiser usar Proxy Endpoint ou assíncrono Push-Pull de integração, consulte o métodos de integração seção.

17KB

amazon_product output example.json

Abrir

23KB

Generic URL output example.json

Abrir

Valores de parâmetros da requisição

1. source - Este parâmetro define o scraper que será usado para processar sua requisição.

2. URL ou query - Forneça o URL ou query para o tipo de página que você deseja raspar. Consulte a tabela abaixo e as subpáginas alvo correspondentes para orientações detalhadas sobre quando usar cada parâmetro.

3. Opcionalmente, você pode incluir parâmetros adicionais como geo_location, user_agent_type, parse (encontre a lista de nossos parsers aqui), render e mais para customizar sua requisição de scraping. Leia mais: Recursos.

- parâmetro obrigatório

Raspagem com URLs ou entradas parametrizadas

A Oxylabs suporta dois grupos gerais de entradas - URLs e entradas parametrizadas como queries, IDs de produto ou vídeo. Alvos genéricos que não têm uma source dedicada podem ser raspados com universal source.

Alvo	Source (Raspando URL)	Source (Usando Query, ID de Produto ou Vídeo)
Amazon	amazon	amazon_product, amazon_search, amazon_pricing, amazon_sellers, amazon_bestsellers
Google	google	google_search, google_ads, google_ai_mode, google_lens, google_maps, google_travel_hotels, google_suggest, google_trends_explore, google_shopping_product, google_shopping_search
Bing	bing	bing_search
YouTube	universal	youtube_search, youtube_search_max, youtube_video_trainability, youtube_download, youtube_transcript, youtube_subtitles, youtube_metadata, youtube_channel, youtube_autocomplete
ChatGPT	universal	chatgpt
Perplexity	universal	perplexity
Walmart	walmart	walmart_search, walmart_product
TikTok	universal	tiktok_shop_search, tiktok_shop_product
eBay	ebay	ebay_search, ebay_product
Etsy	etsy	etsy_search, etsy_product
Best Buy	universal	bestbuy_search, bestbuy_product
Bed Bath & Beyond	bedbathandbeyond	bedbathandbeyond_search, bedbathandbeyond_product
Bodega Aurrerá	bodegaaurrera	bodegaaurrera_search, bodegaaurrera_product
Instacart	instacart	instacart_search, instacart_product
Kroger	kroger	kroger_search, kroger_product
Lowe's	lowes	lowes_search, lowes_product
Publix	publix	publix_search, publix_product
Alvo	target	target_search, target_product, target_category
Grainger	grainger	grainger_search, grainger_product
Costco	costco	costco_search, costco_product
Menards	menards	menards_search, menards_product
Petco	universal	petco_search
Staples	universal	staples_search
Allegro	universal	allegro_search, allegro_product
Idealo	universal	idealo_search
MediaMarkt	mediamarkt	mediamarkt_search, mediamarkt_product
Cdiscount	cdiscount	cdiscount_search, cdiscount_product
Alibaba	alibaba	alibaba_search, alibaba_product
AliExpress	aliexpress	aliexpress_search, aliexpress_product
IndiaMART	indiamart	indiamart_search, indiamart_product
Avnet	universal	avnet_search
Lazada	lazada	lazada_search, lazada_product
Rakuten	universal	rakuten_search
Tokopedia	universal	tokopedia_search
Flipkart	flipkart	flipkart_search, flipkart_product
MercadoLibre	universal	mercadolibre_search
Mercado Livre	universal	mercadolivre_search
Magazine Luiza	magazineluiza	magazineluiza_search, magazineluiza_product
Falabella	falabella	falabella_search, falabella_product
Dcard	universal	dcard_search
Airbnb	airbnb	airbnb_product
Zillow	zillow	Usando query parâmetro não é suportado
Outros Sites	universal	Usando query parâmetro não é suportado

Se precisar de ajuda para fazer sua primeira requisição, sinta-se à vontade para nos contactar pelo chat ao vivo disponível 24/7.

Testando via Scraper APIs Playground

Experimente Web Scraper API e OxyCopilot no Scraper APIs Playground.

Testando via Postman

Comece com nossa API usando o Postman, uma ferramenta prática para fazer requisições HTTP. Baixe nossa coleção Web Scraper API do Postman e importe-a. Esta coleção inclui exemplos que demonstram a funcionalidade do scraper. Personalize os exemplos conforme suas necessidades ou comece a raspar imediatamente.

Para instruções passo a passo, assista ao nosso tutorial em vídeo abaixo. Se você é novo no Postman, confira este breve guia.

Todas as informações aqui fornecidas são oferecidas "no estado em que se encontram" e apenas para fins informativos. Não fazemos representações e isentamos-nos de toda responsabilidade com relação ao uso de qualquer informação contida nesta página. Antes de se envolver em atividades de scraping de qualquer tipo, consulte seus conselheiros jurídicos e leia cuidadosamente os termos de serviço do site em questão ou obtenha uma licença de scraping.