Eu estou tentando analisar alguns sites que usam bot algoritmos de detecção. Eu uso o seguinte Chrome Opções
chrome_options = Options()
chrome_options.add_argument("start-maximized")
chrome_options.add_experimental_option("detach", True)
chrome_options.add_experimental_option("excludeSwitches", ["enable-automation"])
chrome_options.add_experimental_option('useAutomationExtension', False)
chrome_options.add_argument("--disable-blink-features")
chrome_options.add_argument('--start-maximized')
chrome_options.add_argument('window-size=1920,1080')
chrome_options.add_argument("--disable-blink-features=AutomationControlled")
driver = webdriver.Chrome(executable_path='chromedriver.exe', chrome_options=chrome_options)
driver.get(url)
Eu também estava patched chromedriver.exe remover cdc_ padrão.
Quando a janela do navegador é iniciado e vai para o site, detecta-o como bot, e impedir o carregamento de conteúdo. Mas quando o navegador vai em desanexar modo e eu manualmente, pressione botão "Atualizar", o conteúdo do site é carregado com êxito. Simulando pressione "f5" também não funciona, o site continua a bloquear o conteúdo de carga.