針對AI開發商以爬蟲掃描網站內容作為模型訓練資料的行為,Cloudflare提供AI Audit免費工具協助網站管理者察看AI爬蟲行為,以決定是否藉由新功能Block AI Scrapers and Crawlers封鎖所有AI爬蟲,還是透過既有的Web Application Firewall功能控管要允許或封鎖的爬蟲
文/陳曉莉 | 2024-09-24發表
圖片來源: Cloudflar
AI模型的出現改變了網路爬蟲的生態,為了讓網站能夠管理AI網路爬蟲的資料搜刮,Cloudflare本周發表了一系列工具,包括可用來察看AI爬蟲具體活動的AI Audit,可一鍵封鎖所有AI爬蟲的Block AI Scrapers and Crawlers,亦準備推出新元件,以讓網站管理者可以設定特定內容的價格,並向模型供應商收費。